فهرست این فصلبخش ۴، فصل ۳۱ — صفحهٔ ۶ از ۹
بخش ۴، فصل ۳۱ — صفحهٔ ۶ از ۹
به‌سوی استانداردی برای شناسایی و مدیریت سوگیری در هوش مصنوعی
متن اصلی فارسی با منشأ، شناسه و پیوند استناد پایدار.
ادامهٔ بخش «۳. سوگیری در هوش مصنوعی: چالش‌ها و راهنمایی‌ها» — بخش ۴ از ۴
کاهش ریسک، طبقه‌بندی ریسک و ساختارهای انگیزشی
برخی کاربردهای هوش مصنوعی پرریسک‌اند.۲۵ جزء فرهنگی محوری مدیریت ریسک مؤثر برای سوگیری هوش مصنوعی، در پذیرش روشن این نکته نهفته است که کاهش ریسک، به‌جای پرهیز از ریسک، اغلب مؤثرترین عامل در مدیریت چنین ریسک‌هایی است.۲۶ پرورش ذهنیت کاهش ریسک—یعنی پذیرش روشن این واقعیت که رخدادها می‌توانند و خواهند وقوع یافت، و تأکید بر تشخیص و کاهش عملی آن‌ها پس از وقوع—می‌تواند به اطمینان از کاهش سریع هرگونه ریسک سوگیری در عمل کمک کند. این پذیرش، اولویت‌بندی روشنی از ریسک‌ها را ممکن می‌سازد که به سازمان‌ها امکان می‌دهد منابع محدود خود را بر ریسک‌های سوگیریِ مادی‌ترین—و در نتیجه به‌احتمال زیاد آسیب‌رسان‌ترین در دنیای واقعی—متمرکز کنند. جزء تکمیلی فرهنگ سازمانی مؤثر، همسوسازی انگیزه‌های پرداخت و ارتقا در میان تیم‌ها با تلاش‌های کاهش ریسک هوش مصنوعی است، به‌گونه‌ای که مشارکت‌کنندگان در سازوکارهای کاهش ریسک—مانند سه خط دفاع—انگیزه‌ای واقعی برای به‌کارگیری رویکردهای توسعه سالم، آزمون دقیق و حسابرسی کامل داشته باشند.
اشتراک‌گذاری اطلاعات
همان‌گونه که در یکی از انتشار ویژه NIST [265] توضیح داده شده است، اشتراک‌گذاری اطلاعات مربوط به تهدیدهای سایبری به سازمان‌ها کمک می‌کند هم وضعیت امنیت خودشان و هم وضعیت امنیت سایر سازمان‌ها را بهبود بخشند. شناسایی سازوکارهای داخلی برای آنکه تیم‌ها اطلاعات مربوط به رخدادهای سوگیری یا سایر اثرات زیان‌بار ناشی از AI را به اشتراک بگذارند، به ارتقای اهمیت خطرهای AI کمک می‌کند و اطلاعاتی فراهم می‌آورد تا تیم‌ها از طرح‌های ناموفق گذشته پرهیز کنند. برخی تلاش‌های اولیه هم‌اکنون در جریان است [266]. هنگامی که تیم‌ها آغاز به ایجاد هنجارهایی برای رهگیری چنین رخدادهایی کنند، این امر می‌تواند به‌طور بالقوه رویه‌های AI و فرهنگ سازمانی را دگرگون سازد. بهبود آگاهی از چگونگی بروز سوگیری در AI به‌کارگرفته‌شده و اثرات مرتبط با آن می‌تواند دانش و قابلیت‌ها را تقویت کند و از رخدادها پیشگیری نماید. پرورش فرهنگ اشتراک‌گذاری اطلاعات همچنین می‌تواند به‌عنوان حوزه‌ای نو برای تعامل با جامعه عمل کند.
استناد
محمدعلی کهندژ، راهنمای جامع حاکمیت، امنیت و مدیریت ریسک هوش مصنوعی، شناسه بخش: KDJ-AI-2026E1-P04-C31-S03
شناسهٔ محتوا KDJ-AI-2026E1-P04-C31-S03-BF34D9CD
۴. نتیجه‌گیری‌ها
این سند مروری گسترده بر چالش پیچیدهٔ پرداختن به خطرهای مرتبط با سوگیری (Bias) هوش مصنوعی و مدیریت آن‌ها ارائه کرده است. روشن است که تدوین راهنماهای فنی تفصیلی برای پرداختن به این حوزهٔ دشوار، زمان‌بر خواهد بود و به مشارکت ذی‌نفعان گوناگون نیاز دارد؛ هم در درون و هم فراتر از گروه‌هایی که کاربردهای هوش مصنوعی را طراحی، توسعه و مستقر می‌کنند، و از جمله اعضای جوامعی که ممکن است از استقرار (Deployment) سامانه‌های هوش مصنوعی (AI system) متأثر شوند.
از آنجا که هوش مصنوعی نه در خلأ ساخته می‌شود و نه در خلأ به کار گرفته می‌شود، ما هوش مصنوعی را به‌مثابه یک سامانه اجتماعی‌ـ‌فناورانه (Socio-technical) در نظر می‌گیریم و به‌رسمیت می‌شناسیم که سامانه‌های هوش مصنوعی و سوگیری مرتبط با آن‌ها از سطح محاسباتی فراتر می‌روند. سوگیری می‌تواند عمداً یا ناخواسته وارد شود، یا هنگام استفاده از سامانه هوش مصنوعی پدیدار گردد و از طریق تداوم و تشدید پیامدهای سوگیرانه و تبعیض‌آمیز بر کل جامعه اثر بگذارد. اتخاذ دیدگاه اجتماعی‌ـ‌فناورانه نیازمندی‌های تازه‌ای، که بسیاری از آن‌ها ماهیتی بافت‌محور دارند، به فرایندهای تشکیل‌دهندهٔ چرخهٔ حیات هوش مصنوعی می‌افزاید. درک چگونگی تعامل عوامل محاسباتی و آماری با سوگیری‌های سیستمی و انسانی اهمیت دارد.
مؤسسه ملی استاندارد و فناوری آمریکا (NIST) در این سند چارچوب‌بندی اجتماعی‌ـ‌فناورانهٔ اولیه‌ای برای سوگیری هوش مصنوعی ارائه کرده است؛ شامل زمینه و اصطلاح‌شناسی کلیدی، تأکید بر چالش‌های اصلی، و جهت‌های بنیادین برای راهنماهای آینده. این اطلاعات در سراسر سند بر اساس سه حوزهٔ کلیدی طبقه‌بندی و بحث شده است:
- در دسترس بودن، بازنمایی و تناسب مجموعه‌داده‌ها در بافت‌های اجتماعی‌ـ‌فناورانه؛
- ملاحظات TEVV برای سنجش و سنجه‌ها به‌منظور پشتیبانی از آزمون و ارزیابی؛
- عوامل انسانی، شامل سوگیری‌های اجتماعی و تاریخی در افراد و سازمان‌ها، رویکردهای مشارکتی مانند طراحی انسان‌محور (Human-centered)، و رویه‌های انسان در حلقه (human–in–the–loop).
شناسایی نیازمندی‌های کلیدی برای بهبود دانش ما در این حوزه، گام نخست و ضروری است. برای تضمین ورودی گسترده، مشارکت و اجماع، NIST فعالیت‌های پشتیبان توسعهٔ استاندارد مانند کارگاه‌ها و دوره‌های نظرخواهی عمومی برای پیش‌نویس اسناد را انجام خواهد داد.
NIST قصد دارد در همکاری با جامعهٔ پژوهشی و مجموعهٔ گسترده‌ای از دیگر ذی‌نفعان، از جمله کسانی که به‌طور مستقیم از سوگیری هوش مصنوعی متأثر می‌شوند، راهنماهای اجتماعی‌ـ‌فناورانهٔ اجماع‌محور بیشتری تدوین کند. هدف این است که این راهنماها به‌طور مشخص برای سازمان‌هایی که هوش مصنوعی را برای موارد استفادهٔ گوناگون سفارش می‌دهند، طراحی، توسعه، مستقر می‌کنند، استفاده یا ارزیابی می‌کنند، سودمند باشد. NIST با ارائهٔ راهنمای روشن، صریح و معتبر از نظر فنی به این نهادها، قصد دارد وضعیت رویه را در زمینهٔ سوگیری هوش مصنوعی بهبود بخشد و قابلیت اعتماد (Trustworthiness) سامانه‌ها را تضمین کند.
استناد
محمدعلی کهندژ، راهنمای جامع حاکمیت، امنیت و مدیریت ریسک هوش مصنوعی، شناسه بخش: KDJ-AI-2026E1-P04-C31-S04
شناسهٔ محتوا KDJ-AI-2026E1-P04-C31-S04-04090909