هوش مصنوعی، حقوق و نظام قضایی؛ برای مدیران

چه چیزی مهم است؟

برون‌داد سامانه‌های AI سازمان شما — از مدل‌های ML گرفته تا ابزارهای رتبه‌بندی مشتریان، تحلیل ویدیو و پژوهش حقوقی — به‌سرعت در حال تبدیل‌شدن به موضوع دعاوی و رسیدگی‌های رسمی است. مطالب این بخش (مواد آموزشی AAAS/NIST برای قضات) نشان می‌دهد پذیرش «ادلهٔ هوش مصنوعی» در دادرسی بر پایهٔ سه معیار سنجیده می‌شود: «روایی» (Validity)، «قابلیت اطمینان» (Reliability) و احراز این‌که دلیل همان چیزی است که ارائه‌دهنده ادعا می‌کند. سازمانی که نتواند این سه را برای سامانهٔ خود مستند و اثبات کند، در دعوا در موضع دفاعی و آسیب‌پذیر قرار می‌گیرد. دربارهٔ ابزارهای پژوهش حقوقی و «تحلیل داده‌های قضایی» (Judicial Analytics) نیز نویسندگان همین منابع بر حفظ «تردید سالم» در به‌کارگیری آن‌ها تأکید کرده‌اند.

ریسک اصلی

ریسک اصلی، اتکا یا استناد رسمی به برون‌داد یک سامانهٔ آزموده‌نشده است. منابع این بخش عوامل مؤثر بر روایی و قابلیت اطمینان ادلهٔ AI را فهرست می‌کنند: «سوگیری» (Bias)، فقدان آزمون و اعتبارسنجی کافی، خزش کارکرد، و فقدان «شفافیت» (Transparency)، «تبیین‌پذیری» (Explainability) و «تاب‌آوری» (Resilience). سوگیری از مرحلهٔ طراحی مسئله تا گردآوری داده، آموزش مدل و اعتبارسنجی نفوذ می‌کند و داده‌های آموزشیِ نامتوازن یا مربوط به رویدادهای نادر، خطای مدل را پنهان می‌کنند. سناریوی محتمل: یک بانک ایرانی به مدل اعتبارسنجی وام استناد می‌کند یا یک سازمان دولتی از خروجی سامانهٔ بازشناسی چهره در گزارشی رسمی استفاده می‌کند؛ آن‌گاه معلوم می‌شود داده‌های آموزشی نمایندهٔ جمعیت هدف نبوده، آزمون مستقل انجام نشده و سابقهٔ نسخهٔ مدل در دسترس نیست. چنین نقص‌هایی در میانهٔ دعوا جبران‌شدنی نیست؛ منابع صراحتاً آمادگی پیش از رسیدگی را حیاتی می‌دانند.

چه تصمیم مدیریتی لازم است؟

در لایهٔ اجرایی این کتاب پیشنهاد می‌شود مدیریت ارشد سه تصمیم صریح ثبت کند:

• تصویب سیاست «قابلیت دفاع حقوقی» سامانه‌های AI: هر سامانه‌ای که برون‌داد آن ممکن است در دعوا یا تصمیم رسمی ظاهر شود، پیش از به‌کارگیری باید مستند و آزموده باشد (ضروری برای اجرای پایه).
• تخصیص بودجهٔ آزمون و اعتبارسنجی؛ در کاربردهای اثرگذار، آزمون مستقل (پیشنهادی؛ در منابع، آزمون مستقل با قید «ترجیحاً» آمده است، نه الزام).
• تعیین آستانهٔ «ریسک آسیب»: هرچه آسیب بالقوهٔ تصمیم مبتنی بر AI بیشتر باشد — مانند تأثیر بر آزادی افراد یا محرومیت از خدمات — سخت‌گیرانه‌تر باید آزموده و بازبینی شود.

چه کسی مسئول است؟

نمونهٔ RACI (پیشنهادی تدوینگر): «مسئول پاسخگو» مالک کسب‌وکار سامانه؛ «مجری» تیم داده و AI برای مستندسازی فنی و تیم حقوقی و انطباق برای مسیر ادله؛ «مشاور» مدیریت ریسک و امنیت اطلاعات؛ «مطلع» مدیرعامل و هیئت‌مدیره در کاربردهای پرآسیب. ممکن است بسته به صنعت و مقررات حاکم، الزامات دیگری نیز اعمال شود.

چه مدرکی باید وجود داشته باشد؟

پیش از هر استناد رسمی، «پروندهٔ دفاع» هر سامانه باید این اقلام را داشته باشد (طبقه‌بندی تدوینگر؛ ضروری برای اجرای پایه):

• هدف طراحی و جمعیت هدف.
• منشأ داده‌های آموزشی، میزان نمایندگی آن‌ها و نحوهٔ رسیدگی به کج‌شدگی.
• گزارش آزمون و اعتبارسنجی، شامل رفتار مدل در کلاس‌های نامتوازن و رویدادهای نادر.
• سابقهٔ نسخه‌ها و تغییرات مدل.
• شرایط کیفیت ورودی (مثلاً وضوح و زاویهٔ تصویر در بازشناسی) و محدودیت‌ها و خطاهای شناخته‌شده.

چه چیزی باید اندازه‌گیری شود؟

نمونهٔ KPI/KRI (پیشنهادی تدوینگر بر پایه مفاهیم مطرح‌شده در منابع این بخش):

• KPI: نسبت سامانه‌های دارای پروندهٔ دفاع کامل؛ نسبت کاربردهای اثرگذار دارای آزمون مستقل.
• KRI: تعداد برون‌دادهای AI به‌کاررفته در تصمیم‌های رسمی بدون آزمون معتبر؛ شکاف عملکرد مدل میان زیرگروه‌ها؛ تعداد تغییرات مدل بدون ثبت سابقه.

پرسش پایهٔ مدیر از تیم فنی: «اگر فردا در دادگاه به این برون‌داد استناد شود، با چه مدرکی دفاع می‌کنیم؟»