هوش مصنوعی، اعتمادپذیری و دادرسی

هوش مصنوعی و دادگاه‌ها: مواد آموزشی برای قضات

انجمن پیشبرد علوم آمریکا (AAAS) مفتخر است که از سوی مؤسسه ملی استاندارد و فناوری آمریکا (NIST) مأموریت تهیه مواد آموزشی درباره «هوش مصنوعی» (Artificial Intelligence, AI) برای قضات و دادگاه‌ها را بر عهده داشته باشد.

از این‌رو AAAS این مجموعه از مواد آموزشی برای قضات را ارائه می‌کند که طیف گسترده‌ای، اما متناسب، از موضوعات را در بر می‌گیرد. (ر.ک. فهرست زیر). هدف AAAS آن است که مجموعه‌ای از تعاریف، تحلیل‌ها و چشم‌اندازهای کاربرپسند، «دقیق» (accurate) و در عین حال به‌آسانی قابل فهم، درباره طیفی از اصطلاحات و موضوعاتی که بهتر است قوه قضائیه با آن‌ها آشنا شود، ارائه دهد.

مواد موجود در این مجموعه توسط تیم‌هایی از کارشناسان علوم و حقوق که بر یک موضوع خاص تمرکز داشتند، تدوین شده است. موضوعاتی که شایسته درج تشخیص داده شدند، هم بر اساس مأموریت محول‌شده از سوی NIST و هم بر اساس راهنمایی‌هایی که AAAS از یک کمیته مشاوره متشکل از گروهی بزرگ و متنوع از کارشناسان حقوق و هوش مصنوعی دریافت کرد، برگزیده شدند. پیش‌نویس‌های مواد سپس به اعضای کمیته مشاوره و «بازبینان» (Reviewers) کارشناس خارج از مجموعه ارائه شد تا پیش از نهایی‌سازی سهم هر تیم از نویسندگان (مقاله، پادکست، پیوست و غیره)، هرگونه پیشنهادی برای اصلاحات به دست آید.

انتظار نمی‌رود که دادگاه‌ها در اینگونه موضوعات گاه پیچیده یا فنی، کارشناس شوند. بلکه این مجموعه حقایق و مرورهای کلی را به شیوه‌ای ارائه می‌کند که هدف آن آگاه ساختن قضات از مسائل کلیدی و امکان‌پذیر ساختن دستیابی آسان دادگاه‌ها به اطلاعات سودمند موجود در این مجموعه است.

در پایان، امید است که دادگاه‌ها برخی عناصر نوآورانه این محصول، به‌ویژه گنجاندن پادکست‌ها را ارج نهند. این پادکست‌ها حقایق و تحلیل پرسش‌های مهم را در قالبی در اختیار دادگاه‌ها قرار می‌دهند که می‌تواند برای آن‌ها خوشایند و — با توجه به متن‌های پیاده‌شده همراه آن‌ها — سودمند باشد. AAAS از NIST به این سبک قدردانی می‌کند که اجازه داد تیمی از کارشناسان در چارچوب این پروژه، این رویکرد پیشرو را برای ارائه اطلاعات و بینش‌های مورد نیاز به دادگاه‌ها به کار گیرد.

مواد این مجموعه عبارت‌اند از:

۱. هوش مصنوعی – مسائل بنیادین و واژه‌نامه

2. هوش مصنوعی و نظام عدالت (مجموعه پادکست و متن گفتگوها)

قسمت ۱: نمره‌های ریسک هوش مصنوعی (۴۹ دقیقه)

قسمت ۲: هوش مصنوعی در حیطه حقوقی – کاربردهای تجاری و پیش‌بینی‌نشده (۷۰ دقیقه)

قسمت ۳: هوش مصنوعی، تصمیم‌گیری و نقش قضات (۵۸ دقیقه)

3. هوش مصنوعی، اعتمادپذیری و دادرسی

4. هوش مصنوعی، پژوهش حقوقی و تحلیل داده‌های قضایی

5. هوش مصنوعی و سوگیری – یک ارزیابی

قدردانی

انجمن پیشبرد علوم آمریکا (AAAS) از نویسندگی Cynthia Cwik، مشاور ارشد حقوقی، پژوهشگر سابق دانشگاه Stanford و شریک سابق Jones Day و Latham & Watkins؛ Paul W. Grimm، قاضی دادگاه ناحیه‌ای ایالات متحده برای ناحیه مریلند؛ Maura Grossman، استاد پژوهشی دانشکده علوم کامپیوتر David R. Cheriton دانشگاه Waterloo؛ و Toby Walsh، استاد Scientia در هوش مصنوعی دانشگاه New South Wales صمیمانه قدردانی می‌کند.

همچنین از اعضای کمیته مشورتی به‌خاطر دیدگاه‌ها و راهنمایی‌هایشان در سراسر طراحی و تولید این اثر سپاسگزاری می‌کنیم: Rediet Abebe، استادیار علوم کامپیوتر، دانشگاه کالیفرنیا، برکلی؛ Theodore F. Claypoole، شریک، Womble, Bond, Dickenson, LLP؛ John Cooke، مدیر، Federal Judicial Center؛ Cynthia Cwik، مشاور ارشد حقوقی، پژوهشگر سابق دانشگاه Stanford و شریک سابق Jones Day و Latham & Watkins؛ Herbert B. Dixon Jr.، قاضی (بازنشسته)، دادگاه عالی ناحیه کلمبیا، و مشاور ارشد حقوقی Center for Legal and Court Technology، دانشکده حقوق William & Mary؛ Finale Doshi-Velez، دانشیار علوم کامپیوتر، دانشکده مهندسی و علوم کاربردی دانشگاه Harvard؛ Paul W. Grimm، قاضی دادگاه ناحیه‌ای ایالات متحده برای ناحیه مریلند؛ James Harris، مشاور فناوری، National Center for State Courts؛ Joseph Sawyer، مدیر توسعه هیئت‌علمی و یادگیری برخط، National Judicial College؛ Elham Tabassi، رئیس دفتر، آزمایشگاه فناوری اطلاعات، مؤسسه ملی استاندارد و فناوری آمریکا (NIST)؛ و Zachary Zarnow، مشاور ارشد مدیریت دادگاه، National Center for State Courts.

AAAS از همکاری‌های Solomon Assefa، معاون، IBM Research؛ Nicole Clark، مدیرعامل، Trellis Research؛ Rebecca Crootof، دانشیار حقوق، دانشکده حقوق دانشگاه Richmond؛ Patrick Huston، سرتیپ دوم و معاون دادستان کل نظامی برای امور حقوقی و عملیات نظامی، وزارت دفاع ایالات متحده؛ Maia LevyDaniel، وکیل و مشاور سیاست‌گذاری عمومی؛ Matthew Stepka، شریک مدیر، Machina Ventures، و مدرس دانشکده کسب‌وکار Haas دانشگاه کالیفرنیا، برکلی؛ Peter Stone، استاد گروه علوم کامپیوتر، و بنیان‌گذار و مدیر گروه پژوهشی عامل‌های یادگیرنده، آزمایشگاه هوش مصنوعی دانشگاه تگزاس، آستین؛ Rebecca Wexler، استادیار حقوق و هم‌مدیر هیئت‌علمی Berkeley Center for Law & Technology دانشگاه کالیفرنیا، برکلی؛ و دیگرانی که پیش‌نویس‌های پیشین مجموعه «هوش مصنوعی و دادگاه‌ها: مواد آموزشی برای قضات» را بازبینی کردند و نظرات بینش‌مندانه‌ای ارائه دادند، قدردانی می‌کند.

این مقاله به‌وسیله Joel Ericsen، همکار برنامه، و Alain Norman، همکار ارشد برنامه، بخش «علم و حقوق» AAAS، ویرایش شده است. سپاس ویژه از Theresa Harris، مدیر برنامه «مسئولیت علمی، حقوق بشر و حقوق»، و Nathaniel Weisenberg، همکار برنامه، در AAAS، و از Barbara “Bebe” Holloway، دانشگاه ویرجینیا، به‌خاطر همکاری‌هایشان.

Paula Fry، مدیر خلاقیت و برند AAAS، طراحی جلد این نشریه را انجام داده است.

تولید این نشریه و دیگر مواد مجموعه «هوش مصنوعی و دادگاه‌ها: مواد آموزشی برای قضات» با بودجه مؤسسه ملی استاندارد و فناوری آمریکا (NIST) از طریق Award 60NANB21D031 تأمین شده است.

چکیده

اگرچه تاکنون تصمیم‌های قضایی اندکی به‌طور مستقیم به پذیرفتاری ادله هوش مصنوعی (Artificial Intelligence, AI) در دادرسی‌های تابع قواعد فدرال ادله یا معادل‌های ایالتی آن‌ها پرداخته‌اند، این مقاله بر ملاحظات کلیدی برای استفاده از ادله AI در پرونده‌های قضایی تمرکز دارد. مقاله، مفهوم «قابلیت اعتماد» (Trustworthiness) را به‌مثابه مجموعه‌ای از الزامات به‌هم‌پیوسته تعریف می‌کند که در قواعد ادله حاکم بر پرونده‌های قضایی یافت می‌شوند. این بخش همچنین دربردارنده موارد زیر است:

• ضمیمه A: «نکات کاربردی برای وکلا و قضات»؛ با توجه به پیچیدگی‌ها و تحول سریع AI، این ضمیمه مجموعه‌ای کارآمد از پرسش‌های عملی را ارائه می‌دهد که دادگاه‌ها می‌توانند برای ارزیابی بهتر روایی (Validity)، قابلیت اطمینان (Reliability) و/یا پذیرفتاری ادله مرتبط با AI که عرضه می‌شوند، به کار گیرند.

• ضمیمه B: «مصداق فرضی درباره پذیرفتاری شهادت تشخیص چهره در یک پرونده کیفری»؛ الگوی واقعیت و چارچوب حقوقی را برای تحلیل سناریویی از این دست، که دادگاه به‌احتمال زیاد ممکن است با آن روبه‌رو شود، فراهم می‌آورد.

• ضمیمه C: «مصداق فرضی درباره سنجش دقت و قابلیت اطمینان سیستم یادگیری ماشین (Machine Learning, ML) — قمار مسئله‌دار»؛ الگوی واقعیتی را که یک دادگاه استرالیایی با آن روبه‌رو شده، به‌همراه پرسش‌های نمونه برای هر دادگاهی که نیازمند ارزیابی مسائل مرتبط با ML است، ارائه می‌دهد.

نویسندگان:

Cynthia Cwik، مشاور ارشد حقوقی، پژوهشگر سابق Stanford، شریک سابق Jones Day و Latham & Watkins

Maura Grossman، استاد پژوهشی، دانشکده علوم رایانه David R. Cheriton، دانشگاه Waterloo

Paul W. Grimm، قاضی، دادگاه ناحیه‌ای ایالات متحده برای ناحیه Maryland

Toby Walsh، استاد Scientia در رشته هوش مصنوعی، دانشگاه New South Wales

هرچه کاربردهای «هوش مصنوعی» (Artificial Intelligence, AI)^۱ در جنبه‌های گوناگون زندگی ما فراگیرتر می‌شود، به‌نظر می‌رسد اجتناب‌ناپذیر است که دلیلی که برای حل و فصل دعاوی مدنی و محاکمات کیفری لازم است، شامل برون‌دادهای تولیدشده توسط این فناوری به‌سرعت در حال تحول باشد. از این رو، وکلایی که می‌خواهند دلیل مبتنی بر هوش مصنوعی را ارائه دهند یا به آن اعتراض کنند، و قضاتی که باید درباره پذیرفتنی بودن آن حکم صادر کنند، باید دانشی بنیادی درباره این‌که هوش مصنوعی چیست، چگونه کار می‌کند و چگونه می‌توان «قابلیت اعتماد» (Trustworthiness) آن را ارزیابی کرد، داشته باشند. دلیل این امر آن است که در هوش مصنوعی—به‌ویژه «یادگیری ماشین» (Machine Learning, ML)—پرسش‌هایی درباره داده‌هایی که مدل بر روی آن‌ها آموزش دیده است (از جمله بازنمایی‌گری آن نسبت به جمعیتی که هوش مصنوعی بر روی آن‌ها به کار خواهد رفت)، سازوکار درونی الگوریتم (از جمله ویژگی‌ها و وزن‌های آن) و چگونگی استخراج برون‌داد، همگی می‌توانند برای قضات و هیئت‌منصفه‌های فاقد پیشینه در علوم رایانه یا داده، دشوار به توضیح باشند. این امر می‌تواند هنگام ارزیابی قابلیت اعتماد دلیل مبتنی بر هوش مصنوعی چالش‌هایی پدید آورد؛ قابلیت اعتمادی که در بافت پرونده‌های دادگاهی، به معنای «ارتباط» (relevance)، «روایی» (Validity)، «قابلیت اطمینان» (Reliability) و «اصالت» (authenticity) آن است. از آنجا که این بخش بر کاربرد دلیل مبتنی بر هوش مصنوعی در پرونده‌های دادگاهی تمرکز دارد، مفهوم «قابلیت اعتماد» را به‌صورت مجموع چند الزام به‌هم‌پیوسته که در قواعد ادله حاکم بر پرونده‌های دادگاهی یافت می‌شوند، تعریف خواهیم کرد. برای اهداف این بخش، دلیل مبتنی بر هوش مصنوعی هنگامی به‌اندازه کافی قابل اعتماد است که برای ارائه به‌عنوان دلیل، الزامات قواعد ادله را برآورده سازد.^۳

2 Paul W. Grimm, Maura R. Grossman, and Gordon V. Cormack, Artificial Intelligence as Evidence, 19 Nw. J. Tech. & Intell. Prop. 9 (2021). قابل‌دسترس در: https://scholarlycommons.law.northwestern.edu/njtip/vol19/iss1/2/. منظور ما از اصطلاح «هوش مصنوعی» (AI)، سامانه‌ها و کاربردهای رایانه‌ای‌ای است که قادرند کارکردهایی را انجام دهند که معمولاً با هوش انسانی مرتبط دانسته می‌شوند، مانند انتزاع، استدلال، حل مسئله، یادگیری و مانند آن. ر.ک. «هوش مصنوعی به‌عنوان دلیل» (AI as Evidence) در صفحات 14-17. چنین سامانه‌هایی ممکن است از یک یا چند الگوریتم استفاده کنند، از جمله—و نه محدود به—سامانه‌های مبتنی‌بر قاعده، «یادگیری ماشین» (Machine Learning)، «پردازش زبان طبیعی» (Natural Language Processing)، «یادگیری عمیق» (Deep Learning) و بینایی ماشین. هرچند گاهی در این بخش چنین به‌نظر می‌رسد که تنها به سامانه‌هایی اشاره داریم که از یادگیری ماشین استفاده می‌کنند—سامانه‌هایی که برای بازشناسی الگوها در داده‌ها و استخراج مدل‌هایی که بتوانند داده‌ها را توضیح دهند یا درباره داده‌های دیگر پیش‌بینی کنند «آموزش» می‌بینند—این کار صرفاً جنبه نمونه دارد و به هیچ روی به‌معنای محدودسازی نیست.

نظرات دادگاهی منتشرشده‌ای که مسائل مربوط به پذیرفتنی بودن هوش مصنوعی را از هر نظر با ژرفا بررسی کرده باشند، اندک—اگر نگوییم هیچ—اند. با این حال، به‌تازگی دولت‌ها و سازمان‌های دیگر بر روی چارچوب‌های پیشنهادی «حکمرانی» (Governance) هوش مصنوعی کار کرده‌اند، با هدف کاهش «خطرها» (Risks) هوش مصنوعی، و این تلاش‌ها می‌توانند راهنمایی سودمند فراهم کنند. برای مثال، «مؤسسه ملی استاندارد و فناوری آمریکا» (NIST) زیرمجموعه وزارت بازرگانی آمریکا، در حال تدوین «چارچوب مدیریت ریسک هوش مصنوعی» (AI Risk Management Framework, RMF) است تا راهنمایی‌هایی درباره قابلیت اعتماد سیستم‌های هوش مصنوعی فراهم کند.^۴ به‌طور مشخص، این چارچوب با هدف کمک به گنجاندن ملاحظات قابلیت اعتماد در طراحی، توسعه، استفاده و ارزیابی سیستم‌های هوش مصنوعی تدوین می‌شود. این ویژگی‌های قابلیت اعتماد عبارت‌اند از: «دقت، تبیین‌پذیری و تفسیرپذیری، قابلیت اطمینان، حریم خصوصی، استواری، ایمنی، امنیت (تاب‌آوری) و کاهش سوگیری‌های ناخواسته و/یا زیان‌بار، و نیز کاربردهای زیان‌بار».^۵ پس از تکمیل، به‌احتمال زیاد چارچوب NIST بر نحوه رویکرد شرکت‌ها و سازمان‌های دیگر به ریسک‌های مرتبط با هوش مصنوعی اثر خواهد گذاشت، و ممکن است برای قضات و حقوقدانان، هنگامی که دلیل تولیدشده توسط نرم‌افزار مبتنی بر هوش مصنوعی در پرونده‌های دادگاهی ارائه یا به آن اعتراض می‌شود، زمینه‌ای سودمند درباره طراحی و کاربردهای هوش مصنوعی فراهم آورد.

برای قضاتی که باید تصمیم بگیرند آیا دلیل مبتنی بر هوش مصنوعی را بپذیرند یا نه، تعیین روایی یک کاربرد هوش مصنوعی (یعنی این‌که هوش مصنوعی چقدر دقیق آن‌چه را که برای آن طراحی شده است می‌سنجد، طبقه‌بندی می‌کند یا پیش‌بینی می‌نماید) و نیز قابلیت اطمینان آن (یعنی میزان سازگاری‌ای که هوش مصنوعی هنگام به‌کارگیری در شرایط یکسان یا به‌طور اساسی مشابه، نتایج دقیقی تولید می‌کند) اهمیت دارد.^۶ عواملی که می‌توانند بر روایی و قابلیت اطمینان دلیل مبتنی بر هوش مصنوعی اثر بگذارند، عبارت‌اند از: «سوگیری» (Bias) از انواع گوناگون، فقدان «شفافیت» (Transparency) و تبیین‌پذیری، و کفایت آزمون عینی کاربرد هوش مصنوعی پیش از انتشار آن برای استفاده عمومی.^۷ پیوند نزدیکی با مسئله آزمون و ارزیابی ناکافی، مسئله «خزش کارکرد» (function creep) دارد؛ اصطلاحی که به گسترش تدریجی کاربرد یک فناوری یا سیستم فراتر از کاربردی که در ابتدا برای آن در نظر گرفته شده بود اشاره دارد؛ گسترشی که اغلب، اما نه همیشه، بدون اعتبارسنجی مناسب برای کاربرد جدید رخ می‌دهد.^۸

در مورد دلیل مبتنی بر هوش مصنوعی، اهمیت روایی و قابلیت اطمینان و عوامل مؤثر بر آن‌ها می‌تواند متفاوت از سایر انواع دلیل باشد. برای مثال، اگرچه تبیین‌پذیری اغلب هنگام ارزیابی روایی و قابلیت اطمینان دلیل مهم تلقی می‌شود، هنگام ارزیابی دلیل مبتنی بر هوش مصنوعی ممکن است ملاحظات متفاوتی لازم باشد؛ دلیلی که می‌تواند یک «مدل جعبه سیاه» (Black Box Model) باشد^۹ یا ممکن است شامل شمار بسیار بزرگی از نقاط داده باشد. ر.ک. برای مثال، K. Miller, Should AI Models be Explainable? That Depends, Stanford HAI News (۱۶ مارس ۲۰۲۱ (۲۶ اسفند ۱۳۹۹)) (با یادآوری این‌که مدل‌های هوش مصنوعی که پیش‌بینی‌های دقیقی به دست می‌دهند و به پزشکان بالینی در درمان بهتر بیمارانشان کمک می‌کنند، حتی بدون توضیح تفصیلی درباره این‌که مدل‌ها چگونه یا چرا کار می‌کنند، می‌توانند سودمند باشند).

بخش فرعی زیر به مسائلی خواهد پرداخت که اغلب در مرحله پیش از دادرسی دعوا (یعنی مرحله کشف و ارائه اسناد) مطرح می‌شوند؛ مرحله‌ای که در آن طرفین، اطلاعات مربوط به واقعیت‌های مرتبط با حل مسائل مطرح‌شده در دادخواست‌ها یا اتهامات ثبت‌شده نزد دادگاه در پرونده را با یکدیگر تبادل می‌کنند. این بخش مروری بر اصول ادله ارائه می‌دهد که بر پذیرش یا عدم پذیرش ادله هوش مصنوعی در پرونده‌های دادگاهی حاکمیت دارند. تمرکز این بحث بر ارائه تحلیلی گام‌به‌گام از مهم‌ترین مسائل و عوامل مؤثر بر تصمیمات مربوط به پذیرش یا عدم پذیرش ادله هوش مصنوعی است. ضمیمه A همراه، خلاصه‌ای از پیشنهادهای عملی را در بر می‌گیرد که با هدف یاری‌رسانی به وکلا و قضات تنظیم شده است؛ کسانی که از آنان خواسته می‌شود ادله هوش مصنوعی را مطرح کنند، به آن اعتراض کنند، یا درباره پذیرش آن تصمیم بگیرند. در ضمیمه B، یک مثال فرضی درباره پذیرش فناوری بازشناسی چهره در یک پرونده کیفری ارائه می‌شود، همراه با بحثی درباره قواعد و عوامل مرتبطی که باید مورد توجه قرار گیرند. سرانجام، ضمیمه C که بر پایه پرونده‌ای واقعی در استرالیا تدوین شده، نمونه پرسش‌هایی را در اختیار می‌گذارد که دادگاه‌ها در هر جای جهان ممکن است بخواهند در پرونده‌های مربوط به «یادگیری ماشین» (Machine Learning, ML) از آن‌ها بهره بگیرند.

Federal Rules of Evidence^۱۰ به‌ندرت اصلاح می‌شوند و فرایند اصلاح آن‌ها کند است. در مقابل، فناوری و به‌ویژه فناوری هوش مصنوعی با سرعتی تقریباً شگفت‌آور تغییر می‌کند و اغلب مدت‌ها پیش از آنکه در یک پروندهٔ مشخص تحت بررسی دلیل‌شناختی قرار گیرد، در استفادهٔ روزمرهٔ افراد، سازمان‌ها، شرکت‌ها و دولت‌ها جای می‌گیرد. با این حال، Federal Rules of Evidence تاب‌آور است و به‌گونه‌ای طراحی شده که به شکلی انعطاف‌پذیر به‌کار گرفته شود. قاعدهٔ ۱۰۲ مقرر می‌دارد: «این قواعد بهتر است به‌گونه‌ای تفسیر شوند که هر رسیدگی به‌شیوه‌ای منصفانه اداره شود، هزینه و تأخیر غیرقابل توجیه حذف گردد و توسعهٔ حقوقِ دلیل پیش برسد، تا حقیقت روشن شود و تصمیمی عادلانه اتخاذ گردد» (تأکید افزوده‌شده).^۱۱ بنابراین، به باور ما، Federal Rules of Evidence موجود برای ارزیابی هوش مصنوعی به‌عنوان دلیل کفایت می‌کنند، به شرط آن‌که به‌صورت انعطاف‌پذیر اعمال شوند.

ارتباط و اصالت دو حوزه‌ای هستند که بیشترین چالش‌های دلیل‌شناختی را برای پذیرش هوش مصنوعی به‌عنوان دلیل ایجاد می‌کنند و آن‌ها تمرکز اصلی این زیربخش‌اند.^۱۲ سایر آموزه‌های مربوط به دلیل، مانند قاعدهٔ شنیده‌ها^۱۳ و قاعدهٔ اصلِ نوشته،^۱۴ نیز ممکن است پیش آیند، اما این قواعد نگرانی کمتری نسبت به اصالت ایجاد می‌کنند. تمرکز قاعدهٔ شنیده‌ها بر گزاره‌های آگاهانهٔ ابرازشده توسط مُخبِران انسانی است،^۱۵ و کاربردهای هوش مصنوعی، به‌ماهیت خود، دربرگیرندهٔ برون‌دادهای تولیدشده توسط ماشین‌اند.^۱۶ هرچند ممکن است دلیل — و اغلب هم چنین است — در قالب یک ادعای واقعی صریح یا ضمنی باشد (برای مثال: «این تصویرِ شخصِ مندرج در ویدئوی نظارتی است»؛ «این بخشی از شهر است که به‌احتمال زیاد در روز و ساعت معینی بیشترین پتانسیل فعالیت مجرمانه را دارد»؛ «این متقاضی کار به‌احتمال زیاد شایسته‌ترین فرد برای جایگاه خالیِ در حال پُرشدن است») و ممکن است به‌عنوان دلیلِ حقیقتِ ماهوی آن ارائه شود، اما منبعِ آن مُخبِر انسانی نیست؛ بنابراین به‌درستی شنیده تلقی نمی‌شود.^۱۷ در عوض، مسئلهٔ کلیدی اصالت است — این‌که «سامانه هوش مصنوعی»ای که دلیل را تولید کرده است، چقدر دقیقاً همان نتیجه‌ای را به‌دست می‌دهد که ارائه‌دهندهٔ آن ادعا می‌کند. به همین ترتیب، قاعدهٔ اصلِ نوشته الزامی را تحمیل می‌کند به‌این‌که اثبات محتوای نوشته‌ها، ضبط‌ها و عکس‌ها باید از راه ارائهٔ نسخهٔ اصلی یا رونوشتِ مطابقِ اصل انجام شود،^۱۸ اما این اصطلاحات به‌جای یکدیگر و به‌شکل گسترده تعریف شده‌اند، ازاین‌رو رعایت آن‌ها به‌ندرت دشوار است؛ مگر آن‌که شاهدی احضار شود که صرفاً آنچه را به‌عنوان برون‌دادِ «سامانه هوش مصنوعی» مشاهده کرده توصیف می‌کند، به‌جای آن‌که نسخه‌ای از آن ارائه کند.^۱۹ این وضعیت به‌ندرت رخ می‌دهد و دلیل سادهٔ آن این است که واگذاریِ توصیف محتوای برون‌دادِ یک «سامانه هوش مصنوعی» که نتیجه‌ای نوشتاری، صوتی‌ضبط‌شده یا عکاسی تولید می‌کند، به یک انسان، بیشترِ وزنِ دلیلی را از بین می‌برد که آن دلیل در صورت نمایش مستقیم برون‌داد به هیئت منصفه (پس از احراز هویت‌شدن صحیح) داشت.^۲۰