جریمه نقدی برای استناد به احکام ساختگی هوش مصنوعی در دادگاه

دادگاه تجدیدنظر استان کبک در حکمی در تاریخ ۱۱ اوت، مردی را که شخصاً وکالت خود را در یک دعوای حقوقی مربوط به تقسیم اموال پس از طلاق بر عهده داشت، به پرداخت ۱,۰۰۰ دلار غرامت به همسر سابقش محکوم کرد.

بر اساس مستندات پرونده، این فرد در لوایح دفاعی خود به چهار رأی قضایی استناد کرده بود که دو مورد از آن‌ها ادعا می‌شد از سوی دیوان عالی کانادا صادر شده‌اند؛ احکامی که در واقعیت اصلاً وجود خارجی نداشتند و توسط هوش مصنوعی چت‌جی‌پی‌تی تولید شده بودند.

طبق اعلام قضات، متقاضی حتی پس از مشاوره با یک وکیل متوجه شده بود که این پرونده‌ها ساختگی هستند، اما همچنان لوایح خود را بدون حذف این استنادات به دادگاه تسلیم کرد.

او تنها پس از مواجهه با پرسش‌های مستقیم قضات در جلسه دادرسی پذیرفت که احکام مذکور برآمده از این ابزار دیجیتال بوده‌اند.

دادگاه این رفتار را نقض جدی تشریفات قانونی دانست که موجب اتلاف وقت مراجع قضایی و تحمیل تلاش دوچندان به طرف مقابل شده است، و در نهایت علاوه بر هزینه‌های دادرسی، او را به پرداخت این جریمه ملزم کرد.

این پرونده نمونه‌ای بارز از خطرات پدیده «توهم در مدل‌های زبانی بزرگ» (AI Hallucination) به شمار می‌رود؛ وضعیتی که در آن سامانه‌های هوش مصنوعی بر پایه الگوهای آماری و پیش‌بینی محتمل‌ترین واژه‌ها، داده‌ها و مراجع کاملاً جعلی را به شکلی باورپذیر و با لحنی متقاعدکننده تولید می‌کنند.

این مدل‌ها به دلیل فقدان درک مفهومی یا اتصال ذاتی به پایگاه حقیقت مطلق، در مواقع خلاء داده‌ای ممکن است مواردی نظیر قوانین، ارجاعات علمی و پرونده‌های قضایی را از خود ابداع کنند.

اتکا به چنین برون‌دادهایی بدون راستی‌آزمایی مستقل، پیامدهای سنگین حقوقی، مالی و اخلاقی در پی دارد. ورود اطلاعات ساختگی به حوزه‌های تخصصی و حساسی مانند قضاوت، پزشکی و مالی، نه‌تنها تصمیم‌گیری‌های حساس را به انحراف می‌کشاند و جریمه‌های انضباطی به همراه دارد، بلکه به مخدوش شدن اعتماد عمومی به مراجع رسمی و فرایندهای دادرسی منجر می‌شود.