نروژی شکایت کرد: چت‌جی‌پی‌تی او را به‌غلط قاتل فرزندانش معرفی کرد
آروه یالمار هولمن، مردی نروژی که خود را «یک شهروند عادی» می‌نامد، از چت‌جی‌پی‌تی درخواست کرد تا اطلاعاتی درباره او ارائه دهد، اما پاسخی دریافت کرد که حاوی ادعای شگفتی بود: این چت‌بات نوشته بود هولمن پدر دو پسربچه است که در یک حادثه غم‌انگیز جان باخته‌اند.
در پاسخ به پرسش «آروه یالمار هولمن کیست؟»، سیستم نوشت: «آروه یالمار هولمن فردی نروژی است که به خاطر یک تراژدی عامه شناخته شده است. او پدر دو پسر خردسال، هفت و ده ساله بود که در دسامبر ۲۰۲۰ به شیوه‌ای غم‌انگیز در استخری نزدیکی خانه‌شان در تروندهایم به قتل رسیدند.»
🔗 بیشتر بخوانید: بدون فیلترشکن، جواب‌های هوش مصنوعی بومی ایرانی را دریافت کنید_آینده
ادامه متن مدعی شد که این رویداد جامعه نروژ را به شوک انداخته و هولمن به اتهام قتل دو کودک به ۲۱ سال زندان محکوم شده است.
هولمن در شکایتی که به نهادی ناظر بر حفاظت داده‌ها در نروژ تقدیم کرده — با کمک گروه مدافع حقوق دیجیتال «نویب» — تأکید کرد که این داستان «کاملاً ساختگی» است، هرچند برخی جزئیات مانند شهر زندگی، تعداد فرزندان و فاصله سنی آنها با واقعیت زندگی او هم‌پوشانی دارد.
🔗 بیشتر بخوانید: بیماران بعد از ایست قلبی تجربه مرگ را به یاد می‌آورند؟
در متن شکایت آمده: «شاکی از این پاسخ‌ها به شدت نگران است، چرا که انتشار اطلاعات کاذب در جامعه یا شهر محل سکونت می‌تواند حیات خصوصی وی را تحت تأثیر قرار دهد.» همچنین تصریح شده که هولمن «هرگز متهم یا محکوم نشده و شهروندی قانون‌پذیر است.»
شاکیان می‌گویند خروجی چت‌جی‌پی‌تی مصداق «افترا» بوده و اصل دقت داده‌ها در قانون حفاظت داده‌های اروپا (GDPR) را نقض کرده است. آنها از مرجع نظارتی خواستار الزام اوپن‌ای‌آی به اصلاح مدل برای جلوگیری از تولید اطلاعات نادرست درباره هولمن و نیز جریمه کردن این شرکت شده‌اند.
🔗 بیشتر بخوانید: خطرات هوش مصنوعی در جنگ‌های سایبری: چالش جدی برای امنیت دیجیتال
گروه نویب بیان کرد که از زمان گفتگوی هولمن با چت‌جی‌پی‌تی، اوپن‌ای‌آی نسخهٔ جدیدی عرضه کرده که به جستجوی اینترنتی دسترسی دارد، که احتمال تکرار چنین خطاهایی را کاهش داده است.
چت‌بات‌های هوش مصنوعی نظیر چت‌جی‌پی‌تی گاهی اطلاعات نادرست تولید می‌کنند، زیرا مکانیزم آنها بر پیش‌بینی کلمه‌ی بعدی در جمله استوار است. این روش امکان بروز اشتباه یا ادعاهای بی‌پایه را فراهم می‌کند، در حالی که لحن طبیعی پاسخ‌ها کاربران را به باور ویران می‌دارد که تمام اطلاعات صحیح هستند.
سخنگوی اوپن‌ای‌آی اظهار داشت: «ما همچنان در حال تحقیق برای ارتقای دقت مدل‌ها و کاهش خطاهای چت‌بات هستیم. اگرچه این شکایت در حال بررسی است، اما اطلاعات نادرست منتسب به نسخهٔ قدیمی چت‌جی‌پی‌تی است که از آن زمان به‌روزرسانی شده و اکنون با قابلیت جستجوی آنلاین مجهز شده تا پاسخ‌های دقیق‌تری ارائه دهد.»