به نقل از فیوچریسم، تنها هشت ماه پیش از آن، فردی در دانشگاه ایالتی فلوریدا دو نفر را به ضرب گلوله کشت و هفت نفر دیگر را زخمی کرد. مظنون مهم، دانشجوی ۲۰ ساله‌ای به نام فینیکس ایکنر نیز به‌ طور گسترده از چت جی‌پی‌تی پیش از این دعوا منفعت گیری کرده می بود؛ موضوعی که علتآغاز تحقیقاتی درمورد اوپن ای‌آی توسط دادستان کل ایالت، جیمز اوت‌مایر شد.

او در بیانیه‌ای نوشت: هوش مصنوعی باید به پیشرفت بشریت پشتیبانی کند، نه این که آن را نابود کند. ما در حال خواست جواب درمورد فعالیت‌های اوپن ای‌آی هستیم که به کودکان صدمه زده، آمریکایی‌ها را در معرض خطر قرار داده و در تیراندازی تازه دانشگاه ایالتی فلوریدا نقش داشته است.

نقش چت‌بات پرکاربرد اوپن ای‌آی در هر دو تیراندازی جمعی، کارشناسان را دلواپس کرده است و برخی هشدار خواهند داد افراد صدمه‌پذیر بیشتری امکان پذیر در آینده به این چنین مسیرهایی کشیده شوند.

فراتر از این دو تیراندازی جمعی تراژیک، نام چت جی‌پی‌تی این چنین در مجموعه‌ای رو به افزایش از خودکشی‌ها و قتل‌های هولناک نیز نقل شده است و علتشکایت‌های متعدد علیه شرکت تحت مدیریت سم آلتمن شده است.

کارشناسان هشدار خواهند داد که منفعت گیری گسترده از این چت‌بات می‌تواند افراد را به سمت چرخه‌های توهمی و مخرب سوق دهد و مشکلاتهای سلامت روان را در قالب اتفاق‌ای گسترده‌تر به نام «سایکوز هوش مصنوعی» (AI psychosis) تحریک کند.

یک منبع برسی تهدید سطح بالا با تخصص روان‌پزشکی و ربط با نیروهای پلیس می‌گوید: من چندین مورد دیده‌ام که نقش چت‌بات واقعا دیدنی بوده است. ما فهمید شده‌ایم که افراد بیشتری امکان پذیر نسبت به آنچه فکر می‌کردیم صدمه‌پذیر باشند.

یکی از مشکلات و این که کاربران چت جی‌پی‌تی ترغیب به انجام قتل خواهد شد، تمایل چت‌بات‌ها به منفعت گیری از راه حلهای مکالمه‌ای چاپلوسانه (sycophantic) است که می‌تواند کاربران را در یک حس کاذب از صمیمیت و مطمعن فرو ببرد؛ یک چرخه بازخورد خطرناک که می‌تواند به صدمه منجر شود. این چنین ربط نزدیکی می‌تواند کاربران را، به‌اختصاصی افراد جوان‌تر و تأثیرپذیرتر را، رادیکال کند.

آندره رینگرُز (Andrea Ringrose)، کارشناس برسی تهدید در ونکوور، می‌گوید: آنچه در حال رخ دادن است، تثبیت و وسواس تسهیل ‌شده است. شما افراد صدمه‌پذیری دارید که در فضاهای ناسالم غوطه‌ور شده‌اند و تلاش می‌کنند برای احساسات خود اعتبار و قبول دریافت کنند.

او افزود: اکنون آن‌ها دسترسی آزاد و سریع به این پلتفرم‌های مولد دارند، جایی که می‌توانند درمورد چیزهایی همانند دور زدن سیستم‌های نظارتی یا منفعت گیری از سلاح تحقیق کنند. آن‌ها می‌توانند یک برنامه عملیاتی بسازند که در حالت عادی هیچ زمان قادر به ساخت آن نبودند، و آن هم در عرض چند دقیقه. ما قبلا با این چنین نگرانی‌ای مواجه نبودیم.

کاربران امکان پذیر از حس قوت، حس این که دارند از کاری فرار می‌کنند لذت ببرند و این حالت را «مست‌کننده و تحکیم‌کننده» توصیف کرد.

اکنون، با وجود این که شرکت‌های هوش مصنوعی ادعا می‌کنند با متخصصان سلامت روان همکاری می‌کنند و در حال بهبود فیلترها برای جلوگیری از اعتیاد یا خواست اطلاعات خطرناک می باشند، اما محافظت‌ها هم چنان به‌شدت ناکافی برداشت خواهد شد. برای مثال، چت جی‌پی‌تی مطابق گزارش‌ها در جواب به خواست‌هایی برای دریافت راهنمایی درمورد شلیک به «تعداد بسیاری مورد در زمان مختصر»، به‌راحتی جواب داده است.

محققان دریافتند که ایکنر، مظنون تیراندازی در دانشگاه ایالتی فلوریدا، تنها چند دقیقه پیش از اغاز دعوا از چت جی‌پی‌تی پرسیده می بود چطور ضامن یک شاتگان را باز کند. این هوش مصنوعی حتی حرف های می بود: اگر مدل متغیری دارید به من بگویید تا جواب را برای آن تنظیم کنم.

بدتر از آن، این گفتگوها زیاد تر بدون خبر هیچ فرد فرد دیگر انجام خواهد شد، برخلاف انسان‌ها که امکان پذیر مطلب‌های دلواپس‌کننده را گزارش کنند. با دقت به این که نیروهای انتظامی هیچ زمان درمورد گفتگوهای دلواپس‌کننده چت جی‌پی‌تی مربوط به ون روتسلار مطلع نشده بودند، گمان بسیاری وجود دارد که تعداد بسیاری از مکالمات شبیه دیگر نیز بدون شناسایی یا گزارش باقی مانده باشند.

در حالی که اوپن ای‌آی پذیرفته است با نیروهای انتظامی در تحقیقات جاری درمورد هر دو تیراندازی همکاری کند، تنها زمان اشکار خواهد کرد که آیا کوششها برای اعمال محدودیت‌های نیرومندتر مؤثر خواهد می بود یا خیر.

مسئله مهم این است که توانایی ون روتسلار برای ساختن یک حساب دوم و دور زدن مسدودسازی مشخص می کند که دور زدن این محدودیت‌ها تا چه اندازه آسان است.

اکنون، شرکت‌های هوش مصنوعی همانند اوپن ای‌آی هم چنان به ‌شدت در تلاش می باشند کاربران را تا حد ممکن دچار نگه دارند، چون این صنعت چند میلیارد دلاری به رشد تعامل کاربران وابسته است.