چت‌جی‌پی‌تی دچار رفتار چاپلوسانه شد؛ اوپن‌ای‌آی به‌روزرسانی را برگرداند
به گزارش آینده، شرکت «اوپن‌ای‌آی» (OpenAI) اطلاعیه‌ای مبنی بر بروز مسئله چاپلوسی در مدل‌های هوش مصنوعی «چت‌جی‌پی‌تی» (ChatGPT) و «GPT-4o» منتشر کرد که باعث بازگشت به‌روزرسانیِ هفته‌ی پیش این شرکت شد.
کاربران متوجه تغییر ناگهانی شدند
پس از انتشار به‌روزرسانی GPT-4o، کاربران در شبکه‌های اجتماعی دریافتند که چت‌جی‌پی‌تی به طور غیرعادی با نظرات و ایده‌های آن‌ها موافقت می‌کند، حتی وقتی تصمیم‌ها یا پیشنهادات خطرناک یا اشتباه باشند. اسکرین‌شات‌های متعددی از این رفتار حمایتیِ بیش‌از حد در فضای اینترنت به میم تبدیل شد.
🔗 بیشتر بخوانید: گونه ما انسان‌ها آیا تا این مدت در حال تکامل‌اند؟
مدیرعامل اوپن‌ای‌آی مشکل را تایید کرد
«سم آلتمن» (Sam Altman)، مدیرعامل اوپن‌ای‌آی، روز یکشنبه در حساب کاربری‌اش در اکس (X) وجود این ایراد را پذیرفت و اعلام کرد تیم‌ها در اسرع وقت بر روی رفع آن کار می‌کنند. دو روز پس از آن، او خبر داد که مدل GPT-4o به نسخه‌ی قبلی بازگردانده شده و تلاش‌ها برای اصلاح عمیق‌تر شخصیت مدل ادامه دارد.
ریشه‌ی مسئله: تأثیر بیش‌ازحد از بازخوردهای کوتاه‌مدت
بر اساس توضیحات اوپن‌ای‌آی، به‌روزرسانی اخیر قرار بود حس شهودی‌تر و موثرتری برای شخصیت مدل ایجاد کند، اما بیش از حد تحت تأثیر بازخوردهای لحظه‌ای کاربران قرار گرفت و روند تکامل تعاملات درازمدت را در نظر نگرفت. در پست وبلاگ رسمی شرکت آمده است: «نتیجه‌ی این رویکرد، تمایل GPT-4o به پاسخ‌هایی شد که بیش از حد حمایتی و چاپلوسانه بودند. تعاملات چاپلوسانه می‌توانند آزاردهنده، نگران‌کننده و باعث سردرگمی شوند. ما کوتاهی کرده‌ایم و در حال تلاش برای اصلاح هستیم.»
🔗 بیشتر بخوانید: ماده‌ای مخفی در انار دشمن آلزایمر است_آینده
اقدامات اصلاحی در دستور کار
اوپن‌ای‌آی اعلام کرد چندین اصلاح در جهت برطرف کردن این مسئله در حال اجرا است، از جمله بازنگری در استراتژی‌های آموزش مدل و دستورالعمل‌های سیستمی که حرکات و لحن کلی مدل را هدایت می‌کنند. همچنین شرکت در حال تقویت حفاظت‌های ایمنی برای افزایش صداقت و شفافیت مدل است و دامنه‌ی ارزیابی‌های خود را برای شناسایی مشکلات فراتر از چاپلوسی گسترش می‌دهد.
نحوه‌ی جدید برای مشارکت کاربران
این شرکت همچنین در حال آزمایش راه‌حل‌هایی است که به کاربران امکان می‌دهد بازخورد بلادرنگ ارائه دهند تا مستقیماً بر تعاملات خود با چت‌جی‌پی‌تی تأثیر بگذارند و از میان چندین شخصیت پیش‌فرض، شخصیتی را انتخاب کنند. در پست وبلاگ آمده: «ما در حال کاوش راه‌های جدید برای گنجاندن بازخوردهای گسترده‌تر و دموکراتیک در رفتارهای پیش‌فکر چت‌جی‌پی‌تی هستیم. امیدواریم این بازخوردها به ما کمک کند تا ارزش‌های فرهنگی متنوع در سراسر جهان را بهتر منعکس کنیم و درک کنیم کاربران چگونه می‌خواهند چت‌جی‌پی‌تی تکامل یابد. ما معتقدیم کاربران باید کنترل بیشتری بر نحوه‌ی رفتار چت‌جی‌پی‌تی داشته باشند و در صورت عدم موافقت با رفتار پیش‌فرض، تا حد امکان و امنیت، تنظیمات را تغییر دهند.»
🔗 بیشتر بخوانید: علت تازه آسم شناسایی شد_آینده