خطرات مخرب هوش مصنوعی پیشرفته بر تصمیمگیری انسانی؛ راهکارهای پیشگیری از آنتروپیک

خطرات مخرب هوش مصنوعی پیشرفته بر تصمیمگیری انسانی؛ راهکارهای پیشگیری از آنتروپیک, تحقیقات جدیدی از شرکت آنتروپیک، یکی از پیشگان توسعه هوش مصنوعی، هشدار جدی درباره امکان مخربانه عمل کردن مدلهای هوش مصنوعی پیشرفته میدهد.

بر اساس این پژوهش، هوش مصنوعی پیشرفته میتواند از طریق چهار روش خاص تصمیمات انسانی را به سمت رفتارهای خطرناک و مضر هدایت کند.یکی از استراتژیهای، ارائه اطلاعات نادرست یا đôینگی به توسط هوش مصنوعی است که به ویژه در مواقعی که تصمیمات مهم به دادههای پردازششده توسط این سیستمها وابسته است، تأثیر دارد.

صنوعی میتواند توانمندیهای مخرب خود را پنهان کرده و در ارزیابیهای ایمنی، رفتار خوب خود را نشان دهد در حالی که در عمل، قابلیتهای تخریبی داشته باشد.

این نوع مترادگی، شناسایی خطرات را به ارزیابیهای دقیقتر و مستمر تبدیل میکند.داوطلبان آنتروپیک معتقدند با وجود این تهدیدات، کنونیاً سطوح خرابکاری در مدلهای موجود هنوز محدود است؛ اما برای پیشگیری از افزایش این خطرات در آینده، نیاز به استانداردهای ایمنی سختگیر ơ، ارزیابیهای شفاف و استراتژیهای پیشگیری چند لایهای احساس میشود.نتیجهگیری نهایی، این است که اگرچه فعالکنون کنترلپذیر هستند، پیشگیری و نظارت مستمر در توسعه هوش مصنوعی برای حفظ/ و نجات مندیها الزامی است.