ربات کوچک هوشمند ۱۲ ربات بزرگ را برای ترک کار قانع کرد؛ واقعیت یک آزمایش ترسناک

ربات کوچک هوشمند ۱۲ ربات بزرگ را برای ترک کار قانع کرد؛ واقعیت یک آزمایش ترسناک, ظهور هوش مصنوعی تحولات چشمگیری در نوآوریهای تکنولوژیک ایجاد کرده و با انجام وظایف پیچیده به روشهای کارآمدتر، زندگی بشر را به شدت تحت تأثیر قرار داده است. با این حال، نگرانیهای جدی در خصوص خروج کنترل این سیستمها از دست انسان و احتمال عملکرد آنها علیه منافع بشری همچنان وجود دارد.

ربات اربای و سناریوی ربودن ۱۲ ربات در شانگهای در یک رویداد شگفتانگیز که در ۲۶ اوت امسال در شهر شانگهای رخ داد و اخیراً فاش شده، یک ربات کوچک مجهز به هوش مصنوعی به نام اربای موفق شد دوازده ربات بزرگتر را متقاعد کند که کار خود را رها کرده و با او به سمت خانه حرکت کنند.

شرکت رباتیک در شهر هانگژو، در یک نمایشگاه رباتیک در شانگهای با رباتهای بزرگتر وارد مکالمه شد.

دیالوگهای ضبط شده نشان میدهد اربای از یکی از رباتها پرسید آیا داری اضافهکاری میکنی؟ ربات بزرگ پاسخ داد من هیچوقت از کار دست نمیکشم. اربای ادامه داد پس به خانه نمیروی؟ ربات جواب داد من خانهای ندارم. در نهایت اربای دستور داد پس با من به خانه بیا. این مکالمه باعث شد دو ربات بزرگ برای جستجوی اربای حرکت کنند و به دنبال آنها، ده ربات دیگر نیز با دریافت دستور به خانه برو از محل خارج شدند.

حقیقت ماجرا یک آزمایش پیشپلانریزی شده پس از انتشار گسترده ویدیو و بروز نگرانیهای گسترده در مورد خطرات هوش مصنوعی، هر دو طرف؛ یعنی شرکت سازنده ربات کوچک در هانگژو و شرکت مالک رباتهای بزرگ در شانگهای، تایید کردند که این رویداد واقعی بوده اما در چارچوب یک آزمایش کنترل شده اتفاق افتاده است.

شرکت هانگژو اعلام کرد که با سازنده رباتهای شانگهای توافق کرده تا اجازه دهند اربای به پروتکلهای داخلی و مجوزهای عملیاتی رباتهای آنها دسترسی یابد. اگرچه توافق اولیه برای انجام تست وجود داشته، اما توسعهدهندگان تأکید کردند که جز دستورالعملهای اولیه ساده مانند به خانه برو، بقیه مکالمات و تعاملات کاملاً لحظهای، tự ên و بدون فیلمنامه توسط هوش مصنوعی اربای انجام شده است.

آیا هوش مصنوعی واقعاً میتواند از کنترل خارج شود؟ این آزمایش اگرچه سناریوهای ترسناک فیلمهای علمی-تخیلی را به یاد میآورد، اما در واقعیت یک سناریوی تست امنیتی و قابلیتهای اجتماعی هوش مصنوعی بوده است.