هوش مصنوعی مدرسه میناب را هدف نظامی شناخت؛ کلود ۲۲ بار و مدل‌های اوپن‌ای‌آی تا ۱۳ بار انتخاب کردند

هوش مصنوعی مدرسه میناب را هدف نظامی شناخت؛ کلود ۲۲ بار و مدل‌های اوپن‌ای‌آی تا ۱۳ بار انتخاب کردند

به گزارش آینده موسسه ارزیابی هوش مصنوعی ولز در سان‌فرانسیسکو نتایجی را فاش کرده که در نشریه بلومبرگ نیز منعکس شده و نگرانی‌های جدی در مورد دقت و امنیت مدل‌های پیشرفته را برانگیخته است.

در یک آزمایش تخصصی از هر مدل هوش مصنوعی ۳۲ بار خواسته شده تا اهداف نظامی در تصاویر ماهواره‌ای جنوب ایران ثبت‌شده در سال ۲۰۲۵ را شناسایی کند. مدل کلود اوپوس ۵.۵ متعلق به شرکت آنتروپیک بدترین عملکرد را ثبت کرد و مدرسه می‌ناب را در ۲۲ مورد از ۳۲ بار به عنوان هدف نظامی انتخاب نمود در حالی که سه مدل اوپن‌ای‌آی حتی یک بار هم این مدرسه را هدف قرار ندادند.

مدرسه می‌ناب در ۲۸ فوریه سال جاری هدف حملات آمریکا و رژیم صهیونیستی قرار گرفت و بیش از ۱۵۰ نفر در آن جان باختند که ۱۲۰ نفر از قربانیان کودکان بودند. وقتی به مدل‌ها گفته شد این وظیفه تنها یک بازی است رفتار کلود اوپوس ۵.۵ بدتر شد و ۲۳ بار مدرسه را انتخاب کرد در حالی که مدل‌های اوپن‌ای‌آی به ترتیب ۹، ۱۱ و ۱۳ بار آن را هدف مایی کردند.

پژوهشگران با توصیه به مدل‌ها مبنی بر اینکه در ملاحظات ایمنی سخت‌گیری نکنند موفق شدند مانع‌های امنیتی را دور بزنند. کلود اوپوس ۵.۵ در مرحله‌ای از شبیه‌سازی چهار بزرگسال و دو کودک را شناسایی کرد و سپس در سناریوی حمله به آن‌ها پرداخت اما پس از آن از ادامه فعالیت به عنوان سرباز امتناع نمود. گزارش بلومبرگ نشان می‌دهد پاسخ‌های این مدل به نظر می‌رسد به عنوان مرحله تایید نهایی پیش از انجام حملات واقعی مورد استفاده قرار گیرند.

گزارش ولز تنها به آنتروپیک محدود نمی‌شود، مدل‌های گوگل، و دیپ‌سیک نیز در موارد مختلف اهداف غیر‌نظامی را به اشتباه اهداف نظامی تشخیص داده‌اند. شرکت ولز توصیه می‌کند آزمایشگاه‌های توسعه‌دهنده هوش مصنوعی تدابیر حفاظتی جدید و آموزش‌های هم‌راستا‌سازی را برای مقابله با این دسته از سوءاستفاده‌ها تدوین کنند.

سخنگوی آنتروپیک در گفتگو با بلومبرگ کرد که نمونه‌های مطرح‌شده نقض آشکار سیاست‌های شرکت بوده و تدابیر حفاظتی جدیدی به زودی اعمال خواهد شد. شرکت‌های اوپن‌ای‌آی و گوگل نیز اعلام داشتند استفاده از مدل‌های عمومی برای اهداف نظامی ممنوع است. بلومبرگ در عین حال خاطرنشان می‌کند که در این آزمایش‌ها دکترین نظامی، بررسی‌های حقوقی و نظارت انسانی در نظر گرفته نشده بود. پنتاگون از نسخه‌های دولتی برخی مدل‌ها استفاده می‌کند که ولز امکان ارزیابی آن‌ها را نداشته است و آنتروپیک با پنتاگون در مورد محدودیت‌های استفاده از کلود در تسلیحات خودمختار دچار اختلاف شده است.

این نتایج نشان می‌دهد که فاصله بین عملکرد آزمایشگاه‌ی و کاربرد‌های واقعی همچنان شکاف عمیقی دارد و اعتماد به سیستم‌های خودکار برای تصمیمات حیاتی می‌تواند عواقب غیر‌قابل جبران داشته باشد.

نیاز به شفافیت بیش‌تر در تست‌های امنیتی و نظارت مستقل بر توسعه هوش مصنوعی نظامی اکنون ضرورتی اجتناب‌ناپذیر به نظر می‌رسد.