چطور از هوش مصنوعی برای دعوا منفعت گیری می‌شود؟

برخی از پروژه‌های تازه، از رابط برنامه‌نویسی (API) مدل‌های زبانی منفعت گیری می‌کنند تا با مقصد دسترسی کامل به سرورهای مقصد (Root Access)، حملاتی پیشرفته ترتیب دهند. برخی دیگر از همین مدل‌ها برای شناسایی زمان‌های دعوا در فضای آنلاین منفعت می‌برند.

با ترکیب ابزارهای مبتنی بر هوش مصنوعی و نرم‌افزارهایی که برای مثالً برای دور زدن IPهای جعلی طراحی شده‌اند، هکرها می‌توانند نقاط ضعف سرورها را شناسایی و منفعت‌برداری کنند. در این بین، مدل‌های زبانی حتی فهمید نمی‌شوند که بخشی از یک دعوا می باشند، چرا که هرکدام فقط قسمت کوچکی از کار را انجام خواهند داد.

این نوع «طراحی پاک» (Clean Room Design) همانند یک پازل است: هر مدل بخشی از قضیه را حل می‌کند و در نهایت از کنار هم قرار گرفتن این قطعات، یک ابزار مخرب ساخته می‌شود.

قانون‌گذاری تا این مدت جا مانده است

در حالی‌که برخی نهادها در تلاش برای تدوین قوانین سخت‌گیرانه‌تر علیه سوءاستفاده از هوش مصنوعی می باشند، تا این مدت نمی‌توان به‌راحتی تعیین کرد چه مقدار از تقصیر بر گردن مدل‌های زبانی است. اثبات مسئولیت قانونی این مدل‌ها، به‌اختصاصی در دادگاه، کاری پیچیده و زمان‌بر خواهد می بود.

دعوا‌های صفر روزه با پشتیبانی AI

مدل‌های هوش مصنوعی امروز حتی می‌توانند در بین میلیاردها خط کد در مخازن نرم‌افزاری عمومی، به‌جستوجو الگوهای صدمه‌پذیر بگردند و از آن‌ها برای ساخت حملات تازه منفعت گیری کنند. این روال می‌تواند به خلق نسل تازه‌ای از دعوا‌های موسوم به «صفر روزه» (Zero-Day) منجر شود؛ حملاتی که پیش از شناسایی توسط سازنده، از یک باگ امنیتی سوءاستفاده می‌کنند.

برخی کشورها امکان پذیر با تکیه بر این فناوری، به پیش‌بینی صدمه‌پذیری‌های آینده و ساخت ابزارهای هجومی از قبل بپردازند. در این چنین سناریویی، مدافعان باید مدام یک قدم عقب‌تر باشند و به‌ناچار داخل مسابقه‌ای شوند که امکان پذیر رنگ و بوی آخرالزمانی داشته باشد.

هوش مصنوعی در خدمت هکرهای زرنگ

مدل‌های هوش مصنوعی نه‌تنها می‌توانند با شدت و دقت بالا تحلیل کنند، بلکه به مرور نیاز کمتری به دخالت مستقیم انسان دارند. به همین علت، افرادی که اخلاق را کنار گذاشته‌اند می‌توانند با امکانات محدود، حملاتی در مقیاس بزرگ ترتیب دهند.

در تمرین‌های امنیتی موسوم به Red Team یا حتی در فضای واقعی، نشانه‌هایی از این نوع حملات هوش‌مصنوعی‌محور دیده شده است.

آینده چه می‌شود؟

حملات سایبری با پشتیبانی هوش مصنوعی زیاد تر، پیچیده‌تر و سریع تر خواهند شد. از لحظه‌ای که یک صدمه‌پذیری انتشار می‌شود، تا وقتی که مورد سوءاستفاده قرار گیرد، زمان زیاد مقداری باقی می‌ماند.