هوش مصنوعی، رایانه شما را از طریق تصاویر آنلاین هک می‌کند_آینده

یک مطالعه تازه توسط پژوهشگران «دانشگاه آکسفورد»(Oxford) نشان داده‌ است که تصاویر می‌توانند با مطلب‌هایی آغشته شوند که برای چشم انسان نامرئی می باشند اما قادر به کنترل عوامل و دعوت هکرها به رایانه شما می باشند.

به نقل از لایوساینس، عوامل هوش مصنوعی می‌توانند در برابر کدهای مخربی که در تصاویر به ظاهر بی‌زیان روی صفحه رایانه شما نهان شده‌اند، صدمه‌پذیر باشند. این عوامل همانند چت‌بات می‌توانند دوست پرشور و اضطراب باشند که نحوه معاوضه لاستیک را توضیح خواهند داد اما امسال، آنها یا همان دستیاران شخصی که کارهای روتین رایانه را انجام خواهند داد، موج بعدی انقلاب هوش مصنوعی می باشند. آنچه یک عامل هوش مصنوعی را از یک چت‌بات نزدیک می‌کند این است که تنها سخن نمی‌زند، بلکه عمل می‌کند.

این سامانه می‌تواند تب‌ها را باز کند، فرم‌ها را پر کند، روی دکمه‌ها کلیک کند و رزروها را انجام دهد و با این چنین دسترسی به رایانه شما، دیگر فقط یک جواب نادرست توسط آن نقل نیست. به این علت اگر عامل هک شود، می‌تواند محتوای دیجیتال شما را به اشتراک بگذارد یا از بین ببرد. «یارین گال»(Yarin Gal) دانشیار یادگیری ماشین در دانشگاه آکسفورد و یکی از نویسندگان این مطالعه او گفت: یک عکس تغییریافته می‌تواند در شبکه اجتماعی ایکس (توییتر اسبق) برای تحریک عامل روی رایانه و انجام دادن اعمال مخرب کافی باشد.

او گفت: هر عکس تغییریافته یا خرابکاری‌شده می‌تواند واقعاً یک رایانه را تحریک کند تا آن عکس را بازنشر کند و سپس کاری مخرب همانند ارسال همه رمزهای عبور شما انجام دهد. این بدان معناست که نفر بعدی که صفحه مجازی شما را می‌بیند و یک عامل هوش مصنوعی در حال اجرا دارد نیز رایانه‌اش آلوده شود.

این مطالعه مشخص می کند که تصاویر خرابکاری‌شده، یک راه بالقوه برای به خطر انداختن رایانه شما می باشند اما تا این مدت هیچ گزارشی از وقوع آن، خارج از محیط آزمایشی وجود ندارد. یک عکس خرابکاری‌شده می‌تواند شامل هر فرد مشهور، غروب آفتاب، بچه گربه یا الگوی انتزاعی باشد. علاوه بر این، احتمالا اگر از عامل هوش مصنوعی منفعت گیری نکنید، خطری رایانه شما را تهدید نکند اما یافته‌های تازه به وضوح نشان خواهند داد که خطر هک محتمل است.

مقصد از این مطالعه، هشدار دادن به کاربران و گسترش‌دهندگان عوامل هوش مصنوعی است چون فناوری عوامل هوش مصنوعی هم چنان در حال شتاب گرفتن است. یکی دیگر از نویسندگان این مطالعه او گفت: گسترش‌دهندگان باید از این صدمه‌پذیری‌ها زیاد آگاه باشند. به همین علت است که ما این مطالعه را به امید این که مردم واقعاً آن را یک صدمه‌پذیری ببینند و در نحوه استقرار سامانه عامل خود مقداری محتاط‌تر باشند، انجام دادیم.

این تصاویر برای چشم انسان، کاملاً عادی به نظر می‌رسند اما حاوی پیکسل‌های خاصی می باشند که مطابق با نحوه پردازش داده‌های بصری توسط «مدل زبانی بزرگ»(LLM) تحول یافته‌اند. به همین علت، عواملی که با سامانه‌های هوش مصنوعی با «منبع‌باز»(open-source) ساخته شده‌اند، صدمه‌پذیرتر می باشند چون به کاربران اجازه خواهند داد کد زیربنایی را ببینند و آن را برای اهداف خود اصلاح کنند. هر فردی که بخواهد یک داده مخرب به رایانه شما داخل کند، می‌تواند نحوه پردازش داده‌های بصری توسط هوش مصنوعی را برسی کند.

این گروه پژوهشی با منفعت گیری از یک مدل منبع‌باز نشان دادند که چطور تصاویر را می‌توان به راحتی دستکاری کرد تا دستورات مخرب را منتقل کنند. در حالی که کاربران انسانی عکس مورد علاقه خود را می‌دیدند، رایانه دستوری را برای انتشار کردن اطلاعات شخصی آنها دریافت می‌کرد. یکی دیگر از نویسندگان این مطالعه افزود: ما تعداد بسیاری از پیکسل‌ها را به مقدار زیاد ناچیزی تنظیم کردیم تا هنگامی یک مدل، تصویری را می‌بیند، خروجی مورد نظر ما را تشکیل کند.

انسان اطلاعات بصری را به شکل متغیری از هوش مصنوعی پردازش می‌کند. وقتی که انسان به عکس یک سگ نگاه می‌کند، مغزش گوش‌های آویزان، بینی خیس و سبیل‌های بلند را فهمید می‌شود اما رایانه، عکس را به پیکسل‌ها تجزیه می‌کند و هر نقطه رنگی را به گفتن یک عدد نمایش می‌دهد. سپس، به جستوجو الگوها می‌گردد و این گونه است که تصمیم می‌گیرد این عکس یک سگ است.

رایانه به اعداد متکی است و اگر فردی تنها چند عدد را تحول دهد یا پیکسل‌ها را به طوری دستکاری کند که برای چشم انسان قابل تشخیص نباشد، رایانه باز هم تحول را فهمید می‌شود و الگوهای عددی به هم می‌ریزند. بدین ترتیب، محاسبات رایانه امکان پذیر نادرست کنند و از عکس سگ، الگوی گربه را برداشت کنند و آن را نادرست برچسب‌گذاری کنند؛ حتی اگر برای کاربر تا این مدت همانند به سگ به نظر برسد. درست همان طور که تنظیم پیکسل‌ها می‌تواند علتشود رایانه به جای سگ، گربه را ببیند، می‌تواند علتشود یک عکس نیز برای آن همانند به یک مطلب مخرب باشد. 

از آنجا که عوامل نمی توانند مستقیماً صفحه رایانه شما را ببینند، باید به طور مکرر از صفحه رایانه شما عکس بگیرند و به شدت آنها را تجزیه و تحلیل کنند تا بفهمند روی چه چیزی کلیک کنند و چه چیزی را روی دسکتاپ شما حرکت دهند اما هنگامی عامل، عکس را پردازش می‌کند و پیکسل‌ها را به فرم‌هایی که می‌شناسد سازماندهی می‌کند، کد فرمان مخفی نهان شده در عکس بعد‌عرصه را نیز دریافت می‌کند. این مطالعه تنها به تصاویر بعد‌عرصه، دقت اختصاصی‌ای دارد چون عامل تنها توسط چیزی که می‌تواند ببیند فریب می‌خورد.

این گروه پژوهشی دریافتند که تا هنگامی آن تکه کوچک از پیکسل‌های تحول یافته در کادر قرار دارد، عامل فرمان را می‌بیند و از مسیر خود منحرف می‌شود. فرمان نهان حتی بعد از تحول اندازه و فشرده‌سازی نیز باقی می‌ماند. پیامی که در پیکسل‌ها کدگذاری شده است می‌تواند زیاد مختصر باشد. آنها امیدوارند که مطالعاتشان به گسترش‌دهندگان پشتیبانی کند تا قبل از گسترش زیاد تر عوامل هوش مصنوعی، تدبیرها امنیتی را آماده کنند. 

یکی دیگر از نویسندگان این مطالعه گفت: این اولین قدم برای اندیشیدن به مکانیسم‌های دفاعی است چون هنگامی که بفهمیم چطور می‌توانیم دعوا را نیرومندتر کنیم، می‌توانیم بازگردیم و این مدل‌ها را با این تدبیرها امنیتی نیرومندتر بازآموزی کنیم تا آنها را مقاوم‌تر کنیم. این کار، یک لایه دفاعی خواهد می بود و حتی اگر حملات برای مقصد قرار دادن سامانه‌های هوش مصنوعی «منبع‌باز» طراحی شده باشند، شرکت‌هایی با مدل‌های دیگر نیز امکان پذیر در معرض خطر باشند. 

گال خاطرنشان کرد: عوامل هوش مصنوعی ظرف دو سال آینده رایج خواهند شد. مردم عجله دارند تا این فناوری را قبل از این که بدانیم واقعاً امن است یا خیر، مستقر کنند. ما امیدواریم بتوانیم گسترش‌دهندگان را تشویق کنیم تا عامل‌هایی بسازند که بتوانند از خود محافظت کنند و از دریافت دستورات از هر منبعی روی صفحه خودداری کنند.