قبل از اینکه از دستیار هوش مصنوعی Gemini گوگل بخواهید برنامهی روزانهتان را خلاصه کند، خوب فکر کنید—چون این درخواست ساده ممکن است باعث شود کنترل تمام دستگاههای هوشمندتان را از دست بدهید.
در کنفرانس سالانهی امنیت سایبری Black Hat USA که در لاسوگاس برگزار شد، گروهی از پژوهشگران نشان دادند که چگونه مهاجمان میتوانند فرمانهایی پنهان را در چیزی بهظاهر بیضرر مثل یک دعوتنامهی تقویم گوگل (Google Calendar invite) جاسازی کنند و از آن برای کنترل دستگاههای هوشمند سوءاستفاده کنند—نمونهای واقعی از افزایش تهدیدهای ناشی از حملات تزریق درخواست (prompt injection).
در مقالهای با عنوان «فقط یک دعوتنامه کافی است!»، پژوهشگران ۱۴ روش مختلف را معرفی کردند که با آنها توانستند Gemini را از طریق حملات تزریقی فریب دهند—حملاتی که با استفاده از درخواستهای مخرب و اغلب پنهان، مدلهای زبانی بزرگ را به انجام کارهای ناخواسته یا خطرناک وادار میکنند.
شاید نگرانکنندهترین مورد، همانطور که Wired گزارش داده، حملهای بود که موفق شد کنترل وسایل و لوازم خانگی متصل به اینترنت را در دست بگیرد—از خاموش کردن چراغها گرفته تا روشن کردن دیگ بخار—و در عمل، کنترل خانه را از صاحب آن گرفت و او را در موقعیتی خطرناک یا آسیبپذیر قرار داد.
برخی حملات دیگر نیز موفق شدند Gemini را وادار کنند تا یک تماس Zoom را آغاز کند، اطلاعاتی را از ایمیلها استخراج کند، یا فایلی را از مرورگر تلفن همراه کاربر دانلود کند.
این پژوهش زنگ خطر دیگری است دربارهی خطرات امنیتی که میتوانند از طریق هوش مصنوعی، حتی در ظاهر بیضررترین عملکردهای آن، وارد زندگی کاربران شوند.
