اوپنایآی در حالی که تلاش میکند مرورگر هوش مصنوعی Atlas را در برابر حملات سایبری مقاومتر کند، تأیید کرده است که «پرومپت اینجکشن» — نوعی حمله که با مخفی کردن دستورهای مخرب در صفحات وب یا ایمیلها، عاملهای هوش مصنوعی را فریب میدهد — خطری است که به این زودیها از بین نخواهد رفت و پرسشهایی درباره میزان ایمنی فعالیت این عاملها در وب آزاد ایجاد میکند.
اوپنایآی در یک پست وبلاگی نوشت: «پرومپت اینجکشن، مانند کلاهبرداریها و مهندسی اجتماعی در وب، احتمالاً هرگز بهطور کامل حل نخواهد شد.» این شرکت همچنین پذیرفت که «حالت عامل» در ChatGPT Atlas «سطح تهدید امنیتی را گسترش میدهد».
مرورگر ChatGPT Atlas در اکتبر معرفی شد و پژوهشگران امنیتی خیلی زود نشان دادند که حتی چند کلمه در یک سند Google Docs میتواند رفتار مرورگر را تغییر دهد. همان روز، شرکت Brave نیز اعلام کرد که پرومپت اینجکشن غیرمستقیم یک چالش ساختاری برای مرورگرهای مجهز به هوش مصنوعی، از جمله Comet متعلق به Perplexity، است.
اوپنایآی تنها شرکتی نیست که به ماندگاری این تهدید اذعان دارد. مرکز ملی امنیت سایبری بریتانیا نیز هشدار داده است که حملات پرومپت اینجکشن علیه برنامههای هوش مصنوعی مولد «شاید هرگز بهطور کامل مهار نشوند» و میتوانند وبسایتها را در معرض نشت داده قرار دهند. این نهاد توصیه کرده است که متخصصان امنیت سایبری بهجای تصور توقف کامل این حملات، روی کاهش ریسک و پیامدهای آن تمرکز کنند.
اوپنایآی در پایان اعلام کرد: «ما پرومپت اینجکشن را یک چالش بلندمدت امنیتی در حوزه هوش مصنوعی میدانیم و باید بهطور مداوم دفاعهای خود را در برابر آن تقویت کنیم.»
