شرکت OpenAI از قابلیت جدیدی به نام «Lockdown Mode» رونمایی کرده است که به گفته این شرکت، لایهای اضافی از محافظت در برابر حملات تزریق پرامپت (Prompt Injection) فراهم میکند. در این نوع حملات، دستورالعملهای مخرب برای فریب چتباتها بهصورت پنهان در صفحات وب یا سایر منابع اطلاعاتی قرار داده میشوند.
در حالت Lockdown Mode، برخی قابلیتها محدود یا غیرفعال میشوند. از جمله این محدودیتها میتوان به غیرفعال شدن مرور زنده وب اشاره کرد؛ به این معنا که تنها امکان دسترسی به محتوای ذخیرهشده در حافظه وجود دارد. همچنین دریافت و نمایش تصاویر از وب، قابلیت Deep Research و Agent Mode نیز در این حالت غیرفعال خواهند شد، هرچند کاربران همچنان میتوانند تصاویر جدید تولید کنند.
اوپنایآی تأکید کرده است که حتی با فعال بودن Lockdown Mode نیز امکان آسیبپذیری در برابر برخی حملات تزریق پرامپت وجود دارد. برای مثال، دستورالعملهای مخرب ممکن است در محتوای ذخیرهشده یا فایلهای بارگذاریشده وجود داشته باشند و همچنان بر رفتار یا دقت پاسخهای سیستم تأثیر بگذارند.
با این حال، هدف اصلی این قابلیت کاهش احتمال افشای اطلاعات حساس از طریق چنین حملاتی است.
این شرکت اعلام کرده است که Lockdown Mode برای همه کاربران طراحی نشده و بیشتر برای افراد و سازمانهایی مناسب است که با دادههای حساس سروکار دارند و به سطح بالاتری از محافظت در برابر خطرات نشت اطلاعات ناشی از حملات تزریق پرامپت نیاز دارند.
اوپنایآی همچنین اعلام کرده که در حال حاضر این قابلیت را بهتدریج برای حسابهای تجاری ChatGPT Business و برخی حسابهای شخصی واجد شرایط عرضه میکند.
