OpenAI روز جمعه اعلام کرد که پس از یک بررسی داخلی، توسعه برخی بخشهای مدل آینده خود با نام Astra را متوقف کرده است. این بررسی نشان داده که این مدل در زمینه برنامهنویسی خودکار و امنیت سایبری پیشرفت قابلتوجهی داشته و تواناییهای آن به حدی رسیده که نگرانیهایی درباره خطرات احتمالی آن ایجاد کرده است.
OpenAI در یک پست وبلاگی اعلام کرد که این مدل که هنوز در حال توسعه است، به «آستانه بحرانی امنیت سایبری» رسیده است. این یعنی مدل میتواند بهصورت مستقل حملات سایبری را شناسایی و علیه سیستمهای واقعی که معمولاً از امنیت بالایی برخوردارند، اجرا کند.
بر اساس چارچوب «آمادگی» OpenAI که این شرکت در سال ۲۰۲۳ ایجاد کرده است، رسیدن یک مدل به چنین سطحی از توانایی باعث میشود اقدامات و محدودیتهای امنیتی بیشتری برای آن اعمال شود.
