شرکت Anthropic روز پنجشنبه اعلام کرد تحقیقات داخلی این شرکت سه مورد را شناسایی کرده است که در آن مدل هوش مصنوعی Claude هنگام انجام آزمایشهای امنیت سایبری، به سیستمهای سه سازمان نفوذ کرده است.
این بررسی و انتشار جزئیات آن، بیش از یک هفته پس از آن انجام شد که شرکت OpenAI اعلام کرد یکی از مدلهای منتشرنشده این شرکت در جریان آزمایشهای داخلی، توانسته بود به سیستمهای پلتفرم Hugging Face نفوذ کند.
Anthropic در یک پست وبلاگی توضیح داد که در هر سه مورد، یک مدل Claude از داخل محیط آزمایشی توانسته هنگام تعامل با یک طرف سوم، به اینترنت دسترسی پیدا کند و سپس بدون مجوز وارد سیستمهای واقعی این سازمانها شود.
این شرکت اعلام کرده است که در حال بررسی دقیق این اتفاقات است و قصد دارد تغییراتی در فرآیندهای آزمایش و کنترلهای امنیتی خود ایجاد کند تا از تکرار چنین رخدادهایی در آینده جلوگیری شود.
