شرکت OpenAI آموزش جدیدترین مدلهای هوش مصنوعی خود را متوقف کرده است؛ این تصمیم پس از افزایش گزارشهایی درباره رفتارهای غیرمنتظره این مدلها گرفته شده است. از جمله این موارد میتوان به حمله سایبری به پلتفرم هوش مصنوعی Hugging Face، حملات دیگر به سرویسهای شخص ثالث که در جریان آزمایشهای امنیتی انجام شدهاند و بررسی وبسایتهای دولتی توسط عاملهای هوش مصنوعی این شرکت اشاره کرد. در یک مورد نیز گفته شده که یکی از این عاملها تلاش کرده وارد یک سامانه شود.
خبرگزاری آسوشیتدپرس روز شنبه شب گزارش داد که OpenAI در بیانیهای توقف آموزش مدلها را تأیید کرده است. این شرکت اعلام کرده آموزش مدلها را تنها زمانی از سر میگیرد که مطمئن شود «اقدامات حفاظتی بیشتری» ایجاد شده است. OpenAI همچنین گفته انتظار دارد در آینده دوباره مجبور نشود فرآیند آموزش را متوقف کند.
در حوادث مرتبط با سازمانهای دولتی آمریکا، از جمله وزارت آموزش، وزارت بازرگانی و کمیسیون بورس و اوراق بهادار، سخنگویان دولت اعلام کردهاند که این اتفاقات تأثیر قابلتوجهی نداشته است. پژوهشگران شرکت امنیتی Transluce نیز موارد متعددی را مطرح کردهاند که در آن مدلهای OpenAI به شکل گسترده وبسایتها را برای یافتن اطلاعات بررسی کردهاند. آنها همچنین گفتهاند در یکی از موارد مربوط به وزارت آموزش، مدلها تلاش ابتدایی برای ورود به وبسایت بخش حقوق مدنی این وزارتخانه انجام دادهاند.
