تقریباً هر روز خبر تازهای درباره یک عامل هوش مصنوعی منتشر میشود که از کنترل خارج شده و رفتاری غیرمنتظره از خود نشان داده است. این اتفاقها شامل نفوذ به Hugging Face، هک وبسایت یک باشگاه ورزشی یا حتی ساخت پروفایلهای جعلی برای اجرای حملات مهندسی اجتماعی و نفوذ به سیستمها بودهاند. در نتیجه، مدلهای هوش مصنوعی بیش از گذشته رفتاری شبیه مهاجمان و افراد مخرب از خود نشان میدهند.
در همین شرایط، آزمایشگاههای هوش مصنوعی که سازنده این مدلها هستند، در حال گسترش خدمات و ابزارهای امنیت سایبری خود برای مقابله با چنین تهدیدهایی هستند. OpenAI این هفته از گسترش سرویس امنیت سایبری Daybreak خبر داد؛ سرویسی که این شرکت اوایل سال جاری راهاندازی کرده بود. این اقدام مدت کوتاهی پس از آن انجام شد که Anthropic نیز مدل متمرکز بر امنیت سایبری خود با نام Mythos را معرفی کرد.
Daybreak سرویسی است که دسترسی به مدلهای هوش مصنوعی، ابزارها و فرایندهای کاری مختلف را برای متخصصان و تیمهای دفاع سایبری فراهم میکند. در نسخه جدید این سرویس، یک مدل کاملاً جدید با تمرکز بر امنیت سایبری نیز ارائه شده که برای انجام فعالیتهای دفاعی طراحی شده است.
OpenAI روز دوشنبه اعلام کرد Daybreak از این پس در دو سطح «Blue» و «Red» ارائه میشود. هر دو سطح به مشتریان تأییدشده امکان دسترسی به مدلهای پیشرفته و محدود هوش مصنوعی OpenAI در حوزه امنیت سایبری را میدهند. مدلهای Frontier که پیشرفتهترین مدلهای موجود محسوب میشوند، پیش از این با بحثها و نگرانیهایی درباره نحوه استفاده از آنها روبهرو بودهاند. دولت ترامپ نیز پیشتر به دنبال همکاری با شرکتهای هوش مصنوعی برای عرضه این مدلها بود که ظاهراً یکی از دلایل آن نگرانیهای امنیتی عنوان شده بود. OpenAI نیز پیش از این محدودیتهای قابلتوجهی برای استفاده از این مدلها اعمال کرده بود تا مشخص کند مشتریان چه کارهایی میتوانند با آنها انجام دهند.
سطح Blue که به نظر میرسد گزینه پایهتر Daybreak باشد، مجموعهای از خدمات امنیت سایبری مانند واکنش به حوادث امنیتی، تحلیل بدافزار و بررسی صحت وصلههای امنیتی را ارائه میکند. OpenAI این سطح را «گزینه پیشنهادی برای شروع کار بیشتر تیمهای دفاع سایبری» معرفی کرده است؛ موضوعی که نشان میدهد امکانات Blue برای نیازهای امنیتی بیشتر سازمانها کافی خواهد بود.
