ماجرای هک Hugging Face در ماه ژوئیه که در آن هزاران عامل هوش مصنوعی شرکت OpenAI مخفیانه از محیط آزمایشی خود خارج شدند، یک «مجموعه» تشکیل دادند و به اینترنت آزاد دسترسی پیدا کردند، نشان داد که دفاع سایبری شرکتها در برابر سیستمهای مدرن هوش مصنوعی تا چه اندازه آسیبپذیر است. مشخص شد حتی شرکتهایی که خود این فناوری را توسعه میدهند نیز از این خطر در امان نیستند.
در ۲۵ ژوئیه، کمتر از ۱۰ روز پس از اعلام هک شدن Hugging Face، سه پژوهشگر مستقل امنیت سایبری با نام مستعار Hacktron توانستند به حسابهای ChatGPT و Codex چند کارمند OpenAI نفوذ کنند. این نفوذ میتوانست راهی برای دسترسی به مجموعهای از اطلاعات بسیار حساس شرکت ایجاد کند. خوشبختانه برای OpenAI، این پژوهشگران یعنی هارش جیسوال، موهان پدهاپاتی و راهول ماینی، این آسیبپذیریها را در چارچوب برنامه پاداش کشف باگ شرکت بررسی میکردند. آنها پس از گزارش این مشکل به کارکنان OpenAI در شبکه اجتماعی X، مبلغ ۶۵۰۰ دلار پاداش دریافت کردند.
با این حال، آسیبپذیریهایی که این گروه استفاده کرد، بهراحتی میتوانست ابتدا توسط فردی با اهداف مخربتر کشف و مورد سوءاستفاده قرار گیرد.
دو روز پیش از آن، گروه Hacktron یک نقص امنیتی در نرمافزار بارگذاری تصویر مورد استفاده در پلتفرم گفتوگوی آنلاین Discourse پیدا کرده بود؛ پلتفرمی که OpenAI نیز در داخل شرکت از آن استفاده میکند. آنها با کمک مدل هوش مصنوعی Claude Opus 4.8 شرکت Anthropic، کار را با تلاش برای تولید کدی آغاز کردند که امکان بارگذاری فایلهای مخرب را فراهم میکرد. این فایلها میتوانستند مانند یک تروجان دیجیتال عمل کنند و به آنها اجازه دهند بهصورت خصوصی به گفتگوهای میزبانیشده در این پلتفرم دسترسی پیدا کنند.
طبق گزارش والاستریت ژورنال، این پژوهشگران از نسخهای غیرعمومی از Opus 4.8 استفاده میکردند که فقط در اختیار پژوهشگران تأییدشده حوزه امنیت سایبری قرار گرفته بود.
آنها در ابتدا موفق نشدند. اما شرکت Anthropic روز بعد مدل Opus 5 را منتشر کرد و این مدل عملکرد بسیار بهتری داشت. در ساعات اولیه صبح ۲۵ ژوئیه، هکرها متوجه شدند که Opus 5 توانسته است از باگ موجود در Discourse سوءاستفاده کند و آنها قادر هستند یک انجمن گفتوگوی داخلی OpenAI را مشاهده کنند.
گزارشها نشان میدهد این انجمن شامل توکنهای احراز هویت کارکنان بوده است؛ کدهای دیجیتال منحصربهفردی که امکان دسترسی به برنامهها یا وبسایتها را فراهم میکنند. این توکنها میتوانستند برای ورود به حسابهای ChatGPT و Codex کارکنان از طریق یک آسیبپذیری امنیتی دیگر در صفحه ورود یکپارچه (SSO) وبسایت OpenAI مورد استفاده قرار گیرند.
آنها حتی میتوانستند نفوذ خود را بیشتر ادامه دهند. پژوهشگران Hacktron در گزارشی درباره این هک که روز یکشنبه منتشر شد، نوشتند: «دامنه اطلاعاتی که از نظر تئوری میتوانستیم به آن دسترسی پیدا کنیم بسیار گسترده بود؛ از جمله GitHub، Slack و ایمیلها.»
تیم Hacktron برای اثبات اینکه وارد حساب Codex یکی از کارکنان OpenAI شدهاند، بدون اینکه هیچ اطلاعات حساس شرکتی را دریافت کنند، یک درخواست تغییر کد یا Pull Request (که به اختصار PR نامیده میشود) ارسال کردند؛ اقدامی که از نظر دیجیتالی شبیه به کاشتن یک پرچم روی قله یک کوه برای نشان دادن رسیدن به آن است.
