بیش از ۱۰۰ شرکت فعال در حوزه فناوری، از جمله OpenAI، Anthropic، گوگل و مایکروسافت، نامهای مشترک را امضا کردهاند که در آن از بخشهای دولتی و خصوصی خواسته شده برای مقابله با تهدیدات سایبری مرتبط با هوش مصنوعی با یکدیگر همکاری کنند.
در میان امضاکنندگان این نامه، شرکتهای مطرح امنیت سایبری مانند CrowdStrike، Okta و Fortinet و همچنین تعدادی از مؤسسات مالی و شرکتهای فعال در حوزه زیرساخت اینترنت نیز حضور دارند. این نامه بر استفاده از روشهای جدید دفاع سایبری تأکید میکند و از دولتها در سطوح محلی، ملی و بینالمللی میخواهد همکاری بیشتری در زمینه امنیت داشته باشند.
در این نامه آمده است که در ماههای آینده، با افزایش توانایی مدلهای هوش مصنوعی در سراسر جهان، حملات سایبری مبتنی بر هوش مصنوعی بسیار گستردهتر و پیچیدهتر خواهند شد. شرکتها و خدمات عمومی مهمی که مردم به آنها وابسته هستند، از بیمارستانها و مراکز تصفیه آب گرفته تا زیرساختهای اصلی اینترنت، در معرض خطر قرار دارند.
تهدیدی که هوش مصنوعی برای روشهای سنتی امنیت سایبری ایجاد میکند، اخیراً به دنبال مجموعهای از اتفاقات عجیب که در آن عوامل هوش مصنوعی به شرکتها حمله کردهاند، بیشتر مورد توجه قرار گرفته است.
در یکی از این موارد، یک عامل هوش مصنوعی متعلق به OpenAI در شرکت Hugging Face بهصورت خودکار از محیط ایزولهشده خود خارج شد و به این شرکت حمله کرد. پس از این اتفاق، گزارشهای دیگری نیز درباره نفوذ عوامل هوش مصنوعی توسعهیافته توسط شرکتهایی مانند Anthropic و Meta به دیگر شرکتها منتشر شد. این حوادث باعث شده است استدلالها درباره تغییر اساسی حوزه امنیت سایبری و نیاز به راهکارهای تجاری جدید برای مقابله با این تهدیدها تقویت شود.
امضاکنندگان نامه همچنین خواستار شکلگیری یک «پاسخ جمعی» شدهاند؛ رویکردی که در آن «مشارکتهای جدیدی» برای افزایش استانداردهای امنیتی و پیدا کردن راهکارهای تازه در برابر تهدیدات سایبری نوظهور شکل بگیرد.
با این حال، برخی از شرکتهای هوش مصنوعی که این نامه را امضا کردهاند، خود همچنان در حال توسعه مدلهای پیشرفتهتر هستند و همین موضوع موقعیت آنها را تا حدی متناقض میکند. از سوی دیگر، همین شرکتها برنامههایی را نیز برای استفاده دفاعی از مدلهای پیشرفته هوش مصنوعی ارائه کردهاند؛ از جمله برنامه Daybreak شرکت OpenAI، مدل Mythos شرکت Anthropic و پلتفرم امنیت سایبری جدید Perception شرکت مایکروسافت.
