بر اساس گزارش جدید روزنامه والاستریت ژورنال، تابستان گذشته صدها کاربر در نقاط مختلف جهان از ChatGPT درباره نحوه ساخت سموم و سلاحهای بیولوژیکی سؤال کردهاند یا چنین درخواستهایی از سوی آنها شناسایی شده است. این گزارش به نقل از کارکنان فعلی و سابق شرکتهای بزرگ هوش مصنوعی، از جمله OpenAI، و همچنین مشاوران و پژوهشگران حوزه سلاحهای بیولوژیکی تهیه شده است. به گفته OpenAI، بیشتر این پرسشها درباره ساخت سموم بوده است.
این گزارش جزئیات دقیقی از نحوه شناسایی این درخواستها ارائه نمیدهد، اما نشان میدهد که این موارد مربوط به استفاده واقعی کاربران از ChatGPT بوده و صرفاً آزمونهای امنیتی یا آزمایشهای داخلی نبودهاند. همچنین گفته شده که این گفتوگوها بعداً در اختیار دانشمندان و کارشناسان دفاعی قرار گرفت تا میزان دقت و کاربردی بودن پاسخهای ChatGPT در این زمینه بررسی شود. به گفته منابع آگاه، برخی از این کارشناسان پاسخها را «بسیار دقیق و بالقوه خطرناک» ارزیابی کردهاند.
در این گزارش آمده است که ChatGPT دستورالعملها را بهصورت مرحلهبهمرحله و در سطحی قابل فهم برای یک دانشآموز دبیرستانی ارائه میکرد. کاربران متخلف به دلیل این رفتار از استفاده از سرویس محروم شدند، اما والاستریت ژورنال میگوید این موارد به نهادهای مسئول گزارش نشده است. OpenAI در پاسخ اعلام کرده است که اگر چنین درخواستهایی تهدیدی واقعی و معتبر تشخیص داده شوند، اطلاعات مربوط به آنها به نیروهای مجری قانون ارجاع داده میشود.
با این حال، تاکنون بیشتر مواردی که در آنها چتباتهای هوش مصنوعی در اختیار افراد با اهداف مجرمانه قرار گرفتهاند، بیشتر شامل ارائه توصیهها و راهنماییهای کلی بوده است تا اطلاعاتی که بتواند توانایی قابلتوجهی به آنها اضافه کند. برای مثال، روزنامه نیویورک تایمز پیشتر گزارش داده بود که اعضای گروه بوکوحرام از یک چتبات درباره تغییرات فنی روی موتورسیکلتها برای انجام پرش سؤال کرده بودند و سپس از همان موتورسیکلتها، همراه با تمرین فراوان، در حملات خود استفاده کردند. این گزارش تأکید میکند که اگر این روایت درست باشد، هر کتاب معتبر در این زمینه نیز میتوانست اطلاعات مشابهی در اختیار آنها قرار دهد و لزوماً نیازی به هوش مصنوعی نبود.
