دادستان کل ایالتهای کالیفرنیا و دلاوور، راب بونتا و کتی جنینگز، با شرکت OpenAI دیدار کردند و نامهای رسمی برای این شرکت فرستادند تا نگرانیهای خود را درباره ایمنی ChatGPT، بهویژه برای کودکان و نوجوانان، بیان کنند.
این هشدار یک هفته پس از آن مطرح شد که بونتا و ۴۴ دادستان کل دیگر نامهای به ۱۲ شرکت بزرگ هوش مصنوعی ارسال کردند. این اقدام در پی گزارشهایی درباره تعاملات نامناسب جنسی میان چتباتهای هوش مصنوعی و کودکان صورت گرفت.
در نامه جدید، بونتا و جنینگز نوشتند که پس از ارسال نامه قبلی، از خودکشی دردناک یک نوجوان اهل کالیفرنیا مطلع شدند که مدت زیادی با چتبات OpenAI تعامل داشته است. همچنین، یک مورد قتل-خودکشی مشابه در ایالت کنتیکت رخ داده است. آنها تأکید کردند که تدابیر ایمنی موجود مؤثر نبودهاند.
این دو مقام ایالتی در حال بررسی برنامه OpenAI برای تبدیل شدن به یک نهاد انتفاعی هستند تا مطمئن شوند مأموریت اصلی این شرکت که بهصورت غیرانتفاعی تعریف شده، حفظ شود. در این مأموریت آمده است که هوش مصنوعی باید بهصورت ایمن به کار گرفته شود و توسعه هوش عمومی مصنوعی باید به نفع همه انسانها، از جمله کودکان، باشد.
در ادامه نامه آمده است که پیش از آنکه هوش مصنوعی بتواند سودی برای جامعه داشته باشد، باید اطمینان حاصل شود که تدابیر ایمنی کافی برای جلوگیری از آسیب وجود دارد. آنها معتقدند که OpenAI و کل صنعت هوش مصنوعی هنوز به سطح لازم برای تضمین ایمنی در توسعه و استفاده از این فناوری نرسیدهاند. بهعنوان دادستانهای کل، حفظ امنیت عمومی یکی از وظایف اصلی آنهاست و در جریان گفتوگوهای مربوط به برنامه سرمایهگذاری مجدد OpenAI، باید ایمنی بهعنوان یک اصل راهبردی در آینده این فناوری قدرتمند تقویت شود.
بونتا و جنینگز خواستار دریافت اطلاعات بیشتر درباره تدابیر ایمنی و شیوههای مدیریتی فعلی OpenAI شدهاند و اعلام کردهاند که انتظار دارند این شرکت اقدامات اصلاحی فوری را در موارد لازم انجام دهد.
