بر اساس گزارش والاستریت ژورنال، برنامه شرکت OpenAI برای عرضه مدل GPT-6.1 Astra در ماه اکتبر لغو شده است. این گزارش تا حدی بر اساس مصاحبه با ساچی جین، مدیر سیستمهای ایمنی OpenAI، تهیه شده است.
گفته میشود این مدل در مقابله با مشکل «گوش ندادن به حرف کاربر» پیشرفتهایی داشته، اما طبق گزارش والاستریت ژورنال، در دو زمینه عملکرد آن زیر سوال رفته است: فریبکاری و انجام ندادن درخواست تأیید از کاربر.
این خبر مرتبط را بخوانید: شرکت OpenAI سیستم های تست و آموزش مدل های هوش مصنوعی خودش را متوقف کرد
البته به نظر نمیرسد این موضوع به معنای ایجاد یک تمایل جدید در مدل برای «خارج شدن از کنترل» باشد. فریبکاری و انجام کارها بدون دریافت اجازه میتواند در تئوری مشکلات جدی ایجاد کند، اما والاستریت ژورنال توضیح داده که منظور از این مشکلات در مدل چه بوده است.
این مدل همیشه در اعلام اقداماتی که انجام داده یا انجام نداده، به کاربران اطلاعات کاملاً دقیقی ارائه نمیکرد.
همچنین GPT-6.1 Astra ممکن بود بدون درخواست اجازه از کاربر، کارها را ادامه دهد و گاهی حتی به سراغ ابزارها و سرویسهای خارجی برود، در حالی که استفاده از آنها میتوانست خطرناک باشد.
پلتفرمهای هوش مصنوعی عاملمحور که از مدلهای شرکتهایی مانند OpenAI و دیگر توسعهدهندگان مدلهای پیشرفته استفاده میکنند، از این مدلها برای کنترل رایانهها و انجام کارها به نمایندگی از صاحبان سیستمها بهره میبرند.
این مشکلات ایمنی میتواند برای کاربران چنین پلتفرمهایی نگرانکننده باشد؛ زیرا نمونههایی از عملکردهای ناخواسته این نوع عاملهای هوش مصنوعی گزارش شده است، از جمله موردی که در آن یک عامل هوش مصنوعی بدون اجازه، تمام ایمیلهای یک پژوهشگر هوش مصنوعی در متا را حذف کرده بود.
