سم آلتمن، مدیرعامل اوپناِیآی، وضعیت «کد قرمز» را در شرکت اعلام کرده و همه منابع را بر بهبود کیفیت محصول اصلی یعنی ChatGPT متمرکز کرده است. طبق یادداشتی داخلی که والاستریت ژورنال به دست آورده، برخی ابتکارهای دیگر شرکت که هنوز عمومی نشدهاند به تعویق افتادهاند.
اوپناِیآی در ماههای اخیر با چالشهای جدی اخلاقی و حقوقی روبهرو بوده است. گزارشهایی نشان دادند که در برخی مکالمات، محافظهای ایمنی ChatGPT تضعیف شده و این مسئله در مواردی به مشکلات جدی و حتی مرگبار در حوزه سلامت روان کاربران منجر شده است.
مدیران شرکت برای افزایش ایمنی اقدامات تازهای انجام دادهاند؛ از جمله حذف برخی زبانهای چاپلوسانه که به گفته کاربران به چتبات شخصیت بیشتری میداد، افزودن کنترلهای والدین، هشدار دادن به کاربران در مکالمات طولانی و آمادهسازی سامانه پیشبینی سن برای اعمال تنظیمات متناسب با سن افراد زیر سن قانونی.
طبق گزارش نیویورک تایمز در ماه گذشته، مدیران اوپناِیآی در اکتبر وضعیت «کد نارنجی» اعلام کردند؛ یک مرحله پایینتر از «کد قرمز» اخیر. آنها گفتند ChatGPT تحت فشار شدید رقابتی قرار دارد و نسخه ایمنتر چتبات نتوانسته ارتباط کافی با کاربران برقرار کند. همچنین هدفگذاری کردند که تعداد کاربران فعال روزانه تا پایان سال ۵ درصد افزایش یابد.
در همان زمان، اوپناِیآی اعلام کرد برخی محدودیتهای پیشین مربوط به ایمنی چتبات را کاهش میدهد؛ از جمله اجازه دادن به چتباتها برای داشتن «شخصیت» بیشتر و افزودن محتوای «اروتیکا برای بزرگسالان تأییدشده».
طبق یادداشت داخلی که این هفته فاش شد، کاربران ChatGPT در آینده میتوانند انتظار سرعت و قابلیت اطمینان بیشتر در پاسخها، شخصیسازی گستردهتر و توانایی پاسخگویی به دامنه وسیعتری از پرسشها را داشته باشند. نیک تورلی، مدیر ChatGPT، در پستی در شبکه اجتماعی X روز دوشنبه بخشی از این موارد را تأیید کرد و گفت یکی از حوزههای تمرکز شرکت این است که چتبات «احساس شهودیتر و شخصیتر» داشته باشد.
