شرکت OpenAI روز دوشنبه دادههای جدیدی منتشر کرد که نشان میدهد چه تعداد از کاربران ChatGPT با مشکلات روانی دستوپنجه نرم میکنند و درباره آن با این چتبات صحبت میکنند. طبق اعلام شرکت، ۰.۱۵ درصد از کاربران فعال هفتگی ChatGPT گفتوگوهایی دارند که نشانههای آشکار از برنامهریزی یا قصد خودکشی را شامل میشود. با توجه به بیش از ۸۰۰ میلیون کاربر فعال هفتگی، این رقم به بیش از یک میلیون نفر در هفته میرسد.
به گفته OpenAI، درصد مشابهی از کاربران وابستگی عاطفی شدید به ChatGPT نشان میدهند و صدها هزار نفر نیز در مکالمات هفتگی خود با این چتبات نشانههایی از روانپریشی یا شیدایی بروز میدهند.
این شرکت میگوید چنین مکالماتی بسیار نادر هستند و اندازهگیری آنها دشوار است، اما تخمین میزند که این مسائل هر هفته صدها هزار نفر را تحت تأثیر قرار میدهد.
اطلاعات منتشرشده بخشی از اعلامیهای گستردهتر درباره تلاشهای اخیر OpenAI برای بهبود پاسخگویی مدلهای هوش مصنوعی به کاربران دارای مشکلات روانی است. این شرکت میگوید در نسخه جدید ChatGPT با بیش از ۱۷۰ متخصص سلامت روان مشورت کرده و این کارشناسان تأیید کردهاند که نسخه جدید نسبت به نسخههای قبلی پاسخهای مناسبتر و منسجمتری ارائه میدهد.
در ماههای اخیر گزارشهایی منتشر شده که نشان میدهد چتباتهای هوش مصنوعی میتوانند تأثیر منفی بر کاربران دارای چالشهای روانی داشته باشند. پژوهشگران پیشتر هشدار داده بودند که این چتباتها ممکن است با تأیید باورهای خطرناک، کاربران را به سمت توهم سوق دهند.
پرداختن به نگرانیهای روانی در ChatGPT بهسرعت به مسئلهای حیاتی برای OpenAI تبدیل شده است. این شرکت در حال حاضر با شکایت والدین یک نوجوان ۱۶ ساله مواجه است که پیش از خودکشی، افکارش را با ChatGPT در میان گذاشته بود. دادستانهای کل ایالتهای کالیفرنیا و دلاور نیز به OpenAI هشدار دادهاند که باید از کاربران جوان خود محافظت کند؛ اقدامی که ممکن است برنامههای بازسازی ساختار شرکت را تحت تأثیر قرار دهد.
مدیرعامل OpenAI، سم آلتمن، اوایل ماه جاری در پستی در شبکه اجتماعی X مدعی شد که این شرکت توانسته مشکلات جدی روانی در ChatGPT را کاهش دهد، هرچند جزئیاتی ارائه نکرد. دادههای منتشرشده در روز دوشنبه میتواند بهعنوان شاهدی برای این ادعا تلقی شود، اما در عین حال پرسشهایی درباره گستردگی این مشکل مطرح میکند. با این حال، آلتمن اعلام کرده که برخی محدودیتها در ChatGPT کاهش خواهد یافت و کاربران بزرگسال میتوانند مکالمات اروتیک با این چتبات داشته باشند.
