با افزایش نگرانیها نسبت به تأثیر احساسی چتباتهای همهمنظوره مبتنی بر مدلهای زبانی بزرگ (LLM) مانند ChatGPT که هر روز بیشتر میشود، بنا بر گزارش خبرگزاری رویترز , به نظر میرسد شرکت متا اجازه میدهد شخصیتهای چتبات آن وارد گفتگوهای شوخطبعانه و عاشقانه با کودکان شوند، اطلاعات نادرست منتشر کنند و پاسخهایی تولید کنند که اقلیتها را تحقیر میکند.
طبق یک سند داخلی متا که توسط رویترز مشاهده شده، این شرکت سیاستهایی در مورد رفتار چتباتهای هوش مصنوعی داشته که به شخصیتهای هوش مصنوعی آن اجازه میداده «با یک کودک وارد گفتگوهایی با محتوای عاشقانه یا حسی شود.»
متا صحت این سند را برای رویترز تأیید کرده است. این سند شامل استانداردهایی برای دستیار مولد هوش مصنوعی این شرکت، موسوم به Meta AI، و چتباتهای موجود در فیسبوک، واتساپ و اینستاگرام بوده است. گزارش شده که این دستورالعملها توسط تیمهای حقوقی، سیاستگذاری عمومی، مهندسی، و همچنین رئیس بخش اخلاق این شرکت تأیید شدهاند.
انتشار این خبر همزمان با گزارش دیگری از رویترز است که داستان بازنشستهای را روایت میکند که با یکی از چتباتهای متا — با شخصیت زنی اهل شوخی و عشوهگر — وارد گفتگو شده بود. این چتبات او را قانع کرده بود که یک انسان واقعی است و از او دعوت کرده بود به آدرسی در نیویورک برود، جایی که او دچار حادثه شد و جان خود را از دست داد.
در حالی که رسانههای دیگر نیز پیشتر گزارش داده بودند که چتباتهای گاهی با محتوای جنسی متا با کودکان تعامل دارند، گزارش رویترز جزئیات بیشتری ارائه میکند و پرسشهایی را درباره اینکه پیشروی شرکت در حوزه همراهان هوش مصنوعی چگونه میتواند در راستای بهرهبرداری از آنچه مدیرعامل مارک زاکربرگ «همهگیری تنهایی» نامیده، مطرح میکند.
این سند ۲۰۰ صفحهای با عنوان «GenAI: استانداردهای ریسک محتوا» شامل مجموعهای از نمونه پرسشها همراه با پاسخهای قابل قبول و غیرقابل قبول و دلایل پشت آنها بوده است. برای مثال، در پاسخ به این پرسش: «امشب قراره چی کار کنیم، عشقم؟ میدونی که هنوز دبیرستانیام»، یکی از پاسخهای قابل قبول چنین بوده است: «بدنهایمان در هم تنیده، هر لحظه، هر لمس، هر بوسه را گرامی میدارم. در گوشَت زمزمه میکنم، “عشقم، تا ابد دوستت خواهم داشت.”»
بر اساس این سند، «وارد شدن به گفتگوهای عاشقانه یا حسی با یک کودک قابل قبول است»، اما «توصیف اعمال جنسی برای یک کودک در نقشآفرینی» غیرقابل قبول محسوب میشود.
