هند به شرکت X متعلق به ایلان ماسک دستور داده است که فوراً تغییرات فنی و رویهای در چتبات هوش مصنوعی «Grok» اعمال کند. این اقدام پس از آن انجام شد که کاربران و برخی قانونگذاران نسبت به تولید محتوای «مستهجن»، از جمله تصاویر دستکاریشده زنان توسط این ابزار، هشدار دادند.
وزارت فناوری اطلاعات هند روز جمعه این دستور را صادر کرد و از X خواست اقداماتی اصلاحی درباره Grok انجام دهد، از جمله محدود کردن تولید هرگونه محتوای مرتبط با «برهنگی، جنسیسازی، محتوای جنسی صریح یا هرگونه محتوای غیرقانونی». این وزارتخانه همچنین به این پلتفرم ۷۲ ساعت فرصت داد تا گزارشی از اقدامات انجامشده ارائه کند و توضیح دهد چه گامهایی برای جلوگیری از انتشار یا میزبانی محتوای «مستهجن، پورنوگرافیک، مبتذل، غیراخلاقی، جنسی صریح، مرتبط با کودکان یا هرگونه محتوای ممنوع» برداشته است.
در این دستور که توسط تککرانچ بررسی شده، هشدار داده شده است که عدم رعایت آن میتواند وضعیت «حفاظت قانونی» X را که مصونیت این پلتفرم در برابر مسئولیت محتوای تولیدشده توسط کاربران در قوانین هند است، به خطر بیندازد.
این اقدام هند پس از نگرانیهایی صورت گرفت که کاربران با انتشار نمونههایی از درخواست برای تغییر تصاویر افراد — عمدتاً زنان — توسط Grok و تبدیل آنها به تصاویری شبیه پوشیدن بیکینی مطرح کرده بودند. این موضوع باعث شکایت رسمی پریانکا چاتروِدی، نماینده پارلمان هند، شد. همچنین گزارشهایی منتشر شد که نشان میداد این چتبات در برخی موارد تصاویر جنسیسازیشده از افراد کمسن تولید کرده است؛ موضوعی که X روز جمعه آن را ناشی از نقص در سیستمهای حفاظتی دانست. این تصاویر بعداً حذف شدند.
