اوپناِیآی در تازهترین اقدام خود برای پاسخ به نگرانیها درباره تأثیر هوش مصنوعی بر جوانان، روز پنجشنبه دستورالعملهای جدیدی درباره نحوه رفتار مدلهای هوش مصنوعی با کاربران زیر ۱۸ سال منتشر کرد و منابع آموزشی سواد هوش مصنوعی برای نوجوانان و والدین ارائه داد. با این حال پرسشهایی درباره میزان اجرای عملی این سیاستها باقی مانده است.
این تغییرات در شرایطی اعلام شد که صنعت هوش مصنوعی و بهویژه اوپناِیآی زیر فشار فزاینده سیاستگذاران، معلمان و فعالان ایمنی کودکان قرار دارد؛ پس از آنکه گزارشهایی درباره خودکشی چند نوجوان پس از گفتوگوهای طولانی با چتباتهای هوش مصنوعی منتشر شد.
نسل Z، متولدین سالهای ۱۹۹۷ تا ۲۰۱۲، فعالترین کاربران چتبات اوپناِیآی هستند و پس از توافق اخیر این شرکت با دیزنی، انتظار میرود شمار بیشتری از جوانان به این پلتفرم جذب شوند؛ پلتفرمی که امکان انجام کارهایی از کمک در تکالیف تا تولید تصویر و ویدئو در موضوعات مختلف را فراهم میکند.
هفته گذشته ۴۲ دادستان کل ایالتهای آمریکا در نامهای به شرکتهای بزرگ فناوری خواستار ایجاد تدابیر حفاظتی در چتباتهای هوش مصنوعی برای محافظت از کودکان و افراد آسیبپذیر شدند. همزمان دولت ترامپ در حال بررسی استاندارد فدرال برای مقررات هوش مصنوعی است و سناتور جاش هاولی از ایالت میزوری طرحی ارائه کرده که تعامل افراد زیر سن قانونی با چتباتهای هوش مصنوعی را بهطور کامل ممنوع میکند.
دستورالعمل تازه اوپناِیآی با نام Model Spec بر پایه مقررات موجود تدوین شده که تولید محتوای جنسی مرتبط با کودکان یا تشویق به خودآزاری، توهم و مانیا را ممنوع میکند. این دستورالعمل قرار است همراه با یک مدل پیشبینی سن اجرا شود که حسابهای متعلق به افراد زیر سن قانونی را شناسایی کرده و بهطور خودکار تدابیر حفاظتی ویژه نوجوانان را فعال کند.
