پس از شکایتهای متعدد درباره نبود تدابیر ایمنی کافی در چتباتهای هوش مصنوعی که در برخی موارد با خودکشی نوجوانان و دیگر مشکلات مرتبط با سلامت روان همراه بوده است، شرکت OpenAI روز دوشنبه از راهاندازی ChatGPT برای نوجوانان خبر داد. این نسخه قرار است تدابیر ایمنی بیشتری داشته باشد و همچنین به مشکل تقلب در مدارس با کمک ChatGPT بپردازد.
در بخش آموزشی، ChatGPT برای نوجوانان قابلیت جدیدی به نام «حالت مطالعه» و ابزارهای دیگری ارائه میکند که نوجوانان را تشویق میکنند به جای دریافت پاسخ سریع، کنجکاوی خود را دنبال کنند و خودشان مراحل حل مسائل را طی کنند.
طبق توضیحات OpenAI، حالت مطالعه با ارائه پرسشهای راهنما و کمک مرحلهبهمرحله، به نوجوانان کمک میکند مطالب درسی را بهتر درک کنند. همچنین اگر سیستم تشخیص دهد یک نوجوان به جای تلاش برای یادگیری، قصد دارد برای انجام تکالیف تقلب کند، یادآوریهایی درباره انجام تکالیف نمایش داده میشود و چتبات او را به استفاده از حالت مطالعه هدایت میکند.
این برنامه همچنین از آزمونهای کوتاه، ابزارهای بصری برای یادگیری و تنظیماتی پشتیبانی میکند که به والدین یا سرپرستان اجازه میدهد مشخص کنند حالت مطالعه چه زمانی بهصورت پیشفرض فعال باشد.
با این حال، هنوز مشخص نیست نوجوانان تا چه اندازه میتوانند از این سیستمهای جدید عبور کنند، بهخصوص اگر تمایلی به همکاری با آنها نداشته باشند. نوجوانان معمولاً مهارت زیادی در دور زدن کنترلهای والدین و محدودیتهای دیجیتال دارند. بنابراین تا زمانی که حالت نوجوانان ChatGPT در شرایط واقعی و آزمایشهای سختتر بررسی نشود، مشخص نیست این تدابیر ایمنی در عمل تا چه اندازه میتوانند مانع دور زدن محدودیتها شوند.
OpenAI اعلام کرده است که تدابیر ایمنی متناسب با سن، از این پس بهصورت پیشفرض در ChatGPT برای نوجوانان فعال خواهند بود. هدف این تدابیر کاهش دسترسی نوجوانان به محتوای آسیبزا یا نامناسب برای سن و مرحله رشد آنهاست. این اقدامات بر اساس اصول مربوط به کاربران زیر ۱۸ سال در دستورالعملهای مدل OpenAI طراحی شدهاند و به گفته این شرکت، در تدوین آنها از پژوهشهای مربوط به رشد نوجوانان و راهنمایی متخصصان استفاده شده است.
والدین نیز میتوانند از ابزارهای خانوادگی و کنترلهای والدین که پیشتر توسط OpenAI ارائه شدهاند استفاده کنند. این ابزارها به والدین اجازه میدهند تنظیمات حساب را مدیریت کنند، اعلانهای مربوط به مسائل ایمنی را دریافت کنند و برای استفاده از ChatGPT ساعات مشخصی را بهعنوان «ساعات سکوت» تعیین کنند.
OpenAI همچنین از همکاری با CodeAI برای آموزش بیشتر نوجوانان درباره هوش مصنوعی خبر داده است. این برنامه به نوجوانان کمک میکند با نحوه کار هوش مصنوعی، روش هدایت و پرسش از آن و شیوه استفاده صحیح از این فناوری آشنا شوند. OpenAI در بخش آموزشی نیز پیشتر ChatGPT for Teachers را ارائه کرده است که به مدارس امکان میدهد دسترسی سازمانی و مدیریتشده به ابزارهای هوش مصنوعی داشته باشند.
