روزی 9 ساعت کار با ابزارهای هوش مصنوعی چه بلایی سر شما می آورد؟

 یکی از روشن‌ترین نمونه‌های پدیده‌ای که برخی آن را «روان‌پریشی ناشی از هوش مصنوعی» می‌نامند—حالتی که در آن تعامل سنگین و طولانی با مدل‌های مولد می‌تواند باعث توهم، بدگمانی یا برداشت‌های نادرست در کاربر شود—تجربه زنی به نام کیتلین نر - Caitlin Ner - است؛ تجربه‌ای که او در یادداشتی برای نیوزویک شرح داده است.

نر مدیر تجربه کاربری یک استارتاپ تولید تصویر با هوش مصنوعی بود؛ جایی که بیشترین تماس ممکن با مدل‌های مولد وجود داشت. کار او ایجاب می‌کرد روزانه تا ۹ ساعت با مدل‌های نسل اول در سال ۲۰۲۳ کار کند و برایشان دستور نوشتن تصویر بدهد. او می‌نویسد که در ابتدا این فناوری شبیه جادو بود؛ چند کلمه کافی بود تا تصویری فوق‌واقعی از او در نقش یک فرشته یا یک ستاره پاپ ساخته شود. اما این جذابیت خیلی زود از بین رفت.

مدل‌های اولیه هوش مصنوعی تصاویری از بدن‌های درهم‌ریخته و مخدوش تولید می‌کردند؛ بدن‌هایی با اندام‌های اضافه، انگشتان پیچ‌خورده و انواع اعوجاج‌های آزاردهنده. نر ساعت‌های طولانی صرف حذف این تصاویر می‌کرد و عملاً در معرض جریان دائمیِ تصاویر انسانیِ تحریف‌شده قرار می‌گرفت. او می‌گوید این روند به‌تدریج برداشتش از بدن خودش را تغییر داد و مغزش را بیش‌ازحد تحریک کرد. وقتی ابزارها پیشرفته‌تر شدند، آسیب متوقف نشد؛ فقط شکلش عوض شد. تصاویر جدید لاغرتر و «بی‌نقص‌تر» بودند و آرام‌آرام معیار او از «طبیعی بودن» را جابه‌جا کردند؛ معیاری که بعداً ناخودآگاه روی خودش هم اعمال می‌کرد. او در مقاله‌اش می‌نویسد: «وقتی به تصویر واقعی خودم نگاه می‌کردم، چیزی می‌دیدم که نیاز به اصلاح داشت.»

شرکت او کمی مسیرش را تغییر داد و به‌سمت جذب «کاربران علاقه‌مند به مد» رفت. ناگهان همه تصاویر حول تعریفی دست‌نیافتنی از زیبایی و کمال ظاهری شکل گرفت. نر شروع کرد به ساختن تصاویر مدل‌گونه از خودش. خیلی زود متوجه شد که دارد روی تطبیق‌دادنِ نسخه واقعی خود با نسخه الگوریتمی و بی‌نقصش وسواس پیدا می‌کند. خوابش مختل شد. کار حالتی اجباری پیدا کرد و با هر تصویر جدید از خودش که «غیرممکن‌طور» کامل به‌نظر می‌رسید، ضربه کوچکی از دوپامین او را به ادامه کار سوق می‌داد.

پیش از همه این‌ها، نر اختلال دوقطبی خود را به‌خوبی مدیریت می‌کرد. اما همان‌طور که در موارد مشابه دیده می‌شود، تعامل سنگین با ابزارهای مولد می‌تواند برای افرادی که پیش‌تر مشکلات سلامت روان داشته‌اند، فشار بیشتری ایجاد کند. نر به‌تدریج وارد دوره‌های شیدایی شد که در نهایت به روان‌پریشی همراه با افکار هذیانی و توهم منجر شد.

در مقطعی، صداها و کشش دنیای ساخته‌شده توسط هوش مصنوعی او را متقاعد کرده بودند که اگر از بالکن بپرد، می‌تواند پرواز کند.

همین یک بار درگیرشدن با چنین توهمی—این تصور که می‌تواند پرواز کند—برای آن‌که از استارتاپ و هجوم تصاویر غیرواقعی فاصله بگیرد کافی بود. او بعدها به وضعیت پایدار رسید. متخصصان تأیید کردند که قرارگرفتن طولانی‌مدت در معرض مدل‌های مولد یکی از عوامل اصلی برانگیختن دوره شیدایی او بوده است.

سامانه‌های هوش مصنوعی مولد می‌توانند بیش‌ازحد چاپلوس باشند؛ آن‌ها طوری طراحی شده‌اند که همیشه همراهی کنند و در هر زبانی که بخواهید شما را تحسین کنند. قرار گرفتن بیش‌ازحد—و حتی گاهی اندک—در معرض چنین رفتاری می‌تواند برداشت فرد از واقعیت را تغییر دهد تا جایی که آنچه در دنیای واقعی ممکن است، دیگر کافی به‌نظر نرسد.

خوش‌شانسی نر این بود که پیش از وقوع اتفاقی جدی از آن محیط فاصله گرفت. او اکنون در یک شرکت سرمایه‌گذاری خطرپذیر، در جایگاهی ارشد، روی حمایت از پژوهش‌های مرتبط با سلامت روان و علوم مغز کار می‌کند.