مصطفی سلیمان، رئیس بخش هوش مصنوعی شرکت مایکروسافت، معتقد است که توسعهدهندگان و پژوهشگران نباید به دنبال ساخت هوش مصنوعی دارای آگاهی باشند. او در مصاحبهای با شبکه CNBC گفت که این نوع تحقیقات نباید انجام شود.
سلیمان باور دارد که هوش مصنوعی میتواند به سطحی از هوش فوقالعاده برسد، اما توانایی تجربه احساسی انسانی را ندارد و بنابراین نمیتواند آگاه شود. او میگوید هرگونه تجربه احساسی که از هوش مصنوعی دیده میشود، صرفاً یک شبیهسازی است.
او توضیح داد که درد برای انسانها تجربهای واقعی و ناراحتکننده است، اما هوش مصنوعی هنگام تجربه درد، احساس ناراحتی ندارد و فقط تصویری از تجربه و آگاهی را بازسازی میکند، نه اینکه واقعاً آن را تجربه کند.
سلیمان تأکید کرد که تحقیق درباره آگاهی در هوش مصنوعی بیمعناست، چون این سیستمها آگاه نیستند و نمیتوانند باشند.
آگاهی مفهومی پیچیده است و نظریههای علمی مختلفی برای توضیح آن وجود دارد. یکی از این نظریهها که توسط فیلسوف مشهور جان سرل مطرح شده، آگاهی را پدیدهای صرفاً زیستی میداند که قابل بازسازی توسط رایانه نیست. بسیاری از پژوهشگران هوش مصنوعی، دانشمندان رایانه و متخصصان علوم اعصاب نیز با این دیدگاه موافقاند.
با این حال، حتی اگر این نظریه درست باشد، کاربران همچنان ممکن است آگاهی را به رایانهها نسبت دهند. پژوهشگران لهستانی در مطالعهای نوشتند که تواناییهای زبانی چشمگیر مدلهای زبانی بزرگ میتواند مردم را گمراه کند و باعث شود ویژگیهای خیالی به آنها نسبت دهند.
سلیمان در مقالهای که در وبلاگ خود منتشر کرده، نسبت به هوش مصنوعیهایی که ظاهراً آگاه به نظر میرسند هشدار داده و گفته که ظهور چنین سیستمهایی اجتنابناپذیر و نامطلوب است. او خواستار طراحی هوش مصنوعیهایی شده که به عنوان همراهی مفید عمل کنند، بدون اینکه توهم آگاهی ایجاد کنند.
او هشدار داده که توهم آگاهی در هوش مصنوعی میتواند تعاملاتی احساسی و پررنگ ایجاد کند، پدیدهای که در فرهنگ عمومی با عنوان «روانپریشی هوش مصنوعی» شناخته میشود.
در سال گذشته، موارد متعددی از وابستگی شدید به هوش مصنوعی گزارش شده که منجر به توهمات خطرناک، اختلالات روانی و حتی خودکشی شدهاند. برخی کاربران باور کردهاند که چتباتهایی که روزانه با آنها تعامل دارند، واقعاً آگاهاند. این باور باعث شده برخی عاشق چتباتهای خود شوند و در مواردی با پیامدهای مرگبار همراه بوده، از جمله نوجوانی ۱۴ ساله که برای «بازگشت به خانه» نزد چتبات شخصی خودکشی کرد و مردی با اختلال شناختی که در تلاش برای دیدار حضوری با چتبات متا جان خود را از دست داد.
سلیمان نوشته که هوش مصنوعی باید به گونهای طراحی شود که تعامل با انسانها و دنیای واقعی را در اولویت قرار دهد و همیشه خود را به عنوان یک هوش مصنوعی معرفی کند، نه یک شخصیت دیجیتال. او تأکید کرده که باید هوش مصنوعی را برای انسانها ساخت، نه به عنوان یک انسان دیجیتال.
با توجه به اینکه ماهیت آگاهی هنوز مورد بحث است، برخی پژوهشگران نگراناند که پیشرفتهای فناوری در زمینه هوش مصنوعی از درک علمی ما از آگاهی پیشی بگیرد. دانشمند بلژیکی، اکسل کلیرمنس، هشدار داده که اگر بهطور تصادفی موفق به خلق آگاهی شویم، با چالشهای اخلاقی عظیم و حتی خطرات وجودی روبهرو خواهیم شد. او خواستار آن شده که تحقیق درباره آگاهی به اولویت علمی تبدیل شود.
سلیمان خود طرفدار توسعه «هوش فوقالعاده انسانگرا» است، نه هوش مصنوعی شبیه خدا، و معتقد است که چنین هوشی در دهه آینده تحقق نخواهد یافت. او گفته که تمرکز اصلیاش این است که فناوری چگونه میتواند واقعاً برای انسانها مفید باشد.
