مارک زاکربرگ، مدیرعامل متا، روز دوشنبه یک مقاله ۶۵۰۰ کلمهای درباره هوش مصنوعی شخصی منتشر کرد که بخش زیادی از آن به قابلیتهای سیستمهای «ابرهوش شخصی» مورد توسعه متا اختصاص دارد. (TechCrunch)
ایدههای مطرحشده در این مقاله کاملاً جدید نیستند. نسخهای از این مطلب حدود دو هفته پیش در والاستریت ژورنال منتشر شده بود و زاکربرگ نیز پیشتر در نشستهای اعلام نتایج مالی متا درباره این دیدگاهها صحبت کرده بود. با این حال، مقاله جدید جامعترین و مفصلترین توضیح او درباره آینده هوش مصنوعی شخصی به شمار میرود.
برخی این نوشته را پاسخی به نگرانیهای بدبینانه درباره آینده هوش مصنوعی توصیف کردهاند، اما هدف اصلی زاکربرگ بیشتر توضیح دلایلی است که او شخصاً به خاطر آنها نسبت به تأثیر هوش مصنوعی بر جامعه هیجانزده است. او در حالی که تصویری از آیندهای سرشار از امکانات و مبتنی بر ابرهوش ترسیم میکند، همزمان بارها به خطرات و مشکلاتی اشاره میکند که ممکن است در مسیر توسعه این فناوری ایجاد شوند.
هوش مصنوعی برای من هم هیجانانگیز است و به همین دلیل مرتب درباره آن مینویسم، اما بخش زیادی از مردم هوش مصنوعی را فناوریای عجیب، نگرانکننده و ناخوشایند میدانند. بنابراین مهم است دقیقتر بررسی کنیم چه اتفاقی در حال رخ دادن است و چرا نوشتههایی مانند مقاله زاکربرگ لزوماً به نفع صنعت هوش مصنوعی نیستند.
شبکههای اجتماعی همچنان موضوعی حساس در صنعت فناوری هستند و در اینجا فرصت بررسی تمام انتقادهایی که درباره فیسبوک مطرح شده وجود ندارد. همینقدر کافی است بدانیم که هم فیسبوک به عنوان یک محصول و هم زاکربرگ به عنوان یک چهره عمومی، محبوبیت چندانی میان مردم آمریکا ندارند. یک نظرسنجی اخیر نشان داده است که ۶۴ درصد آمریکاییها معتقدند شبکههای اجتماعی برای دموکراسی مضر بودهاند و تقریباً همین میزان نیز معتقدند این پلتفرمها باید تحت نظارت و مقررات بیشتری قرار بگیرند. این دیدگاهها تقریباً در میان گروههای سیاسی مختلف به یک اندازه دیده میشود. همین آخر هفته نیز یک دادگاه، متا را به دلیل آسیبهایی که به کودکان وارد شده، به پرداخت ۵۶۷ میلیون دلار جریمه محکوم کرد. در مجموع، فضای چندان مثبتی پیرامون این شرکت وجود ندارد.
طرح این موضوع به این معنا نیست که زاکربرگ باید از روی شرمندگی از جامعه فاصله بگیرد، اما پیامدهای شبکههای اجتماعی یکی از دلایل اصلی افزایش نگرانیها درباره تأثیرات اجتماعی هوش مصنوعی است. چه این نگاه منصفانه باشد و چه نباشد، مردم دیگر به مدیران شرکتهای فناوری اعتماد ندارند که اطمینان حاصل کنند فناوریهای جدید تأثیر مثبتی بر جامعه خواهند داشت. به جای اینکه زاکربرگ این بیاعتمادی را بپذیرد و برای بازسازی اعتماد عمومی تلاش کند، مقاله او بارها نشان میدهد چرا چنین اعتمادی در وهله اول از بین رفته است.
بخش قابلتوجهی از این مقاله به صحبتهای کلی و مبهم درباره مفهوم هوش اختصاص دارد؛ صحبتهایی که شباهت زیادی به اظهارنظرهای کلی زاکربرگ و جک دورسی درباره آزادی بیان دارد. برای مثال، زاکربرگ معتقد است هرچه ابزارهای قدرتمندتری در اختیار مردم قرار بگیرد، هر فرد توانایی بیشتری برای تأثیرگذاری بر آینده پیدا خواهد کرد. از نگاه او، افراد و نهادهایی که منافع متفاوتی دارند به طور طبیعی یکدیگر را کنترل و متعادل میکنند و در نهایت به نتایج مثبتی منجر میشوند. او همچنین معتقد است بهترین و واقعبینانهترین مسیر برای ساخت آیندهای مثبت با هوش مصنوعی، در دسترس قرار دادن ابرهوش برای همه است.
اما مسئله اینجاست که این دیدگاه بیشتر شبیه یک نتیجهگیری فلسفی کلی ارائه شده تا توضیحی درباره یک محصول مشخص به نام «هوش شخصی» که متا در حال توسعه و عرضه آن است. اگر کسی از قبل نسبت به زاکربرگ و متا بیاعتماد باشد، ممکن است این تصور برایش ایجاد شود که هدف از چنین نوشتهای این است که ابتدا خود زاکربرگ را متقاعد کند هیچ اتفاق بدی در نتیجه توسعه این فناوری رخ نخواهد داد.
این احساس برای من زمانی شدیدتر شد که زاکربرگ به نمونههای مشخصی از کاربردهای هوش مصنوعی پرداخت؛ نمونههایی که بسیاری از آنها به شکل نگرانکنندهای با واقعیت استفاده از ابزارهای هوش مصنوعی فاصله دارند. برای مثال، زاکربرگ درباره کاربرد هوش مصنوعی در آموزش میگوید:
او معتقد است هر فرد میتواند یک معلم و مربی شخصی داشته باشد که در همه موضوعات مدرک دکترا دارد و با صبر نامحدود به او کمک میکند هر چیزی را که میخواهد یاد بگیرد. به گفته زاکربرگ، دانشآموزان میتوانند در زمینههایی که به کمک بیشتری نیاز دارند، از پشتیبانی برخوردار شوند؛ امکاناتی که در حال حاضر فقط در اختیار خانوادههایی است که توانایی پرداخت هزینه آن را دارند. بزرگسالان نیز میتوانند یک دستیار آموزشی بسیار هوشمند داشته باشند که دقیقاً میداند چگونه مهارتهای شغلی جدید، زبانهای تازه، سرگرمیها یا هر موضوع دیگری را به آنها آموزش دهد.
اما محصولی که زاکربرگ توصیف میکند همین حالا هم وجود دارد: چتباتهای عمومی مانند ChatGPT، Claude و Gemini. این ابزارها واقعاً میتوانند برای یادگیری درباره موضوعات مختلف مفید باشند، اما در حوزه آموزش، یکی از مهمترین کاربردهای آنها در عمل دور زدن فرایند یادگیری است. دانشآموز میتواند از همین «معلم شخصی» بخواهد تکالیفش را انجام دهد یا مقالهای را که باید خودش بنویسد، تهیه کند. از طرف دیگر، به دلیل نبود یک سیستم قابل اعتماد برای شناسایی و واترمارکگذاری محتوای تولیدشده با هوش مصنوعی، معلمان همیشه نمیتوانند با اطمینان تشخیص دهند کدام مقاله با هوش مصنوعی نوشته شده است.
این نمونه شاید در مقایسه با برخی آسیبهای احتمالی هوش مصنوعی موضوعی کمخطر به نظر برسد، اما واقعیتی است که همین حالا در حال رخ دادن است. گاهی یک فناوری با هدف انجام کارهای مفید طراحی میشود، اما پیامدهای ناخواستهای پیدا میکند که شرایط را بدتر میکند. اینکه یکی از قدرتمندترین افراد جهان حاضر نیست چنین واقعیتی را بپذیرد، میتواند بهطور قابل درکی باعث نگرانی مردم شود.
زاکربرگ در بخش دیگری از مقاله خود، مثالی درباره تأثیر هوش مصنوعی بر نظام حقوقی و بهبود آن ارائه میکند. او میگوید اگر تنها یک نفر به یک وکیل فوقهوشمند مجهز به هوش مصنوعی دسترسی داشته باشد، حتی در صورتی که حق با او نباشد، در دادگاه مزیت ناعادلانهای خواهد داشت و این موضوع میتواند به جامعهای بدتر منجر شود. اما اگر همه افراد یک وکیل فوقهوشمند در اختیار داشته باشند، عدالت میتواند بسیار عادلانهتر و کارآمدتر از امروز اجرا شود؛ زمانی که در بسیاری از پروندهها میان طرفین از نظر مهارت و منابع حقوقی تفاوت زیادی وجود دارد.
بار دیگر، این مثال از ابتدا با یک پیشفرض مشخص مطرح شده است. دسترسی عمومی به ابزارهای حقوقی مبتنی بر هوش مصنوعی ممکن است واقعاً به ایجاد جامعهای عادلانهتر کمک کند، اما از سوی دیگر میتواند به پیچیدگیهای بوروکراتیک موجود اضافه کند. حتی ممکن است موج جدیدی از طرح شکایتهای بیاساس و آزاردهنده را به راه بیندازد و سیستم قضایی را با چیزی شبیه «اسپم حقوقی» پر کند. در چنین شرایطی سخت است که نسبت به آینده کاملاً آرام بود؛ بهخصوص وقتی زاکربرگ ظاهراً نگرانی چندانی درباره این احتمالات ندارد. همین مسئله باعث نگرانی بیشتر میشود.
در بخشهای دیگری از مقاله نیز حتی توضیحات زاکربرگ درباره مدلهای تجاری فعلی متا، حالتی عجیب و انتزاعی پیدا میکند. برای مثال، او درباره تعهد متا به مدل فریمیوم میگوید همه افراد باید به این ابزارها دسترسی رایگان یا ارزان داشته باشند و نسخههای رایگان این سرویسها برای میلیاردها نفر ارائه خواهد شد. به گفته او، افرادی که بخواهند از توان پردازشی بیشتری استفاده کنند، میتوانند از یک سازوکار مزایده پویا استفاده کنند که پایینترین قیمت ممکن را برای هوش مصنوعی و توان پردازشی مورد استفاده آنها تعیین میکند و در عین حال تضمین میکند ظرفیت پردازشی برای مواردی استفاده شود که مردم در مجموع ارزشمندتر میدانند. زاکربرگ معتقد است این مدل باعث میشود مزایای ابرهوش به شکل گسترده میان مردم توزیع شود.
در کلیات، میتوان با این دیدگاه موافق بود. زاکربرگ درست میگوید که دسترسی به هوش مصنوعی یک مسئله مهم است و مدل فریمیوم میتواند دسترسی افراد بیشتری را نسبت به مدلی که همه کاربران باید از ابتدا هزینه پردازش را پرداخت کنند، فراهم کند. بازارهای پویا برای خرید توان پردازشی نیز همین حالا وجود دارند و ایدهای کاملاً خارج از چارچوب صنعت فناوری نیستند. اما دلیل مشخصی وجود دارد که تقریباً تمام محصولات هوش مصنوعی مصرفی، کاربران را از قیمت لحظهای توان پردازشی مورد استفادهشان جدا میکنند؛ افزایش ناگهانی قیمتها تجربه کاربری بسیار بدی ایجاد میکند، بهخصوص زمانی که کاربر برای انجام امور کاری خود به یک ابزار وابسته باشد.
در اینجا نیز باید فرض کرد زاکربرگ از این مسئله آگاه است و واقعاً قصد ندارد قیمت توکنهای هوش مصنوعی را از طریق مزایدههای لحظهای تعیین کند. با این حال، پس از خواندن این مقاله، دیگر مانند گذشته از این موضوع مطمئن نیستم.
راههای بهتری برای صحبت درباره این مسائل وجود دارد. با وجود تمام ایرادهایی که میتوان به سم آلتمن و داریو آمودی گرفت، هر دو در ارتباط مستقیم با مردم عملکرد نسبتاً خوبی دارند. آنها دقیقاً کاری را انجام میدهند که زاکربرگ در این مقاله از انجام آن اجتناب میکند: خطرات هوش مصنوعی را میپذیرند، درباره اقدامات احتیاطی خود توضیح میدهند و تلاش میکنند مخاطبان را متقاعد کنند که میتوان به آنها اعتماد کرد.
