در پستی در وبلاگ شخصی خود، سام آلتمن، مدیرعامل OpenAI، گفت که معتقد است OpenAI "میداند چگونه [هوش عمومی مصنوعی] (AGI) را به شکلی که به طور سنتی درک شده است، بسازد" و در حال شروع به هدفگیری "ابَرهوش" است.
آلتمن در این پست که دیروقت یکشنبه شب منتشر شد، نوشت: "ما محصولات فعلیمان را دوست داریم، اما اینجا هستیم برای آیندهای درخشان. ابزارهای ابرهوشمند میتوانند اکتشافات علمی و نوآوری را به شدت فراتر از آنچه که به تنهایی قادر به انجام آن هستیم، تسریع کنند و در نتیجه فراوانی و رفاه را به طور چشمگیری افزایش دهند."
آلتمن پیشتر گفته بود که ابرهوش ممکن است "چند هزار روز" دیگر فاصله داشته باشد و رسیدن به آن "خفنتر از چیزی است که مردم فکر میکنند!"
AGI یا هوش عمومی مصنوعی، یک اصطلاح مبهم است. اما OpenAI تعریف خود را دارد: "سیستمهای بسیار خودمختار که در بیشتر کارهای با ارزش اقتصادی از انسانها پیشی میگیرند." OpenAI و مایکروسافت، همکار و سرمایهگذار نزدیک این استارتآپ، همچنین تعریفی از AGI دارند: سیستمهای هوش مصنوعی که میتوانند حداقل ۱۰۰ میلیارد دلار سود ایجاد کنند. (هنگامی که OpenAI به این هدف برسد، مایکروسافت طبق توافق بین دو شرکت، دسترسی به فناوری آن را از دست خواهد داد.)
بنابراین، آلتمن ممکن است به کدام تعریف اشاره کند؟ او به طور صریح چیزی نمیگوید. اما به نظر میرسد که تعریف اول محتملتر باشد. آلتمن در این پست نوشت که فکر میکند عاملهای هوش مصنوعی — سیستمهای هوش مصنوعی که میتوانند به طور خودکار وظایف خاصی را انجام دهند — ممکن است "به نیروی کار بپیوندند" و "به طور ملموسی خروجی شرکتها را تغییر دهند."
او نوشت: "ما همچنان معتقدیم که ارائه ابزارهای عالی به مردم به صورت تدریجی، منجر به نتایج عالی و گستردهای میشود."
این ممکن است. اما همچنین درست است که فناوری هوش مصنوعی امروزی محدودیتهای فنی قابل توجهی دارد: دچار توهم میشود. اشتباهاتی مرتکب میشود که برای هر انسانی آشکار است. و این اشتباهات میتواند بسیار گران باشد.
آلتمن به نظر میرسد مطمئن است که همه این مشکلات قابل حل هستند . اما اگر چیزی باشد که در سالهای اخیر درباره هوش مصنوعی یاد گرفتهایم، این است که زمانبندیها میتوانند تغییر کنند.
او نوشت: "ما کاملاً مطمئن هستیم که در چند سال آینده، همه آنچه را که ما میبینیم خواهند دید و نیاز به عمل با دقت بسیار زیاد، در حالی که همچنان به حداکثر رساندن منافع گسترده و توانمندسازی، بسیار مهم است. با توجه به امکانات کار ما، OpenAI نمیتواند یک شرکت عادی باشد. چقدر خوششانس و فروتنکننده است که بتوانیم در این کار نقش داشته باشیم."
امیدواریم که با تغییر تمرکز OpenAI به آنچه که ابرهوش میداند، این شرکت منابع کافی را برای اطمینان از رفتار ایمن سیستمهای ابرهوشمند اختصاص دهد.
OpenAI چندین بار نوشته است که انتقال موفقیتآمیز به جهانی با ابرهوش "به هیچ وجه تضمینشده نیست" — و این که همه پاسخها را ندارد. این شرکت در پستی در ژوئیه ۲۰۲۳ نوشت: "[ما] راهحلی برای هدایت یا کنترل یک هوش مصنوعی بالقوه ابرهوشمند و جلوگیری از سرکشی آن نداریم. انسانها نمیتوانند به طور قابل اعتمادی سیستمهای هوش مصنوعی بسیار باهوشتر از خود را نظارت کنند، و بنابراین تکنیکهای همسویی فعلی ما به ابرهوش مقیاسپذیر نخواهند بود."
از زمان انتشار آن پست، OpenAI تیمهای متمرکز بر ایمنی هوش مصنوعی، از جمله ایمنی سیستمهای ابرهوشمند، را منحل کرده و شاهد خروج چندین محقق تأثیرگذار متمرکز بر ایمنی بوده است. برخی از این کارکنان، اهداف تجاری فزاینده OpenAI را دلیل ترک خود عنوان کردند؛ OpenAI در حال حاضر در حال انجام یک بازسازی شرکتی است تا برای سرمایهگذاران خارجی جذابتر شود.
آلتمن در مصاحبهای اخیر در پاسخ به منتقدانی که میگویند OpenAI به اندازه کافی بر ایمنی متمرکز نیست، گفت: "من به سابقه خودمان اشاره می کنم."