آنتروپیک به خود بهبودی رسیده است که چیز خطرناکی است

🍍 هوش مصنوعی آناناس Ai

با دستیار هوشمند و تخصصی آناناس، دنیایی از سرعت، دقت و پاسخ‌های دقیق را تجربه کنید. همین حالا امتحان کنید!

ورود به آناناس Ai
آی تی نویس را بیشتر در گوگل ببینید
بهروز فیض

 آنتروپیک هفته گذشته بی‌سروصدا اعلام کرد که فناوری‌اش از «آستانه‌ای» عبور کرده است که پس از آن باید برای مقابله با خودبهبودی بازگشتی تمهیداتی در نظر گرفته شود؛ نقطه‌ای نظری که در آن فناوری هوش مصنوعی می‌تواند خودش را بهبود دهد.



آیا این یعنی نقطهٔ تکینگی، بی‌سروصدا و بی‌مقدمه در یکی از دفترهای آنتروپیک رخ داده است؟ احتمالاً نه. و متأسفم که بگویم برای فهمیدن معنای این موضوع، باید از میان جزئیات پیچیده و پراضطراب آنتروپیک عبور کنید. صمیمانه بابت ورود به این همه جزئیات عذر می‌خواهم.


در نسخهٔ دوم نوامبرِ فرم S-1 آنتروپیک که به کمیسیون بورس و اوراق بهادار آمریکا ارائه شد، شرکت گفت ممکن است به‌زودی معیارهایی را برآورده کند که در سیاست «توسعهٔ مسئولانه»اش برای پدیده‌ای به نام «شتاب چشمگیر پیشرفت که به هوش مصنوعی نسبت داده می‌شود» تعیین شده است. در بخش دیگری آمده است که یکی از کارکردهای این سیاست، تدوین «برنامه‌های شرکت برای پایش و کاهش خطرها با نزدیک شدن به چیزی است که از آن با عنوان «خودبهبودی بازگشتی» یاد می‌شود.»


عرضه اولیه سهام انتروپیک آن‌قدر نزدیک است که این شرکت اسناد مربوط به آن را در وب‌سایت خود منتشر کرده است. در نامه بنیان‌گذاران که میان این اسناد قرار دارد، بخشی درباره خودبهبودی آمده است: «ساخت ایمن هوش مصنوعی ممکن است مستلزم آن باشد که انتروپیک و، در حالت ایده‌آل، سایر شرکت‌های این صنعت نیز از شتاب بسیار بالای افزایش توانایی‌های هوش مصنوعی بکاهند؛ به‌ویژه زمانی که این افزایش توانایی‌ها حاصل ساخت سیستم‌های هوش مصنوعی به دست خودشان باشد.»


انتروپیک اعلام کرده است که قرار است معاملات عمومی سهام این شرکت از روز پنجشنبه آغاز شود.

برچسب ها
3/related/default