در حالی که توجه بسیاری به اطلاعات مالی جدید شرکت Anthropic در نسخه اصلاح‌شده فرم S-1A که روز دوشنبه منتشر شد، جلب شده است، این شرکت هوش مصنوعی در بخش‌های کم‌اهمیت‌تر این سند، به موضوع مهم دیگری نیز اشاره کرده است. درآمد شرکت با سرعت زیادی در حال افزایش است، اما هزینه‌های آن نیز روندی مشابه دارند.
بر اساس اطلاعات این سند، به نظر می‌رسد Anthropic به آستانه ساخت مدلی نزدیک شده که قادر به «خودبهبودی بازگشتی» (Recursive Self-Improvement یا RSI) است.
خودبهبودی بازگشتی به مرحله‌ای گفته می‌شود که هوش مصنوعی آن‌قدر در آموزش و بهبود خودش توانمند می‌شود که می‌تواند باعث شتاب چشمگیر در پیشرفت قابلیت‌های هوش مصنوعی شود. از نگاه بدبینان و منتقدان سرسخت هوش مصنوعی، این مرحله می‌تواند نقطه‌ای فاجعه‌بار و غیرقابل بازگشت باشد؛ زیرا هوش مصنوعی ممکن است با توسعه و بهبود خود به سطحی از قدرت برسد که دیگر تحت کنترل انسان نباشد و برای رسیدن به اهدافش، نسبت به خسارت‌هایی که ایجاد می‌کند بی‌تفاوت بماند.
در مقابل، علاقه‌مندان به هوش مصنوعی، خودبهبودی بازگشتی یا استفاده قابل‌اعتماد هوش مصنوعی از خودش برای ارتقای توانایی‌هایش را یکی از مهم‌ترین ظرفیت‌های این فناوری می‌دانند؛ قابلیتی که می‌تواند بهره‌وری، اکتشافات علمی و بسیاری از حوزه‌های دیگر را به سطحی بی‌سابقه برساند.
به نظر می‌رسد Anthropic هر دو جنبه مثبت و خطرناک این فناوری را جدی می‌گیرد. این شرکت در سند S-1 اعلام کرده که از هوش مصنوعی در فعالیت‌های تحقیق و توسعه خود استفاده می‌کند، اما در عین حال نسبت به خطرات احتمالی آن هشدار داده است.
در این سند آمده است: «استفاده از هوش مصنوعی برای ساخت سیستم‌های هوش مصنوعی قدرتمندتر می‌تواند خطرات قابل‌توجهی برای ایمنی ایجاد کند؛ به‌ویژه اگر باعث افزایش شدید سرعت پیشرفت این فناوری شود. این موضوع یکی از حوزه‌هایی است که در سیاست مقیاس‌پذیری مسئولانه ما پوشش داده شده است. این سیاست، برنامه‌های ما برای نظارت بر خطرات و کاهش آن‌ها را با نزدیک شدن به مرحله‌ای که از آن با عنوان خودبهبودی بازگشتی یاد می‌شود، مشخص می‌کند.»
زمانی که اصطلاح RSI در اوایل سال جاری میلادی رواج پیدا کرد، بسیاری آن را صرفاً یک عبارت تبلیغاتی می‌دانستند یا در بهترین حالت، هدفی تلقی می‌کردند که دستیابی به آن، تعریف دقیق آن یا اثبات تحققش بسیار دشوار است.
