ساتیا نادلا، مدیرعامل مایکروسافت، تازه‌ترین مدیر حوزه فناوری است که دیدگاه‌های مفصلی درباره راه‌های بهبود ایمنی هوش مصنوعی مطرح کرده است.
نادلا در مطلبی که صبح شنبه در شبکه اجتماعی ایکس منتشر کرد، نوشت زمان آن رسیده است که یک گام به عقب برداریم و ساختار اعتماد در هوش مصنوعی را دوباره ارزیابی کنیم.
او نوشت: «نمی‌توانیم با ابرهوش صرفاً مانند مجموعه‌ای از جعبه‌های سیاه تو در تو برخورد کنیم و توصیه‌ها، پاسخ‌ها و اقدامات آن را بدون بررسی بپذیریم یا رد کنیم.» او در این مطلب از اصطلاح «ابرهوش» استفاده کرد؛ واژه‌ای که دولت دونالد ترامپ برای اشاره به هوش مصنوعی ترجیح می‌دهد.
به گفته نادلا، این رویکرد مستلزم آن است که مدل هوش مصنوعی از سازوکاری که وظایف آن را هماهنگ و اجرا می‌کند، جدا شود و کنترل‌ها و تدابیر حفاظتی نیز به‌صورت مستقل در دسترس باشند. او همچنین تأکید کرد که باید برای «هر اقدام مهم مدل» شواهدی قابل‌خواندن برای انسان و مقاوم در برابر دست‌کاری ثبت شود. علاوه بر این، سیستم‌ها باید به‌گونه‌ای طراحی شوند که یک فرد مجاز همیشه بتواند مدل را در میانه انجام یک وظیفه متوقف کند یا به‌طور کامل از کار بیندازد.
نادلا گفت: «باید از ابتدا فرض کنیم که مدل به خطر افتاده است و آن را تحت کنترل نگه داریم.» او این سازوکار را به ترمز اضطراری تشبیه کرد.
اظهارات نادلا در شرایطی مطرح می‌شود که شرکت‌های پیشرو در حوزه هوش مصنوعی به‌طور فزاینده‌ای از حوادثی خبر می‌دهند که در آن‌ها به نظر می‌رسد کنترل مدل‌های خود را از دست داده‌اند. همچنین، داریو آمودی، مدیرعامل شرکت آنتروپیک، پیش‌تر برنامه‌ای برای توسعه محتاطانه‌تر هوش مصنوعی و مدیریت سرعت پیشرفت این فناوری منتشر کرده بود.
