اگر آمار فعلی مرگ‌ومیر در آمریکا را که توسط مرکز کنترل و پیشگیری از بیماری‌های این کشور (CDC) منتشر شده است، مبنا قرار دهیم، می‌توان انتظار داشت که در نهایت بیماری‌هایی مانند سرطان یا بیماری‌های قلبی عامل مرگ بسیاری از افراد باشند. اما پل کریستیانو، عضو هیئت‌مدیره بنیاد اوپن‌ای‌آی و مدیر اجرایی مرکز تحقیقات هم‌راستاسازی هوش مصنوعی (Alignment Research Center)، معتقد است باید نگران یک خطر مرگبار دیگر نیز باشیم.
کریستیانو در جریان یک مجموعه سخنرانی که این هفته برگزار شد، در مرکز همایش‌های تورنتو صریحاً به حاضران گفت: «فکر می‌کنم برای بیشتر افراد حاضر در این سالن، محتمل‌ترین دلیل مرگ، یک حادثه مرتبط با هوش مصنوعی خواهد بود.»
او در نخستین سخنرانی از یک مجموعه سه‌قسمتی، نگرانی‌های خود را درباره احتمال وقوع پدیده‌ای که از آن با عنوان «تسلط هوش مصنوعی» یاد می‌شود، مطرح کرد. کریستیانو این وضعیت را زمانی توصیف کرد که سامانه‌های هوش مصنوعی دارای هدف، همانند انسان‌ها در دنیای امروز، کنترل تصمیم‌گیری‌ها و اتفاقات روی زمین را در دست بگیرند. در چنین شرایطی، تلاش انسان‌ها برای متوقف کردن این سامانه‌ها به‌اندازه تلاش یک فرد عادی برای متوقف کردن ارتش آمریکا بی‌اثر خواهد بود.
به گفته او، چنین اتفاقی احتمالاً به مرگ‌ومیر گسترده منجر می‌شود و حتی ممکن است شرایطی ایجاد کند که محیط زندگی زمین برای انسان‌ها غیرقابل سکونت شود.
با وجود این ارزیابی نگران‌کننده درباره خطرات هوش مصنوعی، کریستیانو در سخنرانی خود پذیرفت که هیچ «مدل کمی» مشخصی برای محاسبه احتمال وقوع چنین اتفاقی وجود ندارد و نمی‌توان رقم دقیقی برای آن تعیین کرد.
با این حال، او تقریباً در همان زمان هشدار داد که اگر توسعه هوش مصنوعی با سریع‌ترین روند ممکن ادامه پیدا کند، احتمال تسلط این فناوری بر بشریت چیزی در حدود ۵۰ درصد خواهد بود؛ به عبارت دیگر، شانس وقوع چنین اتفاقی را تقریباً برابر با احتمال شیر یا خط دانست. او همچنین گفت خطر وقوع این سناریو در شش تا ۱۲ ماه آینده نیز قابل توجه است.
کریستیانو تأکید کرد حتی اگر سیاست‌گذاری‌های واقع‌بینانه برای کنترل این روند و کاهش سرعت توسعه هوش مصنوعی اجرا شوند، همچنان با سطحی فوق‌العاده بالا از خطر مواجه خواهیم بود.
