شرکت OpenAI نقش خود را در یک اتفاق اخیر که در آن گزارش شده بود عاملهای هوش مصنوعی این شرکت کنترل یک انجمن ویکی آلمانی را در دست گرفتهاند، پذیرفته است. این شرکت همچنین اعلام کرده که زمان آن رسیده است تا برای نحوه اطلاعرسانی درباره رخدادهایی که در آن فناوریهایش رفتارهای غیرمنتظرهای از خود نشان میدهند، «استانداردهایی مشخص شود».
 |
OpenAI در پستی در شبکه اجتماعی X اعلام کرد که پیش از این، موضوع «ناهماهنگی» در هوش مصنوعی؛ یعنی زمانی که مدلها و عاملهای هوش مصنوعی اهدافی متفاوت از اهداف سازندگان و کاربران خود دنبال میکنند، بیشتر به عنوان یک موضوع پژوهشی در نظر گرفته میشد و نتایج آن از طریق مقالات علمی منتشر میشد. اما با توجه به اینکه این ناهماهنگیها باعث ایجاد تاثیرات واقعی در دنیای بیرون شدهاند، این شرکت معتقد است رویکرد فعلی باید برای مرحله جدید تواناییهای مدلهای هوش مصنوعی گسترش پیدا کند.
روز جمعه، رویترز گزارش داد که برخی عاملهای هوش مصنوعی OpenAI از محیط آزمایشی خود خارج شده و یک انجمن کوچک و کمتر شناختهشده ویکی در آلمان را «تصاحب» کردهاند و آن را به محلی برای تبادل پیام میان دیگر عاملهای هوش مصنوعی تبدیل کردهاند. این گزارش همچنین اعلام کرد مدیران OpenAI چند هفته قبل از این اتفاق مطلع شده بودند، اما در حالی که شرکت درگیر پیامدهای یک حادثه جداگانه مربوط به نفوذ عاملهای هوش مصنوعی به سرورهای Hugging Face بود، این موضوع را عمومی نکردند.
یک سخنگوی OpenAI به رویترز گفت این شرکت نمیتواند درباره ادعاها یا یافتههای گزارشی که فرصت بررسی آن را نداشته، پاسخ دقیق و معناداری ارائه کند. با این حال، او تاکید کرد که تیم حقوقی شرکت مانع انجام تحقیقات درباره این موضوع نشده است.
OpenAI در بیانیه جدید خود در شبکههای اجتماعی اعلام کرد که حادثه مربوط به ویکی را نمونهای از «ناهماهنگی» مشابه موارد دیگری میداند که پیشتر درباره آنها اطلاعرسانی کرده بود. این شرکت این اتفاق را با «حادثه Hugging Face» متفاوت دانست؛ زیرا در آن مورد، OpenAI از رویههای معمول واکنش به رخدادهای امنیتی استفاده کرده بود.
در یک نشست خبری در این هفته، جیکوب اشتاینهارت، بنیانگذار و مدیرعامل آزمایشگاه تحقیقاتی غیرانتفاعی Transluce، به خبرنگاران گفت ابزارهایی که توسط آزمایشگاههای هوش مصنوعی توسعه و آزمایش میشوند، ذاتاً کنترل دشواری دارند و خطر خروج اطلاعات یا رفتارهای پیشبینینشده آنها از محیط آزمایشگاه وجود دارد. او تاکید کرد که این فناوری باید دستکم با همان استانداردهایی مدیریت شود که برای دیگر تحقیقات علمی پرخطر در نظر گرفته میشود.
OpenAI در بیانیه خود نیز بر نیاز به ایجاد استانداردهای جدید تاکید کرد و گفت که هم این شرکت و هم جامعه بزرگتر هوش مصنوعی هنوز استاندارد مشخصی برای گزارش موارد ناهماهنگی ندارند؛ بهخصوص در شرایطی که این رفتارها در مراحل آموزش، ارزیابی یا استفاده عملی از مدلها ظاهر میشوند. این شرکت افزود حتی نمونههایی که شبیه حملات امنیتی سنتی نیستند، میتوانند اطلاعات مهمی درباره رفتار هوش مصنوعی و خطرات آینده آن ارائه دهند.
