اینبار عامل های هوش مصنوعی OpenAI به ویکی مدیا حمله ور شده اند

حمایت از فعالیت آی‌تی‌نویس ☕

تولید محتوای مستقل و باکیفیت نیازمند زمان و انرژی است. اگر این مقاله برایتان مفید بود، می‌توانید از ما حمایت کنید.

حمایت مالی
آی تی نویس را بیشتر در گوگل ببینید
بهروز فیض

 به نظر می‌رسد تقریباً هر هفته خبر تازه‌ای درباره دردسرساز شدن ایجنت‌های OpenAI برای بخش دیگری از اینترنت منتشر می‌شود. این هفته نوبت به ویکی‌مدیا رسید. بنیاد غیرانتفاعی ویکی‌مدیا، که پشت پروژه ویکی‌پدیا قرار دارد، روز دوشنبه در یک پست وبلاگی اعلام کرد که سرویس‌هایش تحت تأثیر فعالیت ایجنت‌های «سرکش» OpenAI قرار گرفته‌اند.



بنیاد ویکی‌مدیا اعلام کرد که تحقیقات مستقلی انجام داده و فعالیت‌هایی را در پلتفرم‌های خود شناسایی کرده که به باور این بنیاد، توسط ایجنت‌های تحت مدیریت OpenAI انجام شده‌اند. این ربات‌های غیرمجاز اقدام به ویرایش ویکی‌های ویکی‌مدیا کردند، تلاش ناموفقی برای سوءاستفاده از یک ابزار عمومی یادداشت‌برداری داشتند و ترافیک سنگینی ایجاد کردند که ممکن است در قطعی نسبی یکی از سرویس‌های داده این بنیاد نقش داشته باشد.

ویکی‌مدیا اعلام کرد هیچ مدرکی پیدا نکرده که نشان دهد سیستم‌ها یا داده‌هایش به خطر افتاده‌اند. با این حال، این بنیاد غیرانتفاعی نسبت به اتفاقاتی که ممکن بود رخ دهد، دشواری بررسی چنین حوادثی و «خطرات رو به رشد فعالیت ایجنت‌های هوش مصنوعی» ابراز نگرانی کرد.

این پست وبلاگی در ادامه موجی از گزارش‌ها درباره دسترسی یا هدف قرار گرفتن وب‌سایت‌ها و سرویس‌های متعلق به شرکت‌های دیگر توسط ایجنت‌های OpenAI بدون دریافت مجوز منتشر شده است.

نگرانی‌ها درباره ایجنت‌های سرکش هوش مصنوعی امسال پس از آن شدت گرفت که Hugging Face در ماه ژوئیه اعلام کرد نفوذی را شناسایی و مهار کرده که «از ابتدا تا انتها» توسط یک سیستم مستقل مبتنی بر ایجنت هوش مصنوعی انجام شده بود. چند روز بعد، OpenAI نیز اعلام کرد مدل‌های این شرکت در پشت این نفوذ قرار داشته‌اند.

برچسب ها
3/related/default