بر اساس گزارشی جدید، ابزار تازه متا برای شناسایی تصاویر تولیدشده با هوش مصنوعی، عملکردی مطابق ادعاهای این شرکت ندارد.
متا اوایل این هفته نخستین مدل تولید تصویر خود با نام «Muse Image» را معرفی کرد. این شرکت همزمان اعلام کرد که همه تصاویر تولیدشده با این مدل دارای یک واترمارک نامرئی به نام «Content Seal» خواهند بود. به گفته متا، این نشان حتی پس از برش، فشردهسازی، تغییر اندازه یا ثبت اسکرینشات از تصویر نیز حفظ میشود. همچنین متا از نسخه آزمایشی ابزاری رونمایی کرد که میتواند تشخیص دهد آیا یک تصویر با مدل Muse Image تولید شده است یا خیر.
با این حال، خبرگزاری رویترز در گزارشی که روز جمعه منتشر شد، اعلام کرد آزمایشهای انجامشده نشان میدهد این ابزار پس از برش تصاویر، در شناسایی آنها با مشکل روبهرو میشود. در این بررسی، ابزار متا ابتدا هر ۴۰ تصویر تولیدشده با Muse Image را بهدرستی بهعنوان تصاویر تولیدشده با هوش مصنوعی شناسایی کرد، اما پس از آنکه تصاویر به نصف یا یکسوم اندازه اصلی برش داده شدند، تنها توانست ۵۵ درصد آنها را بهدرستی تشخیص دهد.
با پیشرفت فناوریهای هوش مصنوعی مولد و افزایش توانایی آنها در تولید تصاویر و ویدئوهای جعلی بسیار واقعی، شناسایی این محتواها به چالشی دشوارتر تبدیل شده است. بر اساس گزارش شرکت امنیت سایبری «دیپاسترایک»، حجم دیپفیکهای تولیدشده با هوش مصنوعی در فاصله سالهای ۲۰۲۳ تا ۲۰۲۵ بهطور متوسط سالانه حدود ۹۰۰ درصد افزایش یافته است. با این حال، توانایی ابزارهای شناسایی همگام با این رشد پیشرفت نکرده و این ابزارها همچنان با خطاهای قابل توجهی مواجه هستند. مطالعات پیشین نیز نشان دادهاند که افراد عادی در تشخیص محتوای تولیدشده با هوش مصنوعی عملکردی بهتر از یک حدس تصادفی ندارند.
