اینترنت به شلنگ آتشی از محتوای جعلی تبدیل شده و دیگر نمیدانم باید با آن چه کرد.
من از سال ۲۰۱۳ درباره تصاویر جعلی در اینترنت مینویسم؛ همان زمانی که عکسی از «تدی روزولت» سوار بر یک گوزن شمالی وایرال شده بود و من با یک پست کوتاه آن را رد کردم. آن تصویر یک جعل قدیمیِ قبل از فتوشاپ بود که یک قرن پیش برای سرگرمی ساخته شده بود؛ از همان عکسهایی که آدم را وادار میکرد لحظهای مکث کند و بپرسد: «صبر کن، نکند واقعی باشد؟»
سال بعد، در ۲۰۱۴، تعداد بیشتری از تصاویر جعلی وایرال را بررسی و افشا کردم. از آن زمان هر سال یک جمعبندی از فیکهای پربازدید منتشر کردهام. معمولاً از این کار لذت میبردم، چون حس میکردم بهتر میفهمم چه چیزی در جهان واقعی است و این فهم را با دیگران هم به اشتراک میگذارم. اما این احساس اخیراً تغییر کرده است.
امسال واقعاً درمانده شدم. وقتی به ۲۰۲۵ نگاه میکنم، تعداد عکسها و ویدئوهای جعلی آنقدر زیاد بود که قابل جمعبندی نبود. تهیه یک فهرست از بزرگترین فیکهای سال گذشته کاری بیهوده به نظر میرسید. وقتی بخش بزرگی از پستهای اینستاگرام، فیسبوک و ایکس فقط خروجیهای بیارزش هوش مصنوعی باشند، چه باید کرد؟ امسال نقطه عطفی برای این پرسش بود. آنقدر تصویر و ویدئوی جعلی در شبکههای اجتماعیام ظاهر میشد که مشابهش را هرگز ندیده بودم.
در سال ۲۰۲۵ انتخاب چند نمونه مشخص از تصاویر و ویدئوهای جعلی تقریباً ناممکن شده است، چون حجم محتواهای ساختگی آنقدر زیاد است که دیگر نمیتوان مثل سالهای قبل چند مورد شاخص را جدا کرد. در سال ۲۰۲۳، نمونههایی مثل تصویر پاپ با کاپشن پفدار که با هوش مصنوعی ساخته شده بود، همهجا دیده میشد و بهنوعی نماد دوران اولیه تولید تصاویر فوتورئالیستی با هوش مصنوعی بود. اما در ۲۰۲۵، تعداد فیکها آنقدر زیاد شده که کاربران در میان آنها غرق شدهاند و بسیاری حتی متوجه نمیشوند چه چیزی واقعی است و چه چیزی نیست؛ فقط صفحه را بالا و پایین میکنند و رد میشوند.
حتی متخصصان هم دیگر همیشه قادر به تشخیص نیستند. «جرمی کاراسکو» که امسال در تیکتاک، یوتیوب و اینستاگرام کارهای آموزشی زیادی درباره تشخیص ویدئوهای هوش مصنوعی انجام داده، حداقل یک ویدئو را در سال ۲۰۲۵ جعلی اعلام کرد که بعداً مشخص شد واقعی بوده است.
این روزها؛ حتی کسانی که بهترین توانایی را برای تشخیص محتوای جعلی دارند، دیگر مطمئن نیستند به چه چیزی نگاه می کنند؟
در شبکههای اجتماعی، ویدئو پشت ویدئو و عکس پشت عکس، فقط خروجیهای بیارزش هوش مصنوعی هستند که برای جلب توجه منتشر میشوند. انگیزه مالی هم وجود دارد: ویدئوهای ساختگی از نجات حیوانات از آتش، سگهایی که صاحبشان را «انتخاب» میکنند، یا حیواناتی که از زیر یخ بیرون کشیده میشوند. اگر ندانید جعلیاند، این ویدئوها جذاب به نظر میرسند، چون تولیدکنندگان محتوا برای میلیونها بازدید پول میگیرند. اما وقتی بدانید واقعی نیستند، دیگر هیچ جذابیتی ندارند.
وقتی ویدئوی چندثانیهای از آدمهای خیالی که کارهای خیالی انجام میدهند میبینید، چه چیزی در خطر است؟ فیلمها و سریالها معمولاً قبل از اینکه شخصیتها وارد بحران شوند، به ما دلیل میدهند که برایشان اهمیت قائل شویم. اما در ویدئوهای هوش مصنوعی هیچ تنش یا درامی وجود ندارد. پس چرا باید برای کسی مهم باشد؟
دورانی بود که فکر میکردم بعضیها وقتی فریب فتوشاپهای ضعیف را میخورند، بیش از حد سادهلوحاند. اما حالا دیگر چنین نگاهی ندارم. ابزارها آنقدر پیشرفته شدهاند که هر کسی ممکن است فریب تصاویر جعلی را بخورد. در سال ۲۰۲۵ اگر گول یک تصویر ساختهشده با هوش مصنوعی را بخورید، واقعاً نباید احساس بدی داشته باشید.
تصویری که در ابتدای این مقاله آمده، با گوگل جمنای و مدل Nano Banana Pro ساخته شده که فقط یک ماه پیش منتشر شده است. من فقط نوشتم: «یک تصویر فوتورئالیستی از مردی که مستقیم به دوربین نگاه میکند بساز. تا حد ممکن واقعی باشد.» اگر میخواستم، میتوانستم با دستورهای دقیقتر صحنهای با افراد و مکانهای مشخص بسازم. اما این تصویر را در ۱۰ ثانیه تولید کردم تا نشان دهم رسیدن به فوتورئالیسم امروز چقدر ساده و پیشپاافتاده شده است.
بهعنوان کسی که بیش از یک دهه وقتش را صرف بررسی و تردید نسبت به تصاویر جعلی کرده، دیگر نمیتوانم فقط به نشانههای بصری یا پیدا کردن منبع یک عکس تکیه کنم. گوگل بالاخره ابزار تشخیص واترمارک تصویری را در جمنای اضافه کرده، اما این ابزار فقط تا حدی کمک میکند. تعداد تولیدکنندههای تصویر هوش مصنوعی آنقدر زیاد شده که اگر جمنای تصویری را جعلی تشخیص ندهد، بهمعنای واقعی بودن آن نیست؛ فقط یعنی گوگل در ساختنش نقشی نداشته. سازندگان بیشماری برای تولید تصویر با هوش مصنوعی وجود دارند.
ایلان ماسک، میلیاردر و مالک پلتفرم ایکس، گفته است دنیایی را تصور میکند که در آن همه چیزهایی که مردم روزانه مصرف میکنند با هوش مصنوعی تولید شود. هنوز برای قضاوت درباره تحقق این پیشبینی زود است، اما او بهشدت در حال تلاش برای رسیدن به چنین آیندهای است.
در بعضی جهات، انگار همین حالا هم تا نیمه راه رسیدهایم. و وقتی بیشتر چیزها جعلی هستند، بهنظر میرسد کارآمدتر باشد اگر فقط چیزهایی را که واقعیاند مشخص کنیم.
