زلدا ویلیامز، دختر بازیگر فقید رابین ویلیامز، پیامی احساسی برای طرفداران پدرش منتشر کرده است. او در استوری اینستاگرام خود نوشت: «لطفاً دیگر ویدیوهای هوش مصنوعی از پدرم برایم نفرستید. فکر نکنید دلم میخواهد ببینم یا درک میکنم. نمیخواهم و نخواهم کرد. اگر ذرهای انسانیت دارید، این کار را با او، با من، با همه نکنید. تمام. این کار احمقانه است، اتلاف وقت و انرژی است، و باور کنید این چیزی نیست که او میخواست.»
این واکنش درست چند روز پس از معرفی مدل ویدیویی Sora 2 و اپلیکیشن اجتماعی Sora از سوی شرکت OpenAI منتشر شده؛ ابزاری که امکان ساخت دیپفیکهای بسیار واقعی از افراد، دوستان و شخصیتهای کارتونی را فراهم میکند.
این ابزار شامل افراد فوتشده نیز میشود، چرا که طبق اعلام مرکز حقوقی مطبوعات دانشجویی، افترا به افراد درگذشته از نظر قانونی ممنوع نیست.
اپلیکیشن Sora اجازه ساخت ویدیو از افراد زنده را نمیدهد، مگر اینکه خود فرد یا دوستی با اجازه قبلی در آن حضور داشته باشد؛ قابلیتی که OpenAI آن را «cameo» مینامد. اما این محدودیتها برای افراد فوتشده اعمال نمیشود و کاربران میتوانند بدون مانع خاصی ویدیوهایی از چهرههای تاریخی یا سلبریتیهای درگذشته تولید کنند.
این اپلیکیشن که فعلاً فقط با دعوتنامه در دسترس است، با ویدیوهایی از شخصیتهایی مانند مارتین لوتر کینگ، فرانکلین روزولت، ریچارد نیکسون، باب راس، جان لنون، الکس تربک و رابین ویلیامز پر شده است.
نحوه تعیین مرزهای اخلاقی یا فنی توسط OpenAI برای تولید ویدیو از افراد فوتشده مشخص نیست. طبق آزمایشهای TechCrunch، Sora 2 از تولید ویدیو با چهره جیمی کارتر، رئیسجمهور سابق آمریکا که در سال ۲۰۲۴ درگذشت، یا مایکل جکسون که در سال ۲۰۰۹ فوت کرد، خودداری کرده، اما ویدیوهایی با چهره رابین ویلیامز که در سال ۲۰۱۴ درگذشت، تولید کرده است.
در حالی که قابلیت cameo به افراد زنده امکان میدهد نحوه نمایش خود در ویدیوهای تولیدشده توسط دیگران را کنترل کنند، افراد فوتشده چنین اختیاری ندارند. این موضوع باعث شده برخی کاربران با استفاده از چهرههای تاریخی، ویدیوهایی با محتوای بحثبرانگیز تولید کنند؛ از جمله ویدیویی که در آن ریچارد نیکسون از لغو پلیس حمایت میکند.
زلدا ویلیامز در واکنش به ویدیوهای هوش مصنوعی از چهره پدرش نوشت: «دیدن اینکه میراث افراد واقعی به چیزی تقلیل پیدا کند که صرفاً کمی شبیه و صدایشان باشد، فقط برای اینکه دیگران بتوانند محتوای بیکیفیت تیکتاکی بسازند و آنها را مثل عروسک خیمهشببازی حرکت دهند، واقعاً دیوانهکننده است.»
منتقدان OpenAI این شرکت را متهم کردهاند که در مواجهه با مسائل حقوقی و اخلاقی رویکردی سهلانگارانه دارد. به همین دلیل، پس از عرضه مدل ویدیویی Sora، این پلتفرم به سرعت با کلیپهای هوش مصنوعی از شخصیتهای دارای حقکپیرایت مانند پیتر گریفین و پیکاچو پر شد. سم آلتمن، مدیرعامل OpenAI، ابتدا گفته بود که استودیوها و آژانسهای هالیوودی باید بهطور صریح اعلام کنند اگر نمیخواهند مالکیت معنویشان در ویدیوهای تولیدشده توسط Sora استفاده شود. اما انجمن فیلم آمریکا خواستار اقدام فوری OpenAI شد و در بیانیهای اعلام کرد که «قوانین تثبیتشده کپیرایت از حقوق خالقان محافظت میکند و در اینجا نیز قابل اجراست.» آلتمن بعداً اعلام کرد که این سیاست را تغییر خواهد داد.
Sora شاید خطرناکترین مدل هوش مصنوعی تولید دیپفیک باشد که تاکنون در دسترس عموم قرار گرفته، زیرا خروجیهای آن بسیار واقعی به نظر میرسند. پلتفرمهایی مانند xAI هنوز عقبتر هستند، اما حتی محدودیتهای کمتری نسبت به Sora دارند و امکان تولید دیپفیکهای مستهجن از افراد واقعی را فراهم میکنند. اگر شرکتهای دیگر نیز به سطح OpenAI برسند و ما همچنان با افراد زنده یا فوتشده مانند ابزارهای سرگرمی شخصی رفتار کنیم، با یک سابقه نگرانکننده و خطرناک روبهرو خواهیم شد.
