پاسخ شدید زلدا ویلیامز به دیپ‌فیک‌های پدرش؛ «این آنچه که او تمایل داشت، نیست»
زلدا ویلیامز، دختر بازیگر معروف فقید رابین ویلیامز، در پی یک پیام تأثیرگذار از طرف هواداران پدرش خواستار پایان دادن به انتشار ویدیوهای مصنوعی با چهره‌ی او شد.
طبق گزارش ایتنا و نقل از تک‌کرانچ، زلدا در این پیام بیان کرده است: «لطفاً دیگر از ویدیوهای تولید شده با هوش مصنوعی از پدرم برایم ارسال نکنید. واقعاً نمی‌خواهم آنها را ببینم یا با آنها درگیر شوم. اگر ذره‌ای وجدان دارید، این کار را با او و با من و با همه، متوقف کنید. این اقدام احمقانه و اتلاف وقت و انرژی است و حقیقتاً چیزی نیست که او آرزو داشت.»
این نوشته در زمانی منتشر شد که چند روز از معرفی مدل ویدیویی «Sora 2» و اپلیکیشن اجتماعی «Sora» توسط شرکت OpenAI می‌گذرد؛ ابزارهایی که به کاربران این امکان را می‌دهند که دیپ‌فیک‌هایی بسیار واقعی تولید کنند. متأسفانه این قابلیت شامل افراد درگذشته نیز می‌شود، چون طبق گزارش مرکز حقوقی مطبوعات دانشجویی، افترا به متوفیان اغلب از نظر قانونی پیگردپذیر به شمار نمی‌آید.
OpenAI در طراحی خود محدودیت‌هایی را اعلام کرده است: Sora به‌صراحت اجازه‌ی تولید ویدیو از افراد زنده را تنها در حالتی می‌دهد که خود آنها تولیدکننده باشند یا مجوز استفاده از تصویر فرد مورد نظر (آنچه که این شرکت «حضور افتخاری» می‌نامد) را کسب کرده باشند. ولی این قید در مورد افراد فوت‌شده اعتبار ندارد و بنابراین ساخت تصاویر و ویدیوهای مصنوعی از آنها بدون مانع فنی امکان‌پذیر است. در نسخه‌های موجود تا به امروز، نمونه‌هایی از چهره‌های تاریخی نظیر مارتین لوتر کینگ جونیور، فرانکلین دلانو روزولت، و ریچارد نیکسون و همچنین چهره‌های مشهور درگذشته‌ای نظیر باب راس، جان لنون، الکس تربک و رابین ویلیامز دیده می‌شود.
OpenAI تاکنون به درخواست‌های رسانه‌ها برای توضیحات واضح در خصوص مجاز یا ممنوع بودن دیپ‌فیک‌سازی افراد فوت‌شده پاسخی رسمی نداده است. با این حال، با توجه به سوابق حقوقی، به‌نظر می‌رسد شرکت‌ها در بسیاری از موارد در برابر اتهامات افترا به متوفیان مسئول شناخته نخواهند شد و چنین مباحثی در یک منطقه خاکستری قانونی قرار دارد؛ موضوعی که احتمالاً به‌معنای مجاز بودن چنین اقداماتی برای این پلتفرم‌هاست.
زلدا ویلیامز همچنین در بخش دیگری از پیام خود اشاره کرد: «دیدن اینکه میراث افراد واقعی به انبوهی از کلیپ‌های موسیقی یا ترانه‌ها که تنها به شکل مبهم شبیه آنها هستند، تقلیل می‌یابد — فقط به‌این دلیل که دیگران بخواهند از آنها تقلید کنند و ویدیوهای بی‌ارزشی بسازند — واقعاً دردناک و دیوانه‌کننده است.» این واکنش او نمایانگر نگرانی‌های گسترده‌تری است که نسبت به تحریف دیجیتالی یادبودها و بازنمایی شهرت افراد در دنیای مجازی ابراز می‌شود.
منتقدان OpenAI این شرکت را به اتخاذ رویکردی شتاب‌زده و بی‌ملاحظه در زمینه پیامدهای اخلاقی و قانونی تولید محتوای مصنوعی متهم می‌سازند. به‌علاوه، Sora بلافاصله پس از معرفی با سیل ویدیوهای مرتبط با شخصیت‌های تحت حقِ نشر از قبیل پیتر گریفین و پیکاچو مواجه شد.
سم آلتمن، مدیرعامل OpenAI، قبل از این بیان کرده بود که استودیوها و نهادهای دارای حقوق معنوی باید به‌صراحت از درج IP خود در ویدیوهای تولیدشده توسط Sora جلوگیری کنند؛ موضعی که تحت فشار انتقادات تغییر یافت و این شرکت اعلام کرد که به بازکردن موضع خود خواهد پرداخت. همچنین انجمن تصاویر متحرک از OpenAI خواسته بود تا در این راستا اقدامی انجام دهد و بر اهمیت رعایت قوانین حقِ نشر تأکید کرده است.
با توجه به واقع‌گرایی بالای خروجی‌های Sora، این مدل را می‌توان به‌عنوان یکی از قوی‌ترین و پرخطرترین ابزارهای تولید دیپ‌فیک در دسترس عموم به حساب آورد. رقبایی مانند xAI هنوز در این زمینه عقب‌تر هستند یا محدودیت‌هایی دارند، اما برخی پلتفرم‌ها موانع کمتری برای تولید محتوای نامناسب یا تحریف‌شده از چهره‌های واقعی فراهم کرده‌اند. اگر صنعت فناوری و قانون‌گذاران نتوانند چارچوب‌های اخلاقی و حقوقی روشنی برای نمایندگی دیجیتال افراد (چه زنده و چه فوت‌شده) تعیین کنند، شاهد روندی خواهیم بود که ممکن است منجر به سوءاستفاده گسترده از یاد و شهرت انسان‌ها شود.
