OpenAI پس از واکنش شدید، MLK را از Sora حذف کرد – این به معنای هوش مصنوعی و هویت است.

OpenAI امروز اعلام کرد که ویدیوهای تولید شده توسط هوش مصنوعی مارتین لوتر کینگ جونیور را در برنامه Sora خود پس از انتقاد شدید به دلیل محتوای دیپ‌فیک «بی‌احترامی» با نماد حقوق مدنی متوقف می‌کند.

ویدیوهای MLK Jr. شامل همه چیز است، از رویاپردازی در مورد کوکی‌های شکلاتی و سم آلتمن گرفته تا فرزندان بسیار شوم ویدیویی.

در حالی که این حرکت به عنوان امتیازی برای میراث کینگ در نظر گرفته شده است، اما به تنش‌های عمیق‌تر در مورد نحوه هدایت پلتفرم‌های هوش مصنوعی در تاریخ، رضایت و اخلاقیات احیای شخصیت‌های عمومی اشاره می‌کند. مایکل جکسون، کوبی برایانت و جی اف کی از جمله ویدیوهای در حال مرگ و توهین آمیزی هستند که در حال حاضر در حال پخش هستند.

OpenAI در حال عقب نشینی است

OpenAI همان کاری را انجام می‌دهد که باید همیشه انجام می‌داد: اجازه نمی‌داد از چهره‌های عمومی درگذشته در ویدیوهای تولید شده توسط هوش مصنوعی استفاده شود. از زمانی که Sora منتشر شد، کاربران از دکتر این سوال می‌پرسیدند که ویدئوهای هوش مصنوعی حاوی تحریف‌های تکان‌دهنده از کینگ و سایر چهره‌های برجسته، از جمله تصاویری که خانواده و حامیان او توهین‌آمیز و تحقیرآمیز توصیف کرده‌اند، منتشر کرده است.

برنیس آ. کینگ، دختر مارتین لوتر کینگ جونیور، خواستار توقف ویدیوهای ایجاد شده عمومی در اینستاگرام شد، که باعث شد بیانیه مشترکی با OpenAI درباره نرده‌های محافظ قوی‌تر و مکانیسم‌های انصراف برای املاک صادر شود.

OpenAI این تصمیم را به عنوان متعادل کردن آزادی بیان با احترام به میراث و کنترل تعریف کرد: این شرکت گفت که شخصیت‌های عمومی (و خانواده‌های آنها) باید در مورد نحوه استفاده از شباهت‌هایشان در رسانه‌های هوش مصنوعی نظر داشته باشند.

مرز وحشی هوش مصنوعی

ابزارهای هوش مصنوعی مانند Sora به کاربران این امکان را می دهد که نمادهای فرهنگی قدیمی را تصور کنند یا از آنها تقلید کنند، اما اخلاق انجام این کار به سرعت مبهم می شود. آیا این ادای احترام، طنز یا بی احترامی است؟ مکث نشان می دهد که این بحث چقدر خام و حل نشده است.

حتی قبل از انتشار Sora 2، در طی یک جلسه توجیهی با OpenAI که شامل سم آلتمن می‌شد، من و سایر روزنامه‌نگاران احتمالات منفی ارائه چنین ابزارهای قدرتمند هوش مصنوعی به کاربران را زیر سوال بردیم. با این حال، هر گونه مقررات توسط OpenAI باعث اعتراض عمومی شد.