وقتی کلاهبرداری با هوش مصنوعی واقعی تر از زندگی واقعی شود، چه می کنید؟ طبق گزارش اخیر MIT، شما آن را با یک واترمارک تگ می کنید. اما آیا این کافی است؟
تعداد فزاینده ای از دولت ها و نهادهای مربوطه در حال برداشتن گام های جدیدی برای شناسایی رسانه های جعلی در منبع آن هستند. احتمال سوء استفاده واضح است. در دنیای رسانه‌ای امروزی، مردم چگونه می‌توانند تشخیص دهند که چیزی واقعی است یا ساختگی؟
مشکل جدید نیست. کسانی که به اندازه کافی بزرگ هستند که به یاد بیاورند که فتوشاپ در سال 1990 وارد بازار شد، شوک و وحشتی را که اولین عکاسانی که کار خود را با این ابزار تغییر دادند، با آن مواجه شدند.
مطمئناً هر محصولی که بتواند به این راحتی چین و چروک ها را از بین ببرد هرگز ناپدید نمی شود، اما برای مدتی موضوع روتوش در سراسر جهان به اوج هیجان رسید. و تا حدودی هنوز وجود دارد. “Photoshopped” اکنون یک فعل فراگیر است.
هوش مصنوعی مشکل را به سطح جدیدی از درد بالقوه ارتقا می دهد. نه فقط تصاویر، بلکه صدا و به زودی ویدیو نیز. و برای اولین بار، نه فقط روتوش اینجا و آنجا، بلکه خلق افراد، مکان ها و رویدادهای جدید کاملاً ناموجود. همه چیز کجا ایستاده است؟
چگونه مشکلی مانند هوش مصنوعی را حل می کنید؟
البته پاسخ این است که متوقف نمی شود، بنابراین ما فقط باید با آن مقابله کنیم. خبر خوب این است که این کار از قبل شروع شده است. یوتیوب اخیراً اجباری کرده است که تمام ویدیوهای تولید شده توسط هوش مصنوعی باید به این صورت برچسب گذاری شوند. همه سازندگانی که ویدیویی را آپلود می‌کنند، موظفند «محتوای تولید شده مصنوعی را هنگامی که به طور معنی‌داری تغییر داده شده یا واقعی به نظر می‌رسد، افشا کنند».
TikTok با پیاده‌سازی فناوری که به‌طور خودکار تمام محتوای هوش مصنوعی آپلود شده در سرویس را برچسب‌گذاری می‌کند، حتی اگر سازنده آن را به این شکل شناسایی نکند، قدمی فراتر برداشته است.
همه ما نیروی محرکه این حرکت ها را می دانیم، به خصوص در سال انتخابات. اخبار جعلی به یک فریاد تجمع مردمی تبدیل شده است و بدون نوعی از صنعت یا نظارت قانونی، کل وضعیت در خطر خارج شدن از کنترل است.
این اقدامات اولیه توسط پلتفرم های محتوا به وضوح تلاشی برای منحرف کردن درخواست ها برای قانون گذاری است، اما ممکن است اکنون خیلی دیر شده باشد.
مشکل قبل از اینکه حل شود بدتر می شود
SynthID اکنون می‌تواند صدای تولید شده توسط هوش مصنوعی را واترمارک کند. 🎶اولین توزیع از طریق Lyria، پیشرفته ترین مدل تولید موسیقی هوش مصنوعی ما تا به امروز، انجام خواهد شد. چگونه کار می کند؟ 🧵 https://t.co/Ib0ID8vJgM pic.twitter.com/g0ootgYl4a22 نوامبر 2023
مشکل اینجاست که ابزارهای جدید هوش مصنوعی در حال محبوب شدن هستند و اکثر مواد برای اهداف مخرب ایجاد نشده اند. تبلیغات، مد، بازاریابی محصول و حتی سرویس‌های خبری از هوش مصنوعی برای افزایش محتوای رسانه‌ای، اغلب به روش‌های خلاقانه و ارزشمند استفاده می‌کنند. و هر کانالی پتانسیل خاص خود را برای سوء استفاده دارد.
منسجم ترین فشار علیه محتوای جعلی از سوی ائتلاف برای احراز هویت و اصالت محتوا (C2PA) انجام شده است. این پروژه ای است که توسط بنیاد توسعه مشترک، یک سازمان غیرانتفاعی مستقر در واشنگتن راه اندازی شده است که هدف آن مبارزه با اطلاعات غلط و دستکاری مبتنی بر هوش مصنوعی است. ابتکار Content Credentials شامل بازیکنان بزرگی مانند Adobe، X، OpenAI، مایکروسافت و نیویورک تایمز می شود.
این اقدام پس از فرمان اجرایی ریاست جمهوری صادر شده توسط رئیس جمهور بایدن در اواخر سال گذشته انجام شد که هدف آن محافظت از آمریکایی ها در برابر تقلب و فریب مبتنی بر هوش مصنوعی با ایجاد استانداردها و بهترین شیوه ها برای شناسایی محتوای تولید شده توسط هوش مصنوعی و تأیید اعتبار محتوای رسمی است.
گوگل و متا نیز به ترتیب ابتکارات خود را به نام SynthID و StableSignature دارند یا به زودی می آیند. هنوز مشخص نیست که آیا این ابتکارات کافی خواهد بود یا خیر.
مشکلی که خود به خود حل خواهد شد
حقیقت این است که بهترین واترمارک یا مقررات در جهان مانع از ویروسی شدن چیزی اعتیاد آور نمی شود. و تا آن زمان منشاء رسانه بخش کوچکی از معادله بود.
چه کسی مطالبی را در روزنامه هایی که اعتراف می کنند در گزارش قبلی اشتباه بوده است، می خواند؟ اما در نهایت، تنها چیزی که می تواند مشکل را حل کند، افزایش «احساس عنکبوتی» مردم از درست و غلط است.
همانطور که بسیاری از مردم به وضوح می توانند تصاویر فتوشاپ شده را از ترکیب بندی های بیش از حد یا سوژه های غیرمنتظره تشخیص دهند، با هوش مصنوعی ممکن است در نهایت امکان تشخیص عجیب و غریب در یک قطعه رسانه وجود داشته باشد، صرف نظر از اینکه چقدر خوب انجام شده است.
یا، همانطور که یک باهوش زمانی گفت، مگر اینکه بدون شک به عنوان ساخته دست بشر شناخته شود، شاید باید فرض کنیم که تمام محتوای رسانه توسط هوش مصنوعی تقلید شده است.
اطلاعات بیشتر از راهنمای تام
منبع: tomsguide
نظرات کاربران