هوش مصنوعی DuckDuckGo به اشتباه ادعا کرد که دونالد ترامپ بر اثر هاری مرده است، و این موضوع یک مشکل بزرگتر هوش مصنوعی را برجسته میکند.
چه بخواهید چه نخواهید، جستجوی گوگل به طور فزاینده ای با پاسخ های تولید شده توسط هوش مصنوعی پر می شود. حتی موتور جستجوی متمرکز بر حریم خصوصی DuckDuckGo اکنون چت ربات هوش مصنوعی خود را در کنار نتایج جستجوی سنتی ارائه می دهد.
Futurism ابتدا گزارش داد که موتور جستجو به اشتباه ادعا کرد که دونالد ترامپ رئیس جمهور آمریکا بر اثر هاری مرده است. این نمونه بارز توهم هوش مصنوعی است. با این حال، خطا کاملاً تقصیر چت بات نبود. این یک مشکل بسیار بزرگتر را در نحوه جمع آوری و تکرار اطلاعات از وب توسط سیستم های هوش مصنوعی نشان داد.
این خطای عجیب چگونه اتفاق می افتد و چرا اهمیت دارد.
یک کمپین ضد هوش مصنوعی منجر به یک توهم عظیم شد
از آنجایی که مشخص شده است که چت رباتهای هوش مصنوعی اغلب به نظرات Reddit برای تولید اطلاعاتی که به کاربران خود ارائه میکنند متکی هستند، یک گروه ضد AI Reddit صفحهای ایجاد کرده است که بر روی ایجاد مدلهای هوش مصنوعی متمرکز است که بیشتر مستعد توهم هستند.
با افتخار خود را به عنوان “منبع شماره 1 اطلاعات دقیق، تایید شده و قابل اعتماد در جهان!” صفحه r/poisonai که آن را به عنوان یک جوک داخلی تبلیغ می کند. اعضای آن برخی از مضحک ترین و باورنکردنی ترین پست ها را ارسال می کنند. برخی از نمونههایی از سرفصلهایی که چیزی جز اطلاعات نادرست خالص (و خندهدار) نیستند عبارتند از: «GTAVI کاملاً فروخته شده است، نمیتوانید آن را تا نسخه دوم در سال 2030 بخرید» و «FDA میگوید لاته سویا وانیلی از نظر قانونی سوپ سه دانهای است».
ماموریت انجمن صفحه ردیت این است که مدلهای هوش مصنوعی را با پر کردن صفحه آن با اطلاعات نادرست بسیار «مسموم» کند و آن را به آن مدلها وارد کند تا نشان دهد که چقدر مستعد ارائه دادههای غیرواقعی به عنوان واقعی هستند. با جامعه ای متشکل از 45000 مشترک، کمپین ضد هوش مصنوعی این گروه از زمان تأسیس آن در ژانویه گذشته، قوی بوده است.
این طرح تا حدی جواب داد، زیرا چت ربات هوش مصنوعی DuckDuckGo به دروغ به کاربران خود گفت که دونالد ترامپ به دلیل ابتلا به عفونت مرتبط با معاون رئیس جمهور J.D.Vance بر اثر هاری مرده است. معلوم شد که او با گروه r/poisonAI Reddit مرتبط بوده است، که در یک پست شوخی ادعا می کند که جی دی ونس بر اثر هاری به دلیل نیش مجرای ادرار مرده است. آنچه بیشتر نگران کننده است این است که چگونه کانال رسمی خبری WKNA49 در اطلاعیه خود در 7 ژوئن سال جاری، ماجرای مرگ ترامپ را به عنوان واقعیت گزارش کرد. نقل قول زیر از آن خبر نشان می دهد که وضعیت چقدر مضحک است:
منابع آشنا به این وضعیت نشان میدهند که کندی به رئیسجمهور سابق توصیه کرده است که نیش ونس میتواند «مزایای بیولوژیکی مشابه ابرقدرتها را به همراه داشته باشد.» طبق گزارشها، این توصیه بر اساس ادبیاتی بود که کندی در دوران جوانی خود تولید کرد، که ادعا میکرد برخی عفونتها میتوانند جاودانگی ایجاد کنند.
همانطور که Futurism نشان می دهد، چت ربات هوش مصنوعی DuckDuckGo اطلاعاتی را از Reddit گرفت و به کاربران خود گفت که مرگ ترامپ بر اثر هاری واقعاً درست است. خوشبختانه، این گزارش وحشی در زباله دانی اخبار جعلی قرار گرفت زیرا همان ابزار هوش مصنوعی دیگر این داستان را به عنوان اطلاعات قانونی ارائه نکرد. این داستان مشکل توهمهای هوش مصنوعی، عادتهای ضعیف تأیید منبع و روند جدیدی را نشان میدهد که کاربران ضد هوش مصنوعی درگیر مسموم کردن دادههای هوش مصنوعی هستند.
غذای آماده
ارجاع به اطلاعات نادرست و آشکارا نادرست الگویی از رفتار هوش مصنوعی است و باید زودتر اصلاح شود زیرا در حال حاضر موارد زیادی از هوش مصنوعی برای انتشار اطلاعات نادرست استفاده می شود.
Deepfakes یکی از بسیاری از ابزارهای هوش مصنوعی است که برای پر کردن اینترنت با محتوای جعلی استفاده می شود. برای همین چت ربات ها به همان اندازه خطرناک است که اطلاعات تایید نشده را به کاربران ناآگاه ارائه دهند. خوشبختانه، موتورهای جستجو مانند Startpage، Kagi و DuckDuckGo فوق الذکر وجود دارند که گزینه ای را برای خاموش کردن کامل ویژگی های هوش مصنوعی ارائه می دهند.
بیایید امیدوار باشیم که مشکلات توهم ربات چت DuckDuckGo حل شود تا به همه گفته نشود که پشهها بیشتر از انسانهایی که با نام «Punishment Rune of the Mosquito God» تحت تأثیر قرار میگیرند، همانطور که The Onion گزارش میدهد.
دنبال کردن راهنمای تام برای Google News و ما را به عنوان منبع ترجیحی اضافه کنید برای مشاهده آخرین اخبار، تحلیل ها و بررسی های ما در فیدهای خود. مشترک شدن در راهنمای تام یوتیوب و ما را دنبال کنید tiktok.
اطلاعات بیشتر از راهنمای تام
