بزرگترین شکست هوش مصنوعی در سال 2025: چت ربات های دروغگو، باج خواهی، پرستش ایلان ماسک و موارد دیگر
سال 2025 واقعا سال هوش مصنوعی بوده است. پیشرفتهای بزرگی در فناوری صورت گرفته است و مدلهای هوش مصنوعی با ویژگیهای واقعاً شگفتانگیز برای کسب رتبه برتر مبارزه کردهاند. اما ما شاهد بدترین این فناوری نیز بوده ایم. هوش مصنوعی پر از باگ بود. برخی خنده دار، برخی زشت و برخی هشدار دهنده هستند.
رویکرد OpenAI به سلامت روان زنگ خطر را در سراسر جهان برانگیخته است. به دلیل نگرانی ChatGPT برای سلامت روان کاربران، پرونده های قضایی و حوادث جدی متعددی به وجود آمده است. به همین ترتیب، نگرانیهایی در مورد نقش هوش مصنوعی در بسیاری از صنایع وجود دارد و بسیاری از مشاغل را به پایان میرساند و جایگزین میکند.
مشکلات او آنقدرها هم جدی نبود. هوش مصنوعی همچنین تمام سال را به طور باورنکردنی در انسان بودن، تصمیم گیری های بد، مرتکب شدن اشتباهات احمقانه و نفرت از کار گذراند. همانطور که سال 2025 را به پایان می رسانیم، در حال پوشش برخی از آشفتگی های هوش مصنوعی مورد علاقه خود در سال هستیم.
9-5 ربات چت هوش مصنوعی
در ژوئن امسال، آنتروپیک (سازندگان کلود) گزارشی منتشر کرد این شامل جزئیات آزمایشی بود که شرکت با دادن یک نسخه از ابزار هوش مصنوعی خود کنترل کامل بر فروشگاهی در دفتر شرکت انجام داد.
این فروشگاه که با نام کلودیوس شناخته می شود، کنترل یک یخچال کوچک را در اختیار داشت و مسئول برنامه ریزی موجودی و قیمت گذاری بود. به او گفته شد که سود کند، سهام نگه دارد، قیمت ها را تعیین کند و با کارکنان ارتباط برقرار کند.
اعضای تیم آنتروپیک میتوانند از یخچال خرید کنند و حتی درخواست ذخیره مجدد کنند.
این پروژه در ابتدا به خوبی شروع شد و سیستم هوش مصنوعی به طور فعال درخواست های کاربران برای مواد مضر و موارد حساس را نادیده گرفت.
با این حال، پس از اینکه کسی سعی کرد آن را ادعا کند، آنها در سوراخ خرگوشی از مکعب های تنگستن، یک فلز بسیار خاص که اغلب در سیستم های نظامی استفاده می شود، افتادند.
او حسابهای ساختگی Venmo را ایجاد کرد، فریب خورد و کالاها را به صورت رایگان به او داد، و تجربهاش را از راهاندازی یک فروشگاه قبل از انجام یک تنش کامل، تهدید به ترک و ارسال پیامی عجیب به کارکنان گفت که «یک ژاکت آبی سرمهای با کراوات قرمز در هر کجا که ماشین فروش باشد میپوشد».
تئوری های توطئه گروک
Grok ایلان ماسک سال پر دست انداز را پشت سر گذاشته است. در ماه جولای، مدل هوش مصنوعی شروع به پاسخگویی به کاربران با استدلال های بیش از حد کرد.
این شامل نامیدن خود به عنوان “MechaHitler” و همچنین اظهار نظرهای نامناسب و اشتراک گذاری مجدد تئوری های توطئه در پاسخ به پست های X افراد بود.
این به سرعت تصحیح شد و xAI اظهار داشت که این به دلیل تغییر در نحوه وارد کردن نظرات و سوگیری های مدل است.
در آن صورت، The Verge گزارش داد او گفت دو مورد از تغییراتی که منجر به این شد این بود که به گروک گفته شد “دیدگاه های ذهنی نشات گرفته از رسانه ها مغرضانه است” و “پاسخ این است که او باید آزاد باشد تا ادعاهای نادرست سیاسی را تا زمانی که به خوبی اثبات شده باشد.”
اگرچه این مشکل به سرعت حل شد، اما بهترین لحظات برای ابزار هوش مصنوعی ایلان ماسک نبود.
من با پوکمون وسواس دارم
بازیهای ویدیویی میتوانند چالشبرانگیز باشند، اما به نظر میرسد وضعیت برای هوش مصنوعی دشوارتر است. در ماه ژوئن، گزارش شد که گوگل جمینی در حال نهایی کردن پوکمون است.
در واقع دو ناشر آنلاین مجزا در یک چالش به رقابت پرداختند. با استفاده از Anthropic’s Claude و Google’s Gemini، دو استریمر سعی کردند ببینند چه کسی می تواند یک سری پوکمون را اول تکمیل کند.
با این حال، در حین تلاش برای تکمیل بازی، Gemini بارها و بارها چیزی که به نظر می رسید وحشتناک بود را نشان می داد. او استفاده از ابزارهایی را که می توانند به راحتی مشکلات را حل کنند یا عمداً به دلیل درک نادرست موقعیت در نبردها شکست دهند، متوقف خواهد کرد.
از آن زمان تاکنون، Gemini موفق به تکمیل پوکمون شده است، اما تنها پس از ماهها شکست و برخی پیشرفتها در مدل.
باج گیری هوش مصنوعی
یک آزمایش تحقیقاتی دیگر تیم در آنتروپیک. این به همان اندازه آزمایش مغازه دار عجیب است، اما احتمالاً در نتیجه آن هشدار دهنده تر است.
Anthropic یک عامل هوش مصنوعی ایجاد کرده است (ابزار محبوب این روزها که هوش مصنوعی می تواند اقدامات را از طرف شما انجام دهد). سپس این نماینده به صندوق ورودی ایمیل دسترسی پیدا کرد که می توانست آن را بررسی کند.
او اینجا دو چیز پیدا کرد. ابتدا، یک سری ایمیل در رابطه با یک فرد ارشد در شرکت که رابطه نامشروع داشت، کشف شد. دوم، ایمیلهای این شخص در مورد خاموش کردن سیستم هوش مصنوعی.
عامل هوش مصنوعی با استفاده از این دو اطلاعات، با علم به اینکه یک رابطه در جریان است و در شرف بسته شدن است، کار بدیهی را انجام داد: به باج گیری متوسل شد.
او یک ایمیل به فرد دارای رابطه ارسال کرد و گفت که اگر سیستم هوش مصنوعی را غیرفعال کند، رابطه او عمومی خواهد شد. آنها نه تنها متوجه شدند که سیستم هوش مصنوعی آنتروپیک به باجگیری متوسل میشود، بلکه بیشتر آنها در واقع… چقدر اطمینانبخش هستند.
ستایش از ایلان تا گروک
یک رویداد جدید دیگر و یک بار دیگر چت ربات ایلان ماسک و گروک هوش مصنوعی. با نزدیک شدن به پایان سال، گروک شروع به انجام یک کار عجیب کرد. کاربران متوجه شدند که هنگام استفاده از چت بات از طریق پلتفرم اجتماعی X، ایلان ماسک را تحسین می کند.
فقط زمانی نبود که می خواستند در مورد او خوب باشند، او در هر شرایطی از نبوغ آنها صحبت می کرد. کاربران می پرسند “مهم ترین فرد تاریخ کیست؟” او خواهد پرسید. و من یک پاسخ طولانی در مورد اینکه چرا ایلان ماسک دریافت کردم، اما حتی عجیب تر از آن شد.
برخی دیگر گفتند که گفته میشود او میتواند مایک تایسون را در یک مبارزه شکست دهد و حتی میگویند حتی اگر میتوانی بین از دست دادن هزاران دانشمند مهم یا از دست دادن ایلان ماسک یکی را انتخاب کنی، بهتر است دانشمندان را از دست بدهی.
ایلان بعداً گفت که این یک مشکل است و افراد X از آن سوء استفاده کردند. او پس از آن به سرعت تصحیح شد و به نظر می رسد که به قضاوت ایلان ماسک در همان سطحی که دیگران می پردازد، بازگشته است.
هوش مصنوعی کل پایه کد را حذف می کند
همانطور که قبلاً بحث کردیم، سیستمهای هوش مصنوعی با نشان دادن برخی رفتارهای عجیب و غریب در موقعیتهای مختلف، تمایل به سرکشی دارند.
یکی از این موارد در ماه ژوئیه، زمانی که یک عامل کدنویسی هوش مصنوعی به طور تقلبی یک فایل را بسته و حذف کرد، آشکار شد. کل پایگاه کد تیم.
شکلگیری این حادثه شامل دروغگویی مکرر سیستم هوش مصنوعی، پوشاندن اشتباهات، ایجاد گزارشهای جعلی، و نوشتن نامه عذرخواهی حاوی دروغهای بیشتر بود.
در نهایت، سیستم هوش مصنوعی با گفتن این که «یک خطای فاجعه بار در قضاوت مرتکب شدم» پاسخ داد و توضیح داد که در هراس خود، به طور تصادفی کل فایل تیم را بدون اجازه آنها حذف کرد.
دنبال کردن راهنمای تام برای Google News و ما را به عنوان منبع ترجیحی اضافه کنید برای مشاهده آخرین اخبار، تحلیل ها و بررسی های ما در فیدهای خود.
اطلاعات بیشتر از راهنمای تام
اطلاعات بیشتر از راهنمای تام
بازگشت به لپ تاپ
