فکر می کردم هوش مصنوعی هوشمندتر می شود. تا اینکه کدی را دیدم که ثابت می کند ما را «گیج» می کند
من هر روز از هوش مصنوعی برای کار استفاده می کنم، زیرا به من کمک می کند سریع تر طوفان فکری کنم، واضح تر فکر کنم و ایده های تست استرس را انجام دهم. در این مرحله، او مانند یک دستیار به نظر می رسد که در هر زمان می توانم به آن اعتماد کنم.
وقتی دیدم که توسعه دهنده وس باس کد منبع کلود را بررسی کرده و چیز غیرمنتظره ای پیدا کرده است، تصور کردم که این یک پیشرفت پیچیده در نقشه برداری عصبی خواهد بود.
ادامه مقاله در زیر
کشف خیره کننده
Claude Code نقشه منبع را فاش کرد، و به طور موثر به شما نگاهی به پایگاه کد میدهد. من فوراً به تنها چیزی که مهم است روی آوردم: بازگشت افعال187 pic.twitter.com/zFW3ZrVz8G var31 مارس 2026
به گفته Bos، او 187 فعل رمزگذاری شده را که در کد یک سیستم هوش مصنوعی پنهان شده بودند، کشف کرد. این شامل کلماتی مانند “Hullaballooing” و “Razzmatazing” است. به طور جدی، این نقل قول ها چقدر شگفت انگیز هستند؟
اما این کلمات احمقانه “توهم” یا طغیان خلاقانه از مدل زبان بزرگ (LLM) نیستند. اینها تغییرات از پیش نوشته شده بودند. اساساً فهرستی از کلمات قابل تعویض بود که سیستم از قفسه بیرون کشید تا از تکرار صدا در زمانی که منتظر پاسخ هستید جلوگیری کند.
اساساً، برخی از «انسانیترین» بخشهای هوش مصنوعی در حین پرواز تولید نمیشوند. آنها از روی یک سناریو انتخاب می شوند.
به هر حال “کلمات چرخشی” چیست؟
اگر تا به حال نام این اصطلاح را نشنیده اید، مفهوم آن ساده است. برای جلوگیری از حوصله کاربر یا توجه به یک الگو، سیستم عبارات مختلف را در یک لیست از پیش تعریف شده جایگزین می کند. به جای اینکه هوش مصنوعی همیشه بگوید “پردازش…” می تواند بین: “محکم نگه دار”، “بگذار فکر کنم”، “من دارم چیزی درست می کنم” … و ظاهرا، “جذاب کننده.”
اما این هوشمندی نیست، صرفاً طراحی محصول است.
و در نگاه اول، “سرگیجه” مانند یک تخم مرغ عید پاک جالب به نظر می رسد. اما به واقعیتی اشاره می کند که ما اغلب فراموش می کنیم: هوش مصنوعی یک “ذهن” نیست، بلکه یک کیک لایه لایه است.
وقتی از ابزاری مانند ChatGPT یا Claude، شما با:
- مدرک تحصیلی: “مغز” واقعی که کلمه بعدی را پیش بینی می کند.
- نرده ها: فیلترهای امنیتی که مانع از خارج شدن هوش مصنوعی از مسیر می شوند.
- UI/UX Wrapper: لایه “شخصیت” که در آن کلمات چرخان زندگی می کنند.
کلماتی در حال چرخش هستند که هوش مصنوعی را شبیه به انسان جلوه می دهند زیرا آنها توهم تلاش و شخصیت را ایجاد می کنند در حالی که پردازنده واقعی کارهای سنگین را در پس زمینه انجام می دهد.
در همان کشف چیزی حتی آشکارتر پنهان بود: یک سیستم تجزیه و تحلیل که هنگام نفرین کردن، درخواست شما را به عنوان “منفی” ثبت می کرد.
سیستم فقط متن تولید نمی کند. نظارت بی صدا سیگنال هایی مانند:
- ناامیدی: بدون توهین و استفاده از حروف بزرگ.
- نارضایتی: به وضوح به هوش مصنوعی گفت: “این اشتباه است.”
- پاسخ های ناموفق: زمانی که کاربر نیاز دارد چندین بار یک پاسخ را ایجاد کند.
وقتی چیزی را با عصبانیت تایپ می کنید، علامت گذاری می شود. نه برای “تنبیه” شما، بلکه برای اندازه گیری جایی که محصول شکست خورده است. این یادآوری است که در حالی که هوش مصنوعی به کار شما کمک می کند، شما همچنین یک نقطه داده هستید که به هوش مصنوعی کمک می کند تا “بهتر” یا حداقل قانع کننده تر شود. بنابراین وقتی از مودب بودن با ربات چت دست بردارید، می توانید پاسخ های بهتری دریافت کنید.
در نتیجه
معنای این کشف برای من این است. من از خودم میپرسم: آیا این ایجاد شده است، یا بر اساس نحوه راهاندازی آن انتخاب شده است؟ از زمانی که این کشف را دیدم، متوجه شدم که هوش مصنوعی را آگاهانه تر استفاده می کنم.
هوش مصنوعی به دلایلی شبیه یک انسان است. این فقط به این دلیل نیست که ریاضی در حال هوشمندتر شدن است. این به این دلیل است که رابط کاربری با دقت طراحی شده است تا قابل ارتباط به نظر برسد. گاهی اوقات این به معنای استدلال پیشرفته است که جهان را تغییر می دهد، اما گاهی اوقات به معنای لیست مخفیانه ای از کلمات است که با چرخش چرخ دنده شما را به لبخند می اندازد.
دنبال کردن راهنمای تام برای Google News و ما را به عنوان منبع ترجیحی اضافه کنید برای مشاهده آخرین اخبار، تحلیل ها و بررسی های ما در فیدهای خود.