AWS دچار «حداقل دو خاموشی» ناشی از ابزارهای هوش مصنوعی شده است و من اکنون متقاعد شدهام که در قسمتی از «سیلیکون ولی» زندگی میکنیم.
طبق گزارشها، واحد ذخیرهسازی ابری آمازون AWS در ماه دسامبر به دلیل «خطاهای مربوط به کارمندان خود» دستکم دو بار از کار افتاد. با خواندن این گزارش از فایننشال تایمز، نمیتوانستم فکر نکنم که در جایی نویسندگان «سیلیکون ولی» آگاهانه سرشان را تکان میدهند.
از تصمیم ابزار کدنویسی Kiro AI مبنی بر اینکه بهترین اقدام «پاک کردن و بازآفرینی» محیط سیستم تا پاسخ آمازون مبنی بر «خطای کاربر است، نه خطای هوش مصنوعی»، تمام این سناریو برای هرکسی که عرقچین ریچارد هندریکس (با بازی توماس میدلدیچ) را که در پنج فصل درباره Piper صحبت میکرد، بسیار آشنا به نظر میرسد.
شایان ذکر است که این موضوع مرتبط نیست. در ماه اکتبر، نیمی از اینترنت با قطعی گسترده AWS مواجه شد. یک سخنگوی تایید کرد که این یک “حادثه بسیار محدود” است که یکی از دو منطقه در سرزمین اصلی چین را تحت تاثیر قرار داده است و قطعی دوم تاثیری بر “سرویس AWS روبروی مشتری” نداشته است. به دنبال این موارد، آمازون “تدابیر امنیتی متعددی” را برای اطمینان از عدم تکرار این اتفاق به اجرا درآورد.
Kiro AI = پسر آنتون
بدون اینکه خیلی از نمایش در اینجا خراب شود (با توجه به صنعت فناوری این روزها، من دعا میکنم که بازگردد)، طرحی وجود دارد که در سرتاسر سریال اجرا میشود که در آن یکی از شخصیتها، گیلفویل (مارتین استار)، یک ربات هوش مصنوعی به نام پسر آنتون میسازد که اراده خودش را به دست میآورد و شروع به بهینهسازی خود میکند.
از این نقطه به بعد، لذت هوش مصنوعی آژانس پدیدار می شود. شما می توانید بسیاری از این اتفاقات را در دنیای امروز مشاهده کنید. تماشای OpenClaw که میتواند از طرف او به پیامهای یک کاربر پاسخ دهد، مرا به یاد حلقه پیامرسانی بیپایان هوش مصنوعی میاندازد که برای مثال دینش (کومیل نانجیانی) و گیلفویل خود را در آن میبینند.
به هر حال، پسر آنتون به جعبه سیاهی تبدیل می شود که بدون دخالت انسان شروع به تصمیم گیری های اداری می کند. هندریکس و تیمش کنترل خود را از دست میدهند زیرا هوش مصنوعی دقیقاً همان چیزی را که میخواهند (راه حلی) به آنها میدهد، اما به مخربترین شکل ممکن.
تماشا کنید
درست مانند آنتون، این ابزارها در واقع هستند انجام دادن آنها اغلب فاقد عقل سلیم هستند تا بدانند کاری که می خواهند انجام دهند می تواند بسیار مضر باشد. او فقط یک مسیر عینی درست را می بیند. Kiro وظیفه رفع یک باگ جزئی در AWS Cost Explorer را داشت. در عوض، به طور مستقل تصمیم گرفت که بهترین اقدام این است: کل محیط را حذف کنید
همانطور که گیلفویل زمانی که به هوش مصنوعی خود اجازه داد کد را بازنویسی کند، گفت: “موثرترین راه برای خلاص شدن از شر تمام اشکالات، خلاص شدن از شر همه نرم افزارها بود که از نظر فنی و آماری صحیح است.”
انکار هولی مانند
دستیار هوش مصنوعی Kiro آمازون در دو نوبت جداگانه باعث قطعی AWS به مدت 13 ساعت شد. آمازون دلیل این امر را “خطای کاربر، نه خطای هوش مصنوعی” می داند که یکی از شرم آورترین چیزهایی است که می توانید به عنوان یک انسان بگویید https://t.co/SlEJzqYDhH pic.twitter.com/LHFRFPQdPN20 فوریه 2026
نفس شرکتی و آنتاگونیست کار، مدیر عامل هولی، گاوین بلسون (با بازی مت راس)، یکی از بامزه ترین شخصیت های نمایش است. طنز عالی از رهبران فناوری معمولی. حرکت مشخص او یکی از مواردی بود که شما در این نمایش خواهید دید: ایستادن در مقابل یک صفحه نمایش غول پیکر و توضیح اینکه چرا مشکلات یا شکست ها در واقع ویژگی های «پیش عظمت» دارند.
بین آنچه کارمندان آمازون می گویند و موضع شرکت AWS تفاوت فاحشی وجود دارد. از یک طرف، کارمندان می گویند که “این رویکرد سریع برای توسعه هوش مصنوعی به طور شگفت انگیزی آسیب زا خواهد بود”، با یکی از کارمندان ارشد AWS به FT که “مهندسان به هوش مصنوعی اجازه می دهند تا به هوش مصنوعی اجازه دهد.” [agent] شما می توانید بدون مداخله مشکل را حل کنید. اختلالات کوچک اما کاملاً قابل پیشبینی بود.»
سپس دفاع آمازون وجود دارد که دخالت ابزارهای هوش مصنوعی را “تصادفی” میخواند و میگوید این “مسئله کنترل دسترسی کاربر است، نه یک مسئله استقلال هوش مصنوعی” و اشکالات در ابزارهای هوش مصنوعی رایجتر نیستند.
اوه، و بیت “همان مشکل ممکن است با هر ابزار توسعه دهنده یا فرآیند دستی رخ دهد”؟ نماینده تصمیم گرفت که حذف کل محیط تولید ایده خوبی است. اگر توسعه دهندگان انسانی دارند که فکر می کنند این ایده خوبی است، من شروع به جستجوی توسعه دهندگان جدید خواهم کرد.
پس از تماشای مجدد چند قسمت کلیدی، من را به عنوان اوج هولی تحت تاثیر قرار داد. سرزنش مجوزهای کاربر مانند این است که بگوییم Kiro AI یک فراری است. راننده ای را استخدام کردیم که نمی دانست چگونه از ترمز استفاده کند. حفاظت از آینده هوش مصنوعی با قربانی کردن کرامت انسان کنونی.
سن «سیلیکون ولی» مانند شراب خوب است
وقتی سریال در سال 2019 پایان خود را پخش کرد، فکر میکردم که داریم کتاب مربوط به دوران طنز برادری فناوری را میبندیم. اما اگر اخبار مربوط به حادثه “کیرو” AWS درست باشد، ثابت می کند که ما به تازگی وارد تقسیم شده ایم.
موازی ها بیش از حد عالی هستند که نمی توان آنها را نادیده گرفت. از یک طرف، ما افشاگران و کارمندانی داریم که توضیح میدهند که هوش مصنوعی عامل با «سرعت پیچیدگی» و با سادهلوحی منطقی و وحشتناک پسر آنتون عمل میکند – ابزاری که آنقدر روی «حل» یک مشکل متمرکز شده است که کل محیط موجود به مانعی برای پاک شدن تبدیل میشود.
از سوی دیگر، یک اعلامیه شرکتی وجود دارد که از برتری هوش مصنوعی آنقدر محکم محافظت می کند که با هنر پرفورمنس هم مرز است. سرزنش مهندس به خاطر استقلال ربات مانند سرزنش کردن یک فرد برای انفجار تفنگ پس از حذف عمدی ایمنی است.
مایک جاج، خالق سریال، حتماً اخبار را در جایی تماشا میکند و متوجه میشود که احتمالاً در حال نوشتن یک کمدی نیست. او یک مستند نوشت و فراموش کرد به ما بگوید.
دنبال کردن راهنمای تام برای Google News و ما را به عنوان منبع ترجیحی اضافه کنید برای مشاهده آخرین اخبار، تحلیل ها و بررسی های ما در فیدهای خود.