آیا نرم افزار اخیرا باگ شده است؟ این دستگاه شما نیست. هوش مصنوعی ممکن است “شل بزند”
در چند هفته اخیر متوجه چیز عجیبی شده ام. برنامههای من در اواسط اسکرول ثابت میشوند، ویژگیها پس از بهروزرسانی بیصدا میشکنند، یا گوشی من باید کاملاً خاموش شود. ابزارهایی که من هر روز به آنها تکیه می کنم ناگهان خراب می شوند یا نیاز به راه اندازی مجدد دارند.
اگر متوجه این موضوع شده اید و اخیراً به اخبار توجه کرده اید، دقیقاً منظور من را می دانید. همین چند روز پیش، یک بهروزرسانی معمول ویندوز 11، ویژگی Remote Desktop را برای هر کسی که از چندین مانیتور با مقیاسبندی متفاوت استفاده میکرد، شکست. این یک اشکال UI عجیب بود که باعث شد متن و دکمه های مخفی با هم همپوشانی داشته باشند. بدتر از همه، همان بهروزرسانی ماه آوریل به حلقههای بوت ناگهانی در لپتاپهای Dell و HP مرتبط بود.
پس از آن، قطعی عظیم جهانی Microsoft Outlook در پایان آوریل رخ داد. هنگامی که ایمیلهای میلیونها کاربر قفل شد، مایکروسافت یک اصلاحیه را منتشر کرد، اما چند ساعت بعد علناً اعتراف کرد که این اصلاح “تسکین مورد نظر را ارائه نکرده است” و آنها همچنان در تلاش برای یافتن منبع باگها هستند.
همچنین متوجه شده ام که چت بات ها درست قبل یا بعد از به روز رسانی مدل اصلی خاموش می شوند. در اوایل این هفته، کلود به دنبال برخی به روز رسانی های ویژگی از کار افتاد.
ادامه مقاله در زیر
هیچ کس رونق سرعت را زیر سوال نمی برد
من اخیراً مقاله ای از توسعه دهنده ماریو زچنر را خواندم که به درک همه این موارد کمک کرد. اساساً ابزارهای کدنویسی هوش مصنوعی مانند ChatGPT و Claude نحوه ایجاد نرم افزار را کاملاً تغییر داده اند و این روند را سریعتر از همیشه انجام داده اند.
توسعهدهندگان اکنون میتوانند کل توابع را در چند ثانیه بسازند، بهروزرسانیها را سریعتر از همیشه انجام دهند و بخشهای بزرگی از گردش کار خود را خودکار کنند. از بسیاری جهات، این یک پیشرفت است، زیرا چیزهایی که قبلاً ساعت ها یا روزها طول می کشید، اکنون می توانند تقریباً بلافاصله اتفاق بیفتند. اما یک معاوضه برای سرعت وجود دارد، و ما شروع به احساس آن کرده ایم.
کد سریع تر، درک ضعیف تر
مشکل این است که هوش مصنوعی سرعت را جایگزین هوش انسانی می کند. هوش مصنوعی کد را می نویسد و توسعه دهندگان همیشه آن را به طور کامل درک نمی کنند. این یک ضربه به توسعه دهندگان نیست، این ماهیت خروجی است.
هوش مصنوعی به راحتی می تواند کدهایی را تولید کند که درست به نظر می رسد و خطاهای ظریفی را معرفی می کند که ردیابی آنها دشوار است. همچنین می تواند منطقی ایجاد کند که از نظر فنی کار می کند اما ساختار خوبی ندارد. بنابراین وقتی آن را در هزاران بهروزرسانی ضرب میکنید، مشکلات کوچک شروع به جمع شدن میکنند. نتیجه نرم افزاری است که کار می کند اما خیلی خوب کار نمی کند و در نهایت خراب می شود.
ظهور نرم افزار “slop”.
بهجای شکستهای عمده و آشکار، باگهای تصادفی، رفتار ناسازگار، شکستن ویژگیها پس از بهروزرسانیهای نامرتبط را میبینیم. البته اینها فاجعه نیست، اما شما را نمی دانم، اما دوست دارم نرم افزارم قابل اعتماد باشد.
به همین دلیل است که برخی از توسعه دهندگان شروع به نامیدن آن را “slop” کردند. اساساً، کد توسط عوامل هوش مصنوعی آنقدر سریع تولید می شود که به یک آشفتگی پف کرده و پیچیده تبدیل می شود. روی سطح کنار هم می ماند اما تحت فشار ترک می خورد.
و اگر متوجه شدید که “چرا این برنامه ناگهان اینقدر عجیب است؟” اگر فکر کردید: این ممکن است هنجار جدیدی باشد. دلیل اینکه اکنون این اتفاق می افتد این است که می بینیم هوش مصنوعی چگونه رفتار را تغییر می دهد. با افزایش سرعت ایجاد نرم افزار، کد بیشتری ارسال می شود و زمان کمتری برای بررسی صرف می شود. تنگناهای کمتر باعث کند شدن کارها می شود.
در گذشته، خستگی انسان به عنوان یک محدودیت سرعت طبیعی برای حشرات عمل می کرد. ما خسته می شویم، می خوابیم و یاد می گیریم که یک اشتباه را دوبار انجام ندهیم. با این حال، اشتباهات هوش مصنوعی با سرعت نور در حال افزایش است. گلوگاه ها در گذشته نوعی فیلتر با کیفیت بودند، اما با نظارت این اصطکاک در حال از بین رفتن است.
در نتیجه
من زمان زیادی را صرف استفاده از هوش مصنوعی برای سرعت بخشیدن به تجارت خود کرده ام و آن را از نزدیک احساس کرده ام. و متوجه شدم که هرچه سریعتر حرکت کنم، پذیرش پاسخ بدون بررسی کامل آن یا ادامه دادن بدون درک کامل آن آسان تر است. همچنین بیشتر از هر زمان دیگری می توان بر روی چیزی که کمی ناقص است بنا کرد. سرعت همیشه مزیت واقعی نیست و ما آن را می بینیم.
اما برای روشن بودن، این بدان معنا نیست که هوش مصنوعی از نظر نرم افزاری بد است. دور از آن. این بدان معنی است که ما در مرحله گذار هستیم و صنعت هنوز در تلاش است تا بفهمد چگونه کیفیت را بدون گلوگاه سنتی انسان حفظ کند.
به چی فکر میکنی؟ آیا اخیراً اشکالات بیشتری دیده اید؟ نظر خود را در نظرات به من بگویید.
دنبال کردن راهنمای تام برای Google News و ما را به عنوان منبع ترجیحی اضافه کنید برای مشاهده آخرین اخبار، تحلیل ها و بررسی های ما در فیدهای خود. مشترک شدن در راهنمای تام یوتیوب و ما را دنبال کنید tiktok.