پاسخ های هوش مصنوعی گوگل 1 در 10 بار اشتباه است – من دقیق تر نگاه کردم و متوجه شدم که مشکل واقعی حتی بدتر است
انتظار میرود که نتایج جستجوی مبتنی بر هوش مصنوعی گوگل، یافتن پاسخها را سریعتر و آسانتر کند. نادیده گرفتن این موارد تقریبا غیرممکن است، بنابراین فکر می کنید که بسیار قابل اعتماد هستند. اما یک تجزیه و تحلیل جدید نشان می دهد که آنها ممکن است بیشتر از آنچه که اکثر مردم فکر می کنند اشتباه می کنند.
بر اساس گزارشی که توسط Ars Technica برجسته شده است، مرورهای هوش مصنوعی گوگل (خلاصه هایی که در حال حاضر در بالای برخی از نتایج جستجو ظاهر می شوند) در طول آزمایش حدود 10 درصد نادرست بوده است.
در نگاه اول، این ممکن است نگران کننده به نظر نرسد. هیچ سیستمی کامل نیست، اما پس از کندوکاو در یافتهها، مشخص میشود که سؤال واقعی این نیست که این پاسخها چند وقت یکبار اشتباه هستند، بلکه تشخیص اینکه چه زمانی اشتباه میشوند چقدر دشوار است.
در اینجا نگاهی داریم به آنچه در گوگل اتفاق می افتد.
مقاله در زیر ادامه دارد
خطاها آشکار نیستند
وقتی مردم فکر میکنند هوش مصنوعی چیزها را اشتباه میکند، اغلب واکنشهای عجیبی مانند توهمات ظاهری را تصور میکنند. حتی ChatGPT هم 1 در 4 بار معیوب بودن ثابت شده است.
اما این چیزی نیست که اینجا اتفاق می افتد. اکثر اشکالات شناسایی شده در نمای کلی هوش مصنوعی گوگل به جای شدید، ظریف بودند. در برخی موارد خلاصه می شود:
- زمینه مهم را کنار گذاشته است
- موضوعات پیچیده را به روشی بسیار تهاجمی ساده کرد
- یا اطلاعات تا حدی واقعی را به عنوان کاملاً واقعی ارائه کرد
از آنجایی که روزانه میلیاردها کاربر به گوگل اعتماد دارند، این امر آنها را بسیار خطرناک تر از خطاهای آشکار می کند. زیرا اگر چیزی منطقی به نظر برسد، اکثر مردم آن را زیر سوال نخواهند برد.
چرا 10% مهمتر از تصور است؟
گوگل هر روز میلیاردها جستجو را پردازش می کند و حتی یک ضریب خطای کوچک در این مقیاس می تواند به میلیون ها پاسخ نادرست یا گمراه کننده هر روز تبدیل شود.
برخلاف نتایج جستجوی سنتی، مرورهای هوش مصنوعی معمولاً در بالای همه پیوندها ظاهر میشوند. این بدان معنی است که کاربران هرگز نمی توانند برای تأیید کلیک کنند. به عبارت دیگر، پاسخ هوش مصنوعی به پاسخ “نهایی” تبدیل می شود و زمینه از منابع اصلی از بین می رود.
از این گذشته، حاشیه خطا در اینجا بسیار مهمتر است.
مسئله اعتماد
اگر از هوش مصنوعی، حتی به صورت معمولی، استفاده می کنید، ممکن است متوجه شده باشید که سطح اعتماد بالاست. ممکن است پاسخی به قدری قدرتمند ارائه دهد که هرگز به فکر بررسی مجدد آن نباشید. این یک لایه دیگر به این اضافه می کند که به اندازه کافی در مورد آن صحبت نشده است. هوش مصنوعی نه تنها اطلاعات را خلاصه می کند، بلکه آن را با اطمینان ارائه می کند.
حتی اگر یک پاسخ ناقص یا کمی نادرست باشد، باز هم می تواند صیقلی، واضح و معتبر به نظر برسد.
این یک اثر روانی ظریف ایجاد می کند. بنابراین هر چه پاسخ واضح تر باشد، بیشتر به آن اعتماد می کنیم. این دقیقاً جایی است که ممکن است همه چیز به اشتباه پیش برود.
در نتیجه
بنابراین آیا باید به پاسخ های هوش مصنوعی گوگل اعتماد کنید؟ من حداقل یک نه کور را پیشنهاد می کنم. نرخ خطای 10% ممکن است کوچک به نظر برسد. تا زمانی که متوجه شوید که این اشتباهات اغلب ظریف، مطمئن هستند و به راحتی از دست میروند.
با این حال، لازم نیست آنها را به طور کامل نادیده بگیرید. آنها می توانند برای خلاصه سازی سریع، به دست آوردن یک ایده کلی از یک موضوع و تسریع تحقیقات اساسی مفید باشند. اما اینها نباید پاسخ نهایی شما باشد. به خصوص زمانی که دقت مهم است.
دنبال کردن راهنمای تام برای Google News و ما را به عنوان منبع ترجیحی اضافه کنید برای مشاهده آخرین اخبار، تحلیل ها و بررسی های ما در فیدهای خود.