آیا می توانید به نمای کلی AI اعتماد کنید؟ آخرین مطالعات نشان می دهد که شما ممکن است به همان اندازه که فکر می کنید درست نباشید

جنرال هوش مصنوعی گوگل قول می دهد فوراً پاسخ می دهد ، اما تحقیقات جدید نشان می دهد که همیشه قابل اعتماد نیست. از بیش از ادعاهای ژنرال گرفته تا منابع منسوخ ، باید قبل از اعتماد به این خلاصه کوچک ، دو بار در مورد نتایج جستجوی خود فکر کنید.

پس از انتشار در اوایل سال جاری ، این نمای کلی هوش مصنوعی و اکنون در صدر نتایج جستجو ظاهر می شود. Google به جای نقل مستقیم از یک سایت ، از AI استفاده می کند تا خلاصه ای از آنچه فکر می کنید بهترین پاسخ به سوال شماست ، ایجاد کند.

به عنوان مثال ، حتی می تواند این مقاله را بگیرد و آن را برای شما خلاصه کند. و حتی اگر این ممکن است مفید به نظر برسد ، با صحت این نمای کلی یک مشکل بزرگ وجود دارد. تحقیقات اخیر نشان می دهد که هوش مصنوعی اغراق شده و حتی اطلاعات منسوخ شده را در مورد مهمترین جزئیات ارائه می دهد. از آنجا که 25 ٪ از ChatGPT اشتباه است ، ارزش آن را دارد که از نحوه دریافت اطلاعات از هوش مصنوعی نزدیک تر جستجو کنیم.

کار نشان می دهد

هوش مصنوعی اطمینان دارد ، این می تواند یک مشکل باشد. حتی اگر جواب نادرست باشد ، هوش مصنوعی بر اطلاعات تأکید می کند و باعث می شود به طور خودکار به درستی ظاهر شود ، حتی اگر همیشه صحیح نباشد.

در یک مطالعه داوری ، محققان خلاصه سبک چتپپ خلاصه علمی را آزمایش کردند. نتایج روی کاغذ خوب به نظر می رسید: جمع کننده ها با 92.5 ٪ به درستی ارزیابی شدند. خیلی خوب به نظر می رسد ، درست است؟ با این حال ، حتی با داشتن نمره دقت بالا ، داوران اظهار داشتند که معمولاً جزئیات مهم در خارج از کشور باقی مانده است. به عبارت دیگر ، هوش مصنوعی هنگام ترک شما از جنبه های مهم ، جوهر را به شما داد. این ظرافت را از بین برده است که یک کاربر واقعاً باید یافته های واقعی را درک کند.