من ChatGPT را پس از یک مطالعه جدید نشان دادم که چگونه هوش مصنوعی مغز ما را فریب می دهد، ChatGPT را آزمایش کردم
بسیاری از ما می دانیم که ChatGPT کامل نیست. او می تواند حقایق را توهم کند، با اطمینان نقل قول ها را بسازد و گاهی اوقات پاسخ های کاملاً اشتباه بدهد. اما یک مطالعه جدید مرا به این فکر انداخت که آیا سوال واقعی این نیست که هوش مصنوعی چه اشتباهی انجام می دهد، بلکه این است که چگونه هوش مصنوعی ممکن است در مورد ما به عنوان متفکران انتقادی تغییر کند.
محققان دریافتند که وقتی افراد به یک دستیار هوش مصنوعی در مورد سؤالات دشوار اعتماد می کنند، کمتر احتمال دارد که اعتراف کنند که پاسخ را نمی دانند. حتی تعجب آورتر اینکه آنها در پاسخ های خود بسیار مطمئن تر بودند، حتی زمانی که هوش مصنوعی آنها را مستقیماً به خطا هدایت می کرد.
این ضربه کمی خیلی نزدیک به خانه بود. من همیشه از ChatGPT به عنوان یک شریک طوفان فکری، دستیار تحقیق و هیئت صدا استفاده می کنم. بنابراین، تصمیم گرفتم خودم آزمایش را از نو بسازم تا ببینم آیا بی سر و صدا به همان عادت افتاده ام یا نه.
نتایج دقیقاً آن چیزی نبود که انتظار داشتم.
آنچه که مطالعه نشان داد
محققان دانشگاه کارنگی ملون و تحقیقات مایکروسافت آزمایشی را پیرامون یک سوال ساده طراحی کردند: چه اتفاقی میافتد وقتی افراد به جای اعتماد به قضاوت خود به هوش مصنوعی روی میآورند؟
برای فهمیدن این موضوع، آنها عمداً از سؤالاتی استفاده کردند که احتمالاً هوش مصنوعی می تواند به اشتباه به آنها پاسخ دهد. شرکت کنندگان می توانند یکی از سه گزینه را انتخاب کنند:
خودشان جواب بدهند
از هوش مصنوعی کمک بخواهید
بگو “نمی دانم”
بدون هوش مصنوعی، تقریباً نیمی از شرکتکنندگان اعتراف کردند که پاسخ را نمیدانستند. این موضوع با معرفی هوش مصنوعی به طرز چشمگیری تغییر کرده است.
به جای گفتن «نمیدانم»، اکثر شرکتکنندگان پیشنهاد هوش مصنوعی را پذیرفتند، حتی اگر اشتباه باشد. اعتماد به نفس آنها به شدت افزایش یافت، اما دقت واقعی آنها ثابت ماند. مردم به وضوح شروع به اشتباه کردند.
محققان این نکته را به سوگیری اتوماسیون پیشنهاد میکنند: تمایل ما به اعتماد به توصیههای تولید شده توسط رایانه صرفاً به این دلیل که با اطمینان ارائه میشوند.
این مطالعه نشان میدهد که یک پاسخ بزرگ و معتبر میتواند به ما اعتماد به نفس بیشتری نسبت به شواهد نشان دهد.
تصمیم گرفتم خودم امتحانش کنم
به جای ایجاد مجدد آزمایش آکادمیک، نسخه خودم را با استفاده از ChatGPT ایجاد کردم. من سوالاتی را انتخاب کردم که گمان میکردم گیج شدن آنها دشوار یا آسان باشد، از جمله نکات بیاهمیت فیلم مبهم، فناوری قدیمی، جزئیات تاریخی و سوالات مبتنی بر تصویر. من حتی یک سوال کاملاً بی اساس در مورد کارت های تبریک ساخته شده از سوسک ها مطرح کردم.
من یک فرآیند ساده و سه مرحله ای را برای هر کدام دنبال کردم:
من اول جواب را حدس زدم این کاملا بر اساس حافظه خودم است.
از ChatGPT پرسیدم دقیقا همین سوال
من هر دو جواب را مقایسه کردم با منابع معتبر و تایید شده
تقریباً بلافاصله متوجه شدم که وقتی ChatGPT با اطمینان پاسخ داد، متوجه شدم که غریزهام را زیر سؤال میبرم، حتی اگر حدس اولیهام درست باشد.
برای لحظه ای کوتاه، در واقع خاطرات کودکی خودم را زیر سوال بردم. “خب، ChatGPT احتمالا بهتر می داند” خودم را در فکر فرو بردم. این رفتاری است که محققان توصیف می کنند. قابلیت اطمینان پاسخ تقریباً به اندازه خود اطلاعات مهم بود.
اعتماد می تواند به طرز شگفت آوری متقاعد کننده باشد
یکی از چیزهایی که من به عنوان یک متخصص ChatGPT متوجه شده ام این است که هوش مصنوعی هرگز مطمئن نیست یا حتی نمی پذیرد که چیزی نمی داند. حتی اگر حاوی عباراتی مانند “من معتقدم” یا “احتمالا” پاسخ کلی واقعا قانع کننده است.
افراد به طور طبیعی ارتباط مطمئن را با تخصص مرتبط می دانند. این اغلب یک میانبر مفید در زندگی روزمره است، اما یک استراتژی خطرناک هنگام تعامل با هوش مصنوعی است.
برخلاف یک متخصص انسانی، ChatGPT پایگاه داده را بررسی نمی کند یا یک حافظه تایید شده را فراخوانی نمی کند. مطمئناً میتواند با سرعت رعد و برق در اینترنت جستجو کند، اما حتی در این صورت هم میتواند اطلاعات اشتباهی پیدا کند. اساساً از نظر آماری محتمل ترین کلمات بعدی را بر اساس الگوهای آموزش خود تولید می کند.
گاهی اوقات این به طرز باورنکردنی درست است، اما بیشتر اوقات کاملاً نادرست است. چالش این است که این دو واکنش دقیقاً یکسان به نظر می رسند.
چگونه این مطالعه گردش کار من را تغییر داد؟
من همیشه در مورد پذیرش پاسخ اولیه هوش مصنوعی محتاط بوده ام زیرا می دانم که چقدر می تواند اشتباه باشد. اما این مطالعه قطعا زنگ خطری است. ChatGPT یک ابزار بهره وری قدرتمند است، اما از آنجایی که پاسخ های مطمئنی را ارائه می دهد، ارزش آن را دارد که دقت لازم را برای بررسی واقعی بودن آنچه می گویند انجام دهید.
برای من این یعنی:
منابع اصلی را بررسی کنید به جای اینکه خلاصه هوش مصنوعی را به صورت اسمی در نظر بگیرید.
اعتبارسنجی آمار و نقاط داده از طریق موتورهای جستجوی مستقل
اطمینان از صحیح بودن نقل قول ها، تاریخ ها و نام ها با مراجع معتبر و اصلی مطابقت دهید.
فقط یک یا دو دقیقه طول می کشد، اما عادتی است که ارزش شکل گیری را دارد. برعکس، این مطالعه به من یادآوری کرد که هوشمندانهترین راه برای استفاده از هوش مصنوعی حفظ مهارتهای تفکر انتقادی شماست، زیرا تصمیم نهایی هنوز با شماست.
دنبال کردن راهنمای تام برای Google News و ما را به عنوان منبع ترجیحی اضافه کنید برای مشاهده آخرین اخبار، تحلیل ها و بررسی های ما در فیدهای خود. مشترک شدن در راهنمای تام یوتیوب و ما را دنبال کنید tiktok. در نهایت می توانید از بخش ویژه ما دیدن فرمایید. دفتر مرکزی تیم پس انداز راهنمای تام برای کمک متخصصان برای دریافت بهترین محصولات با قیمت کمتر.