این مطالعه نشان می دهد که chatgpt-5 حدود 1 بار اشتباه است-دلیل این امر

من روز دیگر با چتگپ طوفان مغزی شدم و ناگهان او وارد این داستان طولانی و خیالی شد که هیچ ارتباطی با سؤالات من نداشت. آنقدر مسخره بود که باعث خندیدن من شد. اخیراً ، من هرگز چنین اشتباهاتی را در درخواست های متن ندیده ام ، اما هنوز هم آنها را به طور مرتب با ایجاد تصاویر می بینم.

این لحظات تصادفی ، که در آن یک چت بابات از کار منحرف شده است ، به عنوان توهم شناخته می شود. نکته عجیب این است که قایق چت بیشتر از جواب اشتباه اطمینان دارد. یکی از بزرگترین نقاط ضعف دستیاران هوش مصنوعی امروز. با این حال ، یک مطالعه جدید از OpenAi استدلال می کند که این خرابی ها به طور تصادفی نیستند ، اما این یک نتیجه مستقیم از نحوه آموزش و ارزیابی مدل ها است.

چرا چکمه های گپ همچنان پیش بینی می کنند که چه موقع نباید این کار را انجام دهند؟

این تحقیق به یک مسئله ساختاری اشاره دارد که باعث توهم می شود. در اصل ، این مشکل ناشی از معیارها و جداول رهبری است که مدل های هوش مصنوعی را لیست می کند و پاسخ های مطمئن را پاداش می دهد.

به عبارت دیگر ، هنگامی که یک قایق چت می گوید Orum من نمی دانم “، او در آزمایش مجازات می شود. این بدان معنی است که حتی اگر آنها مطمئن نباشند که مدل ها صحیح هستند ، همیشه به طور مؤثر تشویق می شوند که جواب دهند.