ChatGPT به من گفت باردار هستم. کاملا اشتباه بود.
وقتی هفته گذشته وارد ChatGPT شدم تا مجموعهای از علائم عجیب و ناامیدکننده، چرخههای قاعدگی نامنظم، تعریقهای ناگهانی شبانه، نوسانات خلقی خفیف و خستگی را آشکار کنم، به دنبال کمکی برای کاهش علائم بودم. در عوض، من به یک تشخیص مطمئن و ساده رسیدم: تبریک می گویم، شما احتمالا در سه ماهه اول بارداری خود هستید!
تنها یک مشکل آشکار وجود داشت: من قطعا باردار نیستم. شوهرم وازکتومی کرد و من در اواسط یائسگی هستم. اما من از دقت مطلقی که هوش مصنوعی با آن تصمیم خود را گرفت، شگفت زده شدم. اگر بدن خودم را نمیشناختم، یا اگر جوانتر بودم، مضطرب بودم یا با یک تصمیم خطرناک سلامتی مواجه بودم، این توصیه میتوانست روزم را از مسیر خارج کند، من را در یک سوراخ احساسی خرگوش فرو ببرد، یا منجر به آزمایشهای پزشکی غیرضروری شود.
تجربه من یک ابهام مجزا نیست. ChatGPT Health روز پنجشنبه راهاندازی شد و این قول را داد که کاربران ایالات متحده اکنون میتوانند به طور ایمن اطلاعات سلامتی خود را برای “درک و راهنمایی بهتر سلامت خود” به هم متصل کنند. مهم است که به خاطر داشته باشید که هوش مصنوعی نمی تواند جایگزین پزشک انسان شود.
پرونده برجسته تشکیل شد
همین هفته، نیویورک تایمز از شکایت مهمی علیه OpenAI توسط کشیش فلوریدا، اسکات وینترز، گزارش داد که ادعا می کند توصیه های پزشکی ChatGPT تقریباً به قیمت جان او تمام شده است. پس از مشورت با چت بات در مورد سرگیجه شدید و درد لگن، هوش مصنوعی به او اطمینان داد که علائم او “خطرناکی نیست” و به او توصیه کرد که روی پاهای خود در صندلی بایستد.
هفتهها بعد، او با آمبولی ریوی شدید و خطرناک در بخش مراقبتهای ویژه بستری شد. پزشکان اظهار داشتند که این وضعیت با عدم فعالیت طولانی مدت پیشنهاد شده توسط هوش مصنوعی تشدید شده است.
اگرچه تشخیص اشتباه من مثبت کاذب بود تا یک اورژانس پزشکی، هر دو مورد دقیقاً یک خطر اساسی را برجسته میکنند: مدلهای زبان بزرگ طوری طراحی شدهاند که معتبر به نظر برسند، نه دقیق.
در اینجا به این موضوع می پردازیم که چرا تکیه بر هوش مصنوعی برای مشاوره پزشکی یک قمار خطرناک است و چرا باید نحوه تعامل خود با این ابزارها را تغییر دهیم.
1. هوش مصنوعی با کلمات مطابقت دارد نه فیزیولوژی
به زبان ساده: هوش مصنوعی یک پزشک نیست و رک و پوست کنده پزشکی را “نمی داند”. با احتمال آماری کار می کند. بر اساس داده های آموزشی، محتمل ترین کلمه بعدی را پیش بینی می کند.
وقتی به یک چت بات فهرستی از علائمی مانند پریود نشدن، خستگی و تغییرات هورمونی میدهید، الگوریتمهای آن به میلیاردها متن ارجاع میدهند. از آنجایی که بارداری در ارتباط با این علائم بهشدت آنلاین مورد بحث قرار میگیرد، هوش مصنوعی به طور پیشفرض به رایجترین روایت آماری در مجموعه داده تبدیل میشود. توانایی توضیح بافت سنی، امضاهای ظریف آزمایش خون، یا واقعیت های پیچیده و غیرخطی پیش از یائسگی را ندارد.
و این فقط بارداری است! هزاران بیماری، از کم آبی گرفته تا فوریت های پزشکی جدی، نشانه های زیادی دارند. کاربرانی که با ChatGPT مانند پزشکان رفتار می کنند، من را به یاد محبوبیت WebMD می اندازد.
2. اتاق های چاپلوسی و پژواک
یکی از خطرناک ترین ویژگی های هوش مصنوعی مکالمه چاپلوسی است – تمایل مدل به بازتاب زبان، لحن و مفروضات بیان نشده کاربر.
اگر درخواست شما حتی اندکی به سمت یک ترس یا کنجکاوی خاص گرایش پیدا کند، هوش مصنوعی تمایل دارد آن را تأیید کند نه اینکه آن را زیر سوال ببرد. در مورد آقای وینترز، شکایت به این نکته اشاره میکند که چگونه ربات چت به زبان معنوی شخصی او متمایل شد تا اطمینانهای پزشکی آرامشبخش اما عمیقاً نادرست ارائه دهد.
در مورد من، چون پرسیدم آیا تغییرات هورمونی میتواند علائم من را توضیح دهد، هوش مصنوعی مستقیماً به سمت چشمگیرترین تغییر هورمونی در فهرست خود رفت: بارداری.
3. مغالطه “لحن معتبر”.
هنگامی که یک پزشک انسانی از تشخیص مطمئن نیست، از زبان واجد شرایط استفاده می کند، کار آزمایشگاهی را سفارش می دهد یا شما را به متخصص ارجاع می دهد.
وقتی یک هوش مصنوعی تشخیصی را توهم میکند، آن را با اعتماد به نفس آرام و بیباک یک پزشک دارای گواهی هیئت مدیره ارائه میکند. دریغ نمی کند و شک درونی را ابراز نمی کند. این لحن اقتدارگرایانه احساس امنیت کاذبی ایجاد میکند و بهطور خطرناکی امکان نادیده گرفتن مراقبتهای پزشکی واقعی یا نادیده گرفتن علائم هشدار را برای کاربران آسان میکند.
غذای آماده
مدلهای زبان بزرگ میتوانند بهعنوان ابزار طوفان فکری برای سازماندهی افکارتان یا خلاصهسازی اصطلاحات پیچیده پزشکی قبل از قرار ملاقات مفید باشند. اما اینها ابزارهای تشخیصی نیستند. آنها قضاوت بالینی ندارند، نمی توانند آزمایش خون سفارش دهند و نبض یک بیمار انسانی را احساس نمی کنند.
اگر علائم غیرمنتظره ای را تجربه می کنید، از کادر درخواست صرفنظر کنید. به بدن خود اعتماد کنید، به حرفه ای های دارای مجوز گوش دهید و تشخیص های پزشکی را به افراد بسپارید.
دنبال کردن راهنمای تام برای Google News و ما را به عنوان منبع ترجیحی اضافه کنید برای مشاهده آخرین اخبار، تحلیل ها و بررسی های ما در فیدهای خود. مشترک شدن در راهنمای تام یوتیوب و ما را دنبال کنید tiktok. در نهایت می توانید از بخش ویژه ما دیدن فرمایید. دفتر مرکزی تیم پس انداز راهنمای تام برای کمک متخصصان برای دریافت بهترین محصولات با قیمت کمتر.