گوگل پس از این ادعا که کاربران را گمراه می کند، مروری بر هوش مصنوعی را در مورد برخی از سوالات بهداشتی ارائه می کند
گوگل پس از آنکه کارشناسان آن را گمراه کننده و بالقوه خطرناک دانستند، چندین نمای کلی هوش مصنوعی را از جستجوهای اطلاعات سلامت حذف کرد. تحقیقات گاردین نشان داد که برخی از سوالات مانند “محدوده طبیعی آزمایش خون کبد چقدر است” می تواند اطلاعات گمراه کننده ای را ارائه دهد.
گاردین گزارش می دهد که با تایپ این در گوگل یک نمای کلی هوش مصنوعی برمی گرداند که متغیرهایی مانند سن، جنسیت، قومیت یا ملیت را در نظر نمی گیرد. در مثالی دیگر، ظاهراً نتیجه هوش مصنوعی به افراد مبتلا به سرطان لوزالمعده گفته است که باید از غذاهای پرچرب اجتناب کنند.
آنا جول، مدیر پشتیبانی، تحقیقات و تأثیر سرطان پانکراس در بریتانیا، به سایت گفت که بررسی کلی هوش مصنوعی «کاملاً اشتباه است» و پیروی از توصیههای آن «میتواند واقعاً خطرناک باشد و میتواند شانس فرد را برای خوب شدن به اندازه کافی برای دریافت درمان به خطر بیندازد».
به نظر می رسد خود گوگل بی سر و صدا این تحقیقات را تایید کرده و برخی از مرورهای هوش مصنوعی خود را حذف کرده است، اما نه همه آنها. جستوجوی پرسش فوق در آزمایشهای خون کبد، هیچ نمای کلی هوش مصنوعی را نشان نمیدهد. جستجوی علائم سرطان واژن همچنان نمای کلی هوش مصنوعی را ارائه می دهد. اما اکنون در تست پاپ تمایز ایجاد می کند.
گوگل به گاردین گفت: «ما در مورد حذفهای فردی از «جستجو» نظری نمیدهیم. در مواردی که مرورهای هوش مصنوعی برخی از زمینهها را از دست میدهند، ما به دنبال بهبودهای گسترده هستیم و همچنین در صورت لزوم تحت خطمشیهای خود اقدام میکنیم.
من همچنین برای نظر بیشتر در مورد اتهامات با گوگل تماس گرفته ام و در صورت دریافت پاسخ، این مقاله را به روز خواهم کرد.
آیا در مورد سلامتی خود به هوش مصنوعی اعتماد دارید؟
در ماه مارس سال گذشته، گوگل اعلام کرد که ویژگی های جدیدی را برای بهبود پاسخ به سوالات مراقبت های بهداشتی معرفی می کند.
این شرکت در یک پست وبلاگی نوشت: «مردم از جستجو و ویژگیهایی مانند AI Overview برای یافتن اطلاعات سلامت قابل اعتماد و مرتبط، از بیماریهای رایج گرفته تا بیماریهای نادر استفاده میکنند».
از زمان راهاندازی مرورهای هوش مصنوعی در سال گذشته، مردم از نتایج جستجوی خود رضایت بیشتری دارند و سؤالات طولانیتر و پیچیدهتری میپرسند. با آخرین پیشرفتهای مبتنی بر سلامت در مدلهای جمینی، ما همچنان به توسعه بیشتر مرورهای هوش مصنوعی در موضوعات سلامت ادامه میدهیم تا مرتبطتر، جامعتر باشند و همچنان به سطح بالای واقعگرایی بالینی پاسخ دهند.»
ادغام هوش مصنوعی در مراقبت های بهداشتی بسیار دشوار است و نمی توان آن را از هم جدا کرد.
هیچ کس استدلال نمی کند که نشان دادن اطلاعات بهداشتی نادرست در یک نتیجه جستجوی رایج بد نیست. تحقیقات نشان داده است که مرورهای هوش مصنوعی آنطور که میخواهیم دقیق نیستند.
اما الگوریتمهای مبتنی بر هوش مصنوعی که از پزشکان با تشخیصهای سریعتر و دقیقتر پشتیبانی میکنند، چطور؟ یا یک ربات چت هوش مصنوعی که به راحتی قابل دسترسی است که نه به عنوان جایگزینی برای یک متخصص پزشکی، بلکه به عنوان اولین قدم برای فردی که علاقه مند به جمع آوری اطلاعات بیشتر در مورد یک علامت یا احساس است، کار می کند.
من قطعاً در چند ماه گذشته چند سؤال بهداشتی از ChatGPT پرسیده ام تا تصمیم بگیرم که آیا باید کمک بیشتری بخواهم یا خیر. و به طور تصادفی، OpenAI به تازگی ChatGPT Health را راه اندازی کرده است، یک ابزار هوش مصنوعی با هدف آسان کردن درک اطلاعات پزشکی.
آیا به پاسخ هوش مصنوعی در مورد برخی از جنبه های سلامت روانی یا جسمی خود اعتماد دارید؟ در نظرات زیر به من اطلاع دهید.
دنبال کردن راهنمای تام برای Google News و ما را به عنوان منبع ترجیحی اضافه کنید برای مشاهده آخرین اخبار، تحلیل ها و بررسی های ما در فیدهای خود.