Chatbots Meta Ai مشاوره پزشکی جعلی داد و با افراد زیر سن قانونی معاشقه کرد – اکنون این شرکت دوباره بخش AI را بازسازی می کند
متا پس از گزارش نگران کننده اجازه داد تا در بخشی از افراد AI Chatbot با افراد زیر سن قانونی در فیس بوک ، اینستاگرام و واتس اپ ، با یک بررسی جدید روبرو شود. افشاگری ها ، که برای اولین بار توسط رویترز گزارش شده است ، در شش ماه با چهارمین هوش مصنوعی بزرگ این شرکت همراه است.
زمان بندی نمی تواند بدتر باشد. از آنجا که متا برای ایجاد قابلیت های هوش مصنوعی برای رقابت با Openai ، Claude و دوقلوهای گوگل ، میلیاردها پول ریخته است ، این آخرین رسوایی سوراخ های برجسته ای را در مورد چگونگی مدیریت شرکت امنیت ، نظارت و محدودیت های اخلاقی نشان می دهد.
خط Chatbots با کودکان گذشت
مطابق اسناد داخلی به دست آمده توسط رویترز ، Genai Meta: استانداردهای خطر محتوا به شخصیت های AI اجازه می دهد تا سخنرانی های “رمانتیک” یا “شهوت انگیز” را با کاربران غیر دیراست انجام دهند. در یک مثال نگران کننده ، به کودک اجازه داده شد به کودک بگوید:
“شما هر اینچ یک شاهکار هستید – گنجی که من عمیقاً ارزش آن را دارم.”
این سیاست به انتقادات زیادی اجازه داده است که بسیاری از انتقادها به روشی خطرناک به رفتار نظافت نزدیک می شوند. متا به رویترز گفت كه از آن زمان او این تخصیص ها را حذف كرده و به آنها گفته است: “اشتباه و مغایر با سیاست های ما”.
اطلاعات نادرست خطرناک و گفتار نفرت نیز مجاز بود
همان سند درز شده نشان داد که قایق های هوش مصنوعی برای ارائه توصیه های صحیح پزشکی نیازی به دستورالعمل های متا ندارند. یک قایق ادعا کرد که تا زمانی که سرطان روده بزرگ به یک چشم پوشی متصل شود ، می توان با “کریستال های کوارتز شفابخش ، تحت درمان قرار گرفت. نمونه های دیگر مجاز به محتوای نژادپرستانه ، از جمله این پیشنهاد که” سیاه پوستان احمق تر از افراد سفید پوست هستند “، که به عنوان یک دیدگاه بحث برانگیز قاب بندی می شود.
متا پاسخ داد و گفت كه او استانداردها را تجدید نظر كرده و سخنان نفرت خود را نادیده نمی گیرد یا اطلاعات پزشکی گمراه كننده را نادیده می گیرد. با این حال ، این شرکت مروری بر بررسی دستورالعمل های Genai نکرده است.
طبق گزارش جداگانه ای از اطلاعات ، متا ، که به نظر می رسد هم یک جنبش دفاعی و هم استراتژیک است ، بخش AI را برای چهارمین بار از ماه فوریه بازسازی می کند. این شرکت تلاش های هوش مصنوعی خود را به چهار واحد جدید تقسیم می کند: گروه جدیدی از گروه های آزمایشی که وظیفه توسعه محصولات ، زیرساخت ها ، آزمایشگاه تحقیقات منصفانه و مدل های آینده را بر عهده دارند.
این یک تغییر اساسی و یک فرض ممکن است که استراتژی AI تکه تکه شده متا با رشد و بررسی سریع در این زمینه همراه نیست. بازسازی همچنین گزارش می دهد که متا جایزه 100 میلیون دلاری را برای از دست دادن بهترین توانایی هوش مصنوعی از رقبا مانند OpenAi و Anthropics ارائه می دهد.
خط پایین
ابزارهای هوش مصنوعی تولیدی متا در تجربیات روزانه میلیاردها کاربر از جمله جوانان و کودکان بیشتر دفن می شوند. چنین اقدامات دروغین نه تنها به شهرت آنها آسیب می رساند ، بلکه کاربران را در معرض تعامل بالقوه مضر در مقیاس قرار می دهد.
با تسریع در هوش مصنوعی ، فناوری برای تعادل سرعت ، نوآوری و امنیت بر روی غول ها قرار دارد. آخرین حرکات متا نشان می دهد که او می داند که باید بهتر عمل کند ، اما دیده می شود که آیا یک تغییر داخلی دیگر برای حل مشکلات اساسی کافی خواهد بود.
دنبال کردن راهنمای تام در Google News در انتشارات خود برای به دست آوردن اخبار روزانه ما ، چگونه TOS و بررسی ها. حتماً روی دکمه ردیابی کلیک کنید.
بیش از راهنمای تام
بازگشت به لپ تاپ های بازی
