کارکنان OpenAI نسبت به خطر “انقراض انسان” از سیستم های هوش مصنوعی هشدار می دهند و خواستار محافظت بهتر از افشاگران هستند.

پروین میرمیران6 ژوئن 2024آخرین به روز رسانی: 6 ژوئن 2024

0 2,656 خواندن این مطلب 3 دقیقه زمان میبرد

گروهی از کارکنان فعلی و سابق OpenAI و Google DeepMind ادعا کردند که شرکت‌های هوش مصنوعی «اطلاعات غیرعمومی قابل توجهی در مورد قابلیت‌ها و محدودیت‌های سیستم‌های خود دارند که نمی‌توان به اشتراک‌گذاری داوطلبانه آن‌ها اعتماد کرد».

این ادعا در یک نامه سرگشاده منتشر شد که در آن این گروه آنچه را که آنها به عنوان “خطرات جدی” ناشی از هوش مصنوعی توصیف کردند، برجسته کردند.

این خطرات شامل تعمیق بیشتر نابرابری‌های موجود، دستکاری و اطلاعات نادرست و از دست دادن کنترل سیستم‌های هوش مصنوعی مستقل است که منجر به «انقراض انسانی» احتمالی می‌شود.

نویسندگان نامه گفتند که معتقدند هوش مصنوعی می‌تواند مزایای بی‌سابقه‌ای برای جامعه به همراه داشته باشد و خطراتی که آنها برجسته می‌کنند را می‌توان با مشارکت دانشمندان، سیاست‌گذاران و عموم مردم کاهش داد. اما آنها گفتند که شرکت های هوش مصنوعی انگیزه های مالی برای اجتناب از نظارت موثر دارند.

حفاظت از افشاگران معمولی “ناکافی” است

(اعتبار تصویر: Shutterstock)

این گروه کارمند با ادعای اینکه شرکت‌های هوش مصنوعی از سطوح خطر انواع آسیب‌ها و کفایت اقدامات حفاظتی خود اطلاع دارند، گفت که این شرکت‌ها فقط تعهدات ضعیفی برای به اشتراک گذاشتن چنین اطلاعاتی با دولت‌ها دارند و «هیچ کاری با جامعه مدنی انجام نمی‌دهند». وی افزود که قراردادهای محرمانه آنها گسترده است و از بیان عمومی نگرانی های خود جلوگیری می شود.

آنها نوشتند: «حمایت‌های معمولی از افشاگران ناکافی است زیرا بر فعالیت‌های غیرقانونی تمرکز می‌کنند، در حالی که بسیاری از خطرات مورد نگرانی ما هنوز تنظیم نشده است.

آنها از شرکت های پیشرفته هوش مصنوعی خواستند تا در برابر انتقادات در مورد این خطر تلافی نکنند و یک سیستم ناشناس ایجاد کنند که در آن کارکنان بتوانند نگرانی های خود را مطرح کنند.

در ماه مه، Vox گزارش داد که کارمندان سابق OpenAI تا آخر عمر از انتقاد از کارفرمایان سابق خود منع شدند. اگر آنها از امضای قرارداد امتناع کنند، ممکن است تمام سرمایه ای را که در طول مدت حضور خود در شرکت به دست آورده اند از دست بدهند. سام آلتمن، مدیر عامل OpenAI بعداً پستی را به اشتراک گذاشت که می‌گوید اسناد انتشار استاندارد در X تغییر خواهد کرد.

در مورد مسائل نهایی در مورد اینکه openai چگونه برابری را مدیریت می کند: ما هرگز حقوق اختصاص داده شده را از کسی سلب نکرده ایم، و این کار را نمی کنیم مگر اینکه افراد توافقنامه جدایی را امضا کنند (یا با یک توافق نامه عدم تحقیر موافقت کنند). حقوق صاحبان سهام به دست آمده است، نقطه پایان بود.18 مه 2024

در پاسخ به این نامه سرگشاده، سخنگوی OpenAI به نیویورک تایمز گفت که این شرکت به سابقه خود در ارائه تواناترین و ایمن‌ترین سیستم‌های هوش مصنوعی افتخار می‌کند و به رویکرد علمی خود برای مقابله با ریسک اعتقاد دارد.

سخنگو گفت: “با توجه به اهمیت این فناوری، ما موافقیم که بحث های دقیق حیاتی است و ما به تعامل با دولت ها، جامعه مدنی و سایر جوامع در سراسر جهان ادامه خواهیم داد.”

سخنگوی گوگل از اظهار نظر خودداری کرد.

این نامه توسط 13 کارمند فعلی و سابق امضا شده است. همه کارمندان OpenAI فعلی که امضا کردند این کار را ناشناس انجام دادند.

دنیای هوش مصنوعی با چنین نامه های سرگشاده ای غریبه نیست. معروف‌تر از همه، نامه سرگشاده‌ای که توسط مؤسسه Future of Life منتشر شد و توسط افرادی مانند ایلان ماسک و استیو وزنیاک امضا شد، خواستار توقف 6 ماهه توسعه هوش مصنوعی شد، اما این درخواست نادیده گرفته شد.