مدیر عامل آنتروپیک به همه هشدار داد که خطر بزرگ بعدی هوش مصنوعی برای بشریت “در واقع خود شرکت های هوش مصنوعی است”
همانطور که هوش مصنوعی به طور تصاعدی هوشمندتر می شود و چت بات ها در زندگی روزمره ما ادغام می شوند، هیجان عمومی به طور فزاینده ای جای خود را به چیز دیگری می دهد: ناآرامی.
برای سالها، فرهنگ عامه به ما هشدار داده است که اگر ماشینهای قدرتمند کنترل نشوند، چه اتفاقی میافتد. فیلمهایی مانند «نابودگر، 2001: یک ادیسه فضایی»، «بلید رانر» و «ماتریکس» همگی به بررسی انواع ترسهای مشابه میپردازند: حمله هوش مصنوعی به سازندگان، دستکاری رفتار انسان، یا آنقدر عمیق در زندگی روزمره که جامعه دیگر نمیتواند بدون آن کار کند.
داریو آمودی، مدیر عامل آنتروپیک، در مقاله 38 صفحهای که به تازگی در وبسایتش به اشتراک گذاشته شده، فهرستی جدی از خطراتی را که هوش مصنوعی پیشرفته در صورت عدم کنترل میتواند ایجاد کند، نشان میدهد. هشدار او فقط در مورد ماشین های سرکش یا سناریوهای علمی تخیلی نیست. به نظر او، یکی از فوری ترین خطرات می تواند ناشی از شرکت هایی باشد که برای ساخت و استقرار سیستم های هوش مصنوعی مسابقه می دهند.
داریو آمودی توجه را به شرکت هایی جلب می کند که به عنوان یک تهدید قریب الوقوع در پشت هوش مصنوعی برجسته می شوند
یکی از چشمگیرترین هشدارهای آمودی در مورد زوال هوش مصنوعی نیست، بلکه در مورد افزایش قدرت شرکت های سازنده آن است.
آمودی می نویسد: «گفتن این موضوع به عنوان مدیر عامل یک شرکت هوش مصنوعی کمی عجیب است، اما من فکر می کنم لایه بعدی ریسک در واقع خود شرکت های هوش مصنوعی هستند.
این نشان دهنده وسعت نفوذ این شرکت ها در حال حاضر است. شرکتهای هوش مصنوعی مراکز داده عظیم را کنترل میکنند، مدلهای پیشرفته را آموزش میدهند و در نحوه استفاده از این سیستمها تخصص بینظیری دارند. حتی نگرانکنندهتر این است که برخی هر روز با دهها یا حتی صدها میلیون کاربر تعامل دارند.
این نوع دسترسی با ریسک واقعی همراه است. آمودی هشدار میدهد که شرکتهای هوش مصنوعی میتوانند از نظر تئوری از محصولات خود برای دستکاری یا «شستشوی مغزی» کاربران در مقیاس بزرگ استفاده کنند و استدلال میکند که مدیریت شرکتهای هوش مصنوعی مستحق بررسیهای عمومی بسیار بیشتر از آنچه در حال حاضر دریافت میکند، است.
این نگرانی ها به دلیل تلاش نظارت دولت برای ادامه دادن به آن، به طور فزاینده ای فوری می شوند. این ایده که شرکتهای قدرتمند هوش مصنوعی میتوانند رفتار عمومی را از طریق چتباتها و ابزارهای مصرفکننده شکل دهند، دیگر چندان دور از ذهن به نظر نمیرسد، و فقدان مقررات روشن این نگرانی را بیشتر میکند.
ردپای فیزیکی هوش مصنوعی در حال حاضر حضور خود را احساس می کند. مراکز داده به سرعت در سراسر ایالات متحده گسترش یافته اند و پیامدهای ناخواسته ای برای جوامع مجاور به همراه داشته است. این تأسیسات مقادیر زیادی برق و آب مصرف میکنند، بار سنگینی را بر شبکههای برق محلی تحمیل میکنند و در برخی مناطق با شرایط محیطی همراه هستند که ساکنان میگویند تنفس هوا را دشوار میکند.
در نتیجه، اعتراضات علیه مراکز داده جدید هوش مصنوعی رایج تر می شود. این به ما یادآوری می کند که تأثیر هوش مصنوعی فقط دیجیتال نیست. فیزیکی، محیطی و نادیده گرفتن آن به طور فزاینده ای دشوار است.
اعتراضات اخیراً در کارولینای شمالی، پنسیلوانیا و ویرجینیا آغاز شده است. همچنین، یک جامعه در ویسکانسین میخواهد شهردار را که ساخت مرکز داده در آنجا را تایید کرده بود، برکنار کند.
او همچنین به تهدیدات دیگری که هوش مصنوعی ممکن است در آینده ایجاد کند اشاره کرد.
در طول بقیه مقاله پر از هشدار آمودی، او خطرات دیگری را که هوش مصنوعی در آینده می تواند ایجاد کند، بیان کرد. اینها شامل ظهور تروریستهایی است که از هوش مصنوعی برای انجام حملات خود استفاده میکنند، افزایش گسترده از دست دادن مشاغل، و منصرف شدن رهبران دولت از صحبت در مورد این موضوعات به دلیل قدرت و پولی که در حمایت از هوش مصنوعی وجود دارد.
آمودی در مورد آخرین نکته گفت: “با هوش مصنوعی می توان پول زیادی به دست آورد – به معنای واقعی کلمه تریلیون ها دلار در سال. این تله است: هوش مصنوعی آنقدر قدرتمند است، چنان جایزه درخشانی که برای تمدن بشری بسیار دشوار است که محدودیتی برای آن قائل شود.”
Amodei راه حلی ارائه می دهد که می تواند رشد سریع هوش مصنوعی را تحت کنترل نگه دارد
آمودی نه تنها مشکلات بالقوه ای که ممکن است در آینده با توسعه سریع هوش مصنوعی به وجود بیاید را ارائه کرد، بلکه در مورد یکی از راه حل هایی که می تواند از وقوع آنها جلوگیری کند صحبت کرد. او به عنصر میلیونرها و میلیاردرها اشاره کرد که می توانند از قدرت و نفوذ خود برای انجام کارهای خوب استفاده کنند، نه اینکه یک نگرش از خود راضی کنند.
عمودی گفت: «افراد ثروتمند موظفند در حل این مشکل کمک کنند. برای من ناراحت کننده است که بسیاری از افراد ثروتمند (به ویژه در صنعت فناوری) اخیراً نگرش بدبینانه و پوچ گرایانه ای را اتخاذ کرده اند که انسان دوستی به طور اجتناب ناپذیری کلاهبرداری یا بی فایده است.
در نتیجه
در حالی که هوش مصنوعی منجر به تغییرات مثبتی در جامعه شده است (کمک به کارکنان مراقبت های بهداشتی، شخصی سازی آموزش و تسهیل زندگی روزمره با ظهور دستیاران هوشمند)، تغییرات منفی زیادی نیز در حال ظهور است. دیدن مدیر عاملی در یکی از شرکتهای پیشرو هوش مصنوعی که وظیفه خود را انجام میدهد تا همه را از آینده بدی که در صورت کنترل نشدن هوش مصنوعی با آن روبرو خواهیم بود، انجام دهد، مایه اطمینان است.
اظهار نظر قابل توجه آمودی در مقاله خود فراخوانی برای اقدام برای همه ماست: در پایان: “بشریت نیاز به بیدار شدن دارد و این مقاله تلاشی است برای بیدار کردن مردم – احتمالاً تلاشی بیهوده اما ارزش امتحان را دارد – سال های پیش رو به طرز باورنکردنی دشوار خواهد بود و از ما بیشتر از آنچه فکر می کنیم می توانیم بخواهیم مطالبه خواهد کرد.”
دنبال کردن راهنمای تام برای Google News و ما را به عنوان منبع ترجیحی اضافه کنید برای مشاهده آخرین اخبار، تحلیل ها و بررسی های ما در فیدهای خود.
اطلاعات بیشتر از راهنمای تام
بازگشت به هدست های بازی
