“هیچ اقدامی خیلی افراطی نیست” – مدیران عامل هوش مصنوعی برای محافظت در برابر ساخته های خود تلاش می کنند
شک و تردید هوش مصنوعی در حال رسیدن به نقطه جوش است. شما نمیتوانید بدون دیدن فارغالتحصیلان دانشگاهی که سخنرانیهای ابتدایی طرفدار هوش مصنوعی را هو میکنند یا جوامع محلی که با گسترش مراکز داده عظیم هوش مصنوعی دست و پنجه نرم میکنند، در رسانههای اجتماعی حرکت کنید.
اما اگرچه مدیران عامل فناوری زمان زیادی را صرف تبلیغ آینده می کنند، آنقدرها هم که فکر می کنید از واکنش های منفی غافل نیستند. بله، افرادی مانند داریو آمودی، مدیر عامل آنتروپیک، سهم مالی زیادی در حصول اطمینان از ادغام هوش مصنوعی در محل کار و زندگی روزمره ما دارند. اما Amodei، همراه با برخی دیگر از غول های صنعت، در واقع از جنبه تاریک فناوری آگاه هستند.
در واقع، برخی از نظرات اخیر او ممکن است حتی بزرگترین شکاکان هوش مصنوعی را شگفت زده کند. این ثابت می کند که افرادی که فناوری فردا را می سازند، فقط شرکت های بی چهره نیستند. در واقع آنها از واقعیت خطرناک ابزارهایی که به راه انداخته اند آگاه هستند.
رهبران هوش مصنوعی مانند داریو آمودی دقیقا می دانند که این فناوری چقدر می تواند خطرناک باشد
آمودی در مقالهاش «نوجوانان فناوری» استدلال میکند که کشیدن ترمز اضطراری هوش مصنوعی بدون شواهد مشخص اشتباه است، اما ما هنوز به بحثهای سنجیده و جدی درباره آینده نیاز داریم.
آمودی گفت: “هیچ اقدامی خیلی افراطی نیست وقتی سرنوشت بشریت در خطر است!” او مینویسد: «گفتنش آسان است، اما در عمل این نگرش تنها به واکنش منجر میشود. برای روشن بودن، فکر میکنم در نهایت به نقطهای میرسیم که اقدامات بسیار مهمتری مورد نیاز است، اما این به شواهد قویتری بستگی دارد که نشان میدهد خطر قریبالوقوع و ملموس قویتر از چیزی است که امروز داریم…»
با این حال، این خطر ممکن است نزدیکتر از آن چیزی باشد که ما فکر می کنیم. آمودی در همین مقاله اذعان داشت که زیرساخت های فعلی ما به اندازه آنچه ساخته می شود آماده نیست. او هشدار داد: «به زودی به بشریت قدرت تقریباً غیرقابل تصوری داده میشود، و کاملاً نامشخص است که آیا سیستمهای اجتماعی، سیاسی و تکنولوژیکی ما به اندازه کافی برای استفاده از این قدرت بالغ هستند یا خیر».
ما در حال حاضر شاهد شکاف هایی در این بلوغ هستیم. در حالی که اینترنت مملو از دیپفیکهای تولید شده توسط هوش مصنوعی است که برای کلاهبرداری از مردم عادی طراحی شدهاند، اتکای نهادی به سیستمهای هوش مصنوعی اثباتنشده باعث اختلالات عملیاتی بزرگی شده است.
و هشدارها تاریک تر می شوند. سام آلتمن، مدیر عامل OpenAI، در یک هشدار مشترک به کنگره ایالات متحده، مرز جدید وحشتناکی را نشان داد: تهدیدات بیولوژیکی. آلتمن گفت: «سیستم های هوش مصنوعی به سرعت در حال تکامل هستند. «…احتمال واقعی وجود دارد که موانع اطلاعاتی که از لحاظ تاریخی مانع دستیابی بازیگران بد به سلاحهای بیولوژیکی شده است، به طور معناداری از بین بروند.»
حتی مارک بنیوف، مدیر عامل Salesforce، از سیلیکون ولی جدا شد و خواستار تنظیم فوری هوش مصنوعی شد و اشاره کرد که چت رباتهای هوش مصنوعی قبلاً با نتایج غم انگیز دنیای واقعی از جمله خودکشی نوجوانان مرتبط شدهاند.
بنیوف گفت: «شرکتهای فناوری… از مقررات متنفرند. “آنها از آن متنفرند، به جز یک چیز. آنها بخش 230 را دوست دارند، که اساساً می گوید آنها مسئول نیستند. بنابراین اگر این مدل زبان گسترده این بچه را به سمت خودکشی سوق دهد، آنها مسئول نیستند… این احتمالاً چیزی است که باید تغییر شکل داده شود، تغییر داده شود، تغییر کند.”
در نتیجه
خوشبختانه، تلاشهایی برای تنظیم صحیح هوش مصنوعی در حال انجام است.
قانون شفافیت هوش مصنوعی مرزی کالیفرنیا (SB 53) بهعنوان قانونی معرفی شد که توسعهدهندگان هوش مصنوعی را ملزم میکند تا در مورد نحوه ساخت چارچوبهای هوش مصنوعی شفافتر باشند، گزارش اشکالهای امنیتی را برای توسعهدهندگان و شهروندان آسانتر کند و از افشاگرانی که اطلاعات مهمی در مورد خطرات سلامت و ایمنی ناشی از هوش مصنوعی افشا میکنند، محافظت کند.
علاوه بر این، قانون محلی 144 شهر نیویورک در سال 2021 “کارفرمایان و آژانس های استخدامی را از استفاده از ابزار تصمیم گیری خودکار شغلی منع می کند، مگر اینکه ابزار در مدت یک سال پس از استفاده از ابزار مورد بازرسی سوگیری قرار گرفته باشد.”
در حالی که مخالفت بسیار مورد نیاز علیه گنجاندن هوش مصنوعی در توسعه مستمر و شیوه های اشتغال وجود دارد، دانستن اینکه اقدامات امنیتی در حال عادی شدن هستند و مدیران عامل از چنین نرده های دیجیتالی حمایت می کنند، اطمینان بخش است.
دنبال کردن راهنمای تام برای Google News و ما را به عنوان منبع ترجیحی اضافه کنید برای مشاهده آخرین اخبار، تحلیل ها و بررسی های ما در فیدهای خود. مشترک شدن در راهنمای تام یوتیوب و ما را دنبال کنید tiktok.
اطلاعات بیشتر از راهنمای تام
