“عدم علاقه تقریباً اجتماعی”: 5 فاش بزرگ از غواصی عمیق نیویورکر به سم آلتمن
یک تحقیق جدید جامع از نیویورکر یکی از قدرتمندترین چهرههای هوش مصنوعی را مورد بررسی دقیق قرار میدهد و سؤالات دشواری را در این فرآیند ایجاد میکند.
این گزارش که بر اساس بیش از 100 مصاحبه، و همچنین یادداشت های داخلی، پیام های Slack و یادداشت های خصوصی ساخته شده است، تصویری پیچیده و اغلب متناقض از سم آلتمن، مغز متفکر ChatGPT را به تصویر می کشد.
هیچ “تفنگ سیگاری” واحدی وجود ندارد. اما در مجموع، این گزارش به نگرانی های مطرح شده توسط برخی از خودی ها اشاره می کند. دیگران به شدت از رهبری و نفوذ آلتمن دفاع می کنند.
ادامه مقاله در زیر
در اینجا پنج مورد برجسته ترین افشاگری از این گزارش و چرایی اهمیت آنها آورده شده است.
1. اسناد داخلی نگرانی هایی را در مورد نحوه اطلاع رسانی تلاش های امنیتی ایجاد می کند
یکی از مهمترین عناصر این گزارش بر روی مواد داخلی منسوب به ایلیا سوتسکور، دانشمند ارشد سابق OpenAI تمرکز دارد.
بر اساس این گزارش، Sutskever یادداشتهایی را بر اساس پیامهای Slack و اسناد منابع انسانی جمعآوری کرد که نگرانیهایی را در مورد اینکه آیا هیئت مدیره OpenAI تصویر کامل و دقیقی از عملیات داخلی، از جمله نحوه نمایش تلاشهای امنیتی آن دریافت میکرد، ایجاد کرد. گزارش شده است که یکی از یادداشتها با یک ارزیابی واضح باز شده است: “دروغگویی” که نشان دهنده جدیت این پرچمهای قرمز داخلی است.
این نگرانی ها در قلب تنش گسترده تر در OpenAI قرار دارند. چگونه توسعه سریع هوش مصنوعی را با امنیت طولانی مدت متعادل کنیم. نگرانی هایی که در مطالب داخلی ذکر شده در این گزارش توضیح داده شده اند، تفاوت چندانی با دلایل شکل گیری جنبش QuitGPT ندارند. پس از توافق OpenAI با پنتاگون، کاربران امنیت و اخلاق را زیر سوال بردند.
2. یکی از رهبران سابق OpenAI به طور مستقل نگرانی های مشابهی را مستند کرده است
این گزارش همچنین به یادداشتهای خصوصی که طی چندین سال توسط مدیر سابق OpenAI، داریو آمودی، که بعدها Anthropic را تأسیس کرد، نگهداری میکند.
بر اساس این مقاله، این یادداشت ها منعکس کننده نگرانی های مربوط به رهبری، اعتماد و تصمیم گیری در شرکت است. این گزارش این نگرانیها را جدا از مطالب داخلی منسوب به ایلیا سوتسکور، اما عموماً مطابق با آنها ارائه میکند.
در حالی که این همپوشانی شواهدی از انجام اشتباه نیست، اما نشان می دهد که سؤالات در مورد رهبری محدود به یک منبع واحد نیست.
3. تحقیق تنش های فعلی را به درگیری های شغلی قبلی مرتبط می کند
با نگاهی فراتر از OpenAI، این گزارش به بررسی حرفه قبلی سام آلتمن در Loopt و بعداً Y Combinator میپردازد.
در Loopt، مقاله تنشها با همکاران و نگرانیها در مورد نحوه برقراری ارتباط آلتمن در شرکت را تشریح میکند. برخی منابع در مورد شیوه ارتباطی و شفافیت او سؤالاتی را مطرح می کنند.
در طول مدت او در Y Combinator، این گزارش به اختلاف نظر با شرکا و دیدگاههای متفاوت در مورد رویکرد رهبری او اشاره میکند.
این مقاله به جای ارائه اینها به عنوان قضاوت های قطعی، از این اظهارات به عنوان زمینه ای برای نگرانی های رهبری که امروز بیان می شود، استفاده می کند.
4. گزارش نشان می دهد که آلتمن چقدر قطبی شده است
این تحقیق دیدگاههای متفاوتی را در مورد سام آلتمن ارائه میکند. برخی از همکاران و همکارانش به او کمک به رشد سریع OpenAI و نفوذ جهانی میدانند و او را بسیار مؤثر توصیف میکنند و میتوانند با سرعت مورد نیاز در یک محیط رقابتی هوش مصنوعی کار کند.
دیگران انتقادپذیرتر هستند. این گزارش شامل نگرانیهای خودیهای سابق در مورد شفافیت، ارتباطات و تصمیمگیری، و همچنین منبعی است که آنچه را که آنها به عنوان «فقدان نگرانی تقریباً اجتماعیپاتیک» میدانستند، با اشاره به سبک رهبری آلتمن توصیف میکند.
در همان زمان، گزارش نیویورکر تأکید می کند که آلتمن چقدر قطبی شده است، و نشان می دهد که ویژگی های یکسان (سرعت، شدت، و اراده) بسته به دیدگاه بسیار متفاوت تفسیر می شوند.
5. برخی از افراد داخلی نسبت به خطرات بلند مدت اعتبار هشدار می دهند
این گزارش همچنین شامل اظهار نظر یکی از مدیران ناشناس مایکروسافت است که میگوید «احتمال کمی اما واقعی» وجود دارد که سم آلتمن همراه با نامهایی که در رسواییهای بزرگ شرکتها دخیل هستند به یاد بیاید.
این کلمات به عنوان یکی از دیدگاه های متعدد ارائه شده است. این بخشی از طیف گسترده ای از دیدگاه ها، از انتقاد تند تا حمایت پایدار است.
این تنش در سراسر مقاله مشهود است: در حالی که برخی از خودیها نگرانیهای جدی خود را ابراز میکنند، برخی دیگر به همکاری نزدیک با آلتمن ادامه میدهند و به مسیر OpenAI وفادار میمانند، که نشاندهنده اعتماد مداوم به رهبری و جهتگیری شرکت است.
حامیان به پیشرفت سریع شرکت و نفوذ جهانی به عنوان شواهدی از رهبری مؤثر در لحظه ای مهم در فناوری اشاره می کنند.
چرا این شیرجه عمیق مهم است؟
برای ما که هر روز از ابزارهای هوش مصنوعی استفاده می کنیم، این داستان فراتر از یک مدیر است. OpenAI در مرکز تغییرات تکنولوژیکی قرار دارد که در حال حاضر شیوه کار، یادگیری و تصمیم گیری افراد را تغییر می دهد. سام آلتمن یکی از افرادی است که این تغییر را کارگردانی می کند.
این تحقیق یک نتیجه قطعی ارائه نمی دهد، اما یک سوال مرتبط را به طور فزاینده ای مطرح می کند:
چقدر باید به افرادی اعتماد کنیم که سیستم هایی را می سازند که آینده ما را شکل می دهند؟
این سوال فقط آکادمیک نیست. در کتاب «اگر کسی آن را بسازد، همه می میرند» این ادعا مطرح شده است که اگر در اولین بار مشکل اعتماد و کنترل را به طور کامل حل نکنیم، عواقب آن برای بشریت غیرقابل برگشت خواهد بود. OpenAI چالش رهبری را نه تنها به عنوان یک موضوع تجاری بلکه به عنوان یک موضوع امنیتی جهانی نیز در نظر می گیرد.
در نتیجه
هیچ تصمیم نهایی در این تحقیقات وجود ندارد. در عوض، پرتره ای دقیق و گاه متناقض از یکی از تاثیرگذارترین رهبران تکنولوژی امروز ارائه می دهد.
چیز دیگری وجود دارد که به عواقب آن برای هر فردی که نگرانی های خودی را ابراز می کند، اشاره می کند. در لحظه ای که هوش مصنوعی سریعتر از هر زمان دیگری در حال پیشرفت است، این تنش ممکن است مهم ترین راه حل در اینجا باشد.
دنبال کردن راهنمای تام برای Google News و ما را به عنوان منبع ترجیحی اضافه کنید برای مشاهده آخرین اخبار، تحلیل ها و بررسی های ما در فیدهای خود.