یکی از بنیانگذاران Anthropic هشدار می دهد که باید از هوش مصنوعی بترسید – در اینجا دلیل آن است
آنتروپیک ممکن است یکی از بزرگترین شرکتهای جهان هوش مصنوعی باشد، اما بالا بردن پرچم در مورد خطرات این صنعت غریبه نیست. پیش از این، مدیر عامل آنتروپیک در مورد خطر از دست دادن شغل هشدار داده بود و تیم تحقیقاتی این شرکت علاقه هوش مصنوعی را به باجگیری نشان داده بود. حالا تیم دغدغه جدیدی دارد.
جک کلارک، یکی از بنیانگذاران آنتروپیک، مقاله ای طولانی منتشر کرد که در آن، به قول خود، “با احساس من در مورد ادامه راهپیمایی مداوم به سمت سیستم های هوش مصنوعی قدرتمند دست و پنجه نرم کرد.”
کلارک در این مقاله ترسی را که در دوران کودکی خود پس از خاموش شدن چراغ ها در شب تجربه کرده است، توصیف می کند و زمانی که به چهره های موجود در تاریکی اتاق خود نگاه می کند، ترس از موجودات بالقوه ای را تجربه می کند که نمی فهمید و می خواست به او آسیب برساند. وقتی دوباره چراغ را روشن کرد، وقتی دید که موجودات فقط یک انبوه لباس هستند، خیالش راحت شد.
خوش بینی تکنولوژیکی و ترس مناسب – مقاله ای که در آن با احساسم در مورد ادامه راهپیمایی مداوم به سمت سیستم های هوش مصنوعی قدرتمند مبارزه می کنم. جهان به دور هوش مصنوعی خواهد پیچید، مانند سیاهچاله ای که همه چیز را در اطراف خود می کشد و می پیچد. pic.twitter.com/ZC6hx1Zacz13 اکتبر 2025
شاید بپرسید این چه ربطی به هوش مصنوعی دارد؟ این فقط استعاره ای از نگرانی های کلارک در مورد آینده هوش مصنوعی است.
کلارک می گوید: “اکنون، در سال 2025، ما فرزندان این داستان هستیم و این سیاره ماست. اما وقتی نور را روشن می کنیم، متوجه می شویم که به موجودات واقعی در قالب سیستم های هوش مصنوعی قدرتمند و تا حدودی غیرقابل پیش بینی حال و آینده نگاه می کنیم.”
و بسیاری از مردم هستند که ناامیدانه میخواهند باور کنند که این موجودات چیزی بیش از انبوهی از لباسها روی صندلی یا قفسه کتاب یا آباژور نیستند و میخواهند چراغها را خاموش کنند و ما را دوباره بخوابانند.»
کلارک که اکنون در دو تا از بزرگترین شرکتهای هوش مصنوعی در جهان (OpenAI و Anthropic) کار کرده است، خاطرنشان میکند که افرادی هستند که مبالغ هنگفتی را خرج میکنند تا شما را متقاعد کنند که هوش مصنوعی بلند نمیشود، بلکه فقط ابزاری برای کار در اقتصاد ما خواهد بود.
نگرانی در مورد آینده هوش مصنوعی
همه اینها بسیار مرموز و مرموز به نظر می رسد، اما آنچه کلارک در مقاله ای طولانی و مفصل توضیح می دهد دیدگاهی است که توسط دیگر نام های بزرگ در دنیای هوش مصنوعی تکرار شده است.
به زبان ساده، هوش مصنوعی جانوری اسرارآمیز است که حتی خودی ها هم آن را درک نمی کنند.
کلارک ادامه میدهد: “ما سیستمهای بسیار قدرتمندی را توسعه میدهیم که به طور کامل آنها را درک نمیکنیم. هر زمان که یک سیستم بزرگتر را رشد میدهیم، آزمایشهایی را روی آن انجام میدهیم. آزمایشها نشان میدهند که سیستم بسیار توانایی بیشتری در انجام کارهای مفید اقتصادی دارد.”
و هر چه این سیستمها را بزرگتر و پیچیدهتر بسازید، بیشتر نشان میدهند که آنها چیزهایی هستند.»
اکنون، قبل از به صدا در آوردن آلارم و وحشت در مورد سیستمهای هوش مصنوعی، هنوز با آن فاصله زیادی داریم. هوش مصنوعی زمانی که وظایف پیچیده و چند مرحلهای به آنها داده میشود از هم میپاشد… اما بهتر شده است. نگران کننده است.
مشکل سیستم های هوش مصنوعی ناتوانی در انجام یک کار نیست، بلکه نحوه انجام آن است. مردم با ترکیبی از احساسات، منطق و درک زمینه استدلال می کنند. این یک چالش برای هوش مصنوعی است.
کلارک در مقاله خود به دوستی اشاره می کند که به طور اتفاقی نقشه های دیوانه وار و بالقوه شیطانی را برای زندگی خود بیان کرده است. به عنوان انسان، میتوانیم ببینیم که حتی اگر شخصی در مورد چیزی هیجانزده باشد، میدانیم که این ایده بدی است.
“آیا فکر می کنید در این شرایط من مانند یک سیستم هوش مصنوعی مدرن عمل می کنم و می گویم “کاملاً حق با شماست! شما باید حتماً این کار را انجام دهید”؟ نه! من به او می گویم: “این ایده بدی است. شما باید بخوابید و ببینید فردا چه احساسی دارید.”
چگونه می توانیم به مشکل نزدیک شویم
کلارک در ادامه توضیح می دهد که نگرانی همه ما در مورد هوش مصنوعی پیچیده است. او خیلی سریع در حال رشد است اما همچنان سعی می کند مانند یک انسان خود را با جهان وفق دهد.
این در نگرانی در مورد نحوه رسیدگی به مسائل مربوط به سلامت روان، درک نادرست از زمینه و دور زدن نگهداری از یک مدل با ترفندهای ساده بسیار آسان بود.
با این حال، کلارک به آینده هوش مصنوعی امیدوار است. در عوض، او میگوید که باید بحث آزادتری در مورد این فناوری وجود داشته باشد، از این رو این مقاله را نوشت.
کلارک می گوید: “ما باید از مردم بخواهیم که از ما بپرسند نگران چه چیزی هستند. آیا نگران هوش مصنوعی و مشاغل هستید؟ ما را مجبور کنید داده های اقتصادی را به اشتراک بگذاریم. آیا نگران سلامت روان و ایمنی کودکان هستید؟ ما را مجبور کنید که آن را در سیستم عامل های خود ردیابی کنیم و داده ها را به اشتراک بگذاریم.”
این رویکردی است که آنتروپیک همیشه با موفقیت اجرا کرده است، تحقیقات خود را آشکارا منتشر می کند و از نزدیک بر حفظ مدل های خود نظارت می کند. این چیزی است که با ادغام بیشتر فناوری ها در جهان بسیار مهم خواهد بود.
اطلاعات بیشتر از راهنمای تام
بازگشت به لپ تاپ
