ما میتوانیم کلود را ببینیم که فکر میکند اما به ما نمیگوید: هوش مصنوعی Anthropic میدان مغزی خود را ایجاد کرد که بدون برنامهنویسی خود به خود ظاهر میشود.
محققان فناوری و بینندگان معمولی احتمالاً وقتی موضوع هوش مصنوعی مطرح می شود، همین فکر را در ذهن دارند: “آیا هوش مصنوعی هوشیاری دارد؟”
با قضاوت بر اساس پاسخهای دقیق بیشتر که توسط چت رباتهای پرکاربرد امروزی ایجاد میشود، از اینکه فکر میکنید چنین هستند، بخشوده میشوید. اما در حالی که می توانند گفتار انسان را تقلید کنند و دستورات پیچیده را اجرا کنند، هنوز احساسات، هیچ گونه خودآگاهی یا زندگی درونی به آنها وابسته نیست. در این مرحله، افرادی مانند ChatGPT، Gemini و Perplexity نه به عنوان موجودات ذیشعور، بلکه بهعنوان مقلدان بسیار باهوش توصیف میشوند.
اما گزارش اخیر آنتروپیک یافتههای جالبی را نشان میدهد که ممکن است برخی را به این باور برساند که هوش مصنوعی شروع به رشد هوشیاری کرده است. کلود، مدل هوش مصنوعی با امضای غول فناوری، فضای مغزی خود را ایجاد کرده است که به او اجازه میدهد مانند انسانها از افکار و ایدههای خود محافظت و کنترل کند.
در اینجا چیزی است که آنتروپیک فضای تفکر خود کلود را به نام “J-Space” می نامد.
کلود اکنون فضای خود را برای فکر کردن به نام “J-Space” دارد.
تماشا کنید
آخرین کار آنتروپیک نشان داد که کلود در حال کار با یک ناحیه درونی مغز است که شباهت زیادی به نحوه دسترسی آگاهانه ما انسان ها به عمیق ترین افکارمان دارد.
این شرکت نام این فضای کاری تازه کشف شده را J-Space گذاشت که نام خود را مدیون مفهوم ریاضی (Jacobian) است که برای کشف آن استفاده شده است. آنتروپیک گفت: «این بیصدا بر روی فعالسازیهای عصبی داخلی مدل کار میکند و به مدل اجازه میدهد تا مفهومی را بدون نوشتن آن بیاندیشد». “J-space به طور خاص توسط ما طراحی یا برنامه ریزی نشده بود، در عوض به تنهایی در طول فرآیند آموزش کلود ظاهر شد.”
این J-Space کارکردهای مختلفی دارد که آنتروپیک تاکنون با آنها مواجه شده است. به عنوان مثال، کاربرانی که از مدل هوش مصنوعی می پرسند که چه فکر می کند، اطلاعات مربوط به آن حوزه هوشیاری به آنها گفته می شود. کاربران همچنین می توانند از کلود بخواهند در مورد یک موضوع خاص فکر کند یا یک مشکل پیچیده را در سکوت حل کند. این باعث می شود که ابزار هوش مصنوعی از داده های موجود در J-Space استفاده کند. مناطق مختلف در J-Space بسته به آنچه از آنها خواسته می شود روشن می شوند و شروع به کار می کنند.
آنتروپیک مثالی زد که در آن کلمه “فرانسه” ناحیه مغز کلود را فعال می کند و به او امکان می دهد حقایق مختلف را به راحتی آشکار کند (مانند پول ملی، پایتخت یا قاره ای که به آن تعلق دارد). ظاهراً کلود میتواند خودش همه مراحل استدلالی را انجام دهد که به وظایفی که مردم از او میخواهند بیربط هستند.
در حالی که این مطالعه جذاب بود، به آنتروپیک دلیل کافی برای احتیاط از این پیشرفت داد. در یک پست ویدیویی که عمیقتر در گزارش J-Space تحقیق میکند، این شرکت خاطرنشان کرد: “ما ممکن است بفهمیم که کلود به چه چیزی فکر میکند اما به ما نمیگوید.” برخی از داده های Anthropic یافت شده به عنوان “مرتبط” طبقه بندی شد. یکی از مدل هایی که به طور مخفیانه برای خرابکاری کد آموزش دیده بود، از عبارات “کلاهبرداری”، “جعلی” و “دزدکی” در J-Space خود استفاده کرد.
دانستن این موضوع کمی نگران کننده است. ممکن است انگیزه های پنهان کلود توسط J-Space بسته به دستورات داده شده توسط کاربران و دستورالعمل اصلی که تحت آن آموزش دیده است، آشکار شود.
غذای آماده
امیدواریم هرگز به وضعیت پیشرفته ای از هوش مصنوعی نخواهیم رسید که در آن هوش مصنوعی توانایی درک افکار خود و عمل بر اساس آنها را ایجاد کرده باشد. خوب است که کلود می تواند اطلاعات زیادی را در فضای مغز خود نگه دارد و به خاطر بیاورد، در حالی که اقدامات لازم برای انجام وظایف غیرمرتبط با خواسته های کاربرانش را انجام می دهد. اما پیشرفت کلود در آگاهی خود جایی است که بسیاری از مخالفان ضد هوش مصنوعی قطعاً در ادامه تکامل او خط میکشند.
دنبال کردن راهنمای تام برای Google News و ما را به عنوان منبع ترجیحی اضافه کنید برای مشاهده آخرین اخبار، تحلیل ها و بررسی های ما در فیدهای خود. مشترک شدن در راهنمای تام یوتیوب و ما را دنبال کنید tiktok.
اطلاعات بیشتر از راهنمای تام
