وقتی هوش مصنوعی به دیوار برخورد می کند، آیا هوش محدودیتی دارد؟
هر چند ماه یک مدل جدید، یک پیشرفت جدید، یک معیار جدید ظاهر می شود. ChatGPT هوشمندتر می شود، اما سپس Gemini قدم می گذارد و تاج را می گیرد. ناگهان کلود به طور قابل توجهی توانایی بیشتری پیدا می کند. و ما نمیتوانیم الگوهای استدلالی را که دستهجمعی هستند فراموش کنیم. به عوامل هوش مصنوعی وعده داده شده است. منحنی به صعود ادامه می دهد.
اما در اینجا یک سوال وجود دارد که به اندازه کافی مطرح نشده است: اگر این اتفاق نیفتد چه؟
هوش مصنوعی به اندازه محتوایش هوشمند است
در ابتدایی ترین سطح، سیستم های هوش مصنوعی امروزی از سه چیز تشکیل شده است:
- داده ها: کتاب ها، مقالات، کدها، تصاویر، فیلم ها و گفتگوها
- محاسبه کنید: قدرت پردازش بسیار زیاد
- طراحی انسانی: معماری ها، اهداف و روش های آموزشی ایجاد شده توسط محققان
ما در حال حاضر تمایل داریم با اینها طوری رفتار کنیم که انگار بی حد و حصر هستند. اما آنها نیستند.
این یک فکر نگرانکننده را ایجاد میکند: اگر هوش مصنوعی از دادههای تولید شده توسط انسان بیاموزد، آیا واقعاً میتواند فراتر از محدودیتهای دانش بشری باشد؟
مدلهای زبانی بزرگ دنیا را مانند انسانها «کاوش» نمیکنند. آنها در آزمایشگاه آزمایش نمی کنند، بیرون می روند یا آزمایش نمی کنند. اینها ماشینهای تطبیق الگوی فوقالعاده پیشرفته هستند که بر روی آنچه ما قبلاً تولید میکنیم آموزش دیدهاند.
این یک احتمال واقعی را ایجاد می کند: هوش مصنوعی ممکن است در استفاده از دانش بشری بهتر شود، اما اساساً فراتر از آن نخواهد رفت.
مشکل داده ها: آیا اطلاعات «جدید» ما تمام می شود؟
یکی از بزرگترین گلوگاه ها در پیشرفت هوش مصنوعی یک چیز به طرز شگفت انگیزی پیش پا افتاده است: داده. برای مثال، OpenAI میتواند Pinterest را بخرد، و شما میتوانید شرط ببندید که بزرگترین محرک این تصمیم، دادههای بیشتر بود.
این به این دلیل است که بهترین مدلهای هوش مصنوعی تقریباً همه چیزهایی را که مردم آنلاین میگذارند «خواندهاند». با این حال، این استخر محدود است. محققان آشکارا درباره یک “دیوار داده” بالقوه بحث می کنند – نقطه ای که در آن ما به طور انبوه متن با کیفیت بالا و تولید شده توسط انسان را مصرف می کنیم.
راه حل صنعت؟ داده های مصنوعی – آموزش هوش مصنوعی بر روی داده های تولید شده توسط هوش مصنوعی دیگر. اما خطری که در اینجا وجود دارد همان چیزی است که برخی از محققان آن را اثر “هوش مصنوعی هاپسبورگ” می نامند. این به نوعی شبیه همخونی است که در آن مدلها به شدت بر روی خروجی خود تمرین میکنند. خطر این است که مدل سقوط کند. از دست دادن ظرافت، خلاقیت، و موارد لبه پیچیده ای که فکر انسان را ارزشمند می کند.
نتیجه میتواند هوش مصنوعی باشد که همچنان در مهارتهای محدود پیشرفت میکند، اما جهشهای گسترده و شگفتانگیزی که در سالهای اخیر دیدهایم را متوقف میکند.
آیا هوش مصنوعی می تواند هوش جدیدی ایجاد کند؟
اینجاست که همه چیز جالب تر می شود. برخی از محققان استدلال می کنند که هوش مصنوعی برای همیشه به داده های انسانی نیاز نخواهد داشت. آنها معتقدند سیستم های آینده می توانند:
- آزمایشات خود را انجام دهید
- شبیه سازی محیط ها
- ایجاد فرضیه های علمی جدید
- الگوهایی را کشف کنید که مردم متوجه آنها نمی شوند
- سیستم های هوش مصنوعی را طراحی کنید که حتی بهتر از آنچه که انسان می تواند بسازد
ما قبلاً دیدهایم که آنها با Moltbook چه کردهاند، بنابراین مرز بعدی ممکن است نه تنها کد بهتر باشد، بلکه رباتیک و آزمایشگاههای علمی مجهز به هوش مصنوعی است که در آن ماشینها میتوانند به جای خواندن آن، با دنیای فیزیکی تعامل داشته باشند.
اگر این اتفاق بیفتد، هوش مصنوعی می تواند از «سقف انسان» رها شود و وارد مرحله جدیدی از هوش ماشین محور شود.
پارادوکس “فراتر از”
اما این تنش عمیق تری ایجاد می کند. اگر یک هوش مصنوعی اساساً بر اساس دانش انسانی آموزش دیده باشد، آیا واقعاً می تواند از ما پیشی بگیرد؟
در حال حاضر مدلها در درونیابی نقطههای مرتبط با تجربیات شناخته شده بشری برتر هستند. آنها در خلاصه کردن، ترکیب کردن، و مرتب کردن مجدد چیزهایی که ما قبلاً می دانیم، باور نکردنی هستند.
آنها در پیش بینی بسیار ضعیف تر از اختراع “نقاط” کاملاً جدید هستند. به عبارت دیگر، آنها خیلی خلاق نیستند. برای پیشی گرفتن واقعی از انسان ها، هوش مصنوعی ممکن است نیاز داشته باشد که کتابخانه ای از همه چیزهایی که می نویسیم نباشد و شروع به تبدیل شدن به یک کاشف مستقل واقعیت کند.
ماشین اطلاعاتی در مقابل بوروکرات
دیوار انسانی دیگری وجود دارد که هوش مصنوعی می تواند با آن برخورد کند: تفاوت بین محاسبات و هوش.
همانطور که AI مقیاس می شود، اغلب به سمت “متوسط” حرکت می کند. او به یک بوروکرات بسیار کارآمد تبدیل می شود. دقیق، قابل اعتماد و ایمن، اما کمتر تیز، عجیب یا غافلگیر کننده است.
هوش فقط خنده دار بودن نیست. این در مورد جهش جانبی است که دو ایده نامرتبط را به گونهای ترکیب میکند که احساس تازگی، روشنگری یا کمی خرابکننده میکند.
بنابراین اگر هوش مصنوعی به دیوار برخورد کند، ممکن است در اینجا اتفاق بیفتد. ممکن است ماشینهایی به دست آوریم که میتوانند مدار یک ستاره را محاسبه کنند یا زنجیرههای تامین جهانی را بهینه کنند، اما همچنان برای نوشتن جوکی که واقعاً کار میکند یا استعارهای ایجاد میکند که باعث شود جهان را متفاوت ببینی، تلاش کنیم.
«ماشین هوشمند» به بزرگترین آزمون تبدیل میشود: آیا هوش مصنوعی یاد میگیرد که جالب باشد یا به دانشمندترین اما خستهکنندهترین دستیار جهان تبدیل میشود؟
آیا هوش در کیهان ساخته شده است؟
بیایید یک لحظه از تکنولوژی فاصله بگیریم.
برخی از دانشمندان بر این باورند که هوش، چه بیولوژیکی و چه مصنوعی، ممکن است توسط قوانین فیزیک محدود شود. دو ایده بزرگ از این امر پشتیبانی می کند:
- تقلیل ناپذیری محاسباتی برخی از مشکلات (مانند پیش بینی آب و هوا یا مدل سازی مغز انسان با جزئیات کامل) ممکن است به سرعت قابل حل نباشد. شما نمی توانید آنها را سریعتر از زمان واقعی “حل” کنید. فقط باید باز شدن آنها را تماشا کنید اگر این درست باشد، هیچ هوش مصنوعی هوشمندی نمی تواند به طور کامل از محدودیت های خاصی از پیش بینی و درک فراتر رود.
- سقف انرژی. هوش نیاز به انرژی دارد. اگر جهش بعدی در هوش مصنوعی به قدرت یک شهر کوچک یا حتی یک خورشید کوچک برای پردازش یک فکر نیاز داشته باشد، ما مدت ها قبل از برخورد با دیوار فیزیکی به دیوار شناختی برخورد کرده ایم.
در این مورد حد واقعی هوش مصنوعی چقدر می تواند هوشمند باشد؟ با این حال هوش چقدر می تواند انرژی مصرف کند؟
پس آیا هوش مصنوعی به دیوار برخورد خواهد کرد؟ پاسخ صادقانه این است که ما نمی دانیم. در ضمن سعی کردم بپرسم هوش مصنوعی هم بلد نیست.
اما در اینجا سه آینده قابل قبول وجود دارد، نه به این دلیل که شکست خوردیم. اما چون هوش خود حد و مرزی دارد.
- فلات آهسته. پیشرفت ادامه دارد اما به تدریج افزایش می یابد. هوش مصنوعی در حال تبدیل شدن به یک سرویس ضروری و قدرتمند مانند الکتریسیته است، اما دیگر نمیتواند جهشهای تکاندهندهای در «هوش» ایجاد کند.
- سرعت فرار هوش مصنوعی با اجرای آزمایشها، شبیهسازی دنیاها و کشف حقایق علمی یا ریاضی جدیدی که بشر به آن فکر نکرده بود، از شر دادههای انسان خلاص میشود.
- یک سقف جهانی در نهایت متوجه میشویم که حداکثر هوشی وجود دارد که جهان اجازه میدهد، و هم انسانها و هم ماشینها در حال نزدیک شدن به آن هستند.
در نتیجه
در حال حاضر، هوش مصنوعی غیرقابل توقف به نظر می رسد و همه آن را دوست ندارند یا نمی خواهند از آن استفاده کنند. اما تاریخ نشان می دهد که هر فناوری در نهایت با محدودیت های فنی، فیزیکی یا مفهومی مواجه می شود.
سوال واقعی برای دهه آینده این نیست: “هوش مصنوعی چقدر می تواند هوشمندتر شود؟” مانند این: “آیا نقطه ای وجود دارد که “هوشمندتر” دیگر وجود نداشته باشد؟”
این شاید یکی از مهم ترین سوالاتی باشد که در عصر هوش مصنوعی می پرسیم.
دنبال کردن راهنمای تام برای Google News و ما را به عنوان منبع ترجیحی اضافه کنید برای مشاهده آخرین اخبار، تحلیل ها و بررسی های ما در فیدهای خود.