من ترسناک ترین کتاب هوش مصنوعی جهان را خواندم و در واقع باعث شد در دستکاری بهتر شوم
من هر روز از هوش مصنوعی استفاده می کنم. این به معنای واقعی کلمه وظیفه من است که آن را آزمایش کنم، بررسی کنم و سعی کنم آن را شکست دهم. اما پس از خواندن کتاب Eliezer Yudkowsky و Nate Soares درباره هوش مصنوعی مافوق بشر، “اگر همه این کار را انجام دهند، همه می میرند”، شروع کردم به تفکر متفاوت در مورد هوش مصنوعی. خیلی زیاد متفاوت است.
با قضاوت بر اساس عنوان کتاب، به راحتی می توان هوش مصنوعی را بیش از حد دراماتیک، علمی تخیلی، پایان جهان تصور کرد. اما در کمال تعجب، کتاب مرا به فکر روز قیامت رهنمون نشد. در عوض، ChatGPT باعث شد من از ابزارهایی مانند Claude و Gemini به روشی عملی استفاده کنم. اساساً این کتاب روش استفاده و آزمایش ابزارهای محبوب هوش مصنوعی را تغییر داد.
بحث اصلی کتاب این است که اگر هوش مصنوعی بیش از حد قدرتمند شود که نمیتوان آن را کنترل کرد، چه اتفاقی خواهد افتاد. نمی گویم با این باور که هر سناریوی بدی اتفاق می افتد، رفتم. این کتاب سنگینی است که باید برای آن آماده باشید – من متوجه شدم که آن را در بخش های کوچکتر به سمت وسط می خوانم زیرا بسیار سنگین بود.
مقاله در زیر ادامه دارد
آگاهی که روش مورد نظر من را تغییر می دهد
چند نکته خوب از کتاب وجود دارد. شما میتوانید بیشتر این موارد را در وبسایت مربوطه بیابید، اما یکی از مفیدترین برنامههای آماده برای من این بود که هوش مصنوعی برای خطرناک بودن لازم نیست بد باشد، فقط باید واقعاً در ردیابی هدف اشتباه خوب باشد.
همین مفهوم در استفاده روزانه از هوش مصنوعی ظاهر می شود. وقتی ChatGPT یک پاسخ کلی به شما میدهد، نکته شما را از دست میدهد یا با اطمینان چیزی کمی عجیب میگوید، معمولاً به این دلیل نیست که ابزار “شکسته” است. این به این دلیل است که دقیقاً از دستور پیروی می کند یا شکاف هایی را پر می کند که هرگز نمی خواهید باز بگذارید.
حالا، به جای اینکه در این مورد معمولی باشم، شروع به هوشیاری بیشتری کردم. و کیفیت نتایج من تقریباً بلافاصله بهبود یافت.
در اینجا چند نمونه آورده شده است:
- من برون سپاری کل کار را متوقف کردم. من همه چیز را با دستورهایی مانند: “برنامه ای برای این بنویس.” یا “به من کمک کن تصمیم بگیرم” یا “بر اساس این اطلاعات چه کاری باید انجام دهم؟” حالا ابتدا ساختار را به هوش مصنوعی می دهم. من در مورد هدف، فرمت، و مهمترین چیز تصمیم میگیرم و سپس با استفاده از هوش مصنوعی از آنجا کامپایل میکنم. همین تغییر واحد خروجی من را کمتر عمومی و بسیار مفیدتر کرد.
- شروع کردم به برخورد با دستورات مانند دستورالعمل. هوش مصنوعی طبیعتاً منظور شما را نمی فهمد. می فهمد چه کار می کند در واقع در سوال به راحتی می توان در این دام افتاد که هوش مصنوعی مغز متفکری در درون خود دارد، اما این درست نیست. او در خواندن الگوها بهتر می شود، اما هنوز تعداد زیادی از آنها وجود دارد مصنوعی هوش الان خیلی دقیق ترم من توضیح میدهم که چه میخواهم، چه چیزی نمیخواهم، و یک پاسخ خوب در واقع چه کاری باید انجام دهد. در ابتدا کمی افراطی به نظر می رسد، اما به سرعت پاسخ های مبهم و روباتیک را کاهش می دهد.
- خیلی سریع به جواب ها اعتماد نکردم. یکی از ساده ترین تله های هوش مصنوعی اشتباه گرفتن اعتماد با دقت است. اگر چیزی خیلی نرم به نظر می رسد، سرعت آن را کم می کنم. از او می خواهم که منطق خود را توضیح دهد، مراحل را نشان دهد یا پاسخ را از منظر دیگری بازنگری کند. این عادت به تنهایی مرا از استفاده از ایده هایی که هوشمندانه به نظر می رسند اما در واقع کار نمی کنند نجات داده است.
غذای آماده
نیازی نیست باور کنید که هوش مصنوعی بشریت را نابود خواهد کرد تا درس مفیدی بیاموزید. اگر کسی آن را بسازد، همه می میرند. ابزارهایی مانند ChatGPT فقط به اندازه اهداف و دستورالعمل هایی هستند که به آنها می دهید.
این یک تغییر ذهنیت برای من بود. من نسبت به نحوه استفاده از آن بسیار آگاهتر هستم و نتایج به طور قابل توجهی بهتر است.
آیا کتاب را خوانده اید؟ در نظرات به من بگویید که چه فکر می کنید؟ دوست دارم بدانم از این مطالعه مهم چه نتیجه ای می گیرید.
دنبال کردن راهنمای تام برای Google News و ما را به عنوان منبع ترجیحی اضافه کنید برای مشاهده آخرین اخبار، تحلیل ها و بررسی های ما در فیدهای خود.