Claude Fable 5 اینجاست – و بر اساس یک مدل آنتروپیک است که زمانی برای عموم بسیار خطرناک تلقی می شد.
در ماه آوریل، آنتروپیک با افشای کلود میتوس، مدلی که آنقدر در کارهای امنیت سایبری ماهر بود، جهان هوش مصنوعی را شگفت زده کرد که این شرکت تصمیم گرفت او را به صورت عمومی فاش نکند.
در عوض، Anthropic دسترسی به گروه کوچکی از سازمانها را از طریق Project Glasswing محدود کرد، برنامهای که با مشارکت دولت ایالات متحده ایجاد شد و بر دفاع سایبری و حفاظت از زیرساختهای حیاتی تمرکز دارد. در آن زمان پیام واضح بود: برخی از قابلیتهای هوش مصنوعی آنقدر قدرتمند بودند که در دسترس همه قرار نگرفت.
اکنون Anthropic در حال تغییر مسیر است – به نوعی. این شرکت Claude Fable 5 را منتشر کرده است، مدل جدیدی که بر اساس همان سیستم پایه Mythos 5 ساخته شده است. با این حال، بر خلاف Mythos، Fable 5 در دسترس عموم است. ترفند این است که Anthropic این را در مجموعه ای از اقدامات امنیتی قرار داده است که برای جلوگیری از دسترسی کاربران به برخی از قدرتمندترین ویژگی های مدل طراحی شده است.
از بسیاری جهات، Claude Fable 5 ممکن است مهمترین نسخه هوش مصنوعی سال باشد، زیرا نشانگر استراتژی جدیدی برای پیادهسازی مدلهای مرزی است.
ایمن تر کردن کلود برای استفاده عمومی
به گفته آنتروپیک، Claude Fable 5 و Claude Mythos 5 در اصل یک مدل هستند. تفاوت این است که Fable شامل نردههایی است که وقتی کاربران وارد مناطق حساسی مانند امنیت سایبری، زیستشناسی، شیمی و اشکال خاصی از استخراج الگو میشوند، مداخله میکنند. در چنین حالتی، درخواستها به جای آن به مدلی با قابلیت کمتر هدایت میشوند.
Anthropic می گوید که این سیستم حداقل برای 95٪ از جلسات بدون نیاز به متوسل شدن به مدل دیگری کار می کند، به این معنی که اکثر کاربران هرگز متوجه محدودیت ها نخواهند شد.
نتیجه عملاً یک نسخه مصرف کننده و یک نسخه محدود از همان سیستم هوش مصنوعی پیشگام است. این جدید است. در گذشته، شرکتهای هوش مصنوعی یک مدل واحد منتشر کردند و فیلترهای امنیتی را بر اساس آن تنظیم کردند. آنتروپیک اکنون مرز واضح تری بین آنچه که مردم به دست می آورند و سازمان های مورد اعتماد می کشد.
غذای آماده
جالب ترین چیز Claude Fable 5 نیست، بلکه چیزی است که بعدا می آید. شرکتهای هوش مصنوعی برای سالها بحث میکردند که آیا مدلهای با قابلیت فزاینده باید به طور آشکار منتشر شوند، به طور کامل محدود شوند یا با دقت کنترل شوند. آنتروپیک ممکن است گزینه چهارم را ارائه کرده باشد: این مدل را به صورت عمومی منتشر کنید، اما به طور انتخابی توانایی هایی را که خطرناک ترین تلقی می شوند غیرفعال کنید.
اگر این رویکرد کارساز باشد، میتوانیم سیستمهای هوش مصنوعی پیشگامتری را به دو شکل مشاهده کنیم: نسخه عمومی برای کاربران عادی و نسخه محدودی که برای دولتها، محققان و سازمانهای تحت نظارت در نظر گرفته شده است.
دنبال کردن راهنمای تام برای Google News و ما را به عنوان منبع ترجیحی اضافه کنید برای مشاهده آخرین اخبار، تحلیل ها و بررسی های ما در فیدهای خود. مشترک شدن در راهنمای تام یوتیوب و ما را دنبال کنید tiktok.
اطلاعات بیشتر از راهنمای تام
