“هوش مصنوعی به مردم ابرقدرت های حرفه ای می دهد”: پیشرو محصول کلود آینده هوش مصنوعی را در مصاحبه اختصاصی Tom’s Guide توضیح می دهد.
آنتروپیک، شرکتی که در پشت کلود هوش مصنوعی قرار دارد، رشدی شهابی داشته است. از زمان تأسیس، از یک شرکت تحقیقاتی کمتر شناخته شده هوش مصنوعی به یک نیروگاه جهانی در رقابت با شرکت هایی مانند OpenAI و Google تبدیل شده است.
اما در دنیایی که هوش مصنوعی در همه جا وجود دارد، در گوشی هوشمند، یخچال و اسباب بازی های فرزندتان، Anthropic یک سبک توسعه شگفت آور ساده دارد. این ربات تصویری یا ویدیویی با هوش مصنوعی ایجاد نمی کند، و چت بات خودش، کلود، به همان اندازه که می آید بسیار کم است و بسیاری از زنگ ها و سوت هایی که در رقبای خود دیده می شود، ندارد.
علاوه بر این، به نظر می رسد آنتروپیک بیش از رقبای خود نگران آینده هوش مصنوعی است. مدیر عامل این شرکت، داریو آمودی، آشکارا از هوش مصنوعی و خطرات آن انتقاد کرده است و شرکت در کل سال ها را صرف برجسته کردن خطرات هوش مصنوعی کرده است.
اول ایمنی
هوش مصنوعی ذاتا کثیف است. در طول سالها، ما شاهد اشتباهات رباتهای چت بودهایم، شخصیتهای عجیبی به خود میگیرند و جلوی چشمان ما متلاشی میشوند. فهرست طولانیای از توهمات و نگرانیهای نگرانکننده در مورد اینکه چگونه این فناوری میتواند نقشهای تعیینشده خود را ایفا کند، وجود دارد. به نظر می رسد آنتروپیک می خواهد تا حد امکان از این امر اجتناب کند.
اسکات توضیح داد: “ما در تلاش هستیم تا سیستمهای هوش مصنوعی ایمن، قابل تفسیر و دستکاری بسازیم. این چیزها قدرتمندتر میشوند و چون قدرتمندتر هستند، تقریباً لزوماً خطرناکتر میشوند مگر اینکه نردههای محافظ در اطراف آنها قرار دهید تا عمداً آنها را ایمن کنید.”
ما میخواهیم مرزهای اطلاعاتی را پیش ببریم، اما این کار را به روشی امن و قابل تفسیر انجام دهیم.
هنگامی که Anthropic در پایان سال گذشته Claude Opus 4.5 را منتشر کرد، آنها ادعا کردند که قویترین مدل سازگاری است که منتشر کردهاند و بهتر از رقبای خود میتواند هکرها، مجرمان سایبری و کاربران مخرب را خنثی کند.
در واقع، در بین عواملی از جمله آسیبهای فعلی، امنیت وجودی، ارزیابی ریسک و موارد دیگر، آنتروپیک بهعنوان مدل برتر هوش مصنوعی برای امنیت در شاخص امنیتی رتبهبندی شد و با فاصله کمی از OpenAI پیشی گرفت.
نگرانی های اخیر در مورد هوش مصنوعی فقط به این نیست که هوش مصنوعی چقدر قابل دستکاری است. شرکتهایی مانند Grok و ChatGPT متهم شدهاند که بیش از حد سازگار هستند یا تمایل زیادی برای سوق دادن مشتریان به سمتهای خاص دارند.
وقتی از وایت پرسیده شد که آیا این چیزی است که تیم هنگام طراحی هوش مصنوعی ایمن در نظر گرفته است یا خیر، وایت اظهار نظر زیادی نکرد، اما تصدیق کرد که این چیزی است که تیم در طول فرآیند طراحی در نظر گرفته است.
وایت سپس توضیح داد که اولویت دادن به ایمنی باید به عنوان یک چیز مثبت تلقی شود، نه چیزی که آنها را عقب نگه دارد.
“امنیت بخشی از اطمینان از ساختن چیزهای قدرتمند است. لازم نیست امنیت را به عنوان یک مبادله در نظر بگیریم، این فقط یک نیاز ضروری است و شما می توانید آن را انجام دهید و به همه نشان دهید که این امکان پذیر است. مهمترین چیز برای من این است که نشان دهم امنیت یک محدودیت نیست.”
مرورگرها و نمایندگان
در ماه های اخیر شاهد حرکت هوش مصنوعی از مرزهای معمول خود بوده ایم. محدود به چت بات ها و ویجت ها، برخی از شرکت های بزرگتر مرورگرها، برنامه های افزودنی و افزونه های خود را ایجاد کرده اند.
OpenAI مرورگر Atlas را منتشر کرد، فناوری Gemini را در برنامه هایی مانند Gmail و Google Calendar ادغام کرد و پسوند مرورگر خود را برای Claude ایجاد کرد.
با معرفی این ابزارها، خطرات امنیتی جدیدی نیز به وجود آمد. اطلس OpenAI، همراه با دنباله دار Perplexity، به دلیل خطر تزریق مورد انتقاد قرار گرفته است. این جایی است که شخصی دستورالعمل های مخرب هوش مصنوعی را در یک صفحه وب یا متنی که با آن تعامل دارد پنهان می کند. هنگامی که هوش مصنوعی این را می خواند، به طور خودکار فرمان را اجرا می کند.
خارج از محدوده چتباتها، جایی که هوش مصنوعی نمیتواند با دنیای بیرون تعامل داشته باشد، بسیار ایمنتر بودهاند، اما با شروع تعامل بیشتر با اینترنت، کنترلهای خاصی یا اجازه دسترسی به صفحات وب، خطر بروز میکند.
وایت توضیح داد: «در چند ماه گذشته، وقتی افزونه مرورگر Claude را توسعه دادیم که به کلود اجازه میدهد مرورگر شما را کنترل کند و به تنهایی اقدام کند، متوجه شدیم که خطرات تزریق جدیدی وجود دارد.
به جای اینکه آن را در اختیار همه قرار دهیم، آن را در اختیار گروه بسیار کوچکی از کاربران آزمایشی قرار دادیم که خطرات آن را درک میکردند، که به ما این امکان را داد که فناوری را قبل از عرضه گستردهتر آزمایش کنیم.»
اگرچه برنامه افزودنی مرورگر کلود موفقیت آمیز است، اما در مقایسه با CoPilot یا هر دو مرورگر Perplexity و OpenAI در کارهایی که می تواند انجام دهد بسیار محدودتر است. وقتی از کلود پرسیده شد که آیا کلود چیزی شبیه به یک مرورگر توسعه خواهد داد، وایت مردد بود.
وایت گفت: “کلود به عنوان یک ربات چت واقعاً ساده شروع به کار کرد و اکنون بیشتر شبیه یک همکار واقعاً توانا است که می تواند با همه این ابزارها و پایگاه های دانش مختلف تعامل داشته باشد. اینها وظایف مهمی هستند که انجام آنها به تنهایی ساعت ها طول می کشد.”
“اما دسترسی به همه این سیستم ها بردارهای جدیدی از خطر را اضافه می کند. اما به جای اینکه بگوییم هیچ کار جدیدی انجام نخواهیم داد، آن بردارها را حل خواهیم کرد. ما به کشف راه های جدید برای استفاده از کلود و راه های جدید برای خارج کردن چیزها از دست شما ادامه خواهیم داد، اما ما این کار را با خیال راحت انجام خواهیم داد.”
زنگ ها و سوت ها
کلود روی اهدافش تمرکز کرد. برخلاف رقبای خود، زمانی برای ایجاد تصاویر یا ویدیو وجود نداشت و به نظر میرسید که علاقهای به ویژگیهایی که موارد استفاده عملی را ارائه نمیدهند، وجود نداشت.
وایت گفت: «ما زمینههایی را اولویتبندی کردیم که کلود میتواند به مردم کمک کند تا تفکرشان را توسعه دهند و به جلو حرکت دهند، چالشهای بزرگتر را حل کنند، و این مهمترین مسیر برای ما بود.
“ما در واقع فقط در تلاشیم تا AGI ایمن ایجاد کنیم، و حقیقت این است که راه رسیدن به AGI ایمن از طریق حل مشکلات واقعا سخت، اغلب در زمینه های حرفه ای و همچنین در موقعیت های شخصی است. به همین دلیل است که ما روی سرعت های سریع تر، بهینه سازی بهتر و مدل های ایمن تر کار می کنیم.”
وایت با توضیح اینکه نقش کلود را چگونه می بیند، توضیح داد که می خواهد کلود ابزاری واقعا مفید باشد که می تواند مشکلات زندگی شما را از بین ببرد. او امیدوار بود که این به ابزاری در آینده منجر شود که بتواند با برخی از بزرگترین چالش های زندگی مقابله کند و ساعات روز ما را برای انجام کارهای دیگر آزاد کند.
این فقط ویژگی هایی مانند تولید کننده تصویر نیست. به طور کلی به نظر می رسد آنتروپیک شرکت جدی تری نسبت به رقبای خود باشد. زمان و تلاش صرف تحقیق می شود، توجه کمتری به جذابیت در بازار مصرف گسترده تر می شود و ابزارهایی که بر روی آنها تمرکز می کند به کدنویسی، گردش کار و بهره وری اختصاص داده شده است.
دنبال کردن راهنمای تام برای Google News و ما را به عنوان منبع ترجیحی اضافه کنید برای مشاهده آخرین اخبار، تحلیل ها و بررسی های ما در فیدهای خود.
اطلاعات بیشتر از راهنمای تام
بازگشت به لپ تاپ
