یکی از بنیانگذاران OpenAI، که تا ماه گذشته به عنوان دانشمند ارشد نیز خدمت می کرد، یک شرکت جدید را با هدف ایجاد «ابر هوش ایمن» راه اندازی کرده است.
Ilya Sutskever یکی از مهم ترین چهره ها در دنیای هوش مصنوعی مولد است، از جمله توسعه مدل هایی که منجر به ChatGPT شد.
در سال های اخیر او بر روی همسویی فوق العاده تمرکز کرده است. به طور خاص، او سعی کرد اطمینان حاصل کند که هوش مصنوعی فوق هوشمند از دستورات ما پیروی می کند، نه او. او یکی از اعضای هیئت مدیره بود که در اوایل سال جاری سم آلتمن را برکنار کرد و پس از بازگشت آلتمن از سمت خود استعفا داد.
شرکت جدید او، SSI Inc. این همان چیزی است که او امیدوار است به آن ادامه دهد. این اولین آزمایشگاه هوش مصنوعی است که هوش عمومی مصنوعی (AGI) را دور می زند و مستقیماً به سراغ ابر مغز الهام گرفته از داستان های علمی تخیلی می رود. این شرکت به X نوشت: «تیم، سرمایهگذاران و مدل کسبوکار ما برای دستیابی به SSI هماهنگ هستند.
بنیانگذاران این پروژه Sutskever، Daniel Gross، پیشرو سابق هوش مصنوعی اپل و سرمایه گذار در محصولات هوش مصنوعی، و Daniel Levy، سرپرست سابق بهینه سازی OpenAI و کارشناس حریم خصوصی هوش مصنوعی هستند.
سوپر هوش چیست؟
هوش فوق العاده در دسترس است. ایجاد ابراطلاعات ایمن (SSI) مهمترین چالش فنی زمان ما است. ما اولین آزمایشگاه مستقیم SSI را با یک هدف و یک محصول راه اندازی کردیم: ابرهوش ایمن. به این میگن سوپر هوش ایمن…19 ژوئن 2024
ابر هوش مصنوعی (ASI) هوش مصنوعی با هوشی فراتر از سطح انسانی است. به گفته IBM، “در ابتدایی ترین سطح خود، این هوش مصنوعی فوق هوشمند دارای عملکردهای شناختی پیشرفته و مهارت های تفکر بسیار پیشرفته ای است که بسیار پیشرفته تر از هر انسانی است.”
برخلاف هوش مصنوعی که عموماً به اندازه انسان یا باهوشتر است، هوش مصنوعی باید در همه زمینهها از جمله استدلال و شناخت به طور قابل توجهی هوشمندتر باشد.
هیچ تعریف قطعی از ابر هوش وجود ندارد و هر شرکتی که به هوش مصنوعی پیشرفته نزدیک می شود، تفاسیر متفاوتی دارد. همچنین در مورد اینکه چقدر طول می کشد تا به این سطح از فناوری برسد، اختلاف نظر وجود دارد که برخی کارشناسان پیش بینی می کنند چندین دهه طول بکشد.
یکی از جنبههای ابر هوش، هوش مصنوعی است که میتواند هوش و تواناییهای خود را بهبود بخشد و به فاصله بیشتر بین تواناییهای انسان و هوش مصنوعی منجر شود.
چگونه مطمئن می شوید که Superintelligence ایمن است؟
مشکل ایجاد یک مدل هوش مصنوعی هوشمندتر از بشریت این است که ممکن است کنترل آن یا جلوگیری از غلبه بر ما دشوار باشد. اگر ارزش ها و منافع انسانی به درستی انطباق داده نشود، ممکن است انسانیت را نابود کند.
برای حل این مشکل، هر شرکتی که روی هوش مصنوعی پیشرفته کار می کند، تکنیک های هم ترازی را نیز توسعه می دهد. اینها رویکردهایی هستند که با سیستمهایی که بر روی مدل هوش مصنوعی اجرا میشوند و سیستمهایی که با آن آموزش دیدهاند، متفاوت هستند. این رویکرد SSI Inc است.
SSI میگوید تمرکز صرفاً بر روی ابراطلاعات به آنها این امکان را میدهد تا اطمینان حاصل کنند که ابراطلاعات در کنار انطباق و امنیت توسعه مییابد. آنها به X نوشتند: «SSI مأموریت ما، نام ما و کل نقشه راه محصول ما است، زیرا تنها تمرکز ما بر آن است.
این شرکت افزود: “ما امنیت و قابلیت ها را با هم به عنوان چالش های فنی می بینیم که باید از طریق مهندسی انقلابی و پیشرفت های علمی حل شوند.” ما قصد داریم در سریع ترین زمان ممکن توانایی های خود را گسترش دهیم و در عین حال اطمینان حاصل کنیم که امنیت ما همیشه در خط مقدم است.
اطلاعات بیشتر از راهنمای تام
بازگشت به مک بوک ایر
منبع: tomsguide
نظرات کاربران