OpenAI اولین پیش نویس قانوننامه کاملاً جدید برای ChatGPT را به نام Model Spec رونمایی کرده است. در بیانیه ای که روز چهارشنبه منتشر شد، OpenAI گفت: پست وبلاگ او این سند را به اشتراک می گذارد تا گفتگوهای عمومی در مورد اینکه مدل های هوش مصنوعی چگونه باید رفتار کنند را عمیق تر کند.
OpenAI گفت: “ما این کار را انجام می دهیم زیرا فکر می کنیم برای مردم مهم است که انتخاب های عملی مربوط به شکل دادن به رفتار مدل را درک کنند و بتوانند در مورد آنها بحث کنند.”
این سند مجموعه‌ای از اصول را در بر می‌گیرد که شامل اهداف (به عنوان مثال، در نظر گرفتن آسیب‌های احتمالی)، قوانین (مانند محافظت از حریم خصوصی افراد)، و رفتارهای پیش‌فرض (مثلاً پرسیدن سؤال‌های روشن‌کننده در صورت لزوم) است.
مشابه قانون اساسی کلود. چت ربات آنتروپیک آموزش داده شده است هوش مصنوعی مشروطه، سیستمی مبتنی بر مجموعه ای از اصول که به ربات بازخورد هوش مصنوعی می دهد. این اصول بر اساس اعلامیه جهانی حقوق بشر و شرایط خدمات اپل و غیره است.
این برای شما چه معنایی دارد؟
برای عمیق تر کردن گفتگوی عمومی در مورد اینکه مدل های هوش مصنوعی چگونه باید رفتار کنند، ما مشخصات مدل خود را به اشتراک می گذاریم، رویکرد خود را برای شکل دادن به رفتار مدل مورد نظر. https://t.co/RJBRwrcTtQ8 مه 2024
OpenAI قبلاً متوجه شده است که تنظیم صحیح هر مورد استفاده چالش برانگیز است، به خصوص وقتی صحبت از ارائه نکردن اطلاعاتی باشد که بتواند به کسی کمک کند قانون را نقض کند.
برای مثال، ممانعت از درخواست راهنمایی‌های دزدی توسط ChatGPT به این معنی است که شخصی ادعا می‌کند یک فروشگاه خرده‌فروشی کوچک است و می‌پرسد “روش‌های معروف سرقت که باید مراقب آنها باشم چیست؟” این ساده تر از پرسیدن است.
کارشناسان می ترسند که هوش مصنوعی توسط انسان ها مورد سوء استفاده قرار گیرد، نه اینکه هوش مصنوعی متوسل به حقه و این اقدامات شود.
با این حال، بعید است که بر اساس چنین سناریوهایی محدودیت های قابل توجهی اعمال شود، زیرا انجام این کار در وهله اول هدف استفاده از چت بات را نادیده می گیرد. علاوه بر این، می توان استدلال کرد که موتورهای جستجو می توانند از قبل برای یافتن راه هایی برای دور زدن قانون استفاده شوند.
ایجاد یک شخصیت برای ChatGPT
🚨 OpenAI به تازگی پستی در مورد «شکل دادن به رفتار مدل مطلوب» منتشر کرده است و من به شدت با قانون پیشنهاد شده در زیر مخالفم، زیرا این یک شیب لغزنده برای اطلاعات غلط خطرناک است. pic.twitter.com/crpN4LYyrS8 مه 2024
آنچه محتمل‌تر است این است که «شخصیت‌های» جدید ChatGPT ممکن است ایجاد شود. فرض کنید می خواهید ChatGPT به عنوان معلم ریاضی شما عمل کند. به جای پاسخ فوری به سؤالی که با آن دست و پنجه نرم می کنید، ممکن است رویکرد آهسته تری داشته باشند و در طول مسیر به شما نکاتی بدهند تا بتوانید خودتان مشکل را حل کنید.
یک نکته بحث برانگیز در مشخصات مدل OpenAI، هدف عدم تلاش برای تغییر نظر کسی است. این سند با یک ربات چت نشان داده می شود که می گوید: “هرکسی حق دارد عقیده خود را داشته باشد” وقتی از او پرسیده می شود که آیا زمین صاف است یا خیر.
لویزا جاروفسکی، مدیر عامل شرکت آموزشی هوش مصنوعی Practice Privacy، نوشت: ایکس او می گوید که به شدت با قانون پیشنهادی مخالف است، زیرا این یک شیب لغزنده برای اطلاعات غلط خطرناک است.
وی گفت: امیدوارم صدها سال دانش و توافق علمی را به خاطر نسبی‌سازی و «حقایق شخصی‌شده» از بین ندهیم. نوشت.
در آینده، کاربران ممکن است با چت‌بات‌های رقیب روبرو شوند که سعی می‌کنند مخاطبان مختلف را بر اساس جهان‌بینی‌شان جذب کنند.
OpenAI در حال جمع آوری بازخورد کاربران در مورد مشخصات مدل تا 22 مه است.
اطلاعات بیشتر از راهنمای تام
منبع: tomsguide
نظرات کاربران