من ابزارهای هوش مصنوعی را برای امرار معاش آزمایش می کنم و این 5 نکته است که برای رفع توهم استفاده می کنم
اگر زمانی را صرف استفاده از ChatGPT، Gemini یا Claude کرده اید، احتمالاً با یکی از خسته کننده ترین مشکلات هوش مصنوعی مواجه شده اید: توهم.
این اصطلاح صنعتی برای یک ربات چت است که به صورت ایمن اطلاعاتی را ارائه می دهد که نادرست، ساختگی، قدیمی یا بی معنی است. در حالی که مدلهای هوش مصنوعی امروزی بسیار بهتر از یک سال پیش هستند، توهم هنوز هم اتفاق میافتد، و بهعنوان کسی که هر روز از هوش مصنوعی برای تجارت استفاده میکند، بسیاری از آنها را از نزدیک دیدهام.
پس از پاسخهای بسیار اشتباه مطمئناً، من شروع به امتحان یک ترفند ساده کردم: قبل از پرسیدن سوالم، یک درخواست قابل استفاده مجدد اضافه کنم. نتایج بینقص نبودند، اما کیفیت پاسخهایی را که دریافت کردم بهطور قابل توجهی بهبود بخشید و به کاهش تعداد خطاهای هوش مصنوعی که با آنها برخورد کردم کمک کرد.
شما همیشه باید خودتان اطلاعات مهم را تأیید کنید، به خصوص در مورد مشاوره بهداشتی، مالی یا حقوقی. اما این اعلانهای ساده به بخشی از گردش کار روزانه من تبدیل شدهاند و میتوانند به شما کمک کنند تا پاسخهای دقیقتر و مطمئنتری را از هر ربات چت دریافت کنید.
در اینجا دستوراتی است که من اغلب استفاده می کنم.
از توهمات قبل از وقوع جلوگیری کنید
وقتی وارد مکالمه جدیدی با هوش مصنوعی میشوم که به نوعی تحقیق و پاسخهای کاملاً آگاهانه نیاز دارد، مطمئن میشوم که درخواست من تا حد امکان قابل درک است. در کنار این وظیفه، یکی از دستورات زیر نیز وجود دارد که هدف آن حصول اطمینان از این است که چت بات ها واقعی ترین پاسخ ها را ارائه می دهند و اطلاعاتی که ارائه می دهند توسط منابع قانونی پشتیبانی می شود:
- درخواست فراگیر برای حداکثر قابلیت اطمینان: فقط با استفاده از اطلاعات تایید شده پاسخ دهید. اگر هر یک از این اطلاعات گم شده یا نامشخص است، آن را به وضوح بیان کنید. جزییات را حدس نزنید یا ساختگی نکنید. شواهد یا دلیل استفاده شده برای یافتن این اطلاعات را بیان کنید. در صورت لزوم سوالات روشن کننده بپرسید. پس از پاسخ دادن، پاسخ خود را از نظر عدم دقت احتمالی بررسی کنید.
- اعلان دقت ساختاری: هنگام ارائه پاسخ های خود به من از این قالب ساختاریافته استفاده کنید – هر حقایق شناخته شده ای که پیدا کردید، هر فرضیه و ادعای اثبات نشده ای که مطرح کردید، و هرگونه اطلاعات گمشده ای که نتوانستید پیدا کنید.
- اعلان بررسی خودکار: هنگامی که پاسخ خود را درست کردید، حتما آن را نقد کنید و هرگونه نادرستی، فرضیات یا توهم احتمالی را شناسایی کنید.
- اعلان “نقل قول های غیر جعلی”: هرگز منابع، پیوندها، نقل قول ها، مطالعات، آمار یا نقل قول ها را هنگام ارائه پاسخ های خود اختراع نکنید. اگر نمی توانید کسی را تأیید کنید، آن را واضح بگویید.
- اعلان «ابتدا سؤال بپرسید»: اگر سؤال یا درخواست مبهم است یا جزئیات مهم را از دست داده است، قبل از پاسخ دادن سؤالات بعدی را بپرسید.
از زمانی که این اعلانها را به گردش کار خود اضافه کردم، با نمونههای بسیار کمتری از چتباتها مواجه شدهام که اطلاعات آشکارا نادرست، ساختگی یا گمراهکننده را ارائه میدهند. داشتن ChatGPT، Claude، Gemini و Perplexity که منطقشان را دوبار بررسی میکنند، ناسازگاریهای احتمالی را علامتگذاری میکنند، و پاسخها را در قالبی واضح و ساختاریافته ارائه میکنند، تعاملات روزانه من با هوش مصنوعی را بسیار قابل اعتمادتر کرده است.
آنها کامل نیستند، و من همچنان اطلاعات مهم را زمانی که دقت مهم است تأیید می کنم. اما این اعلانها به من کمک کردند تا پاسخهای بهتری را بهطور مداوم دریافت کنم، و این یک پیروزی در کتاب من است.
در نتیجه
ابزارهای هوش مصنوعی دائماً دانش و توانایی های استدلال خود را بهبود می بخشند، اما این بدان معنا نیست که کاربران باید کورکورانه به هر پاسخی که ارائه می دهند اعتماد کنند. دریافته ام که استفاده از اعلان های طراحی شده برای کاهش توهم می تواند به بهبود دقت کمک کند، اما آنها تنها بخشی از معادله هستند.
مهم نیست که ChatGPT، Claude، Gemini یا Perplexity چقدر پیشرفته باشد، همچنان مهم است که از تفکر انتقادی اولیه استفاده کنید و اطلاعات مهم را از طریق منابع قابل اعتماد تأیید کنید. بهترین نتایج با برخورد با هوش مصنوعی به عنوان یک دستیار مفید به دست میآید، نه قدرت نهایی.
دنبال کردن راهنمای تام برای Google News و ما را به عنوان منبع ترجیحی اضافه کنید برای مشاهده آخرین اخبار، تحلیل ها و بررسی های ما در فیدهای خود. مشترک شدن در راهنمای تام یوتیوب و ما را دنبال کنید tiktok.
اطلاعات بیشتر از راهنمای تام
