من در آمازون به دنبال کتاب های نوشته شده با هوش مصنوعی گشتم و پیدا کردن آنها بسیار سخت تر از آن چیزی بود که انتظار داشتم
زمانی که ChatGPT برای اولین بار راه اندازی شد، بیشتر گفتگوها بر روی تهدید مقالات دانشجویی تولید شده توسط هوش مصنوعی، دیپ فیک ها و اخبار جعلی خودکار متمرکز بود. اما کتاب ها حس متفاوتی داشتند.
به عنوان کسی که ماهانه نیم دوجین کتاب را برای ReaderViews می خواند و بررسی می کند، همیشه آرامش خاصی را در روند انتشار سنتی پیدا کرده ام. عرضه یک کتاب به بازار از لحاظ تاریخی نیازمند ویراستاران، طراحان، مصححان و از همه مهمتر نویسنده ای بوده است که بنشیند تا آن را بنویسد. این مانع ورود به کتاب ها قدرت ذاتی داده است که وب سایت های استاندارد و پست های زودگذر رسانه های اجتماعی اغلب فاقد آن هستند.
سپس تحقیق اخیر نیویورک تایمز را در مورد بیوگرافی های تولید شده توسط هوش مصنوعی که در آمازون ظاهر می شد خواندم. این کتابها شامل کتابهایی درباره شخصیتهای عمومی شناخته شده بود که مملو از اشتباهات واقعی بودند و با نظارت انسانی ظاهراً صفر تولید شدند.
آخرین ویدیوهاراهنمای تام
تعجب کردم: آیا واقعاً می توانم یکی را در طبیعت ببینم؟ آمازون را باز کردم و شروع به جستجو کردم.
بیشتر لیست ها کاملاً عادی به نظر می رسیدند
شگفتانگیزترین بخش کل آزمایش این بود که هیچ چیز در نگاه اول غیرعادی به نظر نمیرسید. همه کتابهایی که محتوای تولید شده توسط هوش مصنوعی داشتند، جلدهایی با ظاهر حرفهای، توضیحات قانعکننده، قیمتهای مناسب و حتی رتبهبندی ستارهها داشتند. هیچ چیز فوراً “AI” را فریاد نمی زد. اگر من عمداً دنبال آنها نمی گشتم، احتمالاً آنها را کاملاً مشروع فرض می کردم.
اما همانطور که کمی عمیق تر حفاری کردم، نما شروع به ترک خوردن کرد و اولین چیزی که به من سرنخ داد صفحات نویسنده بود. روی نام پشت یک بیوگرافی کلیک کردم و به صفحه مردی به نام جان کرین میلر رسیدم، که با پرتره عکس استوک او به عنوان “بیوگرافی نویس و تحلیلگر فرهنگی باتجربه” توصیف شده بود. در عرض یک هفته، میلر ده بیوگرافی منتشر کرد، همه در مورد روزنامه نگاران و شخصیت های عمومی، و زمانی که کشمیر هیل یک بررسی عمومی در آمازون گذاشت و خواست با او صحبت کند، کتاب هایش بی سر و صدا ناپدید شدند. او تنها روح نبود.
تحقیقی که توسط Originality.ai انجام شد، کل کاتالوگهایی را پیدا کرد که توسط نویسندگانی که هویتهای ساختگی را نشان میدادند، ایجاد شده بودند. یکی از این نویسندگان در مدت پنج ماه 74 کتاب در موضوعات مختلف از اعتیاد به پورن تا تک فرزندی و محیط های کاری سمی منتشر کرده بود. حتی یک نفر هم اینطوری نمی نویسد. اینها نویسندگان مستقل پرکار با اخلاق کاری قوی نبودند. اینها اسامی جعلی بودند که به خروجی خودکار اضافه شدند.
کپی بازاریابی یک هدیه کامل بود
شرح پس از توصیف متکی بر همان وعدههای گسترده و عبارات بسیار آشنا بود – «مطالعه عمیق»، «راهنمای جامع»، «ابهام زدایی» – بدون توضیح اینکه چه چیزی باعث شده است که کتاب بیش از هر کتاب دیگری با موضوع مشابه، ارزش خواندن داشته باشد.
بعد از نیم دوجین از اینها، عملاً می توانستم جمله بعدی را بدون خواندن آن حدس بزنم. کپی بازاریابی فقط عمومی نبود. را می توان تغییر داد، گویی همان فرمان روی همان مدل اجرا شده و فقط موضوع تغییر کرده است.
بیوگرافی ها دردسرسازترین مقوله بودند و موجی از کتاب ها درباره روزنامه نگار فناوری کارا سویشر دلیل آن را نشان دادند. با انتشار کتاب خاطرات سوئیشر «کتاب بسوزان»، بیوگرافی های غیرمجاز متعددی از سویشر در آمازون ظاهر شد. این بیوگرافی ها توسط نویسندگانی نوشته شده است که هیچ مدرک ژورنالیستی ظاهری ندارند و هیچ نشانه ای از این که آنها تا به حال با سوئیشر یا هرکسی در مدار او صحبت کرده اند، نوشته شده است.
یان برمر، دانشمند علوم سیاسی، با همین پدیده مواجه شد: کتاب هایی که نام او را به عنوان موضوع خود دارند، بدون دخالت او تولید شده اند و صرفاً آنچه را که قبلاً به صورت رایگان در اینترنت در دسترس بود، جمع آوری و خلاصه می کنند. البته این دقیقاً همان کاری است که چت بات ها برای انجام آن طراحی شده اند، یعنی ترکیب اطلاعات موجود در یک روایت روان و با صدایی مطمئن. نتیجه محصولی است که شبیه یک کتاب واقعی به نظر می رسد و احساس می کند، اما چیزی را که خواننده از منبع منبع دریافت نمی کند، ارائه نمی دهد.
فراتر از کتاب ها
Substack اخیراً یک ویژگی تشخیص هوش مصنوعی را با همکاری شرکتی به نام Pangram راهاندازی کرده است که به خوانندگان این امکان را میدهد تا هر پستی را اسکن کرده و تخمینی از میزان نوشته شده توسط یک انسان و چه مقدار توسط هوش مصنوعی را مشاهده کنند.
کریس بست، مدیر عامل Substack، این را راهی برای جلوگیری از غرق شدن پلتفرم «مثل لینکدین» با محتوای توخالی هوش مصنوعی عنوان کرد، اما حتی Substack هم اذعان میکند که این ابزار بینقص نیست. آتلانتیک دریافت که دقت پانگرام به دور از گلوله است و منتقدان نگران نکات مثبت کاذب هستند که نویسندگان قانونی را علامت گذاری می کنند.
با این حال، این واقعیت که یک پلتفرم پخش جریانی بزرگ احساس می کرد مجبور به توسعه این ویژگی است، چیزی در مورد اینکه چقدر این مشکل فوری شده است، می گوید. آمازون هیچ معادلی ندارد.
غذای آماده
به عنوان کسی که مطلقاً عاشق خواندن است، این آزمایش بسیار جالبی بود. نکات اولیه من این است که به جای اعتماد به یک فهرست در ارزش اسمی، اکنون چند دقیقه بیشتر وقت می گذارم تا نویسنده را در خارج از آمازون نگاه کنم تا ببینم آیا آنها سابقه انتشار قابل اعتمادی دارند یا خیر، و من به طور خاص به دنبال بررسی های حرفه ای به جای اتکا به رتبه بندی های استاندارد ستاره هستم.
من همیشه متن نمونه را پیشنمایش میکنم تا بررسی کنم که نوشته رباتیک است یا بر اساس عبارات تکراری است، و برای متون غیرداستانی فعالانه به دنبال شواهدی از مصاحبه با افراد واقعی و نقل قولهای اصلی میگردم. هیچ یک از این مراحل به تنهایی تضمین نمی کند که یک کتاب توسط یک انسان نوشته شده است، اما در کنار هم تشخیص کار متفکرانه و تحقیق شده را از محتوای خودکار که صرفاً برای نتایج جستجوی بازی طراحی شده است را بسیار آسان تر می کند.
دنبال کردن راهنمای تام برای Google News و ما را به عنوان منبع ترجیحی اضافه کنید برای مشاهده آخرین اخبار، تحلیل ها و بررسی های ما در فیدهای خود. مشترک شدن در راهنمای تام یوتیوب و ما را دنبال کنید tiktok. در نهایت می توانید از بخش ویژه ما دیدن فرمایید. دفتر مرکزی تیم پس انداز راهنمای تام برای کمک متخصصان برای دریافت بهترین محصولات با قیمت کمتر.