اینترنت در حال مرگ است. محققان 200 وب سایت جعلی هوش مصنوعی را که احتمالاً از آنها بازدید کرده اید، کشف می کنند
کلاهبرداران دیگر فقط مقالات جعلی نمی نویسند، بلکه در حال ساختن «کارخانه های شیار» هستند. تحقیقات گسترده در مورد شبکه «AutoBait» نشان داده است که 200 وب سایت با استفاده از اعلان های پنهانی هوش مصنوعی برای دستکاری عمدی احساسات خوانندگان برای کسب سود دستگیر شده اند.
تحقیقاتی که برای اولین بار توسط Axios گزارش شد، شبکه ای متشکل از 200 وب سایت را نشان داد که مقالات تولید شده توسط هوش مصنوعی را منتشر می کنند که صرفاً برای ایجاد درآمد تبلیغاتی طراحی شده اند و نشان می دهد که تولید انبوه محتوای جعلی آنلاین چقدر آسان شده است.
در نگاه اول، سایت ها شبیه وبلاگ های سبک زندگی معمولی یا صفحات خبری هستند. اما محققان می گویند که آنها در واقع بخشی از یک عملیات هماهنگ هستند که تقریبا به طور کامل توسط هوش مصنوعی تامین می شود.
ادامه مقاله در زیر
این کشف نگرانی های جدیدی را در مورد اینکه چگونه هوش مصنوعی مولد می تواند اینترنت را متحول کند، ایجاد می کند. به عنوان مثال، وبلاگ آنتروپیک توسط کلود نوشته شده است، اما هوش مصنوعی چیزی بیش از کمک به مردم برای نوشتن انجام می دهد. این به شبکه های اسپم در مقیاس بزرگ اجازه می دهد تا محتوایی را تولید کنند که ارزان، خودکار و تشخیص آن دشوار است.
کارخانه “AI Tilt”.
این تحقیقات توسط محققان شرکت امنیت سایبری DoubleVerify انجام شد و محققان آنچه را که آنها “کارخانه زباله های هوش مصنوعی” می نامند را کشف کردند.
این عملیات که AutoBait نام دارد شامل صدها ناحیه است که مستقل به نظر می رسند اما در واقع روی یک سیستم خودکار برای تولید مقالات و تصاویر کار می کنند.
هر سایت منتشر می کند:
- مقالات تولید شده توسط هوش مصنوعی
- تصاویر ایجاد شده توسط هوش مصنوعی
- صفحات کلیکی سبک نمایش اسلاید
- سرفصل های هیجان انگیزی که برای به حداکثر رساندن تعامل طراحی شده اند
هدف روزنامه نگاری نیست، بلکه برداشت های تبلیغاتی است
به گفته محققان، این شبکه در حال حاضر دهها میلیون بازدید تبلیغاتی ایجاد میکند و اغلب اوقات تبلیغکنندگان متوجه نمیشوند که تبلیغاتشان در کجا ظاهر میشود.
اما چیزی که این پرونده را به ویژه جالب می کند این است که چگونه بازرسان این عملیات را کشف کردند. اپراتورهای سایت به طور تصادفی اعلانهای هوش مصنوعی و کدهای مورد استفاده برای ایجاد مقالات نمایش داده شده در جاوا اسکریپت وبسایتها را حذف کردند و یک نگاه اجمالی نادر به نحوه عملکرد سیستم ارائه میدهند.
دستورها به هوش مصنوعی دستور دادند تا کارهایی مانند:
- با اطلاعات هیجان انگیز یا تکان دهنده هدایت می شود
- احساسات قوی مانند ترس یا فوریت را تزریق کنید
- مقالاتی به سبک نمایش اسلاید ایجاد کنید که برای کلیک کاربران طراحی شده اند
- تصاویری بسازید که شبیه عکس های اصلی گوشی هوشمند هستند
به عبارت دیگر، کل سیستم برای هدایت توجه و به حداکثر رساندن درآمد تبلیغاتی بهینه شده است. به طور خلاصه، این یک ضعف هوش مصنوعی است. از کجا؟ اقتصاد به طرز شگفت آوری ارزان است.
شاید شگفتانگیزترین جزئیات این باشد که این سایتها چقدر ارزان هستند. محققان تخمین می زنند که به لطف اتوماسیون هوش مصنوعی، اپراتورها کمتر از 2.25 دلار برای ایجاد هر صفحه مقاله هزینه می کنند.
قبل از هوش مصنوعی مولد، تیم بزرگی از نویسندگان برای ایجاد صدها وب سایت با هزاران مقاله نیاز داشتند. اکنون می توان این کار را با چند اعلان و یک سیستم انتشار خودکار انجام داد. به عنوان یک روزنامه نگار، این ناراحت کننده است. من آن را به غذاهای ناسالم تشبیه می کنم. خوانندگان چیزی را مصرف می کنند، اما هیچ چیز ارزشمندی در آن وجود ندارد.
اصطلاح کاهش هوش مصنوعی به خلاصه ای برای محتوای کم کیفیت تولید شده توسط هوش مصنوعی در حجم زیاد تبدیل شده است. به طور کلی به محتوای دیجیتالی اطلاق می شود که برای کلیک ها یا درآمد تبلیغاتی به جای خوانندگان واقعی ایجاد می شود و سرعت و کمیت را بر دقت یا اصالت ترجیح می دهد.
به عنوان فردی که زمان زیادی را صرف تحقیق و آزمایش هوش مصنوعی میکند، میتوانم مزخرفات نوشتاری را از هوش مصنوعی تشخیص دهم، همانطور که صاحب خانهفروشی میتواند طلاهای تقلبی را تشخیص دهد. اساساً، هوش مصنوعی با عبارتهای تکراری، توصیفهای سطحی، متن بیش از حد عمومی، و تصاویری که با هوش مصنوعی تولید میشوند، طراحی شده است که واقعبینانه به نظر میرسند.
نتیجه سیل محتوای پرکننده در مقیاس است که می تواند یافتن اطلاعات قابل اعتماد آنلاین را دشوار کند.
در نتیجه
مزرعههای محتوا جدید نیستند، اما هوش مصنوعی مولد، ایجاد و بهرهبرداری از آنها را بسیار آسانتر کرده است. به جای استخدام نویسندگان یا ویراستاران، بازیگران مخرب اکنون می توانند به سیستم های خودکار برای ایجاد مقالات، انتشار آنها در شبکه های بزرگ سایت ها و کسب درآمد از طریق تبلیغات اعتماد کنند.
نگرانی این است که این سایتها اغلب در نگاه اول مشروع به نظر میرسند و تشخیص آنها از نشریات واقعی را برای خوانندگان و گاهی تبلیغکنندگان دشوار میسازد. با ادامه پیشرفت ابزارهای هوش مصنوعی، هزینه راهاندازی شبکههای مشابه احتمالا بیشتر کاهش خواهد یافت.
به همین دلیل است که برخی از کارشناسان هشدار میدهند که اینترنت ممکن است وارد دورهای شود که به طور فزایندهای به عنوان «فروپاشی هوش مصنوعی» توصیف میشود، که در آن حجم زیادی از محتوای تولید شده بهطور خودکار برای جلب توجه آنلاین رقابت میکنند. بزرگترین چالش در این محیط، حفظ اعتماد به مطالبی است که مردم به صورت آنلاین می خوانند و به اشتراک می گذارند.
دنبال کردن راهنمای تام برای Google News و ما را به عنوان منبع ترجیحی اضافه کنید برای مشاهده آخرین اخبار، تحلیل ها و بررسی های ما در فیدهای خود.