آیا از آمازون یا والمارت خرید می کنید؟ چرا هنوز نباید به دستیاران هوش مصنوعی اعتماد کنید؟
هوش مصنوعی به سرعت در حال تبدیل شدن به ویترین جدید است. بیشتر خریداران به جای پیمایش در صفحات نتایج جستجو، از دستیاران هوش مصنوعی میخواهند تا محصولات را توصیه کنند، قیمتها را مقایسه کنند و گزینهها را محدود کنند. اما یک گزارش جدید نشان میدهد که همین سیستمهای هوش مصنوعی نیز ممکن است به آرامی چیزهایی را شکل دهند که مصرفکنندگان هرگز نمیبینند.
محققان مرکز حقوق و اقتصاد دانشکده حقوق کلمبیا گزارشی منتشر کردند که در آن آمازون و والمارت را متهم کردند که از دستیارهای خرید هوش مصنوعی برای سختتر کردن یافتن محصولات ساخت آمریکا استفاده میکنند، حتی اگر سیستمها بتوانند آنها را شناسایی کنند.
این گزارش با عنوان Made in America، Hidden by AI بررسی می کند که چگونه ابزارهای خرید هوش مصنوعی آمازون و والمارت به سؤالات مربوط به محصولات ساخته شده در ایالات متحده پاسخ می دهند. محققان دریافتند چت ربات آمازون اغلب از پاسخ دادن به سؤالات ساده در مورد محصولات ساخت آمریکا خودداری می کند، در حالی که به راحتی به سؤالات مشابه در مورد محصولات ساخت چین پاسخ می دهد. با این حال، پس از درخواست مجدد، چت بات محصولات ساخت آمریکا را با استفاده از اطلاعات موجود در تمام مدت بازگرداند.
آخرین ویدیوهاراهنمای تام
اری مایر، کارشناس ارشد مرکز حقوق و اقتصاد و یکی از نویسندگان گزارش گفت: «ما این سیستمها را همانطور که یک مهندس آزمایش میکردیم، و نتایج رد شده در آزمایشهای اولیه شکست خوردند. دادهها وجود داشت، اما طراحی برای پنهان کردن آنها انجام شد.»
این گزارش در زمانی ارائه میشود که خردهفروشان به جای جستجوی کلمات کلیدی سنتی، خریداران را به توصیههای مبتنی بر هوش مصنوعی سوق میدهند. چه ارائه توصیههای محصول، مقایسه گزینههای جایگزین، یا خلاصه کردن بررسیها، این دستیاران اولین ایستگاه بسیاری از خریداران آنلاین هستند.
بر اساس این گزارش، نه آمازون و نه والمارت در حال حاضر به خریداران فیلتر اختصاصی «ساخت ایالات متحده آمریکا» را ارائه نمی دهند، علیرغم ارائه صدها گزینه فیلتر دیگر در بسیاری از دسته بندی های محصولات. محققان پیشنهاد میکنند که اگر دستیاران هوش مصنوعی به رابط اصلی برای خرید آنلاین تبدیل شوند، روشی که آنها انتخاب میکنند چه اطلاعاتی آشکار یا ذخیره میشوند میتواند بر تصمیمگیری خرید در مقیاس بزرگ تأثیر بگذارد.
من با کمال میل چند مورد رایج مانند مبلمان و چوب ماهیگیری را امتحان کردم و الکسا+ گفت که به این اطلاعات دسترسی ندارد. با این حال، وقتی در مورد پرچم های آمریکا ساخت ایالات متحده پرسیدم، درخواست من محصول مناسبی را ارائه داد.
لینا خان، مدیر مرکز قانون و اقتصاد و رئیس سابق کمیسیون تجارت فدرال، گفت که یافتهها نشان میدهد که سیستمهای هوش مصنوعی پیچیدهتر همچنان بر اساس انگیزههای پشت سرشان شکل میگیرند.
خان گفت: «حتی با افزایش پیچیدگی و توانایی ابزارهای هوش مصنوعی، انگیزههای تجاری نحوه اجرای این پیشرفتها را شکل میدهند. سیاست گذاران و دست اندرکاران نقشی حیاتی در حصول اطمینان از نرسیدن مردم به نقطه پایانی دارند.
به نظر می رسد سیستم ها قادر به تشخیص ادعاهای مشکوک هستند
یکی از جالبترین یافتههای این گزارش این بود که دستیاران هوش مصنوعی هر دو شرکت توانستند ادعاهای گمراهکننده بالقوه «ساخت ایالات متحده» را شناسایی کنند.
به گفته محققان، چت بات آمازون لیست هایی را در مواد تبلیغاتی حاوی محصولاتی که ادعا می کردند ساخت آمریکا هستند، شناسایی کرد، علیرغم شواهدی که نشان می داد آنها وارد شده بودند. گزارش شده است که چت بات Walmart به ادعاهای «ساخت ایالات متحده آمریکا» بر اساس میزان مشکوک به نظر می رسد، بر اساس عواملی مانند اطلاعات فروشنده و آثار تولیدی، رتبه بندی می کند.
نویسندگان استدلال میکنند که این نشان میدهد که سیستمهای هوش مصنوعی زیربنایی توانایی فنی برای کمک به شناسایی ادعاهای مشکوک مبدا را دارند. با این حال، این گزارش نشان نمیدهد که آمازون یا والمارت از این قابلیتها در داخل برای اجرای بازار استفاده میکنند.
آمازون پاسخ می دهد
آمازون در بیانیهای به رویترز این مفهوم گستردهتر را که اطلاعات کشور مبدا را از خریداران پنهان میکند، رد کرد.
یکی از سخنگویان آمازون گفت: «اطلاعات کشور مبدا، زمانی که در دسترس باشد، در حال حاضر در صفحات جزئیات محصول نمایش داده میشود، و ما دائماً در تلاش هستیم تا الکسا برای خرید را بهبود بخشیم تا این اطلاعات برای مشتریان در دسترستر باشد».
والمارت بلافاصله به درخواست رویترز برای اظهار نظر پاسخ نداد.
در نتیجه
این گزارش موضوعی را برجسته میکند که احتمالاً با ادامه جایگزینی دستیاران خرید هوش مصنوعی به جایگزینی جستجوی سنتی، اهمیت بیشتری پیدا میکند. اگر مصرف کنندگان برای تصمیم گیری برای خرید چه محصولاتی به هوش مصنوعی تکیه کنند، انتخاب های طراحی پشت این سیستم ها بسیار مهم تر می شوند.
تصمیمگیری در مورد اینکه کدام محصولات ابتدا ظاهر شوند، بر کدام ویژگیها تأکید شود، و به کدام سؤالات باید به طور کامل پاسخ داده شود، میتواند رفتار خرید را به گونهای شکل دهد که خریداران ممکن است تا حد زیادی مورد توجه قرار نگیرند.
دنبال کردن راهنمای تام برای Google News و ما را به عنوان منبع ترجیحی اضافه کنید برای مشاهده آخرین اخبار، تحلیل ها و بررسی های ما در فیدهای خود. مشترک شدن در راهنمای تام یوتیوب و ما را دنبال کنید tiktok. در نهایت می توانید از بخش ویژه ما دیدن فرمایید. دفتر مرکزی تیم پس انداز راهنمای تام برای کمک متخصصان برای دریافت بهترین محصولات با قیمت کمتر.