محقق آسیب پذیری را در جمینی پیدا می کند – اما گوگل می گوید که آن را برطرف نمی کند
اگرچه یک محقق نشان داده است که Google Gemini می تواند کاربران را با ارائه اطلاعات جعلی مانند هدایت آنها به وب سایت های مخرب ، فریب دهد ، Google گفت که این حمله قاچاق ASCII را یک اشکال امنیتی واقعی نمی داند و هیچ برنامه ای برای انتشار این نقص ندارد.
همانطور که توسط BleepingComputer گزارش شده است ، این شرکت یافته ها را به عنوان یک حمله مهندسی اجتماعی به جای یک آسیب پذیری امنیتی واقعی رد کرد.
از آنجا که جمینی خیلی نزدیک با فضای کاری Google یکپارچه شده است ، این آسیب پذیری یک مسئله پرخطر است. از این حمله می توان برای تزریق متن پنهان به دعوت نامه ها یا ایمیل های تقویم استفاده کرد تا به دستیار هوش مصنوعی دستور دهد تا کاشی های دعوت تقویم نامرئی ، جزئیات سازمان دهنده یا توضیحات یا پیوندها را پنهان کند.
Smuggling ASCII یک سبک حمله است که از شخصیت های خاص در برچسب های Unicode Tags استفاده می کند تا بارهای دریافتی را برای کاربران نامرئی کند اما هنوز هم توسط مدل های بزرگ زبان قابل تشخیص و پردازش است. – در اصل ، این بدان معنی است که نامه ها ، اعداد یا شخصیت های دیگر را برای ارسال کدهای مخرب به دستیار هوش مصنوعی که کاربران نمی توانند ببینند ، پنهان می کند. LLM ها مدتی در برابر حملات قاچاق ASCII و روش های مشابه آسیب پذیر بوده اند ، اما اکنون این تهدید بیشتر است که ابزارهای AI AIA مانند Gemini هر دو دسترسی گسترده به داده های حساس کاربر دارند و می توانند کارهای خودمختاری را انجام دهند.
به گفته محققان ، “اگر کاربران دارای استادان متصل به صندوق ورودی خود باشند ، یک ایمیل حاوی دستورات پنهان می تواند به آنها دستور دهد [the AI] برای جستجوی صندوق ورودی برای موارد حساس ، اطلاعات تماس را ارسال کرده و سپس یک تلاش فیشینگ استاندارد را به یک ابزار استخراج داده مستقل تبدیل کنید. ” کارشناسی ارشد گفتند که وب سایت ها را می توان با داده های پنهان در توضیحات محصول روبرو کرد و از URL های مخرب تغذیه کرد تا آنها را به کاربران بازگرداند.
تکنیک های دیگری نیز وجود دارد که از روشهای مشابه ، از جمله دستکاری CSS و محدودیت های GUI استفاده می کنند تا شکاف بین آنچه کاربران می بینند و چه دستگاه هایی را می خوانند ، تغییر کند. محقق امنیتی درگیر در این مطالعه نشان داد که جمینی ، مانند Grok و Deepseek ، در برابر حملات قاچاق ASCII آسیب پذیر است ، در حالی که Claude ، Chatgpt و Microsoft Copilot با اجرای نوعی ضد عفونی کننده ورودی در برابر چنین تهدیدهایی محافظت می شوند.
ما برای اظهار نظر در مورد این تحقیق به Google مراجعه کرده ایم و وقتی دوباره می شنویم این داستان را به روز می کنیم.