نقص امنیتی Google Gemini به هکرها اجازه می دهد تا تلفن اندرویدی شما را از طریق واتس اپ ربودند – آنچه باید بدانید
اگر کاربر اندروید هستید، احتمالاً وقتی یک نوتیفیکیشن معمولی روی گوشی شما ظاهر میشود، دو بار فکر نمیکنید، به خصوص اگر شبیه یک پیام متنی معمولی، پیام Slack یا هشدار WhatsApp باشد.
اما تحقیقات جدید نشان میدهد که این اعلانهای روزانه ممکن است خطر امنیتی بسیار عجیبتری نسبت به یک پیوند مشکوک داشته باشند. در برخی موارد، برای خطرناک شدن پیام نیازی به باز کردن، لمس یا دانلود کردن آن نیست. فقط باید توسط Gemini پردازش شود.
این نگرانی توسط شرکت امنیت سایبری SafeBreach Labs مطرح شده است که آسیبپذیری تزریق سریع مبتنی بر اعلان را کشف کرده است که Google Gemini را در اندروید تحت تأثیر قرار میدهد.
به گفته محققان، مهاجمان دستورالعملهای محرمانه را از طریق اعلانهای پیامرسانی معمولی ارسال میکردند و به دستیار صوتی Gemini اجازه میداد تا دستورات مخرب را بهعنوان بخشی از زمینه مکالمه، بیصدا جذب کند.
SafeBreach میگوید از این تکنیک میتوان برای دستکاری پاسخهای Gemini، دریافت پیامهای جعلی از افراد مورد اعتماد، راهاندازی ابزارهای متصل، کنترل دستگاههای خانه هوشمند و حتی مسموم کردن حافظه بلندمدت Gemini استفاده کرد. این شرکت همچنین خاطرنشان کرد که گوگل بهروزرسانیهای طبقهبندی محتوا را برای کاهش این آسیبپذیری طراحی کرده است.
حمله چگونه کار می کند؟
این بر اساس دسته ای از تهدیدات است که به عنوان آسیب پذیری شناخته می شوند. تزریق سریع غیر مستقیم این زمانی اتفاق میافتد که مهاجم دستورات مخرب را در محتوایی که میداند هوش مصنوعی میخواند پنهان میکند، نه اینکه دستور را مستقیماً در پنجره اعلان AI تایپ کند.
دستیار اندروید Google Gemini به طور خودکار هشدارهای دریافتی را می خواند زیرا برای اسکن اعلان های دریافتی برای ارائه پاسخ های مفید و آگاه به زمینه طراحی شده است.
Google در حال حاضر از فیلترهای پیشرفته یادگیری ماشینی استفاده می کند تا از پیروی Gemini از دستورالعمل های تعبیه شده در متن خارجی جلوگیری کند. اما SafeBreach متوجه شد که با ساختاربندی دقیق متن پنهان – گاهی اوقات آن را در زبانهای خارجی یا پیوندهای نامرئی و بیصدا قرار میدهند – میتوانند Gemini را فریب دهند تا فکر کند دستورالعمل مخرب در واقع بخشی قانونی از تاریخچه مکالمه مداوم کاربر است.
هنگامی که ما حمله را طوری تنظیم کردیم که شبیه یک زمینه امن باشد، محموله به طور کامل از دفاع گوگل دور زد.
هکرها چه کاری می توانند انجام دهند؟
پس از اینکه Gemini اعلان سم را دریافت کرد، محققان دریافتند که می توانند دستیار هوش مصنوعی را مجبور به اجرای یک سری کارهای غیرمجاز هشدار دهنده بدون دادن هیچ گونه هشدار تصویری یا صوتی به کاربر کنند. SafeBreach چندین سناریو حمله پرخطر را نشان داد:
- کنترل دامنه فیزیکی: جمینی را مجبور به تعامل با ابزارهای Google Home برای راهاندازی دستگاههای هوشمند، روشن کردن دیگها یا باز کردن قفل پنجرههای متصل میکند.
- نظارت بی صدا: به Gemini دستور دهید تا فوراً تلفن را مجبور به یک تماس ویدیویی فعال زوم کند و در واقع دستگاه را به یک دوربین جاسوسی از راه دور تبدیل کند.
- مسمومیت حافظه: “اطلاعات ذخیره شده” (حافظه بلند مدت) Gemini را برای همیشه خراب می کند و به دستورات مخرب اجازه می دهد تا چند روز بعد در جلسات چت کاملاً متفاوت باقی بمانند.
- جعل هویت و فیشینگ کور: به Gemini دستور داده میشود که تاریخچه اعلانها را بررسی کند، نام اولین فرستنده واقعی را که میبیند (مثل یک مدیر یا همسر) بگیرد و یک پیام جعلی و بومیسازی شده از طرف آنها ارسال کند.
- تله دستیار صوتی: این اکسپلویت به طور خاص قابلیت های دستیار صوتی Gemini را هدف قرار داده است. از آنجایی که ابزارهای صوتی برای تقلید جریان طبیعی طراحی شده اند، Gemini به طور خودکار پس از صحبت کردن، میکروفون دستگاه را روشن می کند تا منتظر پاسخ بماند. SafeBreach با استفاده از ترفندی به نام Delayed Ride-Invoking، به هوش مصنوعی مسموم گفت که ساکت بنشیند و منتظر بماند تا کاربر ساعت ها بعد کلمه ای خوش خیم مانند “متشکرم” را برای انجام حمله بگوید.
خبر خوب این است که قبلاً وصله شده است
اگر در حال خواندن این مطلب هستید و به خاطر گوشی خود وحشت زده شده اید، می توانید نفس راحتی بکشید. SafeBreach از پروتکلهای افشای مسئولانه پیروی کرد و آسیبپذیری Faux Context Alignment را به طور خصوصی به Google گزارش داد.
گوگل از آن زمان یک پچ سمت سرور را نصب کرده و طبقهبندیکنندههای محتوای خود را ارتقا داده است تا این شکل خاص از دستکاری زمینه را مسدود کند. SafeBreach گزارش می دهد که هیچ مدرکی دال بر استفاده از این تکنیک در طبیعت توسط عوامل تهدید واقعی وجود ندارد.
مشکل اساسی از بین نمی رود
این یک خطای کدگذاری سنتی در WhatsApp یا سیگنال نیست. این یک چالش معماری است که در روش کارکرد سیستمهای هوش مصنوعی آژانسهای پیشرفته ذاتی است.
همانطور که شرکتهای فناوری برای دادن قدرت بیشتر به دستیاران هوش مصنوعی از طریق خواندن ایمیلهای ما، نظارت بر صفحهنمایشهای ما، مدیریت برنامههای ما و کنترل سیستمهای عامل ما رقابت میکنند، “شعاع انفجار” بالقوه تزریق سریع به طور تصاعدی در حال افزایش است. اگر یک هوش مصنوعی با داده های خارجی غیرقابل اعتماد به عنوان زمینه ای امن برخورد کند، همچنان هدف اصلی هکرها خواهد بود.
رعایت بهداشت مجوزها بهترین دفاع شما برای محافظت از دستگاه شما در برابر سوء استفاده های ناشناخته مبتنی بر اعلان در آینده است. تاریخ شروع: مجوزهای Gemini را بررسی کنید. به تنظیمات اندروید خود بروید، مجوزهای برنامه Gemini را پیدا کنید و غیرفعال کردن دسترسی به اعلان های سیستم مگر اینکه کاملا به آن نیاز داشته باشید شما نیز می خواهید اتصالات نزدیک به آب و برق یا برنامه های فضای کاری که فعالانه از آنها استفاده نمی کنید.
به طور کلی مراقب رفتار غیرمعمول هوش مصنوعی باشید. اگر Gemini ناگهان از شما درخواست کرد، سؤالات روشنگر عجیبی پرسید، به گونهای پاسخ داد که گویی از چیزی که میپرسید قطع شده است، یا ابزارهایی را که نمیخواهید باز میکند، فوراً پنجره دستیار را ببندید.
مثل همیشه، Tom’s Guide به نظارت بر آخرین اخبار امنیتی هوش مصنوعی، آسیبپذیریها و نقضها ادامه خواهد داد تا به شما در درک خطرات و ایمن ماندن کمک کند.
دنبال کردن راهنمای تام برای Google News و ما را به عنوان منبع ترجیحی اضافه کنید برای مشاهده آخرین اخبار، تحلیل ها و بررسی های ما در فیدهای خود. مشترک شدن در راهنمای تام یوتیوب و ما را دنبال کنید tiktok. در نهایت می توانید از بخش ویژه ما دیدن فرمایید. دفتر مرکزی تیم پس انداز راهنمای تام برای کمک متخصصان برای دریافت بهترین محصولات با قیمت کمتر.