گوگل در مورد بدافزارهای مجهز به هوش مصنوعی هشدار می دهد که تشخیص آنها از ویروس های معمولی سخت تر است
گروه اطلاعاتی تهدید گوگل (GTIG) هشدار می دهد که افراد بد از هوش مصنوعی برای ایجاد و توزیع بدافزار جدید استفاده می کنند که در صورت استقرار، هم از مدل های زبان بزرگ (LLM) مانند Gemini استفاده می کند و هم با آن مبارزه می کند.
این یافته ها در یک گزارش فنی منتشر شده توسط GTIG در روز چهارشنبه، 5 نوامبر فاش شد. این گروه خاطرنشان کرد که دشمنان دیگر از هوش مصنوعی (AI) تنها برای افزایش بهره وری استفاده نمی کنند، بلکه از “بدافزار جدید مبتنی بر هوش مصنوعی در عملیات فعال استفاده می کنند.” آنها این را به عنوان “مرحله عملیاتی جدید بهره برداری هوش مصنوعی” نامگذاری کردند.
خانواده بدافزارها
گوگل ابزارهای جدیدی را که در حداقل دو خانواده بدافزار استفاده میشود، هوش مصنوعی «بهموقع» مینامد: PromptFlux و PromptSteal. هر دو در طول استقرار از LLM استفاده می کنند. آنها اسکریپت های مخرب ایجاد می کنند و کد خود را پنهان می کنند تا از شناسایی توسط برنامه های آنتی ویروس جلوگیری کنند. علاوه بر این، خانوادههای بدافزار از مدلهای هوش مصنوعی برای ایجاد عملکردهای مخرب «در صورت تقاضا» به جای تعبیه کردن آنها در کد استفاده میکنند.
گوگل می گوید این ابزارها گامی نوظهور اما مهم به سمت «بدافزار خودگردان و تطبیقی» هستند.
PromptFlux یک قطره چکان آزمایشی VBScript است که از Google Gemini برای ایجاد متغیرهای مبهم VBScript استفاده می کند. VBScript بیشتر برای اتوماسیون در محیط های ویندوز استفاده می شود.
در این حالت، PromptFlux سعی میکند از طریق ورودیهای پوشه Startup به رایانه شخصی شما دسترسی پیدا کند و سپس از طریق درایوهای قابل جابجایی و اشتراکهای شبکه نقشهبرداری شده پخش میشود.
GTIG میگوید: «جدیدترین مؤلفه PROMPTFLUX ماژول «روبات متفکر» است که برای بازجویی دورهای Gemini برای به دست آوردن کد جدید برای فرار از نرمافزار آنتی ویروس طراحی شده است.
محققان می گویند این کد نشان می دهد که سازندگان بدافزار در حال تلاش برای ایجاد یک “اسکریپت دگرگونی” در حال تکامل بودند.
به گفته گوگل، محققان Threat Intelligence نتوانستند مشخص کنند چه کسی PromptFlux را ساخته است، اما خاطرنشان کردند که توسط یک گروه برای منافع مالی استفاده می شود. گوگل همچنین ادعا می کند که در مراحل اولیه توسعه است و هنوز نمی تواند آسیب واقعی وارد کند.
این شرکت می گوید که دسترسی بدافزار به Gemini را غیرفعال کرده و دارایی های مرتبط با آن را حذف کرده است.
گوگل همچنین تعدادی بدافزار دیگر را که فرمان و کنترل از راه دور (FruitShell) ارائه میکنند، اعتبار GitHub (QuietVault) را ربوده و دادهها را در دستگاههای Windows، macOS و Linux (PromptLock) سرقت و رمزگذاری میکند، برجسته کرده است. همه آنها از هوش مصنوعی برای کار یا در مورد FruitShell برای دور زدن امنیت مبتنی بر LLM استفاده می کنند.
سوء استفاده از جوزا
علاوه بر بدافزار، این مقاله همچنین موارد متعددی از سوء استفاده عوامل تهدید از Gemini را گزارش میکند. در یک مورد، یک بازیگر بدخواه که خود را به عنوان شرکتکننده «تسخیر پرچم» نشان میدهد، اساساً به عنوان یک دانشجو یا محقق ظاهر میشود تا جمینی را متقاعد کند تا اطلاعاتی را ارائه کند که قرار بود مسدود شود.
گوگل تعدادی از تهدیدات را از سوی بازیگران تهدید چینی، ایرانی و کره شمالی شناسایی کرده است که از Gemini برای فیشینگ، داده کاوی، افزایش پیچیدگی بدافزارها، سرقت کریپتو و ایجاد دیپفیک سوء استفاده میکنند.
باز هم، گوگل میگوید که حسابهای مرتبط را در موارد شناسایی شده غیرفعال میکند و محافظهای مدل را تقویت میکند. این شرکت می گوید بازارهای زیرزمینی ابزارهای مخرب مبتنی بر هوش مصنوعی در حال رشد هستند.
این شرکت نوشت: «بسیاری از تبلیغات فروم زیرزمینی زبانی قابل مقایسه با بازاریابی سنتی مدلهای هوش مصنوعی قانونی را منعکس میکردند و بر نیاز به بهبود کارایی جریانهای کاری و تلاشها تأکید میکردند و در عین حال به مشتریان بالقوه علاقهمند به پیشنهادات خود راهنمایی میکردند.»
به نظر می رسد این واقعیت که هوش مصنوعی در حال پیچیده تر شدن است نشان دهنده گرایش به جایگزینی ابزارهای مخرب سنتی با ابزارهای جدید مبتنی بر هوش مصنوعی است.
رویکرد هوش مصنوعی گوگل
این مقاله با این استدلال به پایان می رسد که توسعه دهندگان هوش مصنوعی باید “هم شجاع و هم مسئولیت پذیر” باشند و سیستم های هوش مصنوعی باید با “حفاظ های امنیتی قوی” طراحی شوند تا از چنین سوء استفاده هایی جلوگیری شود.
گوگل می گوید نشانه های سوء استفاده در محصولات خود را بررسی می کند و از تجربه خود در مبارزه با بازیگران بد برای “افزایش ایمنی و امنیت مدل های هوش مصنوعی ما” استفاده می کند.
چگونه ایمن بمانیم؟
جنگ علیه ویروس ها و بدافزارها به طور مداوم در حال پیشرفت است زیرا ابزارهای هر دو طرف پیچیده تر می شوند، به خصوص با اضافه شدن هوش مصنوعی.
راه هایی برای ایمن ماندن وجود دارد. مثل همیشه مراقب لینک ها و محتوای خارجی باشید. اگر از ابزار هوش مصنوعی برای خلاصه کردن یک صفحه وب، PDF یا ایمیل استفاده شود، آن محتوا ممکن است مخرب باشد یا حاوی یک پیام پنهان برای حمله هوش مصنوعی باشد.
همچنین همیشه باید دسترسی هوش مصنوعی را به حسابهای حساس، مانند حسابهای بانکی، ایمیلها یا اسناد حاوی اطلاعات حساس محدود کنید. هوش مصنوعی به خطر افتاده می تواند این دسترسی را افزایش دهد.
در نهایت، رفتار غیرمنتظره در یک مدل Masters یا AI باید یک پرچم قرمز در نظر گرفته شود. اگر یک مدل هوش مصنوعی شروع به پاسخ عجیب به سؤالات می کند، اطلاعات داخلی رایانه شخصی شما را فاش می کند یا بدتر از آن سعی می کند اقدامات غیرمعمول یا غیرمجاز انجام دهد، باید آن جلسه را متوقف کنید.
مطمئن شوید که نرم افزار خود را به روز نگه دارید، از جمله بهترین نرم افزار آنتی ویروس و هر برنامه و برنامه LLM که استفاده می کنید. این تضمین میکند که آخرین نسخههای وصلهشده را دارید که از شما در برابر نقصهای شناخته شده محافظت میکند.
دنبال کردن راهنمای تام برای Google News و ما را به عنوان منبع ترجیحی اضافه کنید برای مشاهده آخرین اخبار، تحلیل ها و بررسی های ما در فیدهای خود.