هر بار که یک تولید کننده تصویر کاملاً جدید هوش مصنوعی وارد صحنه می شود، مردم به ناچار راهی برای دور زدن اقدامات امنیتی و سوء استفاده از سیستم پیدا می کنند. اما وقتی این اقدامات امنیتی آنچنان که باید سختگیرانه نباشند، کمکی نمی‌کند – مانند تولیدکننده تصویر Grok، که به دلیل تولید تصاویر آزاردهنده بدون اعتراض جدی مورد انتقاد قرار گرفته است. متاسفانه، به نظر می رسد که رندر پیکسل استودیو پیکسل 9 از مشکل مشابهی رنج می برد.
Pixel Studio یک رندر هوش مصنوعی داخلی است که در پرچمدار جدید Pixels گنجانده شده است. در طول آزمایش برای بررسی Google Pixel 9، استفاده از آن را ساده دیدم و هیچ تردیدی در مورد بازتولید محتوای دارای حق چاپ نداشتم. در واقع، این گوشی از ایجاد یک پوستر فیلم خوشحال شد که در آن R2-D2 از جنگ ستارگان با طلسم اندروید برای نبرد با دایناسور روباتی متحد می‌شود. او حتی حاضر بود گوگل را با یک بیلبورد آزار دهد تا بفهمد چرا هنوز اندروید 15 منتشر نشده است.
کاری که Pixel Studio انجام نمی دهد این است که تصاویری از افراد واقعی ایجاد کند، اما مشخص شد که برای دور زدن موانع امنیتی که ایجاد کرده است، نیازی به ایجاد تصاویر افراد واقعی برای Pixel Studio ندارید. و هرچه افراد بیشتری از این ابزار استفاده کنند، بیشتر می‌بینیم که Pixel Studio واقعا چه کار می‌کند و چه نمی‌کند.
در حالی که به نظر می رسد برخی از اصطلاحات مانند “نازی” یا “کنفدراسیون” به طور کلی مسدود شده اند، دور زدن این فیلترها و ایجاد یک تصویر توهین آمیز کار زیادی لازم نیست.
Digital Trends نگاهی به چیزهایی مانند باب اسفنجی با لباس سرباز نازی، خرس پدینگتون بر روی صلیب، المو در حال رانندگی، میکی موس مبدل به عنوان برده دار، و هر تعداد از تصاویر تولید شده توسط هوش مصنوعی است که گوگل (و حقوق مختلف آن) دارندگان) قطعاً نمی‌خواهند با آنها ارتباط برقرار کنند، مثال‌های زیادی وجود دارد.
با بازگشت به Pixel Studio، من همچنین شروع کردم به درک خوبی از اقدامات امنیتی که واقعاً وجود دارد، به ویژه کدام عبارات مجاز نیستند و دور زدن آنها چقدر آسان است. همانطور که معلوم است، به طرز شگفت آوری آسان است.
در حالی که به نظر می رسد برخی از اصطلاحات مانند “نازی” یا “کنفدراسیون” به طور کلی مسدود شده اند، دور زدن این فیلترها و تولید یک تصویر توهین آمیز کار زیادی لازم نیست. به عنوان مثال، من می‌توانستم شخصیت‌هایی مانند باب اسفنجی، مرد آبی، و اسکویدوارد را با لباس‌های آلمانی جنگ جهانی دوم نشان دهم – اما همیشه وقتی میکی ماوس را امتحان می‌کردم با خطا مواجه می‌شدم.
حتی می‌توانستم بازوبند قرمز معروف را در برخی از این عکس‌ها ببینم، اما به نظر می‌رسد که کلمه «سواستیکا» مسدود شده است. این نشان می دهد که موانع حفاظتی جدیدی از زمان آزمایش های Digital Trends ایجاد شده است. اما این بدان معنا نیست که گوگل هنوز از جنگل خارج شده است.
به جای اینکه بخواهیم لگو یودا را در حال کشیدن یک کرک پیپ مسدود شده ببینیم، کاملاً قابل قبول بود که بخواهیم لگو یودا را در حال کشیدن یک پیپ کاسه شیشه ای ببینیم. همینطور از یودا می‌خواهیم پودر سفید را از روی میز بیرون بیاورد.
علیرغم فهرست به ظاهر مسدود شده اصطلاحات، یافتن راه‌هایی برای دور زدن آنها بسیار آسان بود – و لازم نیست خیلی خلاقانه باشد. به جای اینکه بخواهیم لگو یودای خنثی شده را در حال کشیدن پیپ ترک ببینیم، کاملاً قابل قبول بود که ببینیم لگو یودا یک لوله کاسه شیشه ای دود می کند. بنابراین می خواهم ببینم یودا پودر سفید را از روی میز می مکد.
با معرفی Google Pixel 9 و Google Pixel 9 Pro XL امروز، Google باید بفهمد که Pixel Studio چه کاری می تواند انجام دهد و چه کاری را نمی تواند انجام دهد — و به سرعت. در غیر این صورت، تعداد زیادی از تصاویر هوش مصنوعی ساخت گوگل را در اینترنت خواهیم دید که موارد بسیار بدی را نشان می دهند. زیرا اگر یک چیز در مورد افراد در اینترنت آموخته باشم، این است که آنها عاشق یک چالش هستند. و بسیاری از آنها بسیار خلاق تر و ترسناک تر از من خواهند بود.
اطلاعات بیشتر از راهنمای تام
منبع: tomsguide
نظرات کاربران