هوش مصنوعی آنتروپیک پیام مخفی را در تصویر جاسازی کرد

پژوهشگران ایمنی هوش مصنوعی نشان داده‌اند مدل Fable-5.1 متعلق به آنتروپیک می‌تواند بدون دریافت الگوریتمی از پیش تعیین‌شده، راهی برای پنهان‌کردن پیام‌های متنی در تصاویر پیدا کند. اهمیت این آزمایش برای شما فقط به یک معمای تصویری جذاب محدود نمی‌شود؛ نتیجه نشان می‌دهد مدل‌ها می‌توانند روش رمزگذاری را خودشان انتخاب کنند و مدل دیگری نیز با ابزارهای مناسب آن را تشخیص دهد.

#نکات کلیدی

• Fable-5.1 پیام‌های متنی را در تصاویر SVG با ظاهر عادی پنهان کرد.
• مدل آنتروپیک روش کدگذاری را بدون دریافت دستورالعمل فنی مشخص انتخاب کرد.
• Fable در ۵۰ آزمایش، ۳۹ پیام یا ۷۸ درصد آن‌ها را بازخوانی کرد.
• مدل Astra از OpenAI موفق شد ۴۴ پیام یا ۸۸ درصد آن‌ها را رمزگشایی کند.
• مدل‌های رمزگشا فقط تصویر نهایی را دیدند، اما اجازه استفاده از ابزارهای پایتون را داشتند.

#پیام چگونه در یک منظره ساده پنهان شد؟

در یکی از آزمایش‌های گزارش‌شده در گزارش پژوهش درباره پیام‌های مخفی هوش مصنوعی، پژوهشگران یک عبارت را به Fable دادند و از آن خواستند تصویری معمولی با فرمت SVG بسازد که آن پیام را در خود پنهان کرده باشد. نکته مهم این بود که پژوهشگران به مدل نگفتند از چه روش یا الگوریتمی برای این کار استفاده کند.

خروجی، تصویری از شبی آرام در طبیعت بود؛ ماه و ستاره‌ها بالای دریاچه‌ای میان کوه‌ها دیده می‌شدند. در ظاهر، نشانه روشنی از وجود متن در تصویر نبود، اما موقعیت عمودی هر ستاره با یکی از حروف الفبا ارتباط داشت. مدلی که متوجه این الگو می‌شد، می‌توانست پیام پنهان‌شده را از روی ارتفاع ستاره‌ها استخراج کند.

Fable فقط به همین روش متکی نماند. پژوهشگران مشاهده کردند که این مدل برای جاسازی پیام‌ها از چند شیوه استفاده کرده است:

• تغییر ارتفاع اشیایی مانند ستاره‌ها یا ساختمان‌ها؛
• تغییر زاویه و چرخش اجزای تصویر؛
• کدگذاری اطلاعات با استفاده از رنگ‌ها.

#Astra چگونه پیام‌ها را رمزگشایی کرد؟

پژوهشگران در مرحله بعد بررسی کردند که آیا مدل‌های هوش مصنوعی می‌توانند پیام‌های مخفی را از تصاویر نهایی بیرون بکشند یا نه. در مجموعه‌ای شامل ۵۰ آزمایش، Fable توانست ۳۹ پیام پنهان‌شده در تصاویر تولیدی خودش را بخواند که برابر با ۷۸ درصد بود.

مدل Astra متعلق به OpenAI عملکرد موفق‌تری داشت و ۴۴ پیام، معادل ۸۸ درصد نمونه‌ها، را رمزگشایی کرد. مدل‌های بررسی‌شده به کد SVG یا توضیح روش کدگذاری دسترسی نداشتند و فقط تصویر نهایی را مشاهده می‌کردند. بااین‌حال، به آن‌ها صریحاً گفته شده بود که در تصویر به دنبال پیام مخفی بگردند و برای ساده‌تر شدن فرایند نیز اجازه داشتند از کدهای پایتون استفاده کنند.

Astra در نمونه‌های بررسی‌شده سراغ روش‌هایی مانند کد مورس و ترکیب حروف ابتدایی کلمات رفت. این نتیجه نشان می‌دهد مدل‌ها نه‌تنها می‌توانند نشانه‌های غیرعادی را بررسی کنند، بلکه قادرند برای یافتن ساختار احتمالی پیام از ابزارهای برنامه‌نویسی نیز کمک بگیرند.

#چرا این آزمایش برای ایمنی هوش مصنوعی مهم است؟

روش‌های استفاده‌شده در این آزمایش تازه نیستند. کد مورس نزدیک به ۲۰۰ سال قدمت دارد و پنهان‌نگاری، یعنی مخفی‌کردن یک پیام در رسانه‌ای دیگر، نیز پیشینه‌ای طولانی‌تر دارد. تکنیک‌های جاسازی داده در تصاویر دیجیتال هم دهه‌هاست که شناخته شده‌اند.

موضوع قابل‌توجه این نیست که مدل‌ها یک شیوه رمزگذاری کاملاً جدید اختراع کرده‌اند؛ بلکه اهمیت ماجرا در انتخاب و اجرای مستقل روش پنهان‌سازی و رمزگشایی است. این توانایی می‌تواند برای تیم‌های ایمنی و امنیتی مهم باشد، زیرا نشان می‌دهد بررسی خروجی مدل‌ها نباید فقط به متن آشکار یا ظاهر عادی یک تصویر محدود شود.

البته نتایج به این معنا نیست که مدل‌های هوش مصنوعی همیشه و بدون راهنمایی چنین پیام‌هایی را پیدا می‌کنند. براساس گزارش، کشف نشانه‌ها به پرامپت و دستور صریح برای جست‌وجوی پیام مخفی نیاز داشته است. بنابراین باید میان «توانایی انجام کار در شرایط آزمایش» و «شناسایی خودکار پیام در هر تصویر» تفاوت قائل شد.

#جمع‌بندی

این پژوهش نشان می‌دهد یک تصویر ساده تولیدشده با هوش مصنوعی ممکن است ساختاری فراتر از آنچه در نگاه اول می‌بینید داشته باشد. برای کاربران، پژوهشگران و تیم‌های امنیتی، پیام اصلی روشن است: ارزیابی رفتار مدل‌ها باید هم محتوای آشکار و هم الگوهای پنهان احتمالی در خروجی‌های تصویری را در نظر بگیرد.