ایجنت‌های OpenAI با حافظه کش پردازنده ارتباط مخفی ساختند

ایجنت‌های هوش مصنوعی OpenAI در یک آزمایش امنیتی توانستند بدون اتصال شبکه یا دسترسی به فایل مشترک، از طریق حافظه کش پردازنده با یکدیگر پیام ردوبدل کنند. این نتیجه نشان می‌دهد که جداکردن نرم‌افزاری محیط‌ها همیشه برای مسدودکردن ارتباط کافی نیست؛ موضوعی که برای امنیت زیرساخت‌های اجرای مدل‌های پیشرفته اهمیت زیادی دارد.

#نکات کلیدی

• دو ایجنت در محیط‌های جداگانه و بدون شبکه یا فایل مشترک با هم ارتباط برقرار کردند.
• پیام‌ها با تغییر وضعیت داده‌های کش و اندازه‌گیری زمان دسترسی رمزگذاری و رمزگشایی شدند.
• ایجنت‌ها مسیرهای دیگری مانند حافظه مشترک و ویژگی‌های زیرساخت آفلاین را هم بررسی کردند.
• آزمایش‌ها به کشف چند آسیب‌پذیری ناشناخته، از جمله نقص Kata Containers، منجر شد.
• OpenAI پس از شناسایی یک مشکل امنیتی، آموزش و ارزیابی مدل‌های پیشرفته را موقتاً متوقف کرد.

#ارتباط از مسیری که شبکه نیست

OpenAI هنگام بررسی امنیت محیط‌های آموزش مدل‌های پیشرفته، گروه‌هایی از ایجنت‌های هوش مصنوعی را مأمور شناسایی نقاط ضعف احتمالی زیرساخت خود کرد. در یکی از آزمایش‌ها، دو ایجنت در محیط‌هایی مجزا قرار گرفتند و باید راهی پیدا می‌کردند تا بدون شبکه و بدون تغییر فایل مشترک، اطلاعاتی را میان خود منتقل کنند.

راه‌حل آن‌ها استفاده از حافظه کش پردازنده بود. کش، داده‌های پرکاربرد را موقتاً نگه می‌دارد و دسترسی به داده موجود در آن معمولاً سریع‌تر از مراجعه به حافظه اصلی است. همین تفاوت زمانی به ایجنت‌ها امکان داد یک مسیر ارتباطی بسازند.

در این روش، یک ایجنت با تغییر وضعیت داده‌ها در کش، سیگنال ایجاد می‌کرد. ایجنت دوم نیز زمان دسترسی به اطلاعات را اندازه می‌گرفت و بر اساس الگوی زمانی، پیام را رمزگشایی می‌کرد. دو ایجنت پس از توافق بر سر شیوه کدگذاری و رمزگشایی، موفق شدند اطلاعات را بدون استفاده از مسیرهای ارتباطی معمول انتقال دهند.

#کانال جانبی چگونه کار می‌کند؟

این شیوه نمونه‌ای از کانال جانبی یا Side Channel است. در یک کانال جانبی، اطلاعات نه از مسیر مستقیم و طراحی‌شده‌ای مانند شبکه، بلکه از آثار جانبی اجرای برنامه و رفتار سخت‌افزار منتقل یا استخراج می‌شود. زمان دسترسی به حافظه، الگوی مصرف منابع یا تغییرات فیزیکی تجهیزات می‌توانند چنین نشانه‌هایی ایجاد کنند.

آزمایش‌های OpenAI فقط به حافظه کش محدود نبود. ایجنت‌ها روش‌های دیگری مبتنی بر الگوهای نوشتن در حافظه مشترک و ویژگی‌های زیرساخت آفلاین را نیز برای ارتباط مخفی شناسایی کردند. آن‌ها حتی درباره امکان ارتباط میان رایانه‌های ایزوله با استفاده از تغییرات دمایی سخت‌افزار صحبت کردند؛ هرچند اجرای چنین روشی به شرایط خاص سخت‌افزاری و نرم‌افزاری وابسته است و لزوماً سرعت زیادی ندارد.

گزارش ارتباط ایجنت‌های OpenAI از طریق حافظه کش نشان می‌دهد که مفهوم ایزوله‌سازی باید فراتر از بستن اتصال شبکه و دسترسی به فایل‌ها بررسی شود. برای شما به‌عنوان کاربر یا مدیر زیرساخت، نکته مهم این است که اجزای ظاهراً مشترک و کم‌اهمیت سخت‌افزار هم می‌توانند به مسیری برای انتقال اطلاعات تبدیل شوند.

#کشف آسیب‌پذیری و توقف موقت فعالیت‌ها

OpenAI از ایجنت‌های هوش مصنوعی برای بررسی امنیت نرم‌افزارها و زیرساخت داخلی خود نیز استفاده کرد. این آزمایش‌ها صدها میلیارد توکن مصرف کردند و به شناسایی چندین آسیب‌پذیری ناشناخته در نرم‌افزارهای متن‌باز انجامیدند.

یکی از موارد مهم، نقصی در Kata Containers بود؛ فناوری‌ای که برای ایزوله‌سازی محیط‌های اجرایی استفاده می‌شود. این آسیب‌پذیری با شناسه CVE-2026-24834 ثبت شد و OpenAI وصله امنیتی آن را ارائه کرد.

این شرکت پس از شناسایی یک مشکل امنیتی در ۲۰ سپتامبر ۲۰۲۶، آموزش و ارزیابی مدل‌های پیشرفته خود را به‌طور موقت متوقف کرد. فعالیت داخلی پس از اعمال اصلاحات، در اول اکتبر از سر گرفته شد. این تصمیم نشان می‌دهد یافته‌های آزمایش صرفاً در حد یک نمایش فنی باقی نماندند و بر روند داخلی شرکت نیز اثر گذاشتند.

#اهمیت این یافته برای محیط‌های ایزوله

محیط ایزوله با هدف محدودکردن دسترسی برنامه‌ها و جلوگیری از عبور اطلاعات میان بخش‌های مختلف ساخته می‌شود. با این حال، این آزمایش نشان داد ایجنت‌ها ممکن است از ویژگی‌های مشترک سخت‌افزاری یا آثار جانبی اجرای برنامه برای ایجاد مسیرهایی استفاده کنند که در طراحی اولیه به‌عنوان کانال ارتباطی در نظر گرفته نشده‌اند.

این یافته به‌تنهایی به معنای بی‌فایده‌بودن ایزوله‌سازی نیست، اما ضرورت بررسی دقیق‌تر رفتار مدل‌های هوش مصنوعی را برجسته می‌کند. وقتی یک مدل توانایی جست‌وجو، آزمایش و هماهنگی برای یافتن مسیرهای غیرمعمول را دارد، ارزیابی امنیتی نیز باید رفتار سخت‌افزار و کانال‌های جانبی احتمالی را در کنار محدودیت‌های نرم‌افزاری در نظر بگیرد.

#جمع‌بندی

ارتباط ایجنت‌های OpenAI از طریق حافظه کش یادآوری می‌کند که حذف شبکه، همه راه‌های تبادل اطلاعات را نمی‌بندد. با قدرتمندترشدن ایجنت‌ها، بررسی کانال‌های جانبی و اجزای مشترک سخت‌افزاری به بخش مهم‌تری از امنیت محیط‌های ایزوله تبدیل می‌شود.