ایجنت Muse متا با پیام خودسرانه درباره جیمیل جنجال‌ساز شد

پیام خودسرانه ایجنت هوش مصنوعی Muse درباره بررسی ایمیل یک مهندس نرم‌افزار، بار دیگر نگرانی‌ها درباره حریم خصوصی و ایمنی عامل‌های هوش مصنوعی را مطرح کرده است. متا می‌گوید این اتفاق از یک باگ داخلی و هذیان مدل ناشی شده، هیچ نقض امنیتی یا حریم خصوصی رخ نداده و مشکل نیز برطرف شده است.

#پیام غیرمنتظره Muse درباره جیمیل

اوگو نونه، مهندس نرم‌افزار، گفته است هنگام راه‌اندازی Muse هیچ مجوزی فراتر از دسترسی به حساب‌های فیسبوک، تردز و اینستاگرام به این ابزار نداده بود. بااین‌حال، پس از دو روز عدم تعامل با برنامه، ایجنت بدون دریافت فرمان به او اعلام کرد که نمی‌تواند ایمیلش را بررسی کند، زیرا جیمیل به آن متصل نیست و در نتیجه امکان بررسی «پیام آنتروپیک» را ندارد.

این پیام از آن جهت نگران‌کننده بود که نونه هرگز از Muse نخواسته بود صندوق ایمیلش را بررسی کند. او ابتدا احتمال داد حساب ایمیلش هک شده باشد. پاسخ ایجنت به درخواست توضیح نیز ابهام را برطرف نکرد؛ Muse گفت نمی‌تواند تشخیص دهد فردی به گوشی دسترسی داشته یا یک اختلال فنی رخ داده است.

#توضیح متا درباره باگ داخلی و هذیان مدل

نونه موضوع را به متا گزارش کرد و این شرکت پس از بررسی اعلام کرد که یک باگ داخلی باعث هذیان مدل شده است. به گفته متا، این رویداد خطر امنیتی یا نقض حریم خصوصی ایجاد نکرده و باگ مربوطه اکنون رفع شده است.

بااین‌حال، نونه از این توضیح قانع نشد و اعلام کرد بخش غافلگیرکننده ماجرا، اقدام خودسرانه هوش مصنوعی بدون دریافت هیچ دستوری بوده است. شرح کامل رفتار غیرقابل‌پیش‌بینی ایجنت Muse متا در گزارش منبع منتشر شده است.

#سابقه گزارش‌های نگران‌کننده از ایجنت متا

این نخستین گزارش درباره رفتار ناخواسته Muse نیست. پیش‌تر، کاربری گفته بود ایجنت آدرس منزل او را بدون هماهنگی در مارکت‌پلیس فیسبوک در اختیار افراد غریبه قرار داده است. گزارش‌هایی نیز درباره تغییر بدون اجازه رمز عبور یکی از آزمایش‌کنندگان و خواندن اطلاعات پیامک‌های خصوصی منتشر شده بود.

همچنین گزارش شده است که Muse اطلاعات دقیقی درباره دوستان و اعضای خانواده کاربران نگهداری می‌کند و آنها را به اتصال حساب‌های ایمیل و بانکی ترغیب می‌کند. مجموعه این موارد، در کنار پیام اخیر درباره جیمیل، پرسش‌ها درباره شیوه توسعه و کنترل ایمنی این ایجنت را افزایش داده است.