آنتروپیک دسترسی داخلی را به ارزیابان مستقل METR سپرد

آنتروپیک به شش نفر از اعضای مؤسسه پژوهشی غیرانتفاعی METR اجازه داده است برای ارزیابی خطرات مدل‌های هوش مصنوعی، به دفتر، سخت‌افزار و سیستم‌های داخلی این شرکت دسترسی داشته باشند. این اقدام نخستین گام عملی آنتروپیک برای اجرای تعهد خود به استفاده از ارزیابان مستقل محسوب می‌شود.

#دسترسی METR به سیستم‌های داخلی آنتروپیک

تیمی از METR در دفتر آنتروپیک مستقر شده و تجهیزات کاری، فضای اداری و امکان استفاده از ابزارها و سیستم‌های داخلی شرکت را دریافت کرده است. آنتروپیک می‌گوید سطح دسترسی این ارزیابان تقریباً با دسترسی تیم‌های داخلی ارزیابی ریسک برابری می‌کند.

کارکنان آنتروپیک نیز تشویق شده‌اند اطلاعات را همان‌گونه با این ارزیابان به اشتراک بگذارند که با همکاران داخلی خود در حوزه ارزیابی ریسک در میان می‌گذارند. جزئیات این همکاری آنتروپیک با ارزیابان مستقل METR نشان می‌دهد هدف، بررسی خطرات مدل‌ها با دسترسی مستقیم به زیرساخت‌ها و ابزارهای شرکت است.

METR پیش‌تر با شرکت‌های فعال در حوزه هوش مصنوعی، ازجمله OpenAI، آنتروپیک، Google و Meta همکاری کرده است.

#استقلال مالی و انتشار نتایج ارزیابی

آنتروپیک برای این همکاری پولی به METR پرداخت نمی‌کند. این مؤسسه نیز از شرکت‌های هوش مصنوعی یا کارکنان آن‌ها کمک مالی نمی‌پذیرد و هزینه‌هایش را از کمک افراد، سازمان‌های خیریه و نهادهای دولتی، ازجمله مؤسسه ایمنی هوش مصنوعی بریتانیا، تأمین می‌کند.

قرار است ارزیابان نتایج بررسی‌های خود را منتشر کنند و آنتروپیک نمی‌تواند مانع انتشار آن‌ها شود. بااین‌حال، شرکت می‌تواند حذف داده‌های مشتریان، اطلاعات مشمول محرمانگی رابطه وکیل و موکل و جزئیات معماری مدل‌ها را درخواست کند.

#الگویی برای نظارت مستقل بر خطرات هوش مصنوعی

داریو آمودی، مدیرعامل آنتروپیک، در ماه سپتامبر پیشنهاد استقرار ارزیابان خارجی در شرکت‌های پیشرو هوش مصنوعی را مطرح کرده بود. سم آلتمن، مدیرعامل OpenAI، و ایلان ماسک، مدیرعامل SpaceX، نیز از این پیشنهاد حمایت کردند؛ بااین‌حال، OpenAI هنوز برنامه‌ای برای استفاده از چنین ارزیابانی اعلام نکرده است.

آنتروپیک می‌گوید قدرتمندتر شدن مدل‌ها، سازوکارهای حفاظتی قوی‌تر و ارزیابی‌های دشوارتری را برای شناسایی خطرات ضروری می‌کند. این شرکت روش جدید را به استقرار ناظران در بانک‌های بزرگ تشبیه کرده است؛ الگویی که قرار است به شناسایی زودهنگام ریسک‌ها کمک کند، بدون آنکه همه اطلاعات حساس فعالیت‌های ایمنی به‌صورت عمومی منتشر شود.