
هوش مصنوعی آنتروپیک پیام مخفی را در تصویری جاسازی کرد
مدل Fable-5.1 آنتروپیک بدون دریافت روش مشخصی، پیامهایی را در تصاویر پنهان کرد و مدل Astra از OpenAI توانست ۸۸ درصد آنها را رمزگشایی کند.
برچسب
آخرین اخبار، تحلیلها و راهنماهای AI Safety در دادهنوشت؛ ۴۱ مطلب منتشرشده، از تازهترین به قدیمیتر.

مدل Fable-5.1 آنتروپیک بدون دریافت روش مشخصی، پیامهایی را در تصاویر پنهان کرد و مدل Astra از OpenAI توانست ۸۸ درصد آنها را رمزگشایی کند.

وبسایتی تعداد آسیبپذیریها و باگهای امنیتی شناختهشده را روی نمودار نمایش میدهد؛ نموداری که افزایش تند موارد CVE در دوره گسترش هوش مصنوعی را برجسته کرده است.

مخزنی عمومی در GitHub، مجموعهای از ۳۵ پرامپت آماده Jailbreak را برای بیش از ۲۵ مدل هوش مصنوعی گردآوری کرده است؛ استفاده از آنها ممکن است به مسدود شدن حساب کاربری منجر شود.

سه پژوهشگر ایمنی اخراجشده از OpenAI در نامهای مشترک، اتهام انتشار دادههای محرمانه را بیاساس دانستند و درباره تضعیف روند گزارشدهی ریسکهای ایمنی هشدار دادند.

شش عضو مؤسسه غیرانتفاعی METR با دسترسی تقریباً همسطح تیمهای داخلی آنتروپیک، خطرات مدلهای هوش مصنوعی این شرکت را بهطور مستقل ارزیابی میکنند.

ابزار ProvenanceGuard با بررسی منشأ ادعاهای مدلهای هوش مصنوعی مشخص میکند که آیا اطلاعات ارائهشده واقعاً از منبع اعلامشده استخراج شدهاند یا خیر.

رئیس مایکروسافت با هشدار درباره خطرهای امنیتی هوش مصنوعی، خواستار تدوین قواعد جهانی الزامآور شد و بریتانیا را گزینهای مناسب برای پیشبرد این مسیر دانست.

بیل گیتس هشدار داد که حملات سایبری مبتنی بر هوش مصنوعی احتمالاً طی سال آینده افزایش مییابد و خودتنظیمگری شرکتهای فعال در این حوزه کافی نیست.

دانشگاه پیام نور پیشنویس دستورالعمل اخلاقی استفاده از هوش مصنوعی در پژوهشها و پایاننامهها را آماده کرده و قصد دارد آن را پیش از پایان ترم جاری ابلاغ کند.

آنتروپیک با بهروزرسانی سیاستهای استفاده از محصولات خود، بدرفتاری مکرر و بیدلیل با مدلهای هوش مصنوعی، از جمله Claude، را ممنوع کرده است.