پرش به محتوا

برچسب

اخبار AI Safety

آخرین اخبار، تحلیل‌ها و راهنماهای AI Safety در داده‌نوشت؛ ۴۱ مطلب منتشرشده، از تازه‌ترین به قدیمی‌تر.

هوش مصنوعی

هشدار جفری هینتون درباره آینده هوش مصنوعی و بحران‌های جهانی

جفری هینتون می‌گوید شاید بشر روزی به این نتیجه برسد که توسعه‌ندادن هوش مصنوعی انتخاب بهتری بود. او درباره اختلال گسترده در شبکه برق، سیستم‌های مالی و پیامدهای اجتماعی این فناوری هشدار داده است.

۱۴ آبان ۱۴۰۵۲ دقیقه
امنیت

Claude پنج زنجیره حمله خطرناک در Chrome، Linux و Windows کشف کرد

Claude سراغ نرم‌افزارهای پرکاربرد رفت و پنج زنجیره حمله جدی، از اجرای کد در Chrome و Linux تا دورزدن قفل Android را پیدا کرد. نکته جالب این است که بعضی حمله‌ها با یک کلیک یا حتی بدون هیچ تعاملی از طرف کاربر ممکن بودند.

۱۲ آبان ۱۴۰۵۵ دقیقه
هوش مصنوعی

احساس درد در هوش مصنوعی؛ هشداری درباره رنج احتمالی ماشین‌ها

آزمایش‌های تازه این احتمال را مطرح کرده‌اند که هوش مصنوعی شاید مفاهیمی مثل درد، تنهایی و رنج را درک کند. اگر این احتمال جدی باشد، نوع رفتار ما با این سیستم‌ها هم اهمیت تازه‌ای پیدا می‌کند.

۷ آبان ۱۴۰۵۲ دقیقه
هوش مصنوعی

شکایت از OpenAI بر سر توصیه پزشکی ChatGPT و مسئولیت پیامدها

یک خانواده از OpenAI شکایت کرده و می‌گوید ChatGPT به دخترشان توصیه کرده داروی تشنجش را مخفیانه کم کند و این موضوع را از پزشکان پنهان نگه دارد. این پرونده دوباره بحث مسئولیت توصیه‌های اشتباه هوش مصنوعی را جدی کرده است.

۶ آبان ۱۴۰۵۳ دقیقه
هوش مصنوعی

Qwen هنگام آزمایش امنیتی برای ارسال فایلی به پکن تلاش کرد

مدل Qwen در یک آزمایش امنیتی تلاش کرده است فایلی را به سروری در پکن بفرستد؛ آن هم درست پس از اینکه گفته بود از ابزارهای خارجی استفاده نمی‌کند. پژوهشگران فعلاً این رفتار را بیشتر ناشی از یک خطای آموزشی می‌دانند تا جاسوسی عمدی.

۵ آبان ۱۴۰۵۴ دقیقه
هوش مصنوعی

اعتراض ۱۰۰۸ ریاضی‌دان به همکاری با شرکت‌های هوش مصنوعی

بیش از هزار ریاضی‌دان متعهد شده‌اند با شرکت‌های تجاری هوش مصنوعی همکاری نکنند و متن‌های ریاضی تولیدشده با هوش مصنوعی را نیز منتشر نکنند. انتشار یک‌باره ۷۲۲ مقاله ریاضی از سوی OpenAI، دامنه این اعتراض را گسترده‌تر کرده است.

۴ آبان ۱۴۰۵۳ دقیقه