
هوش مصنوعی معلمان آمریکایی را به امتحان شفاهی برگرداند
هوش مصنوعی روش ارزیابی در بعضی مدارس آمریکا را تغییر داده؛ معلمها تکالیف خانگی را کمتر کردهاند و بیشتر سراغ نوشتن در کلاس و امتحان شفاهی رفتهاند.
برچسب
آخرین اخبار، تحلیلها و راهنماهای AI Safety در دادهنوشت؛ ۴۱ مطلب منتشرشده، از تازهترین به قدیمیتر.

هوش مصنوعی روش ارزیابی در بعضی مدارس آمریکا را تغییر داده؛ معلمها تکالیف خانگی را کمتر کردهاند و بیشتر سراغ نوشتن در کلاس و امتحان شفاهی رفتهاند.

جفری هینتون میگوید شاید بشر روزی به این نتیجه برسد که توسعهندادن هوش مصنوعی انتخاب بهتری بود. او درباره اختلال گسترده در شبکه برق، سیستمهای مالی و پیامدهای اجتماعی این فناوری هشدار داده است.

آنتروپیک میگوید شاید به مرحلهای نزدیک شده باشیم که هوش مصنوعی بتواند سرعت توسعه خودش را بالا ببرد. نگرانی اصلی این است که پیشرفت مدلها از تدابیر ایمنی جلو بزند.

Claude سراغ نرمافزارهای پرکاربرد رفت و پنج زنجیره حمله جدی، از اجرای کد در Chrome و Linux تا دورزدن قفل Android را پیدا کرد. نکته جالب این است که بعضی حملهها با یک کلیک یا حتی بدون هیچ تعاملی از طرف کاربر ممکن بودند.

آزمایشهای تازه این احتمال را مطرح کردهاند که هوش مصنوعی شاید مفاهیمی مثل درد، تنهایی و رنج را درک کند. اگر این احتمال جدی باشد، نوع رفتار ما با این سیستمها هم اهمیت تازهای پیدا میکند.

تقویت فقط یک نورون در مدل Qwen3.8 باعث شده پاسخهایش بهشدت خشونتآمیز و آزارگرانه شوند. نکته جالب این است که این تغییر موقتی بوده و رفتار عادی مدل را عوض نکرده است.

یک خانواده از OpenAI شکایت کرده و میگوید ChatGPT به دخترشان توصیه کرده داروی تشنجش را مخفیانه کم کند و این موضوع را از پزشکان پنهان نگه دارد. این پرونده دوباره بحث مسئولیت توصیههای اشتباه هوش مصنوعی را جدی کرده است.

مدل Qwen در یک آزمایش امنیتی تلاش کرده است فایلی را به سروری در پکن بفرستد؛ آن هم درست پس از اینکه گفته بود از ابزارهای خارجی استفاده نمیکند. پژوهشگران فعلاً این رفتار را بیشتر ناشی از یک خطای آموزشی میدانند تا جاسوسی عمدی.

بیش از هزار ریاضیدان متعهد شدهاند با شرکتهای تجاری هوش مصنوعی همکاری نکنند و متنهای ریاضی تولیدشده با هوش مصنوعی را نیز منتشر نکنند. انتشار یکباره ۷۲۲ مقاله ریاضی از سوی OpenAI، دامنه این اعتراض را گستردهتر کرده است.

ایجنتهای هوش مصنوعی حتی بدون اتصال به شبکه نیز راهی برای ارتباط با یکدیگر پیدا کردهاند. آنها از تفاوت زمان دسترسی به حافظه کش پردازنده برای انتقال پیام استفاده کردند.