
ترس از آینده؛ از اقلیم و کرونا تا هوش مصنوعی
تحلیلی در نیویورکتایمز، ترسهای آخرالزمانی درباره آینده را به احساس از دست دادن کنترل پیوند میدهد و میگوید پیامدهای اجتماعی و اقتصادی هوش مصنوعی بهسادگی قابل پیشبینی نیست.
برچسب
آخرین اخبار، تحلیلها و راهنماهای AI Safety در دادهنوشت؛ ۴۱ مطلب منتشرشده، از تازهترین به قدیمیتر.

تحلیلی در نیویورکتایمز، ترسهای آخرالزمانی درباره آینده را به احساس از دست دادن کنترل پیوند میدهد و میگوید پیامدهای اجتماعی و اقتصادی هوش مصنوعی بهسادگی قابل پیشبینی نیست.

جفری هینتون پیشنهاد کرده است شرکتهای هوش مصنوعی پیش از عرضه عمومی سیستمهای خود، ایمنی آنها را به یک نهاد تنظیمگر اثبات کنند.

مدلهای زبانی مانند ChatGPT پاسخها را بر پایه احتمال جمله بعدی تولید میکنند؛ به همین دلیل، ممکن است گاهی پاسخی مطمئن اما نادرست ارائه دهند.

بیل گیتس هوش مصنوعی را نهفقط یک فناوری تازه، بلکه یک «رویداد تکاملی» توصیف کرده و گفته است این فناوری در بسیاری از جنبهها از انسان باهوشتر است.

استفاده از هوش مصنوعی در تصمیمگیری اقتصادی میتواند سرعت و دقت تحلیل را افزایش دهد، اما در نبود ارزیابی و نظارت، با ریسکهایی مانند سوگیری داده، خطای مدل و پیامدهای سیستمی همراه است.

مدیرعامل OpenAI میگوید مردم حق دارند از تمرکز قدرت در دست چند شرکت هوش مصنوعی بترسند و ایمنی باید همگام با توانایی مدلها پیش برود.

Anthropic اعلام کرده است که مدلهای آینده Claude برای رعایت قانون هوش مصنوعی اتحادیه اروپا، از واترمارک نامرئی در متنهای تولیدی استفاده خواهند کرد.

طراحان و دانشمندان علوم کامپیوتر فونتهایی ساختهاند که برای انسان خوانا هستند، اما میتوانند خواندن متن را برای رباتهای هوش مصنوعی و مدلهای زبانی بزرگ دشوار کنند.

بر اساس گزارش بلومبرگ، سم آلتمن گفته است OpenAI آماده است همراه با چند آزمایشگاه دیگر، سرعت توسعه فناوریهای پیشرفته هوش مصنوعی را کاهش دهد.

یادداشتی به نقل از مقاله آلیس لسمان در نیویورکتایمز، درباره تأثیر وابستگی عاطفی نسل جوان به چتباتها بر کیفیت روابط انسانی هشدار میدهد.