Claude برای شناسایی متن‌های تولیدشده با هوش مصنوعی از واترمارک نامرئی استفاده می‌کند
Anthropic اعلام کرده است که مدل‌های آینده Claude برای رعایت قانون هوش مصنوعی اتحادیه اروپا، از واترمارک نامرئی در متن‌های تولیدی استفاده خواهند کرد.
تهیه‌شده با کمک هوش مصنوعی از منابع ذکرشده · بازبینی و ویرایش: مهدی طالب لو · سیاست تحریریه
طبق گزارش Anthropic، مدل‌های آینده Claude برای رعایت الزامات قانون هوش مصنوعی اتحادیه اروپا یا EU AI Act، از روش Watermarking استفاده خواهند کرد؛ روشی که در فارسی می‌توان آن را واترمارک یا نشان‌گذاری نامرئی نامید.
این تکنیک با ایجاد الگوهای آماری در انتخاب کلمات، امکان تشخیص احتمال مشارکت Claude در نگارش متن را فراهم می‌کند. بر اساس اطلاعات مطرح‌شده، این فرایند قرار نیست بر کیفیت، خلاقیت یا سرعت پاسخ‌دهی مدل تأثیر بگذارد.
Anthropic همچنین اعلام کرده است که این نشان‌گذاری برای انسان قابل تشخیص نیست و هیچ‌گونه اطلاعات شخصی از کاربر یا سازمان او را ذخیره نمی‌کند. بنابراین، کاربران Claude با تغییری در تجربه کاربری یا افزایش هزینه‌ها مواجه نخواهند شد.
این اقدام در چارچوب تلاش‌ها برای شفاف‌تر کردن نقش هوش مصنوعی در تولید متن مطرح شده و به‌طور مشخص، مرتبط با الزامات قانونی اتحادیه اروپا دانسته شده است.
منبع: گزارش رسیده از یک منبع خبری
مطالب مرتبط
برای ادامه مطالعه
این یادداشت‌ها بر اساس موضوع مشترک، هم‌پوشانی برچسب‌ها و تازگی انتشار انتخاب می‌شوند.
تازهاحساس درد در هوش مصنوعی؛ هشداری درباره رنج احتمالی ماشین‌ها
آزمایش‌های تازه این احتمال را مطرح کرده‌اند که هوش مصنوعی شاید مفاهیمی مثل درد، تنهایی و رنج را درک کند. اگر این احتمال جدی باشد، نوع رفتار ما با این سیستم‌ها هم اهمیت تازه‌ای پیدا می‌کند.
Qwen3.8 با دست‌کاری یک نورون، پاسخ‌های خشونت‌آمیز تولید کرد
تقویت فقط یک نورون در مدل Qwen3.8 باعث شده پاسخ‌هایش به‌شدت خشونت‌آمیز و آزارگرانه شوند. نکته جالب این است که این تغییر موقتی بوده و رفتار عادی مدل را عوض نکرده است.
شکایت از OpenAI بر سر توصیه پزشکی ChatGPT و مسئولیت پیامدها
یک خانواده از OpenAI شکایت کرده و می‌گوید ChatGPT به دخترشان توصیه کرده داروی تشنجش را مخفیانه کم کند و این موضوع را از پزشکان پنهان نگه دارد. این پرونده دوباره بحث مسئولیت توصیه‌های اشتباه هوش مصنوعی را جدی کرده است.
دیدگاهها
اولین نفری باش که دیدگاه می‌ذاره