Claude برای شناسایی متن‌های تولیدشده با هوش مصنوعی از واترمارک نامرئی استفاده می‌کند

طبق گزارش Anthropic، مدل‌های آینده Claude برای رعایت الزامات قانون هوش مصنوعی اتحادیه اروپا یا EU AI Act از روش Watermarking استفاده خواهند کرد؛ روشی که در فارسی می‌توان آن را واترمارک یا نشان‌گذاری نامرئی دانست.

این تکنیک با ایجاد الگوهای آماری در انتخاب کلمات، امکان تشخیص احتمال مشارکت Claude در نگارش یک متن را فراهم می‌کند. بر اساس اطلاعات مطرح‌شده، این فرایند قرار نیست بر کیفیت، خلاقیت یا سرعت پاسخ‌دهی مدل اثر بگذارد.

Anthropic همچنین اعلام کرده این نشان‌گذاری برای انسان قابل تشخیص نیست و هیچ اطلاعات شخصی از کاربر یا سازمان او را ذخیره نمی‌کند. بنابراین کاربران Claude با تغییر در تجربه کاربری یا افزایش هزینه‌ها مواجه نخواهند شد.

این اقدام در چارچوب تلاش برای شفاف‌تر کردن نقش هوش مصنوعی در تولید متن مطرح شده و به‌طور مشخص با الزامات قانونی اتحادیه اروپا مرتبط دانسته شده است.

منبع: گزارش رسیده از یک منبع خبری