Claude برای شناسایی متن‌های تولیدشده با هوش مصنوعی از واترمارک نامرئی استفاده می‌کند

طبق گزارش Anthropic، مدل‌های آینده Claude برای رعایت الزامات قانون هوش مصنوعی اتحادیه اروپا یا EU AI Act، از روش Watermarking استفاده خواهند کرد؛ روشی که در فارسی می‌توان آن را واترمارک یا نشان‌گذاری نامرئی نامید.

این تکنیک با ایجاد الگوهای آماری در انتخاب کلمات، امکان تشخیص احتمال مشارکت Claude در نگارش متن را فراهم می‌کند. بر اساس اطلاعات مطرح‌شده، این فرایند قرار نیست بر کیفیت، خلاقیت یا سرعت پاسخ‌دهی مدل تأثیر بگذارد.

Anthropic همچنین اعلام کرده است که این نشان‌گذاری برای انسان قابل تشخیص نیست و هیچ‌گونه اطلاعات شخصی از کاربر یا سازمان او را ذخیره نمی‌کند. بنابراین، کاربران Claude با تغییری در تجربه کاربری یا افزایش هزینه‌ها مواجه نخواهند شد.

این اقدام در چارچوب تلاش‌ها برای شفاف‌تر کردن نقش هوش مصنوعی در تولید متن مطرح شده و به‌طور مشخص، مرتبط با الزامات قانونی اتحادیه اروپا دانسته شده است.

منبع: گزارش رسیده از یک منبع خبری