گوگل منشأ محتوای مصنوعی را از واترمارک تا Credentials دنبال می‌کند

اعلامیه گوگل در ۱۹ مه ۲۰۲۶ مسئله تشخیص محتوای مصنوعی را از سطح یک ابزار به یک زنجیره منشأ گسترش داد. SynthID برای جاسازی نشانه نامرئی در محتوای تولیدشده استفاده می‌شود، Content Credentials تاریخچه ایجاد و ویرایش را ثبت می‌کند و ابزارهای Gemini، Search و Chrome قرار است بخشی از این اطلاعات را به کاربر نشان دهند. هیچ‌کدام به‌تنهایی پاسخ کامل مسئله اعتماد به رسانه نیستند.

#دو فناوری، دو پرسش

واترمارک به این پرسش پاسخ می‌دهد که آیا نشانه‌ای وابسته به ابزار تولید در فایل پیدا می‌شود یا نه. گوگل می‌گوید SynthID در رسانه‌های تولیدشده با مدل‌هایش به کار رفته و آن را برای تصویر، ویدئو و صدا گسترش داده است. این روش وقتی مفید است که نشانه در مرحله تولید درج شده باشد و ابزارهای بعدی آن را از بین نبرند.

Content Credentials از جنس دیگری است. استاندارد C2PA می‌تواند بگوید فایل با چه ابزارهایی ایجاد یا اصلاح شده و چه ادعاهایی درباره منشأ آن ثبت شده است. این اطلاعات metadata قابل بررسی‌اند، نه مهر جادویی اصالت. حذف metadata، گرفتن screenshot یا بازنشر در سرویس ناسازگار می‌تواند زنجیره را ناقص کند.

#محصول چگونه تغییر می‌کند؟

گوگل گفت بررسی SynthID برای تصویر، ویدئو و صدا در Gemini app در دسترس قرار گرفته و در Search و Chrome نیز گسترش می‌یابد. در همان اعلامیه، از استفاده ۵۰ میلیون‌باره قابلیت verification در سطح جهانی صحبت شد. همچنین AI Content Detection API در Gemini Enterprise Agent Platform برای سازمان‌هایی معرفی شد که می‌خواهند محتوای مدل‌های مختلف را در جریان‌های خود بررسی کنند.

کاربرد سازمانی می‌تواند از مرتب‌سازی feed تا علامت‌گذاری محتوای مصنوعی و بررسی ادعاهای رسانه‌ای باشد. اما یک detector نباید تصمیم نهایی درباره حذف، بیمه یا اعتبار یک فرد را به‌تنهایی بگیرد. نتیجه منفی به معنی انسانی بودن فایل نیست و نتیجه مثبت نیز باید در کنار منشأ، زمان ثبت و سیاست سرویس تفسیر شود.

#مسئله استاندارد است

محتوا در چند پلتفرم حرکت می‌کند؛ بنابراین ارزش Credentials به پذیرش مشترک وابسته است. همکاری گوگل با C2PA و اشاره به شرکت‌هایی مانند OpenAI، Kakao و ElevenLabs در مسیر گسترش SynthID نشان می‌دهد که interoperability بخش اصلی پروژه است. برای تیم محصول، ذخیره metadata از ابتدا، نمایش محدودیت verification و ثبت مسیر ویرایش عملی‌تر از وعده تشخیص قطعی است.

شفافیت محتوا یک کنترل ریسک است، نه جایگزین سواد رسانه‌ای. گوگل ابزارهایی برای پرسیدن «این فایل چگونه ساخته شد؟» فراهم می‌کند؛ تصمیم درباره اعتماد هنوز به زمینه، منبع اولیه و بررسی انسانی نیاز دارد.

برای یک سامانه انتشار، نتیجه verification بهتر است به‌صورت سیگنال ثبت شود، نه برچسب قطعی. نگهداری پاسخ ابزار، نسخه الگوریتم و زمان بررسی به تیم اجازه می‌دهد بعداً تصمیم را بازبینی کند. این رویکرد هم با تغییر مدل‌های تشخیص سازگارتر است و هم از تبدیل یک نشان فنی به داوری نهایی درباره حقیقت جلوگیری می‌کند.