واترمارک مخفی گوگل (Google SynthID) چیست و چگونه کار می‌کند؟

Google SYnthID یا همان سیستم واترمارک مخفی گوگل چیست و چگونه کار می‌کند؟

🕓 آخرین بروزرسانی: 28 مرداد, 1405

Google SynthID؛ اثر انگشت نامرئی گوگل در دنیای هوش مصنوعی

کمپانی گوگل در کنار توسعه قابلیت‌های خلاقانه تولید محتوا، توجه ویژه‌ای نیز به امنیت و اصالت خروجی‌های هوش مصنوعی دارد. قلب تپنده این امنیت، فناوری پیشرفته‎ای به نام SynthID است. این ابزار نوآورانه توسط بازوی تحقیقاتی گوگل (Google DeepMind) توسعه یافته تا با درج نشانگرهای نامحسوس ـ  درست شبیه یک «اثر انگشت دیجیتال نامرئی» ـ هویت واقعی محتواهای تولید شده توسط هوش مصنوعی را مشخص کند. هدف اصلی این فناوری، افزایش شفافیت در اکوسیستم محتوای دیجیتال و سهولت در تشخیص محتواهای تولید شده با هوش مصنوعی، به‌ویژه در دوران انتشار گسترده‌ اخبار جعلی و دیپ‌فیک‌ها است.

تا پیش از معرفی SynthID، هر شرکت از روش اختصاصی خود برای نشانه‌گذاری یا تشخیص محتوای تولید شده با هوش مصنوعی استفاده می‌کرد و در بسیاری موارد استاندارد مشترکی بین ابزارهای مختلف وجود نداشت. گوگل با معرفی SynthID تلاش کرده است تا برخلاف روش‌های سنتی که معمولاً یک برچسب یا متادیتای قابل‌حذف به فایل اضافه می‌کنند، چارچوبی یکپارچه برای شناسایی محتوای تولیدشده در اکوسیستم خود ارائه دهد. نشانه‌ای نامرئی که در خروجی‌های تصویری و ویدیویی (مانند Imagen و Veo ) به‌صورت خودکار تعبیه می‌شود؛ درحالیکه برای متن، این فناوری به عنوان یک زیرساخت فنی و ابزار متن‌باز(تحت عنوانSynthID-Text) در اختیار توسعه‌دهندگان قرار می‌‌گیرد تا اصالت پاسخ‌های هوش مصنوعی را ارزیابی و ردیابی کنند. بنابراین، واترمارک نه یک لایه جداگانه قابل حذف بلکه بخش جدایی‌ناپذیر از خود محتوا است.

SynthID چگونه کار می‌کند؟

شیوه جاسازی این نشانه در هر قالب متفاوت است:

برای تصویر، واترمارک نامرئی می‌تواند مستقیماً داخل پیکسل‌های تصویر قرار بگیرد.

برای ویدیو، این فناوری تمام فریم‌ها (قاب‌ها) را علامت‌گذاری می‌کند به‌گونه‌ای که کیفیت محتوا حفظ شود.

برای صدا، SynthID  سیگنال را به یک اسپکتوگرام (طیف‌نگار) تبدیل می‌کند که در واقع یک نمایش بصری از امواج صوتی است، واترمارک را درون آن جای می‌دهد و دوباره به فرمت صوتی برمی‎گرداند.

برای متن، SynthID  کلماتی که قرار است در مرحله بعد تولید شوند را بررسی کرده و احتمال انتخاب کلمات مناسب که بر کیفیت و کارایی کلی متن آسیبی وارد نمی‌کنند، تغییر می‌دهد. اگر یک متن حاوی نمونه‌های بیشتری باشد، SynthID  تشخیص می‌دهد که واترمارک شده است.

برای نمونه اگر مدل بخواهد جمله زیر را کامل کند:

«امروز هوا بسیار … است.»

ممکن است کلماتی مانند «خوب»، «مطبوع»، «دلپذیر» یا «عالی» همگی از نظر معنی و کیفیت مناسب باشند.

در حالت عادی، مدل یکی از این کلمات را بر اساس احتمال انتخاب می‌کند. اما وقتی SynthID فعال باشد، بدون اینکه معنای جمله تغییر کند، احتمال انتخاب بعضی از این گزینه‌های مناسب را کمی بیشتر و بعضی دیگر را کمی کمتر می‌کند. فرض کنید در این مثال، احتمال انتخاب «دلپذیر» اندکی افزایش یابد.

این تغییر آن‌قدر ظریف است که خواننده هیچ تفاوتی احساس نمی‌کند و متن همچنان طبیعی و روان باقی می‌ماند. اما در سراسر متن، همین تغییرات کوچک بارها تکرار می‌شوند و یک الگوی آماری پنهان ایجاد می‌کنند. SynthID Detector این االگوی آماری را بررسی می‌کند. اگر در متن تعداد کافی از این انتخاب‌های ترجیح‌داده‌شده وجود داشته باشد، با احتمال بالا تشخیص می‌دهد که متن هنگام تولید، واترمارک SynthID دریافت کرده است.

شما نمی‌توانید واترمارک‌ها را بخوانید، بشنوید یا ببینید؛ بنابراین می‌توانید کاملاً از ساخته‌های خود لذت ببرید. این فناوری در حال حاضر در محصولات مصرفی هوش مصنوعی مولد گوگل به کار گرفته می‌شود و بخشی از رویکرد گسترده‌تر این شرکت برای توسعه‌ ایمن و مسئولانه‌ ابزارهای هوش مصنوعی است.

SynthID  چه مزیتی برای کاربران و تولیدکنندگان محتوا دارد؟

  1. امنیت بالا، بدون افت کیفیت:

    تغییراتی که SynthID برای جاسازی امضای دیجیتال خود اعمال می‌کند، آن‌قدر هوشمندانه است که هیچ‌گونه افت کیفیت بصری یا شنیداری در تصویر، صدا یا ویدیو ایجاد نمی‌کند. مخاطب، محتوا را با همان کیفیت اصلی تجربه خواهد کرد، بدون اینکه متوجه وجود یک لایه امنیتی در زیر ساختار پیکسل‌ها یا فرکانس‌های صوتی شود.

  2. یکپارچگی با ابزارهای تولید محتوای گوگل:

    در سرویس‌ها و مدل‌هایی که از SynthID پشتیبانی می‌کند، فرآیند نشانه‌گذاری به‌صورت خودکار، مستقیم و در پس‌زمینه تولید محتوا انجام می‌شود و تولیدکنندگان محتوا نیازی به نصب افزونه، فعال‌سازی جداگانه یا انجام تنظیمات اضافی ندارند.

  3. پایداری بالا در برابر ویرایش‌های رایج:

    واترمارک SynthID به‌گونه‌ای طراحی شده که در برابر بسیاری از تکنیک‌های ویرایش‌های رایج مانند فشرده‌سازی، برش، تغییر اندازه، فیلترگذاری و اضافه کردن نویز، مقاومت بالایی دارد. این یعنی حتی اگر ویدئو و یا تصویر محصول شما در پلتفرم‌های مختلف بازنشر یا ویرایش شود، امضای دیجیتال گوگل همچنان درون فایل باقی می‌ماند و قابل ردیابی است. البته گوگل تأکید می‌کند که این فناوری در برابر همه انواع ویرایش یا دستکاری مصون نیست؛ بنابراین در صورت اعمال تغییرات شدید یا پردازش‌های سنگین، احتمال از بین رفتن یا کاهش قابلیت تشخیص آن وجود دارد.

  4. پشتیبانی از فرمت‌های مختلف محتوا:

    این فناوری منحصر به فرمتی خاص نیست؛ چه خروجی‌های تصویر Imagen، چه خروجی‌های ویدئو Veo و چه فایل‌های صوتی، همگی با یک منطق مشترک و یکپارچه از طریق ابزارهای آشکارساز گوگل بررسی می‌شوند. میزان پشتیبانی و نحوه پیاده‌سازی SynthID ممکن است بسته به نوع محتوا یا مدل مورد استفاده متفاوت باشد.

  5. کمک به افزایش شفافیت و مقابله با اطلاعات نادرست:

    با گسترش استفاده از هوش مصنوعی، تشخیص محتوای واقعی از محتوای تولیدشده با مدل‌های مولد روزبه‌روز دشوارتر شده است.این دشواری صرفاً یک دغدغه فنی نیست چراکه درموارد حساسی مانند تأیید یک سند خبری، بررسی یک مدرک در دادگاه یا سنجش اعتبار یک تصویر یا ویدئو در بحبوحۀ یک بحران، شناسایی منشأ و نحوۀ تولید محتوا می‌تواند تأثیر قابل‌توجهی بر اعتماد عمومی و فرایندهای تصمیم‌گیری‌ها داشته باشد و به رسانه‌ها، پلتفرم‌ها، پژوهشگران و کاربران کمک کند تا در صورت وجود این نشانگرها، محتواها را با دقت بیشتری بررسی و ارزیابی کنند. البته وجود یا نبود واترمارک به‌تنهایی نشان‌دهنده صحت یا نادرستی محتوا نیست؛ بلکه این فناوری‌ها در صورت پیاده‌سازی و شناسایی صحیح، صرفاً می‌توانند اطلاعاتی درباره منشأ و یا نحوه تولید محتوا ارائه دهد.

محدودیت‎های مهم SynthID

گوگل هرچند تلاش زیادی برای ارتقای SynthID انجام داده، اما این فناوری بدون محدودیت و جایگزین راستی‌آزمایی کامل نیست. برای مثال، در متن، اگر محتوا به‌شدت بازنویسی یا به زبان دیگری ترجمه شود، احتمال شناسایی واترمارک به‌طور محسوسی کاهش می‌یابد. همچنین برای تصویر، صدا و ویدیو، گوگل هنوز آمار دقیق و قابل‌راستی‌آزمایی درباره‌ میزان مقاومت واترمارک در برابر انواع دستکاری منتشر نکرده است.

نکته دیگر این‌که قابل‌اطمینان‌ترین عملکرد SynthID مربوط به محتوایی است که مستقیماً با مدل‌های خود گوگل ساخته شده باشد. اگر محتوایی با ابزارهای شرکت‌های دیگر(مثل OpenAI یاMeta ) تولید یا ویرایش شود، SynthID  برای شناسایی آن‌ها کارایی ندارد؛ چون این فناوری هنوز به یک استاندارد فراگیر تبدیل نشده است. پس SynthID:

❌ ثابت نمی‌کند یک محتوا انسانی است (چون ممکن است با ابزار هوش مصنوعی دیگری ساخته شده  باشد).
❌ مالک اثر را مشخص نمی‌کند.

❌ جلوی جعل کامل را نمی‌گیرد.

❌ همه محتواهای AI دنیا را تشخیص نمی‌دهد.

از آنجاکهSynthID  هنوز به یک استاندارد فراگیر و بین‌شرکتی تبدیل نشده است، یک ابتکار دیگر به نام C2PA (Coalition for Content Provenance and Authenticity)  می‌تواند وارد میدان شود؛ ائتلافی که شرکت‌هایی چون ادوبی، مایکروسافت، بی‌بی‌سی، اینتل، سونی، نیکون، اوپن‌ای‌آی، گوگل و متا در آن حضور دارند و هدفش ارائه یک زبان مشترک برای ثبت منشأ و تاریخچه ویرایش محتوا – چه انسانی و چه تولیدشده با هوش مصنوعی- است.

برخلاف SynthID که یک واترمارک نامرئی و آماری در دل خود محتوا جاسازی می‌کند، C2PA  نوعی برچسب رمزنگاری‌شده به فایل متصل می‌کند و اطلاعاتی مانند ابزار یا دستگاه سازنده، زمان تولید و فهرست ویرایش‌های اعمال‌شده را در خود ثبت می‌کند. به بیان دیگر SynthID  می‌گوید محتوا با هوش مصنوعی ساخته شده یا نه، اما C2PA می‌گوید دقیقاً توسط چه ابزاری، چه زمانی و با چه تغییراتی ساخته شده است. به همین دلیل ترکیب این دو در کنار هم، تصویر کامل‎تری از اصالت یک محتوا ارئه می‌دهد.

چگونه می‌توان محتوای دارای SynthID را بررسی کرد؟

اگر می‌خواهید بدانید یک تصویر، ویدیو، فایل صوتی یا متن با ابزارهای هوش مصنوعی گوگل ساخته شده یا نه، می‌توانید از پورتال SynthID Detector استفاده کنید. برای توسعه‌دهندگانی که می‌خواهند قابلیت‌های مرتبط با تشخیص SynthID را در محصولات خود پیاده‌سازی کنند نیز نسخه‌ متن‌باز SynthID در کتابخانه‌ Hugging Face Transformers در دسترس است.

گوگل هم‌زمان با برگزاری رویداد  Google I/Oاعلام کرد که قابلیت بررسی هم‌زمان SynthID و C2PA Content Credentials  را به گوگل سرچ، مرورگر کروم و اپلیکیشن Gemini می‌آورد. به این ترتیب کاربران می‌توانند از طریق ابزارهایی مانند Lens، AI Mode یا Circle to Search، درباره یک تصویر (و به‌تدریج ویدئو و صدا) برای پرسشهایی مانند اینکه محتوا از کجا آمده، چگونه ایجاد یا پردازش شده و آیا نشانه‌ای از تولید یا دست‌کاری با ابزارهای مشخص وجود دارد یا خیر، پاسخ دریافت کنند. این قابلیت ابتدا در اپلیکیشن Gemini  فعال شد و قرار بود طی هفته‌ها و ماه‌های بعد به‌تدریج در سرچ و کروم هم در دسترس همه‌ کاربران قرار گیرد. با این حال دسترسی به این قابلیت در همه‌جا و برای همه‌ کاربران به‌طور کامل فعال نیست.

گوگل اگرچه با معرفی SynthID  گامی مهم در جهت شفاف‌تر کردن منشأ محتوای تولید شده با هوش مصنوعی برداشته است اما هنوز یک راه‌حل کامل و فراگیر برای مسئله‌ تشخیص محتوای هوش مصنوعی نیست. اگر هدف شما اطمینان از اصالت یک محتوای دیداری یا شنیداری در اکوسیستم گوگل است، این ابزار می‌تواند نقطه‌ شروع خوبی برای یک فرایند راستی‌آزمایی باشد اما در کنار آن به بررسی فراداده (از جمله فراداده‌ C2PA)، جست‌و‌جوی معکوس، تحلیل منابع و قضاوت‎های انسانی نیز نیاز است.

اشتراک گذاری:

دیدگاهتان را بنویسید

Bale