جیمینی گوگل ویدیوها را برای تشخیص تولید با هوش مصنوعی بررسی می‌کند

گوگل قابلیت تأیید اصالت ویدیوهای تولیدشده با هوش مصنوعی خود را به اپلیکیشن جیمینی گسترش داده است. کاربران می‌توانند ویدیوهای کوتاه را در این اپ بارگذاری کنند و با پرسش مستقیم از جیمینی بفهمند آیا آن محتوا با مدل‌های هوش مصنوعی گوگل ساخته یا ویرایش شده است یا نه.

تشخیص ویدیوهای ساخته‌شده با مدل‌های گوگل

بر اساس گزارش وب‌سایت ورج، جیمینی اکنون می‌تواند ویدیوهایی تا حجم حدود ۱۰۰ مگابایت و طول ۹۰ ثانیه را برای نشانه‌های خاص بررسی کند. کاربر کافی است ویدیو را در اپ جیمینی آپلود کرده و بپرسد «آیا این با هوش مصنوعی گوگل ساخته شده است؟» تا سیستم محتوای تصویری و صوتی را برای یافتن واترمارک اختصاصی گوگل به نام SynthID اسکن کند.

در صورت تشخیص این واترمارک، پاسخ جیمینی صرفاً «بله» یا «خیر» نیست؛ بلکه لحظات مشخصی از ویدیو یا صدا را که در آن‌ها نشانه SynthID دیده شده، گزارش می‌کند. این قابلیت پیش‌تر برای تصاویر عرضه شده بود و اکنون به ویدیو هم رسیده است، اما همچنان فقط محتوایی را شناسایی می‌کند که با ابزارها و مدل‌های خود گوگل تولید یا ویرایش شده باشد.

چرا این ویژگی برای صنعت و کاربران مهم است؟

با گسترش ویدیوهای دیپ‌فیک و محتوای جعلی، وجود روش‌های قابل‌اعتماد برای تشخیص محتوای هوش مصنوعی اهمیت زیادی پیدا کرده است. گوگل می‌گوید واترمارک SynthID «نامحسوس» است، اما هنوز روشن نیست حذف آن تا چه حد دشوار خواهد بود و این که پلتفرم‌های دیگر تا چه اندازه از این اطلاعات برای برچسب‌گذاری خودکار ویدیوها استفاده خواهند کرد. در عین حال نبود یک استاندارد واحد برای برچسب‌گذاری محتوای هوش مصنوعی در شبکه‌های اجتماعی باعث شده بسیاری از دیپ‌فیک‌ها بدون تشخیص باقی بمانند.

گوگل علاوه بر SynthID، در برخی مدل‌های تولید تصویر خود از فراداده‌ مبتنی بر استاندارد C2PA هم استفاده می‌کند، اما هماهنگی سراسری بین شرکت‌ها و پلتفرم‌ها همچنان ضعیف است. برای کاربرانی در کشورهایی مانند ایران که دسترسی مستقیم به برخی سرویس‌ها را با محدودیت تجربه می‌کنند، پیاده‌سازی چنین ابزارهایی در مقیاس جهانی می‌تواند در آینده به شفاف‌تر شدن منبع محتوایی که در پلتفرم‌های مختلف می‌بینند کمک کند؛ به‌خصوص در حوزه اخبار، سیاست و ویدیوهای حساس.

این قابلیت تأیید ویدیو در همه زبان‌ها و مناطقی در دسترس خواهد بود که اپلیکیشن جیمینی در آن‌ها ارائه می‌شود، اما همچنان محدود به تشخیص خروجی مدل‌های گوگل است و برای محتواهای تولیدشده با مدل‌های دیگر شرکت‌ها کاربردی ندارد.

منبع خبر: The Verge