Google lanza una herramienta web para identificar fotos, videos y audios generados con IA

Google lanzó SynthID Detector, una herramienta web pública para detectar contenidos multimedia generados por inteligencia artificial mediante marcas de agua digitales invisibles.

El gigante tecnológico puso en línea este miércoles la plataforma synthid.com, accesible con cuentas de Google, Apple o OpenAI, permitiendo a cualquier usuario subir imágenes, videos o archivos de audio para verificar su autenticidad. La tecnología identifica la presencia de SynthID, un sello digital incrustado en los datos desde su creación, y ya ha aplicado estas marcas de agua a más de 180.000 millones de imágenes y videos, así como a un volumen equivalente a 240.000 años de audio, con más de un millón de verificaciones diarias.

Esta iniciativa refuerza la estrategia anunciada en mayo por Sundar Pichai, CEO de Alphabet, durante Google I/O, donde se comprometió a integrar SynthID de forma nativa en Chrome y el buscador para facilitar la verificación instantánea de contenido. La herramienta responde al creciente desafío de las deepfakes: imágenes, videos o audios hiperrealistas manipulados mediante IA para simular acciones o declaraciones que nunca ocurrieron, proliferando especialmente en redes sociales.

Contexto

Análisis: La expansión de la IA generativa ha intensificado las preocupaciones sobre desinformación, fraude digital y manipulación de la realidad. Empresas tecnológicas y gobiernos buscan mecanismos para autenticar contenido, pero la interoperabilidad entre plataformas sigue siendo un reto. La alianza de Google con actores clave como OpenAI y Nvidia marca un avance hacia un estándar compartido, aunque la adopción masiva depende de la voluntad de otras empresas, incluida Apple, cuya integración aún está por concretarse.

¿Qué sigue?

Google planea incorporar SynthID directamente en sus productos más usados, como Chrome y su motor de búsqueda, para extender la detección al alcance de millones de usuarios diarios. Mientras tanto, la comunidad internacional sigue trabajando en marcos regulatorios, como la Ley de IA de la Unión Europea, que exige transparencia en contenidos generados por IA. La batalla por la autenticidad digital está en su fase inicial, y la colaboración entre sectores será clave para preservar la confianza en la información.

📰 Publicado originalmente en El Comercio. Este contenido ha sido reescrito con fines informativos.