Google lanza herramienta para detectar imágenes, videos y audios generados con inteligencia artificial

La plataforma SynthID Detector permite al público comprobar la presencia de marcas de agua digitales invisibles en contenidos multimedia. La iniciativa busca contribuir a la identificación de material sintético en un entorno digital donde los deepfakes plantean nuevos desafíos para la información y la confianza pública.

Google puso a disposición del público su herramienta SynthID Detector, una plataforma web diseñada para ayudar a identificar imágenes, videos y archivos de audio que contienen marcas de agua digitales asociadas con contenidos generados mediante inteligencia artificial (IA). La iniciativa busca ofrecer a los usuarios un recurso adicional para evaluar la procedencia de materiales que circulan por internet y las redes sociales.

La plataforma, disponible en synthid.com, permite cargar archivos multimedia después de iniciar sesión con credenciales de Google, Apple u OpenAI, según la información difundida por la compañía.

El sistema busca la presencia de SynthID, una marca de agua digital integrada en los datos del contenido. A diferencia de una etiqueta visible o un logotipo, esta señal está diseñada para ser imperceptible para las personas y reconocible mediante herramientas de detección compatibles.

La utilidad principal de SynthID Detector consiste en aportar indicios técnicos sobre el origen de determinados contenidos, aunque la detección de una marca de agua no equivale a una evaluación completa de su veracidad.

Compatibilidad con diferentes plataformas de inteligencia artificial

Google informó que la herramienta puede reconocer contenidos asociados a sus propios modelos y a tecnologías de otras compañías, entre ellas OpenAI, Nvidia y la surcoreana Kakao. La empresa también anunció que Apple se incorporaría próximamente a esta iniciativa.

De acuerdo con las cifras divulgadas por Google, SynthID se ha utilizado para marcar más de 180.000 millones de imágenes y videos, además de una cantidad de audio equivalente a 240.000 años de reproducción. La compañía indicó que el sistema recibe más de un millón de solicitudes de verificación al día.

Estas cifras muestran la escala que ha alcanzado la tecnología, aunque corresponden a datos proporcionados por la propia empresa y no constituyen, por sí solos, una medición independiente de la eficacia del detector.

El lanzamiento amplía una estrategia que Sundar Pichai, director ejecutivo de Alphabet, había presentado durante la conferencia Google I/O del pasado mayo. En aquella ocasión, adelantó planes para integrar herramientas de identificación de contenido y credenciales digitales en el buscador de Google y en el navegador Chrome.

La expansión de estos mecanismos refleja el interés de las grandes compañías tecnológicas por desarrollar sistemas que permitan reconocer el contenido sintético en los servicios digitales de uso cotidiano.

El desafío de los deepfakes

La popularización de la inteligencia artificial ha facilitado la creación de imágenes, videos y audios capaces de reproducir con gran realismo rostros, voces y situaciones que nunca ocurrieron. Estos materiales, conocidos como deepfakes, pueden utilizarse con fines creativos, educativos o recreativos, pero también para engañar, suplantar identidades y difundir declaraciones falsas atribuidas a personas reales.

En ese contexto, las herramientas de detección pueden ayudar a periodistas, investigadores y ciudadanos a examinar materiales antes de compartirlos o utilizarlos como evidencia.

Sin embargo, existen límites importantes. La ausencia de una marca SynthID no demuestra que un archivo sea auténtico, ya que no todo contenido generado o manipulado mediante IA incorpora necesariamente esta tecnología. Del mismo modo, detectar una marca de agua no permite concluir automáticamente que el contenido sea falso o engañoso: puede tratarse de una creación legítima y correctamente identificada.

Por ello, la verificación debe complementarse con otras medidas, como consultar la fuente original, revisar el contexto, contrastar la información con medios confiables y comprobar si existen versiones independientes del mismo acontecimiento.

Transparencia y responsabilidad digital

La puesta en marcha de SynthID Detector constituye un avance en el desarrollo de mecanismos técnicos para identificar determinados contenidos sintéticos. No obstante, su alcance dependerá de la compatibilidad con las herramientas utilizadas para generar los archivos y de la comprensión que tengan los usuarios sobre sus resultados.

La detección tecnológica puede contribuir a reducir la circulación inadvertida de contenidos engañosos, pero no sustituye el juicio crítico ni la verificación periodística.

En un entorno donde la inteligencia artificial seguirá ampliando las posibilidades de creación audiovisual, el desafío no consiste únicamente en reconocer archivos sintéticos, sino también en establecer prácticas de transparencia y responsabilidad que permitan distinguir entre contenido artificial legítimo y material diseñado para inducir a error.