OpenAI y Google anunciaron avances clave para hacer más verificable el origen de las imágenes que se generen con sus sistemas de Inteligencia Artificial.
La empresa encabezada por Sam Altman anunció que reforzará sus señales de procedencia con compatibilidad más clara con C2PA (Coalition for Content Provenance and Authenticity, estándar abierto que añade metadatos firmados criptográficamente a fotos, videos y documentos digitales).
También añadirá la marca de agua invisible SynthID de Google a imágenes generadas en ChatGPT, Codex y su API, y además abrió públicamente una vista previa de una herramienta para comprobar si una imagen proviene de OpenAI.
El movimiento apunta a un problema cada vez más visible: generar imágenes sintéticas ya no es lo difícil; lo difícil es saber de dónde salieron, qué cambios tuvieron y qué tan confiable es esa información cuando un archivo circula por redes, plataformas y mensajería. OpenAI plantea una combinación de capas en vez de una sola solución.
Por un lado, mantiene las llamadas Content Credentials, que son datos adjuntos al archivo sobre su origen y edición. Por otro, suma SynthID, una marca de agua que no se ve a simple vista y que busca sobrevivir mejor a cambios como recortes, capturas de pantalla o redimensionado.
La empresa explicó que ya venía agregando credenciales de contenido a imágenes generadas por DALL·E 3, ImageGen y Sora. Ahora quiere que esas señales sean más fáciles de leer y conservar por otras herramientas y plataformas mediante conformidad con el estándar C2PA. Algo que ahora comparten OpenAI y Google.
Qué cambia con SynthID y el acuerdo entre OpenAI y Google
La novedad principal es la alianza entre OpenAI y Google para incorporar SynthID a las imágenes de OpenAI. Google define SynthID como una marca de agua digital imperceptible, pensada para insertar una señal en el contenido generado por IA sin alterar su aspecto normal. OpenAI la presenta como un complemento de C2PA, no como un reemplazo.
La diferencia importa. C2PA funciona con metadatos y firmas criptográficas que pueden indicar quién generó o editó un archivo y con qué herramientas. Eso puede ser muy útil para periodistas, plataformas y usuarios, pero también tiene límites: esos datos pueden perderse si una plataforma los elimina, si el archivo se convierte a otro formato o si la imagen se comparte como captura. SynthID busca cubrir parte de esa debilidad porque trabaja dentro de la imagen con una señal más resistente a ciertas transformaciones.
La noticia además coincide con anuncios de Google sobre la expansión de sus propias herramientas de verificación. La compañía dijo que está llevando la comprobación de SynthID y de credenciales C2PA a Gemini, Search y Chrome, y que empresas como OpenAI, Kakao y ElevenLabs incorporarán SynthID a más contenido generado con IA. Google también anunció una API de detección de contenido de IA en Google Cloud para organizaciones.
La relevancia práctica de este anuncio está en que la verificación deja de ser un tema solo técnico. Si más imágenes salen de fábrica con señales interoperables y si más productos de consumo pueden leerlas, será más fácil para una persona común, una red social, un medio o un equipo de moderación hacer una primera revisión del origen de un archivo.
Ese cambio no elimina el problema de los deepfakes, pero sí puede reducir fricción en tareas concretas como etiquetar contenido, investigar una imagen viral o decidir si un archivo merece más revisión.
En todo caso, es bueno remarcar que ni C2PA ni SynthID garantizan por sí solos que una imagen sea verdadera o falsa en sentido total. Lo que hacen es aportar pistas más sólidas sobre si un archivo fue creado o editado con ciertos sistemas. En un entorno donde las imágenes sintéticas circulan cada vez más rápido, esa diferencia puede ser pequeña en apariencia, pero es importante en la práctica.
Quines quieran saber más sobre la tecnología de SynthID que compartirán OpenAI y Google puede ver el siguiente video publicado po Google DeepMind.
SynthID, tecnología para detectar imágenes con IA que usan OpenAI y Google
Fuentes:
