Chequeo. OpenAI lanzó una plataforma para verificar si una imagen fue creada con sus herramientas de IA
La compañía anunció una herramienta pública capaz de detectar señales ocultas en imágenes creadas con ChatGPT, Codex y su API. También incorporará marcas de agua invisibles desarrolladas junto a Google.
OpenAI anunció este martes una nueva plataforma pública para verificar si una imagen fue generada mediante sus herramientas de inteligencia artificial, en un intento por reforzar la transparencia y combatir la desinformación generada por contenido sintético.
La compañía explicó que el sistema permitirá analizar imágenes subidas por los usuarios para detectar señales de procedencia asociadas a contenidos creados con ChatGPT, Codex o la API de OpenAI.
Elon Musk perdió su batalla judicial contra OpenAI y su CEO, Sam Altman: presentó su demanda demasiado tarde
Cómo funciona la nueva herramienta
Según detalló OpenAI, la plataforma analiza dos tipos principales de señales: los metadatos “Content Credentials” y las marcas de agua invisibles desarrolladas con tecnología SynthID de Google DeepMind.
Los metadatos C2PA funcionan como una especie de “certificado digital” que acompaña a la imagen y contiene información sobre su origen, cómo fue creada o editada y qué herramienta participó en el proceso.
Por otro lado, SynthID agrega una marca de agua imperceptible dentro de la propia imagen, diseñada para resistir modificaciones habituales como recortes, cambios de formato, capturas de pantalla o redimensionamientos.
“La procedencia del contenido funciona mejor cuando combina distintas capas de protección”, explicó OpenAI en su comunicado oficial.
OpenAI quiere hacer más fácil identificar contenido generado con IA
La herramienta permitirá que cualquier persona suba una imagen y reciba un informe indicando si detecta señales compatibles con contenido generado por OpenAI.
Entre los resultados posibles, el sistema podrá mostrar:
- Metadatos C2PA detectados.
- Marca de agua SynthID detectada.
- Ausencia de señales compatibles.
Sin embargo, OpenAI aclaró que la ausencia de señales no significa necesariamente que la imagen no haya sido creada con IA, ya que algunos metadatos pueden perderse durante la circulación del archivo.
“Ningún método de detección es infalible”, reconoció la empresa.
Una alianza con Google para reforzar las marcas de agua
Como parte del anuncio, OpenAI confirmó además una alianza con Google para incorporar SynthID a las imágenes generadas mediante ChatGPT, Codex y la API de OpenAI.
La compañía ya había experimentado anteriormente con marcas de agua visibles en Sora y con señales de audio en Voice Engine, pero ahora busca construir un sistema más amplio y resistente para la identificación de contenido generado con IA.
El objetivo: un ecosistema “más confiable”
OpenAI sostuvo que el crecimiento acelerado de herramientas generativas volvió cada vez más importante poder verificar el origen de imágenes, videos y audios que circulan en internet.
“Las señales de procedencia pueden ayudar a las personas a entender de dónde proviene un contenido, cómo fue creado o editado y si realmente es lo que aparenta ser”, señaló la empresa.
La compañía también adelantó que, en los próximos meses, buscará ampliar la herramienta para admitir más formatos y colaborar con otras plataformas y compañías tecnológicas para crear estándares comunes de verificación.
Actualmente, la herramienta se limita únicamente a contenido generado con tecnologías de OpenAI.
