OpenAI ha anunciado un esfuerzo más amplio en materia de procedencia de contenidos, destinado a facilitar la identificación y verificación de medios generados por IA en distintas plataformas. La iniciativa combina tres elementos: una alineación más profunda con el estándar de procedencia C2PA, la incorporación de la marca de agua SynthID de Google para imágenes y una herramienta pública temprana de verificación para comprobar si las imágenes proceden de OpenAI.
Por qué la procedencia se está convirtiendo en infraestructura central de la IA
A medida que las herramientas de generación de imágenes y audio pasan a formar parte de los flujos de trabajo cotidianos de comunicación y publicación, la procedencia ha dejado de ser un tema técnico de nicho para convertirse en un requisito de confianza y seguridad. La idea de OpenAI es que las personas necesitan más contexto sobre de dónde proviene el contenido, cómo fue creado o editado y si es lo que afirma ser. Ese contexto importa no solo para investigadores y plataformas, sino también para los usuarios comunes que intentan juzgar lo que ven en línea.
La empresa presenta sus últimos cambios como parte de un enfoque multicapa, no como una solución técnica única. Esa distinción importa. Los sistemas de procedencia deben sobrevivir a los cambios de plataforma, a las ediciones de archivos y a los distintos canales de distribución, lo que significa que los metadatos son útiles, pero no suficientes. Tanto las señales duraderas como los estándares legibles tienen que formar parte de la pila.
Conformidad C2PA y por qué importa
OpenAI dijo que ha estado involucrada en los estándares de procedencia desde 2024, cuando comenzó a añadir Content Credentials a las imágenes generadas por DALL·E 3 y más tarde a ImageGen y Sora. También se unió al comité directivo de la Coalition for Content Provenance and Authenticity, o C2PA, el grupo del sector detrás de un estándar técnico abierto para la procedencia.
El nuevo paso es que OpenAI se ha convertido en un C2PA Conforming Generator Product. En términos prácticos, eso ofrece a otras plataformas una forma estandarizada de leer, conservar y transmitir los datos de procedencia adjuntos al contenido generado por OpenAI. El argumento de OpenAI es que la procedencia solo funciona si sobrevive más allá de la primera plataforma en la que se crea el contenido. La conformidad está pensada para hacer más fiable ese traspaso.
El modelo técnico de C2PA se basa en metadatos y firmas criptográficas. El objetivo no es declarar que el contenido sea verdadero, sino preservar información sobre el origen y las ediciones para que los usuarios y sistemas posteriores puedan tomar decisiones mejor informadas. Para periodistas, plataformas e investigadores, ese tipo de contexto puede ser útil operativamente incluso cuando no es concluyente por sí mismo.
Incorporación de SynthID y una capa pública de verificación
OpenAI también está añadiendo la marca de agua SynthID de Google a las imágenes, ampliando su enfoque de procedencia más allá de los metadatos. La marca de agua está diseñada para proporcionar una señal más duradera que pueda seguir siendo útil a través de distintas plataformas y transformaciones. OpenAI describió esto como parte de un enfoque multiplataforma desarrollado en colaboración con Google, algo notable en sí mismo dado lo poco frecuente que es que grandes rivales de la IA se alineen en mecanismos técnicos de confianza.
El tercer elemento es una vista previa de una herramienta pública de verificación que las personas pueden usar para comprobar si las imágenes proceden de OpenAI. Si se adopta ampliamente y resulta lo bastante fiable para su uso en el mundo real, este tipo de herramientas podría ofrecer a editores, moderadores y al público una forma más directa de inspeccionar la procedencia de los medios sin depender solo de los sistemas internos de las plataformas.
Los límites y la importancia del cambio
Ninguna de estas herramientas es una solución definitiva. Los metadatos pueden eliminarse, las marcas de agua pueden enfrentarse a desafíos de resistencia y las herramientas de verificación solo ayudan si la gente sabe que existen y confía en los resultados. El anuncio de OpenAI no afirma lo contrario. En cambio, describe la procedencia como un problema de ecosistema que requiere estándares abiertos, señales interoperables y un amplio reconocimiento por parte de las plataformas.
Ese es un cambio significativo de énfasis. La conversación en torno a la IA generativa a menudo se ha centrado en la capacidad de los modelos, mientras que el trabajo sobre procedencia ha quedado rezagado en visibilidad. OpenAI está señalando ahora que la identificación y la verificación tienen que madurar al mismo ritmo que la generación en sí. La decisión de combinar conformidad C2PA, marca de agua SynthID y una experiencia de verificación pública sugiere que la empresa ve la infraestructura de confianza como una cuestión de producto y de política, no solo como una casilla de cumplimiento.
Si este enfoque gana tracción en más plataformas y herramientas, podría hacer que los medios de IA fueran más fáciles de contextualizar en el momento de compartirlos y no solo después de que surja una disputa. Eso no acabaría con la desinformación ni el engaño, pero podría hacer que la procedencia fuera más legible y más переносable. En un entorno mediático cada vez más moldeado por sistemas generativos, eso supone un paso importante.
Este artículo se basa en información de OpenAI. Leer el artículo original.
Originally published on openai.com