Procedencia del contenido
Por qué importa
Los modelos generativos ya pueden producir a bajo costo imágenes fotorrealistas, videos convincentes y voces clonadas. Tratar de detectar las falsificaciones después del hecho es una carrera perdida, porque los detectores son poco confiables y se quedan más atrás con cada generación de modelos.
La procedencia le da la vuelta al problema. En lugar de intentar demostrar que algo es falso, permite que las fuentes honestas demuestren lo que es real y que las herramientas de IA etiqueten lo que generan. Eso no puede detener el engaño por sí solo, pero les da a periodistas, plataformas y espectadores comunes una señal que pueden verificar.
En profundidad
La procedencia del contenido consiste en adjuntar a una foto, un video, un clip de audio o un documento información confiable sobre su origen y su historial: qué cámara o qué modelo de IA lo creó, quién lo publicó, qué ediciones se le aplicaron. Suele compararse con una etiqueta nutricional para los medios.
El estándar líder es C2PA, de la Coalition for Content Provenance and Authenticity, fundada en 2021 por Adobe, Arm, la BBC, Intel, Microsoft y Truepic. Google, OpenAI, Meta, Amazon y Sony se sumaron después. Su nombre de cara al público es Content Credentials, que se muestra como un pequeño ícono «CR» en el que puedes hacer clic para inspeccionar el historial de un archivo.
Cómo funciona C2PA
Cuando una cámara, una aplicación de edición o un generador de IA crea o modifica un archivo, escribe un manifiesto: un conjunto de declaraciones como «capturado por este modelo de cámara», «generado por este modelo de IA» o «recortado y con ajuste de color». El manifiesto se vincula al contenido con un hash criptográfico y se firma digitalmente con el certificado de la herramienta, el mismo tipo de tecnología que protege los sitios web.
Cada herramienta de la cadena agrega su propio manifiesto firmado, así que el archivo va acumulando un historial. Un verificador puede confirmar que los manifiestos están intactos, que los firmantes están en una lista de confianza y que el contenido no ha cambiado desde la firma. Cualquier manipulación rompe la firma.
Adopción
- Generadores de IA: OpenAI adjunta Content Credentials a las imágenes de DALL-E y de sus modelos de imagen posteriores, y a los videos de Sora. Adobe Firefly, las herramientas de imagen de Microsoft y los modelos de Google hacen lo mismo en muchos productos.
- Cámaras y teléfonos: Leica lanzó en 2023 la primera cámara con credenciales integradas, seguida por modelos de Sony, Nikon y Canon dirigidos a fotoperiodistas. Los teléfonos Pixel 10 de Google firman cada foto de la aplicación de cámara.
- Plataformas: LinkedIn, TikTok, YouTube y las aplicaciones de Meta leen los datos C2PA para etiquetar contenido generado por IA o capturado con cámara, con una cobertura desigual.
Los límites
- Los metadatos son fáciles de quitar. Una captura de pantalla, una recodificación o subir el archivo a una plataforma que elimina los metadatos borra el manifiesto. Esta es la mayor debilidad del estándar.
- La ausencia no prueba nada. La mayoría de los medios no tiene credenciales, así que una etiqueta faltante no significa que algo sea falso. Los actores malintencionados simplemente usan herramientas que no etiquetan.
- La procedencia no es la verdad. Una credencial dice de dónde vino un archivo, no si lo que muestra es exacto. Una foto real y firmada igual puede estar montada o llevar un pie de foto engañoso.
- Confianza en los firmantes. El sistema es tan bueno como la seguridad de las claves de firma y la lista de titulares de certificados de confianza.
- Privacidad. La información de identidad es opcional por diseño, porque una identificación obligatoria podría poner en peligro a fotógrafos y denunciantes.
Procedencia, marcas de agua y huellas
Tres técnicas se complementan:
- Los metadatos firmados (C2PA) son detallados y verificables, pero fáciles de eliminar.
- Las marcas de agua invisibles, como SynthID de Google, van incrustadas en los propios píxeles o en el audio. Sobreviven a muchas ediciones, pero llevan poca información y un atacante decidido puede degradarlas.
- El fingerprinting (huella digital del contenido) guarda una firma del contenido en una base de datos para que un archivo sin metadatos pueda volver a asociarse con su registro.
Las versiones recientes de C2PA las combinan como «credenciales duraderas» (durable credentials): si se eliminan los metadatos, una marca de agua o una huella sirve para buscar el manifiesto original.
Regulación
La ley está empezando a exigirlo. El artículo 50 de la Ley de IA de la UE, que se aplica desde agosto de 2026, obliga a los proveedores a marcar el contenido generado por IA de forma legible por máquina y exige que los deepfakes se declaren como tales. Los sistemas que ya están en el mercado tienen hasta el 2 de diciembre de 2026 para marcar su contenido. La AI Transparency Act de California exige a los grandes proveedores de IA generativa incrustar datos de procedencia y ofrecer herramientas de detección, y las reglas de etiquetado de China para el contenido generado por IA entraron en vigor en septiembre de 2025.