Proveniência de conteúdo
Por que isso importa
Os modelos generativos já conseguem produzir, a baixo custo, imagens fotorrealistas, vídeos convincentes e vozes clonadas. Tentar detectar falsificações depois do fato é uma corrida perdida, porque os detectores são pouco confiáveis e ficam mais para trás a cada geração de modelos.
A proveniência inverte o problema. Em vez de tentar provar que algo é falso, ela permite que fontes honestas provem o que é real e que ferramentas de IA rotulem o que geram. Isso não consegue impedir o engano sozinho, mas dá a jornalistas, plataformas e espectadores comuns um sinal que eles podem verificar.
Em profundidade
Proveniência de conteúdo significa anexar a uma foto, um vídeo, um clipe de áudio ou um documento informações confiáveis sobre sua origem e seu histórico: qual câmera ou modelo de IA o criou, quem o publicou, que edições foram aplicadas. Ela costuma ser comparada a um rótulo nutricional para mídia.
O padrão líder é o C2PA, da Coalition for Content Provenance and Authenticity, fundada em 2021 por Adobe, Arm, BBC, Intel, Microsoft e Truepic. Google, OpenAI, Meta, Amazon e Sony entraram depois. Seu nome voltado ao consumidor é Content Credentials, exibido como um pequeno ícone "CR" em que você pode clicar para inspecionar o histórico de um arquivo.
Como o C2PA funciona
Quando uma câmera, um aplicativo de edição ou um gerador de IA cria ou altera um arquivo, ele escreve um manifesto: um conjunto de declarações como "capturado por este modelo de câmera", "gerado por este modelo de IA" ou "recortado e com cor ajustada". O manifesto é vinculado ao conteúdo por um hash criptográfico e assinado digitalmente com o certificado da ferramenta, o mesmo tipo de tecnologia que protege sites.
Cada ferramenta da cadeia adiciona seu próprio manifesto assinado, de modo que o arquivo acumula um histórico. Um verificador pode confirmar que os manifestos estão intactos, que os signatários estão em uma lista de confiança e que o conteúdo não mudou desde a assinatura. Qualquer adulteração quebra a assinatura.
Adoção
- Geradores de IA: a OpenAI anexa Content Credentials às imagens do DALL-E e de seus modelos de imagem posteriores, e aos vídeos do Sora. O Adobe Firefly, as ferramentas de imagem da Microsoft e os modelos do Google fazem o mesmo em muitos produtos.
- Câmeras e celulares: a Leica lançou em 2023 a primeira câmera com credenciais integradas, seguida por modelos da Sony, da Nikon e da Canon voltados a fotojornalistas. Os celulares Pixel 10 do Google assinam todas as fotos do aplicativo de câmera.
- Plataformas: LinkedIn, TikTok, YouTube e os aplicativos da Meta leem dados C2PA para rotular mídia gerada por IA ou capturada por câmera, com cobertura desigual.
Os limites
- Metadados são fáceis de remover. Uma captura de tela, uma recodificação ou o envio para uma plataforma que remove metadados apaga o manifesto. Essa é a maior fraqueza do padrão.
- A ausência não prova nada. A maior parte das mídias não tem credenciais, então a falta de um rótulo não significa que algo é falso. Agentes mal-intencionados simplesmente usam ferramentas que não rotulam.
- Proveniência não é verdade. Uma credencial diz de onde um arquivo veio, não se o que ele mostra é exato. Uma foto real e assinada ainda pode ser encenada ou ter uma legenda enganosa.
- Confiança nos signatários. O sistema é tão bom quanto a segurança das chaves de assinatura e a lista de detentores de certificados confiáveis.
- Privacidade. As informações de identidade são opcionais por definição, porque a identificação obrigatória poderia colocar em risco fotógrafos e denunciantes.
Proveniência, marcas d'água e impressões digitais
Três técnicas se complementam:
- Os metadados assinados (C2PA) são detalhados e verificáveis, mas fáceis de remover.
- As marcas d'água invisíveis, como o SynthID do Google, ficam embutidas nos próprios pixels ou no áudio. Elas sobrevivem a muitas edições, mas carregam pouca informação e podem ser degradadas por um atacante determinado.
- O fingerprinting (impressão digital do conteúdo) guarda uma assinatura do conteúdo em um banco de dados para que um arquivo sem metadados possa ser associado de novo ao seu registro.
As versões recentes do C2PA combinam as três como "credenciais duráveis" (durable credentials): se os metadados forem removidos, uma marca d'água ou uma impressão digital pode ser usada para localizar o manifesto original.
Regulamentação
A lei está começando a exigir isso. O artigo 50 do AI Act da União Europeia, aplicável a partir de agosto de 2026, obriga os provedores a marcar conteúdo gerado por IA de forma legível por máquina e exige que deepfakes sejam identificados como tais. Sistemas que já estão no mercado têm até 2 de dezembro de 2026 para marcar seu conteúdo. O AI Transparency Act da Califórnia exige que grandes provedores de IA generativa embutam dados de proveniência e ofereçam ferramentas de detecção, e as regras de rotulagem da China para conteúdo gerado por IA entraram em vigor em setembro de 2025.