Zubnet AIAprenderWiki › Ficha de Modelo
Segurança

Ficha de Modelo

Também conhecido como: Documentação de Modelo, Ficha Técnica
Um documento padronizado que descreve o uso pretendido de um modelo de machine learning, características de desempenho, dados de treinamento, limitações e considerações éticas. Introduzidas por Mitchell et al. (2019), fichas de modelo visam aumentar a transparência e ajudar usuários a tomar decisões informadas sobre se um modelo é apropriado para seu caso de uso.

Por que isso importa

Fichas de modelo são os rótulos nutricionais da IA. Sem elas, você está usando um modelo às cegas — não sabe em quais dados ele foi treinado, no que ele funciona bem e mal, ou quais grupos ele pode prejudicar. Conforme a regulamentação de IA aumenta (Lei de IA da UE exige documentação), fichas de modelo estão passando de boa prática para requisito legal.

Em profundidade

Uma ficha de modelo tipicamente inclui: detalhes do modelo (arquitetura, versão, data), uso pretendido (para que o modelo foi projetado e para que não deveria ser usado), dados de treinamento (descrição do dataset de treinamento, incluindo vieses conhecidos), métricas de desempenho (decompostas por subgrupos relevantes), limitações (modos de falha conhecidos, casos extremos) e considerações éticas (potenciais danos, estratégias de mitigação).

Na Prática

Hugging Face popularizou fichas de modelo ao exigi-las para todos os modelos em seu Hub. A qualidade varia muito — algumas são documentos técnicos detalhados, outras são placeholders perfunctórios. As melhores fichas de modelo incluem desagregações de desempenho por grupo (o modelo funciona igualmente bem para diferentes idiomas, demografias ou domínios?), exemplos concretos de casos de falha e avaliações honestas de limitações em vez de linguagem de marketing.

Fichas de Dados e Fichas de Sistema

O conceito se estende além de modelos: fichas de dados documentam datasets (metodologia de coleta, processo de anotação, vieses conhecidos), e fichas de sistema documentam sistemas inteiros de IA (modelo + pós-processamento + guardrails + contexto de deploy). A Anthropic publica fichas de sistema para lançamentos do Claude. Esses documentos mais amplos capturam informação que fichas de modelo sozinhas não cobrem — um modelo pode ser seguro isoladamente mas perigoso quando implantado com certas capacidades de uso de ferramentas ou sem filtros de conteúdo.

Conceitos relacionados

← Todos os termos
← Few-Shot Flash Attention →