Sécurité

Fiche de modèle

Aussi appelé : Documentation de modèle, fiche technique

Un document standardisé qui décrit l'usage prévu d'un modèle d'apprentissage automatique, ses caractéristiques de performance, ses données d'entraînement, ses limitations et ses considérations éthiques. Introduites par Mitchell et al. (2019), les fiches de modèle visent à augmenter la transparence et à aider les utilisateurs à prendre des décisions éclairées sur l'adéquation d'un modèle à leur cas d'usage.

Pourquoi c'est important

Les fiches de modèle sont les étiquettes nutritionnelles de l'IA. Sans elles, tu utilises un modèle à l'aveugle — tu ne sais pas sur quelles données il a été entraîné, sur quoi il performe bien ou mal, ou quels groupes il pourrait désavantager. Alors que la réglementation de l'IA s'intensifie (l'AI Act européen exige de la documentation), les fiches de modèle passent de bonne pratique à exigence légale.

En profondeur

Une fiche de modèle inclut typiquement : les détails du modèle (architecture, version, date), l'usage prévu (à quoi le modèle est conçu et à quoi il ne devrait pas être utilisé), les données d'entraînement (description du jeu de données, incluant les biais connus), les métriques de performance (ventilées par sous-groupes pertinents), les limitations (modes de défaillance connus, cas limites) et les considérations éthiques (dommages potentiels, stratégies d'atténuation).

En pratique

Hugging Face a popularisé les fiches de modèle en les exigeant pour tous les modèles sur leur Hub. La qualité varie considérablement — certaines sont des documents techniques détaillés, d'autres des placeholders sommaires. Les meilleures fiches de modèle incluent des ventilations de performance par groupe (le modèle fonctionne-t-il aussi bien pour différentes langues, démographies ou domaines?), des exemples concrets de cas d'échec, et des évaluations honnêtes des limitations plutôt que du langage marketing.

Fiches de données et fiches de système

Le concept s'étend au-delà des modèles : les fiches de données documentent les jeux de données (méthodologie de collecte, processus d'annotation, biais connus) et les fiches de système documentent des systèmes d'IA complets (modèle + post-traitement + garde-fous + contexte de déploiement). Anthropic publie des fiches de système pour les versions de Claude. Ces documents plus larges capturent de l'information que les fiches de modèle seules manquent — un modèle pourrait être sûr isolément mais dangereux quand il est déployé avec certaines capacités d'utilisation d'outils ou sans filtres de contenu.

Concepts connexes

← Tous les termes

← Few-Shot Filigrane IA →