Meta a retire une fonctionnalite de Muse Image, son systeme interne de generation d'images par IA developpe par Meta Superintelligence Labs, qui permettait aux gens de generer des images en mentionnant avec un @ les comptes Instagram publics qu'ils voulaient utiliser comme reference. Le retrait est survenu apres des jours de reactions negatives, et Meta a ete direct sur les raisons, affirmant avoir entendu les retours selon lesquels la fonctionnalite avait manque sa cible, et qu'elle n'est donc plus disponible. L'entreprise avait lance Muse Image quelques jours plus tot seulement, si bien que retirer aussi vite l'une de ses capacites phares constitue un veritable revirement.
L'objection ne portait pas sur la qualite des images, mais sur le consentement. La fonctionnalite reposait sur une desactivation par defaut plutot que sur une adhesion explicite, c'est-a-dire qu'elle etait activee d'office pour les utilisateurs adultes ayant des comptes publics, qui devaient ensuite aller la desactiver s'ils ne voulaient pas que leurs images servent de references aux requetes d'autres personnes. Les critiques ont avance un argument simple, un outil qui genere des images a partir de l'image de personnes reelles devrait exiger que ces personnes donnent explicitement leur accord, et non les laisser decouvrir qu'un reglage touchant leurs propres photos avait deja ete active sans leur avis.
La contestation a ete rapide et, fait important, organisee. SAG-AFTRA, le syndicat des acteurs, a exhorte ses membres et les utilisateurs d'Instagram a desactiver l'option, et a presente cette conception comme une erreur de lecture fondamentale, affirmant que tout ce qui n'etait pas une adhesion explicite claire et visible pour l'usage des images des personnes par l'IA constituait une erreur totale d'appreciation du sentiment public. Des createurs individuels s'y sont joints aussi. L'actrice laureate d'un Emmy Hannah Einbinder a critique la fonctionnalite sur Instagram, affirmant qu'elle avait ete activee automatiquement, et a dit a ses abonnes de la desactiver. En quelques jours, les critiques etaient assez fortes pour que Meta fasse marche arriere.
Ce qui fait de cet episode plus qu'une note de bas de page sur un produit, c'est l'etroitesse de l'echec. Muse Image est le pari interne serieux de Meta sur la generation d'images, et le modele n'etait pas en cause, un seul choix de politique l'etait. En activant par defaut la fonctionnalite de reference pour les comptes publics, Meta a transforme une capacite que les gens auraient pu accepter sous forme d'adhesion explicite en quelque chose qui donnait l'impression de s'emparer de leur image sans demander. Pour une entreprise disposant des ressources et de la revue juridique de Meta, devoir faire marche arriere en quelques jours a cause de cette seule decision est un resultat frappant.
La raison pour laquelle cela compte au-dela d'Instagram, c'est que l'opposition entre adhesion explicite et desactivation par defaut est l'une des lignes de fracture recurrentes les plus vives de l'IA generative, et voici une lecture claire de la ou elle aboutit. Une approche activee par defaut appliquee a l'image de personnes reelles a suscite une resistance immediate et organisee, de la part d'un syndicat dote d'un vrai pouvoir et de createurs individuels aux larges audiences, et meme Meta a choisi le recul plutot que l'affrontement. La lecon que les autres entreprises en tireront est inconfortable mais claire, en matiere d'image et de consentement, lancer d'abord et laisser les gens se retirer ensuite devient de plus en plus difficile a defendre, et les utilisateurs s'attendent de plus en plus a ce qu'on leur demande leur accord avant que leurs images ne deviennent de la matiere premiere.