A Meta removeu um recurso do Muse Image, seu sistema interno de geracao de imagens por IA construido pelo Meta Superintelligence Labs, que permitia as pessoas gerar imagens ao mencionar com @ contas publicas do Instagram que queriam usar como referencia. A remocao veio apos dias de reacao negativa, e a Meta foi direta sobre o motivo, dizendo que ouviu o retorno de que o recurso errou o alvo, e por isso ele nao esta mais disponivel. A empresa lancou o Muse Image apenas dias antes, entao retirar um de seus recursos de destaque tao rapidamente e uma reviravolta real.
A objecao nao era sobre quao boas as imagens pareciam, era sobre consentimento. O recurso vinha com exclusao por padrao em vez de adesao explicita, o que significa que estava ativado por padrao para usuarios adultos com contas publicas, que entao precisavam desativa-lo caso nao quisessem que suas imagens fossem usadas como referencia nos comandos de outras pessoas. Os criticos fizeram um argumento simples, uma ferramenta que gera imagens com base na aparencia de pessoas reais deveria exigir que essas pessoas dessem adesao explicita, e nao deixa-las descobrir que uma configuracao que afetava suas proprias fotos ja estava ativada sem sua permissao.
A reacao foi rapida e, mais importante, organizada. O SAG-AFTRA, o sindicato dos atores, pediu a seus membros e aos usuarios do Instagram que optassem pela exclusao, e classificou o design como um erro basico de leitura, dizendo que qualquer coisa alem de uma adesao clara e visivel para o uso de imagens de pessoas por IA era um erro grosseiro de leitura do sentimento publico. Criadores individuais tambem se juntaram as criticas. A atriz Hannah Einbinder, vencedora do Emmy, criticou o recurso no Instagram, dizendo que ele havia sido ativado automaticamente, e pediu a seus seguidores que o desativassem. Em poucos dias, as criticas foram altas o suficiente para que a Meta recuasse.
O que torna isso mais do que uma nota de rodape de produto e quao especifica foi a falha. O proprio Muse Image e a aposta interna seria da Meta em geracao de imagens, e o modelo nao era o problema, uma unica escolha de politica era. Ao deixar o recurso de referencia ativado por padrao para contas publicas, a Meta transformou um recurso que as pessoas poderiam ter aceitado como adesao explicita em algo que parecia tomar sua aparencia sem pedir. Para uma empresa com os recursos e a revisao juridica da Meta, ter de recuar em poucos dias por causa dessa unica decisao e um resultado marcante.
A razao pela qual isso importa alem do Instagram e que adesao explicita versus exclusao por padrao e uma das mais acentuadas linhas de tensao recorrentes na IA generativa, e este e um retrato claro de onde a coisa esta chegando. Uma abordagem de ativado por padrao para a aparencia de pessoas reais gerou resistencia imediata e organizada, de um sindicato com influencia genuina e de criadores individuais com grandes audiencias, e ate a Meta escolheu recuar em vez de brigar. A licao que outras empresas vao tirar e desconfortavel mas clara, em relacao a aparencia e ao consentimento, lancar primeiro e deixar as pessoas optarem pela exclusao depois esta ficando mais dificil de defender, e os usuarios cada vez mais esperam ser consultados antes que suas imagens se tornem materia-prima.