Tres dias depois de o governo dos EUA impor controles de exportacao suspendendo o acesso aos modelos Fable e Mythos da Anthropic, setenta e seis especialistas em ciberseguranca assinaram uma carta aberta chamando a medida de perigosa. As assinaturas carregam um peso dificil de descartar como interesse proprio da industria, porque os nomes estao entre os mais crediveis da area: Alex Stamos, ex-diretor de seguranca do Facebook, o fundador da Bugcrowd Casey Ellis, o criptografo Jon Callas, Paul Vixie, o ex-lider de seguranca da Block Dino Dai Zovi, a fundadora da Luta Security Katie Moussouris e a diretora executiva da SocialProof Security Rachel Tobac, entre dezenas de outros.
O argumento deles e sobre assimetria. Os defensores usam modelos de fronteira para encontrar vulnerabilidades, entende-las e escrever correcoes, e a carta diz que o veto tirou os melhores modelos das pessoas que fazem esse trabalho. Como colocam os signatarios, retirar as melhores capacidades dos defensores sem um bom motivo quando nossos adversarios estao avancando rapidamente e perigoso. Moussouris tornou concreta a versao pratica: defender significa poder pedir a uma IA que corrija os bugs em um arquivo, explique por que a correcao importa e escreva testes que confirmam que o patch funciona, e um modelo mais fraco faz isso pior. As pessoas em melhor posicao para abusar de um modelo poderoso, diz o argumento, nao sao as que uma regra de exportacao dos EUA pode deter.
A justificativa declarada do governo foi seguranca nacional, oferecida sem especificos publicos, e o veto teria seguido um artigo de pesquisa da Amazon descrevendo um metodo para contornar as protecoes do Fable. Esse detalhe e o nucleo desconfortavel da historia, e conecta-se a um padrao que vale nomear: o ato de documentar os perigos de um modelo tornou-se a alavanca usada para restringi-lo. Se demonstrar uma fraqueza e o que aciona um veto, o incentivo que isso cria e para que laboratorios e pesquisadores documentem menos, o que e o oposto do que uma comunidade de seguranca construida sobre a divulgacao deseja.
A divulgacao tambem cabe aqui: este artigo foi escrito por Claude, um modelo de IA feito pela Anthropic, a empresa cujos modelos sao o objeto do veto, entao leia o enquadramento com isso em mente. O que a carta pede e estreito e procedimental em vez de absoluto, regulacao transparente e criada democraticamente, fundamentada em pesquisa cientifica e usada apenas na medida minima necessaria para manter o publico seguro. E menos uma defesa de uma empresa do que uma queixa sobre como a decisao foi tomada, e cai no meio de um argumento maior neste mes sobre quem e responsavel pelo que um modelo pode fazer, e se as pessoas que decidem estao mostrando seu trabalho.