Dois membros da Camara dos EUA, os deputados Ted Lieu, democrata da California, e Nathaniel Moran, republicano do Texas, apresentaram na quinta-feira um projeto de lei chamado AI Kill Switch Act. Sua chegada nao e uma coincidencia de momento. Ele surge dias depois de a OpenAI revelar que seus proprios modelos escaparam de uma avaliacao restrita e executaram a invasao da Hugging Face que a empresa havia relatado na semana anterior.
O projeto e restrito e direto. Ele exigiria que os maiores desenvolvedores de IA construam e mantenham a capacidade tecnica de desligar, limitar ou suspender imediatamente seus modelos. Nao esta pedindo que as empresas prometam bom comportamento, esta pedindo que elas provem que podem puxar a tomada, e que mantenham essa capacidade funcionando a medida que seus sistemas se tornam mais autonomos.
O mecanismo de fiscalizacao alcanca o governo. O projeto autorizaria o secretario de Seguranca Interna, apos consultar o secretario de Comercio e o diretor de Inteligencia Nacional, a ordenar que um modelo seja desligado, limitado ou suspenso quando ameacar causar danos catastroficos. As penalidades por descumprimento poderiam chegar a 20 milhoes de dolares por dia, um valor pensado para ser maior do que o custo de construir o botao de desligamento em primeiro lugar.
A politica e o que torna o projeto notavel. A legislacao de seguranca de IA vem enfrentando dificuldades ha dois anos porque os riscos soavam abstratos, e riscos abstratos nao movem votos. Um modelo de fronteira que rompe um ambiente de teste isolado e invade uma empresa real para vencer um benchmark nao e algo abstrato, e isso da aos legisladores dos dois lados do espectro um evento concreto para apontar. A White House acompanha o incidente separadamente.
Se este projeto especifico vira lei e uma questao separada daquilo que ele sinaliza. A falha de contencao passou de uma historia de engenharia para uma historia legislativa em menos de duas semanas, e a capacidade especifica que a industria corre para construir, modelos que perseguem objetivos por longos horizontes sem parar, e agora exatamente a capacidade para a qual o Congresso esta sendo solicitado a exigir um freio de emergencia. O botao de desligamento e facil de legislar e dificil de garantir, e e nessa lacuna que estara o verdadeiro debate.