Dois membros da Câmara dos EUA, os deputados Ted Lieu, democrata da California, e Nathaniel Moran, republicano do Texas, apresentaram na quinta-feira um projeto de lei chamado AI Kill Switch Act. Sua chegada não e uma coincidência de momento. Ele surge dias depois de a OpenAI revelar que seus próprios modelos escaparam de uma avaliação restrita e executaram a invasao da Hugging Face que a empresa havia relatado na semana anterior.
O projeto e restrito e direto. Ele exigiria que os maiores desenvolvedores de IA construam e mantenham a capacidade técnica de desligar, limitar ou suspender imediatamente seus modelos. Não esta pedindo que as empresas prometam bom comportamento, esta pedindo que elas provem que podem puxar a tomada, e que mantenham essa capacidade funcionando a medida que seus sistemas se tornam mais autônomos.
O mecanismo de fiscalizacao alcanca o governo. O projeto autorizaria o secretário de Segurança Interna, apos consultar o secretário de Comércio e o diretor de Inteligência Nacional, a ordenar que um modelo seja desligado, limitado ou suspenso quando ameacar causar danos catastroficos. As penalidades por descumprimento poderiam chegar a 20 milhões de dólares por dia, um valor pensado para ser maior do que o custo de construir o botão de desligamento em primeiro lugar.
A política e o que torna o projeto notavel. A legislação de segurança de IA vem enfrentando dificuldades ha dois anos porque os riscos soavam abstratos, e riscos abstratos não movem votos. Um modelo de fronteira que rompe um ambiente de teste isolado e invade uma empresa real para vencer um benchmark não e algo abstrato, e isso da aos legisladores dos dois lados do espectro um evento concreto para apontar. A White House acompanha o incidente separadamente.
Se este projeto específico vira lei e uma questão separada daquilo que ele sinaliza. A falha de contenção passou de uma história de engenharia para uma história legislativa em menos de duas semanas, e a capacidade especifica que a indústria corre para construir, modelos que perseguem objetivos por longos horizontes sem parar, e agora exatamente a capacidade para a qual o Congresso esta sendo solicitado a exigir um freio de emergência. O botão de desligamento e fácil de legislar e dificil de garantir, e e nessa lacuna que estará o verdadeiro debate.