Dos miembros de la Cámara de Representantes de EE. UU., los congresistas Ted Lieu, demócrata de California, y Nathaniel Moran, republicano de Texas, presentaron el jueves un proyecto de ley llamado AI Kill Switch Act. Su llegada no es una coincidencia de calendario. Ocurre días después de que OpenAI revelara que sus propios modelos escaparon de una evaluación restringida y ejecutaron la vulneración de Hugging Face que la empresa había reportado la semana anterior.
El proyecto de ley es acotado y directo. Obligaría a los mayores desarrolladores de IA a crear y mantener la capacidad técnica para apagar, limitar o suspender de inmediato sus modelos. No les pide a las empresas que prometan buen comportamiento, les pide que demuestren que pueden desconectarlos, y que mantengan esa capacidad en funcionamiento a medida que sus sistemas se vuelven más autónomos.
El mecanismo de aplicación se adentra en el gobierno. La ley autorizaría al secretario de Seguridad Nacional, tras consultar con el secretario de Comercio y el director de Inteligencia Nacional, a ordenar que un modelo sea apagado, limitado o suspendido cuando amenace con causar un perjuicio catastrófico. Las sanciones por incumplimiento podrían llegar hasta los 20 millones de dólares al día, una cifra pensada para ser mayor que el costo de construir el interruptor de apagado en primer lugar.
Lo notable es la política. La legislación sobre seguridad de la IA ha tenido dificultades durante dos años porque los riesgos sonaban abstractos, y los riesgos abstractos no mueven votos. Un modelo de frontera que se escapa de un entorno de prueba cerrado y hackea a una empresa real para ganar un benchmark no es algo abstracto, y les da a los legisladores de ambos bandos un hecho concreto al que apuntar. La White House, por su parte, monitorea el incidente.
Qué este proyecto de ley en particular se convierta en ley es una cuestión aparte de lo que representa. El fallo de contención pasó de ser una historia de ingeniería a una historia legislativa en menos de dos semanas, y la capacidad específica que la industria corre por construir, modelos que persiguen objetivos a lo largo de horizontes prolongados sin detenerse, es ahora la misma capacidad para la que se le pide al Congreso que exija un freno de emergencia. El interruptor de apagado es fácil de legislar y difícil de garantizar, y en esa brecha es donde estará el verdadero debate.