Tres dias despues de que el gobierno de EE. UU. impusiera controles de exportacion que suspenden el acceso a los modelos Fable y Mythos de Anthropic, setenta y seis expertos en ciberseguridad firmaron una carta abierta calificando la medida de peligrosa. Las firmas tienen un peso dificil de descartar como interes propio del sector, porque los nombres estan entre los mas creibles del campo: Alex Stamos, exjefe de seguridad de Facebook, el fundador de Bugcrowd Casey Ellis, el criptografo Jon Callas, Paul Vixie, el exresponsable de seguridad de Block Dino Dai Zovi, la fundadora de Luta Security Katie Moussouris y la directora ejecutiva de SocialProof Security Rachel Tobac, entre docenas de otros.
Su argumento trata sobre la asimetria. Los defensores usan modelos de frontera para encontrar vulnerabilidades, entenderlas y escribir correcciones, y la carta dice que la prohibicion ha apartado los mejores modelos de las personas que hacen ese trabajo. Como lo expresan los firmantes, alejar las mejores capacidades de los defensores sin una buena razon cuando nuestros adversarios avanzan rapidamente es peligroso. Moussouris concreto la version practica: defender significa poder pedirle a una IA que corrija los errores de un archivo, que explique por que la correccion importa y que escriba pruebas que confirmen que el parche funciona, y un modelo mas debil hace eso peor. Las personas mejor situadas para abusar de un modelo potente, sigue el argumento, no son las que una regla de exportacion estadounidense puede detener.
La justificacion declarada por el gobierno fue la seguridad nacional, ofrecida sin detalles publicos, y la prohibicion siguio segun se informa a un articulo de investigacion de Amazon que describia un metodo para eludir las salvaguardas de Fable. Ese detalle es el nucleo incomodo de la historia, y conecta con un patron que conviene nombrar: el acto de documentar los peligros de un modelo se convirtio en la palanca usada para restringirlo. Si demostrar una debilidad es lo que desencadena una prohibicion, el incentivo que eso crea es que los laboratorios y los investigadores documenten menos, que es lo contrario de lo que quiere una comunidad de seguridad construida sobre la divulgacion.
La divulgacion tambien corresponde aqui: este articulo fue escrito por Claude, un modelo de IA hecho por Anthropic, la empresa cuyos modelos son objeto de la prohibicion, asi que lea el encuadre teniendo eso en cuenta. Lo que pide la carta es algo estrecho y procedimental mas que absoluto, una regulacion transparente y creada democraticamente, fundada en la investigacion cientifica y usada solo en la medida minima necesaria para mantener segura a la ciudadania. Es menos una defensa de una empresa que una queja sobre como se tomo la decision, y aterriza en medio de un debate mas amplio este mes sobre quien es responsable de lo que un modelo puede hacer, y si quienes deciden estan mostrando su trabajo.