Anthropic está restringiendo el acceso público a su nuevo modelo Claude Mythos Preview después de que la IA demostrara capacidades de ciberseguridad sin precedentes, encontrando vulnerabilidades en todos los sistemas operativos y navegadores web principales. La empresa anunció el Proyecto Glasswing — un consorcio con AWS, Apple, Microsoft, NVIDIA, y bancos importantes — para proporcionar acceso controlado para pruebas mientras mantiene el modelo alejado del lanzamiento público. El secretario del Tesoro Scott Bessent y el presidente de la Fed Jerome Powell convocaron reuniones de emergencia with CEOs de Goldman Sachs, Morgan Stanley, y otros bancos importantes para discutir los riesgos cibernéticos.
Esto marca un cambio significativo en las discusiones de seguridad de IA desde preocupaciones teóricas de alineación hacia amenazas de seguridad inmediatas y medibles. A diferencia de afirmaciones previas de "demasiado peligroso para liberar" alrededor de modelos como GPT-2, Mythos ya ha demostrado capacidades concretas identificando miles de vulnerabilidades de alta gravedad. El CEO de Goldman Sachs David Solomon confirmó que su banco tiene acceso y está trabajando directamente con Anthropic en medidas de seguridad — una asociación notable entre empresas de IA y las instituciones más vulnerables a las capacidades ofensivas de la tecnología.
Los investigadores de seguridad están particularmente preocupados por la infraestructura bancaria heredada. Costin Raiu le dijo a Reuters que los sistemas construidos por IBM de décadas pasadas serían especialmente vulnerables, llamándolos "tecnologías antiguas que impulsan la industria financiera". El AI Security Institute del Reino Unido emitió su propia advertencia sobre Mythos, mientras el gobierno estadounidense enfrenta la posición incómoda de necesitar cooperación de una empresa que recientemente etiquetó como un riesgo de cadena de suministro por disputas de uso del departamento de defensa.
Para los desarrolladores, esto crea un nuevo precedente: las capacidades avanzadas de IA pueden venir cada vez más con acceso restringido y guardianes institucionales. El acceso temprano de la industria bancaria sugiere que las futuras herramientas de seguridad de IA probablemente fluirán a través de canales empresariales establecidos en lugar de APIs abiertas o productos de consumidor.