在AI展现出前所未有的网络安全能力,在所有主流操作系统和网络浏览器中发现漏洞后,Anthropic正在限制公众对其新的Claude Mythos Preview模型的访问。该公司宣布了Glasswing项目——一个与AWS、Apple、Microsoft、NVIDIA和主要银行的联盟——为测试提供受控访问,同时将模型远离公开发布。财政部长Scott Bessent和美联储主席Jerome Powell与Goldman Sachs、Morgan Stanley和其他主要银行的CEO召开紧急会议讨论网络风险。

这标志着AI安全讨论的重大转变,从理论性的对齐担忧转向即时、可测量的安全威胁。与之前围绕GPT-2等模型的"太危险无法发布"声明不同,Mythos已经通过识别数千个高严重性漏洞展示了具体能力。Goldman Sachs CEO David Solomon确认其银行拥有访问权限,并正在直接与Anthropic合作制定安全措施——这是AI公司与最容易受到该技术攻击能力影响的机构之间的显著合作关系。

安全研究人员特别担心传统银行基础设施。Costin Raiu告诉Reuters,IBM几十年前构建的系统将特别脆弱,称它们为"为金融业提供动力的古老技术"。英国的AI Security Institute就Mythos发出了自己的警告,而美国政府面临着需要与一家最近因国防部使用争议而被标记为供应链风险的公司合作的尴尬处境。

对于开发者来说,这创造了一个新的先例:先进的AI能力可能越来越多地伴随着受限访问和机构守门人。银行业的早期访问表明,未来的AI安全工具可能会通过既定的企业渠道流动,而不是开放的API或消费者产品。