在AI展現出前所未有的網路安全能力,在所有主流作業系統和網路瀏覽器中發現漏洞後,Anthropic正在限制大眾對其新的Claude Mythos Preview模型的存取。該公司宣布了Glasswing專案——一個與AWS、Apple、Microsoft、NVIDIA和主要銀行的聯盟——為測試提供受控存取,同時將模型遠離公開發布。財政部長Scott Bessent和Fed主席Jerome Powell與Goldman Sachs、Morgan Stanley和其他主要銀行的CEO召開緊急會議討論網路風險。
這標誌著AI安全討論的重大轉變,從理論性的對齊擔憂轉向即時、可測量的安全威脅。與之前圍繞GPT-2等模型的「太危險無法發布」聲明不同,Mythos已經透過識別數千個高嚴重性漏洞展示了具體能力。Goldman Sachs CEO David Solomon確認其銀行擁有存取權限,並正在直接與Anthropic合作制定安全措施——這是AI公司與最容易受到該技術攻擊能力影響的機構之間的顯著合作關係。
安全研究人員特別擔心傳統銀行基礎設施。Costin Raiu告訴Reuters,IBM幾十年前建構的系統將特別脆弱,稱它們為「為金融業提供動力的古老技術」。英國的AI Security Institute就Mythos發出了自己的警告,而美國政府面臨著需要與一家最近因國防部使用爭議而被標記為供應鏈風險的公司合作的尷尬處境。
對於開發者來說,這創造了一個新的先例:先進的AI能力可能越來越多地伴隨著受限存取和機構守門人。銀行業的早期存取表明,未來的AI安全工具可能會透過既定的企業管道流動,而不是開放的API或消費者產品。
