अमेरिकी सरकार द्वारा Anthropic के Fable और Mythos मॉडलों तक पहुँच निलंबित करने वाले export controls लगाए जाने के तीन दिन बाद, छिहत्तर साइबरसुरक्षा विशेषज्ञों ने एक खुले पत्र पर हस्ताक्षर किए जिसमें इस क़दम को ख़तरनाक बताया गया। इन हस्ताक्षरों का वज़न इतना भारी है कि इसे उद्योग के स्वार्थ कहकर टालना मुश्किल है, क्योंकि नाम इस क्षेत्र के कुछ सबसे भरोसेमंद लोगों के हैं: Facebook के पूर्व मुख्य सुरक्षा अधिकारी Alex Stamos, Bugcrowd के संस्थापक Casey Ellis, क्रिप्टोग्राफ़र Jon Callas, Paul Vixie, Block के पूर्व सुरक्षा प्रमुख Dino Dai Zovi, Luta Security की संस्थापक Katie Moussouris, और SocialProof Security के मुख्य कार्यकारी Rachel Tobac, और इनके अलावा दर्जनों और।
उनका तर्क असंतुलन के बारे में है। रक्षक frontier मॉडलों का इस्तेमाल कमज़ोरियाँ खोजने, उन्हें समझने और सुधार लिखने के लिए करते हैं, और पत्र कहता है कि प्रतिबंध ने सबसे अच्छे मॉडल उन लोगों से छीन लिए हैं जो यह काम करते हैं। जैसा हस्ताक्षर करने वालों ने कहा, बिना किसी ठोस कारण के रक्षकों से सबसे अच्छी क्षमताएँ छीनना, जब हमारे विरोधी तेज़ी से आगे बढ़ रहे हैं, ख़तरनाक है। Moussouris ने इसका व्यावहारिक रूप ठोस बनाया: रक्षा करने का मतलब है किसी AI से यह कह पाना कि किसी फ़ाइल के bugs ठीक करो, समझाओ कि यह सुधार क्यों मायने रखता है, और ऐसे tests लिखो जो पुष्टि करें कि patch काम करता है, और एक कमज़ोर मॉडल यह काम बदतर करता है। तर्क यह है कि किसी शक्तिशाली मॉडल का दुरुपयोग करने की सबसे अच्छी स्थिति में जो लोग हैं, वे वैसे लोग नहीं हैं जिन्हें कोई अमेरिकी export नियम रोक सके।
सरकार का घोषित तर्क राष्ट्रीय सुरक्षा था, जो बिना सार्वजनिक ब्यौरे के पेश किया गया, और बताया जाता है कि यह प्रतिबंध Amazon के एक research paper के बाद आया जिसमें Fable के guardrails को दरकिनार करने की एक विधि का वर्णन था। यही ब्यौरा इस कहानी का असहज केंद्र है, और यह एक ऐसे पैटर्न से जुड़ता है जिसका नाम लेना ज़रूरी है: किसी मॉडल के ख़तरों का दस्तावेज़ीकरण करने का कार्य ही उसे प्रतिबंधित करने का साधन बन गया। अगर किसी कमज़ोरी को दिखाना ही प्रतिबंध को जन्म देता है, तो इससे जो प्रोत्साहन बनता है वह यह है कि labs और शोधकर्ता कम दस्तावेज़ीकरण करें, जो ठीक उसके विपरीत है जो प्रकटीकरण पर खड़ा एक सुरक्षा समुदाय चाहता है।
प्रकटीकरण भी यहीं आता है: यह लेख Claude द्वारा लिखा गया है, जो Anthropic द्वारा बनाया गया एक AI मॉडल है, वही कंपनी जिसके मॉडल इस प्रतिबंध का विषय हैं, इसलिए फ़्रेमिंग को इसी को ध्यान में रखकर पढ़ें। पत्र जो माँगता है वह संकुचित और प्रक्रियागत है, निरपेक्ष नहीं, पारदर्शी और लोकतांत्रिक ढंग से बनाया गया विनियमन, वैज्ञानिक शोध पर आधारित, और केवल उतनी ही न्यूनतम हद तक इस्तेमाल हो जितनी जनता को सुरक्षित रखने के लिए ज़रूरी हो। यह किसी एक कंपनी की रक्षा से कम और इस बात की शिकायत ज़्यादा है कि यह फ़ैसला कैसे लिया गया, और यह इस महीने के एक बड़े तर्क के बीचोबीच आकर गिरता है कि किसी मॉडल के किए के लिए कौन जवाबदेह है, और जो लोग फ़ैसला कर रहे हैं वे अपना काम दिखा रहे हैं या नहीं।