मुख्य सामग्री पर जाएँ
Zubnet AI › सीखें › Wiki › Responsible Scaling Policy
सुरक्षा

Responsible Scaling Policy

इसे भी कहा जाता है: RSP, Frontier Safety Framework, Preparedness Framework
किसी AI developer की सार्वजनिक प्रतिबद्धता कि वह अपने models को खतरनाक capabilities के लिए test करेगा और तय risk thresholds पार करने वाले models बनाने या release करने से पहले खास safeguards लागू रखेगा।

यह क्यों मायने रखता है

ये frameworks फ़िलहाल वह मुख्य तरीका हैं जिससे frontier AI कंपनियाँ अपने सबसे गंभीर risks को खुद govern करती हैं। ये तय करते हैं कि release से पहले model किन tests से गुज़रेगा, उसके weights के इर्द-गिर्द कैसी security होगी और, सिद्धांत रूप में, कोई कंपनी model को कब रोककर रखेगी।

ये regulation का ढाँचा भी बन गए हैं। मई 2024 के AI Seoul Summit में सोलह कंपनियों ने ऐसे frameworks प्रकाशित करने का वादा किया। तब से कानून और codes स्वैच्छिक अभ्यास को बाध्यता में बदलने लगे हैं।

गहन अध्ययन

Responsible scaling policy if-then commitments पर बनी होती है: अगर हमारा model capability X तक पहुँचता है, तो हमारे पास safeguards Y लागू होंगे। Anthropic की मूल policy में यह वादा भी था कि ये safeguards तैयार होने तक काम रोका जाएगा; यह pause commitment RSP v3.0 (2026) में हटा दिया गया। विचार यह है कि safety measures को इस बात से जोड़ा जाए कि models सचमुच क्या कर सकते हैं, न कि पहले से इस पर बहस की जाए कि खतरनाक AI कब आएगा।

"Responsible Scaling Policy" (RSP) Anthropic के अपने framework का नाम है, जो पहली बार सितंबर 2023 में प्रकाशित हुआ और evaluation nonprofit METR के साथ विकसित एक concept पर आधारित है। दूसरी labs इसी बुनियादी विचार के लिए अलग नाम इस्तेमाल करती हैं। OpenAI के पास उसका Preparedness Framework है और Google DeepMind के पास उसका Frontier Safety Framework, और generic शब्द frontier safety framework है।

साझा ढाँचा

  • Risk domains: frameworks गंभीर, बड़े पैमाने के नुकसानों पर ध्यान देते हैं। आम सूची में chemical, biological, radiological और nuclear (CBRN) हथियारों में मदद, advanced cyberattacks, और ऐसा AI शामिल है जो अपने आप AI research को तेज़ कर सके या इंसानी control से बच निकले।
  • Capability thresholds: तय स्तर जिन पर कोई model risk को सार्थक रूप से बढ़ा देगा, मसलन bioweapon बनाने की कोशिश कर रहे किसी व्यक्ति को असली uplift देकर।
  • Evaluations: deployment से पहले और उसके दौरान चलाए जाने वाले tests, जो जाँचते हैं कि कोई model किसी threshold के करीब पहुँच रहा है या नहीं, जिनमें red teaming और human experts के साथ studies शामिल हैं।
  • Safeguards: दो तरह के। Deployment safeguards classifiers, monitoring और access controls के ज़रिए misuse को सीमित करते हैं। Security safeguards model weights को चोरी से बचाते हैं।
  • Governance: फ़ैसला कौन करता है, अपवाद कैसे सँभाले जाते हैं, कौन-सी internal oversight मौजूद है और क्या प्रकाशित होता है।

Anthropic का ASL system

Anthropic की RSP AI Safety Levels (ASL) तय करती थी, जो मोटे तौर पर उन biosafety levels पर आधारित हैं जो खतरनाक pathogens सँभालने वाली laboratories के लिए इस्तेमाल होते हैं। ASL-2 उन models को cover करता है जो कोई बड़ा catastrophic risk पैदा नहीं करते। ASL-3 उन models पर लागू होता है जो बुनियादी technical background वाले लोगों को CBRN हथियार बनाने में काफ़ी मदद कर सकते हैं, और इसके लिए ज़्यादा मज़बूत security और targeted deployment protections चाहिए। Anthropic ने ASL-3 protections पहली बार मई 2025 में Claude Opus 4 के release के साथ सक्रिय किए। RSP v3.0 (24 फ़रवरी 2026) ने policy को नए सिरे से लिखा: अब यह बढ़ते हुए ASL tiers या pause commitment तय नहीं करती, लेकिन ASL-3 safeguards बनाए रखती है और Risk Reports जोड़ती है।

दूसरे frameworks

OpenAI का Preparedness Framework (पहली बार दिसंबर 2023 में प्रकाशित, 2025 में संशोधित) biological और chemical capability, cybersecurity और AI self-improvement जैसी categories को track करता है, जिनमें "High" और "Critical" thresholds हैं। Google DeepMind का Frontier Safety Framework (मई 2024, तब से updated) Critical Capability Levels तय करता है और उसने harmful manipulation तथा misalignment जैसे risks जोड़े हैं। Meta, xAI, Microsoft, Amazon और दूसरों ने अपने-अपने versions प्रकाशित किए हैं।

स्वैच्छिक से अनिवार्य तक

  • EU AI Act का general-purpose AI के लिए Code of Practice (2025) सबसे सक्षम models के providers से कहता है कि वे safety and security framework बनाए रखें, systemic risks का आकलन करें और गंभीर incidents की report दें।
  • California का SB 53, जिस पर सितंबर 2025 में दस्तखत हुए, बड़े frontier developers से अपेक्षा करता है कि वे अपने safety frameworks प्रकाशित करें और critical safety incidents की report दें, और यह whistleblowers की रक्षा करता है।
  • New York का RAISE Act, जिस पर दिसंबर 2025 में हस्ताक्षर हुए और जिसे मार्च 2026 में संशोधित किया गया, ऐसी ही requirements तय करता है, जो 2027 से लागू होंगी।

आलोचनाएँ

  • Self-policing: कंपनियाँ ही नियम लिखती हैं, tests चलाती हैं और results परखती हैं, और यह सब ship करने के कड़े commercial दबाव में।
  • अस्पष्ट thresholds: "significant uplift" जैसे शब्द व्याख्या की बहुत गुंजाइश छोड़ते हैं।
  • बदलती commitments: कंपनियों ने अपने frameworks को ऐसे ढंग से संशोधित किया है कि आलोचकों के मुताबिक पहले के वादे ढीले पड़ गए, और कुछ frameworks यह छूट देते हैं कि अगर competitors मिलते-जुलते protections के बिना आगे बढ़ जाएँ तो safeguards बदले जा सकें।
  • नाज़ुक evaluations: tests खराब elicitation की वजह से model को कम आँक सकते हैं, या संभवतः इसलिए कि model sandbagging करता है।
  • संकरा दायरा: design से ही ये catastrophic risks को निशाना बनाते हैं, bias, privacy के उल्लंघन या गलत सूचना जैसे रोज़मर्रा के नुकसानों को नहीं।

समर्थक जवाब देते हैं कि ठोस, सार्वजनिक commitments न होने से बेहतर हैं, कि वे safety में निवेश का भीतरी दबाव बनाती हैं, और कि उन्होंने regulators को एक आज़माया हुआ model दिया जिस पर आगे बनाया जा सके।

← सभी शब्द
ESC