Human-in-the-Loop
यह क्यों मायने रखता है
Models गलतियाँ करते हैं, और agents गलतियों को actions में बदल सकते हैं: email भेजना, file delete करना, पैसे इधर-उधर करना। इंसानी checkpoint सबसे सरल और सबसे ज़्यादा इस्तेमाल होने वाला बचाव है। यह गलतियाँ पकड़ता है, prompt injection से होने वाले नुकसान को सीमित करता है और अहम फ़ैसलों के लिए किसी व्यक्ति को जवाबदेह रखता है।
कई जगहों पर यह एक कानूनी अपेक्षा भी है। EU AI Act की माँग है कि high-risk AI systems को असरदार इंसानी निगरानी के लिए design किया जाए (Article 14), और GDPR सिर्फ़ automated processing पर आधारित उन फ़ैसलों पर रोक लगाता है जो लोगों पर गहरा असर डालते हैं (Article 22)।
गहन अध्ययन
Human-in-the-loop (HITL) का मतलब है कि कोई व्यक्ति प्रक्रिया का हिस्सा है, सिर्फ़ उसके output को पाने वाला नहीं। AI एक बिंदु तक draft करता है, सुझाव देता है या action लेता है, और कुछ भी अहम होने से पहले एक इंसान उसे मंज़ूर करता है, बदलता है या खारिज करता है। Shell command चलाने से पहले पूछने वाला coding agent, refund का अनुरोध किसी कर्मचारी को सौंपने वाला support bot, और वह radiology tool जिसके नतीजों की पुष्टि डॉक्टर करता है, ये सब human-in-the-loop systems हैं।
यह शब्द control engineering और simulation से आया है, और machine learning में इसे उन इंसानों के लिए भी इस्तेमाल किया जाता है जो training के दौरान data को label करते हैं या outputs को rate करते हैं। आज यह ज़्यादातर AI agents की निगरानी के लिए इस्तेमाल होता है।
आम Patterns
- Approval gates: agent खास actions से पहले रुकता है और हाँ या ना का इंतज़ार करता है।
- जारी करने से पहले review: AI draft बनाता है, इंसान edit करके प्रकाशित करता है। Content, code review और कानूनी काम में आम।
- Escalation: system रोज़मर्रा के मामले संभालता है और तब काम सौंप देता है जब confidence कम हो, दाँव ऊँचे हों या user किसी इंसान से बात करना चाहे।
- Feedback और labeling: इंसान outputs को ठीक करते या rate करते हैं, और ये सुधार prompts, evaluations या training data को बेहतर बनाते हैं।
इससे जुड़े शब्द भागीदारी के कमज़ोर रूप बताते हैं। Human-on-the-loop का मतलब है कि कोई व्यक्ति नज़र रखता है और दखल दे सकता है, लेकिन हर step को मंज़ूर नहीं करता। Human-out-of-the-loop पूरी autonomy है।
यह अक्सर नाकाम क्यों होता है
Loop में मौजूद इंसान तभी बचाव है जब वह सच में ध्यान दे रहा हो।
- Automation bias: लोग उस system पर भरोसा करने लगते हैं जो आम तौर पर सही होता है, और ठीक से जाँचे बिना मंज़ूरी दे देते हैं।
- Approval fatigue: जो agent घंटे में पचास बार इजाज़त माँगता है, वह अपने user को बिना सोचे "हाँ" दबाना सिखा देता है।
- Bottlenecks: अगर हर action किसी व्यक्ति का इंतज़ार करे, तो automation से कम ही समय बचता है।
- बिना control के दोष: जिस reviewer को हर फ़ैसले के लिए कुछ seconds मिलते हैं और जाँचने की कोई असली क्षमता नहीं, वह वही बन जाता है जिसे researcher Madeleine Clare Elish ने "moral crumple zone" कहा, यानी वह जो system की नाकामियों की ज़िम्मेदारी अपने ऊपर ले लेता है।
अच्छे Checkpoints बनाना
- जोखिम के हिसाब से gate लगाइए, default से नहीं। पढ़ने और वापस लिए जा सकने वाले actions को खुलकर चलने दीजिए। उन actions के लिए मंज़ूरी माँगिए जो वापस नहीं लिए जा सकते, बाहर की ओर जाते हैं या महँगे हैं: payments, deletions, दूसरे लोगों को messages, production में बदलाव।
- Review को आसान बनाइए। धुँधला वर्णन नहीं, बल्कि diff, preview या ठीक वही command दिखाइए। व्यक्ति कुछ seconds में फ़ैसला कर सके।
- पूछने लायक चीज़ें घटाइए। Sandboxes, undo और सीमित दायरे वाली permissions ज़्यादा actions को automate करने लायक सुरक्षित बनाते हैं, ताकि बचे हुए सवालों को असली ध्यान मिले।
- Batch कीजिए और प्राथमिकता तय कीजिए। कम जोखिम वाले फ़ैसलों को साथ रखिए और अनोखे मामलों को सामने लाइए।
- Log कीजिए और sample जाँचिए। जो मंज़ूर हुआ उसे दर्ज कीजिए और एक sample का audit कीजिए, उन मामलों समेत जिन्हें system ने अकेले संभाला।
Spectrum, Switch नहीं
व्यवहार में teams भरोसा बढ़ने के साथ एक पैमाने पर आगे बढ़ती हैं: पहले AI सुझाव देता है और इंसान काम करता है, फिर AI हर step की मंज़ूरी के साथ action लेता है, फिर वह कभी-कभार की जाँच के साथ अकेले काम करता है। अच्छे systems इसे हर तरह के action के लिए अलग से तय करने देते हैं, और जब task अनजाना हो या गलती की कीमत ऊँची हो तो ज़्यादा निगरानी की ओर लौटने देते हैं।