हार्नेस इंजीनियरिंग: वह कमरा बनाना जहाँ AI विश्वसनीय रूप से काम कर सकता है

पिछले सप्ताह, DeepSeek ने DeepSeek Harness (DSH) को ओपन-सोर्स के रूप में जारी किया, जिससे यह सार्वजनिक रूप से उपलब्ध हो गया। यह लेख हार्नेस इंजीनियरिंग का परिचय देता है, यानी AI मॉडल के आसपास ऐसा वातावरण बनाने का अनुशासन ताकि वह विश्वसनीय रूप से कार्य कर सके। एक प्रयोगशाला में रसायनज्ञ के रूपक का उपयोग करते हुए, हम तर्क देते हैं कि केवल उपकरण ही पर्याप्त नहीं हैं। संगठनों को एक पूर्ण कार्य वातावरण बनाना होगा: उपकरण, सीमाएँ, प्रक्रिया और फीडबैक। हम AI एजेंटों की तीन मौलिक कमजोरियों की पहचान करते हैं, अर्थात् भरोसे का अंधापन, गैर-निर्धारक तर्क और फीडबैक की कमी, और दिखाते हैं कि कैसे एक अच्छी तरह से डिज़ाइन किया गया हार्नेस इनमें से प्रत्येक की भरपाई करता है। व्यवहार में, हर AI परियोजना कुछ हद तक एक हार्नेस इंजीनियरिंग परियोजना होती है। उत्तर इस बात में निहित है कि प्रायिकतावादी बुद्धिमत्ता को निर्धारक व्यावसायिक कार्यों को कैसे निष्पादित कराया जाए।

खाली कमरे में शानदार रसायनज्ञ

एक शानदार रसायनज्ञ की कल्पना करें जिसे एक खाली कमरे में रखा गया है। रसायनज्ञ के पास गहरा ज्ञान है, लेकिन कोई उपकरण नहीं, कोई रसायन नहीं, कोई प्रोटोकॉल नहीं, कोई सुरक्षा उपकरण नहीं, और यह जानने का कोई तरीका नहीं कि प्रयोग सफल हुआ या नहीं। AI में API और सॉफ्टवेयर उपकरण जोड़ना कमरे में रसायन और उपकरण भरने जैसा है। उपयोगी, लेकिन फिर भी एक प्रयोगशाला नहीं। एक वास्तविक प्रयोगशाला में लेबल किए हुए रसायन, कैलिब्रेट किए गए उपकरण, मानक संचालन प्रक्रियाएँ, सुरक्षा बाधाएँ और माप प्रणालियाँ होती हैं। यही AI को यादृच्छिक उपकरण देने और उसे एक मानकीकृत प्रयोगशाला देने के बीच का अंतर है। हार्नेस इंजीनियरिंग AI एजेंटों के लिए उस प्रयोगशाला को बनाने की प्रथा है। यह एक सरल धारणा से शुरू होती है: मॉडल बुद्धिमत्ता प्रदान करता है; एक हार्नेस कार्य वातावरण प्रदान करता है जो उस बुद्धिमत्ता को एक विश्वसनीय प्रणाली में बदल देता है।

तीन कमजोरियाँ जिन्हें केवल उपकरण ठीक नहीं कर सकते

कई एंटरप्राइज़ AI विफलताएँ मॉडल को विश्वसनीयता का प्राथमिक स्रोत मानने से उपजती हैं। लेकिन एक शक्तिशाली मॉडल में भी तीन संरचनात्मक सीमाएँ होती हैं जिन्हें मॉडल की बजाय वातावरण से संबोधित किया जाना चाहिए।

भरोसे का अंधापन

AI मॉडल स्वाभाविक रूप से सूचना के भरोसे के स्तर को नहीं समझते। मॉडल के लिए, वर्तमान में लागू क़ानून और उस क़ानून पर चर्चा करने वाली एक यादृच्छिक फोरम पोस्ट, दोनों केवल पाठ हैं। कानूनी संदर्भ में, निम्नलिखित स्रोत समतुल्य नहीं हैं: वर्तमान में लागू क़ानून; प्रासंगिक न्याय क्षेत्र में बाध्यकारी अदालती निर्णय; एक पुराना निर्णय जो पलट दिया गया है; और उस निर्णय पर चर्चा करने वाली एक फोरम पोस्ट। वित्तीय एजेंट के लिए, ऑडिट की गई वार्षिक रिपोर्ट में बताई गई आय, विश्लेषक ब्लॉग में उसी संख्या से मौलिक रूप से भिन्न है। साइबर सुरक्षा के लिए, खतरा-खुफिया ब्लॉकलिस्ट पर आया एक डोमेन, किसी फोरम में केवल नकारात्मक रूप से उल्लिखित डोमेन से भिन्न है। इसलिए एक हार्नेस को पुनर्प्राप्ति के चारों ओर एक भरोसा और सत्यापन परत जोड़नी चाहिए। उपकरणों को संरचित मेटाडेटा लौटाना चाहिए, जैसे स्रोत प्रकार, न्याय क्षेत्र, अदालत का स्तर, वैधता की स्थिति और उद्धरण इतिहास, न केवल कच्चा पाठ। इससे भी महत्वपूर्ण बात, हार्नेस नियम लागू कर सकता है: यदि कोई निष्कर्ष केस-लॉ पर निर्भर है, तो सत्यापित करें कि मामला पलटा नहीं गया है; यदि स्रोत विरोधाभासी हैं, तो स्वतः निष्कर्ष न निकालें; यदि केवल द्वितीयक स्रोत उपलब्ध हैं, तो भरोसा कम करें।

गैर-निर्धारक तर्क

AI तर्क सक्षम है लेकिन निर्धारक नहीं है। वही समस्या आज कार्यप्रवाह A से हल हो सकती है और कल कार्यप्रवाह B से। विचार-मंथन के लिए उस परिवर्तनशीलता उपयोगी है। परिचालन प्रणालियों के लिए, यह खतरनाक है। एक कानूनी ड्यू-डिलिजेंस कार्य पर विचार करें। एक बार कठोर मार्ग का अनुसरण कर सकता है: न्याय क्षेत्र की पहचान, कानून खोजना, मामले खोजना, वैधता जाँचना और सारांशित करना। दूसरी बार सामान्य वेब खोज पर कूद सकता है, एक लेख खोज सकता है, एक उत्तर का अनुमान लगा सकता है और केवल एक मामला खोज सकता है। दोनों बुद्धिमान लग सकते हैं, लेकिन वे समान आश्वासन नहीं देते। हार्नेस इंजीनियरिंग AI तर्क को समाप्त किए बिना प्रक्रिया को नियंत्रित करती है। सिद्धांत यह है कि AI को हर बार कार्यप्रवाह का आविष्कार करने के बजाय नियंत्रित कार्यप्रवाह के भीतर तर्क करने दिया जाए। AI फिर भी तय करता है कि कौन-से कीवर्ड खोजने हैं, कौन-से अंश प्रासंगिक हैं और साक्ष्य कैसे जुड़ते हैं। लेकिन यह चुपचाप अनिवार्य चरणों को नहीं छोड़ सकता। यह बिना सीमा वाले तर्क के बजाय सीमित तर्क देता है, जैसे किसी वैज्ञानिक को एक प्रोटोकॉल देना जो सुनिश्चित करता है कि कुछ जाँचें हमेशा होती हैं, बिना हर विचार को निर्धारित किए।

फीडबैक की कमी

मनुष्य सीखते हैं क्योंकि उनका वातावरण उन्हें लगातार बताता है कि कुछ काम किया या नहीं। रसायनज्ञों को तापमान रीडिंग, स्पेक्ट्रोमीटर परिणाम और असफल प्रतिक्रियाएँ मिलती हैं। सॉफ्टवेयर इंजीनियरों को कंपाइलर त्रुटियाँ, यूनिट टेस्ट और लॉग मिलते हैं। इसके विपरीत, कई AI एजेंट उत्तर देते हैं और रुक जाते हैं। उन्हें लगभग कोई समतुल्य संकेत नहीं मिलता। हार्नेस को मशीन-पठनीय फीडबैक बनाना चाहिए। एक कानूनी एजेंट के लिए, पूर्ववर्ती मामले पुनर्प्राप्त करने के बाद, सिस्टम स्वतः पूछ सकता है कि क्या मामले सही न्याय क्षेत्र से आए, क्या वे अभी भी वैध हैं, क्या पुनर्प्राप्त किए गए अंश वास्तव में दावा किए गए प्रस्ताव का समर्थन करते हैं, क्या बाद के मामले उनका खंडन करते हैं, और क्या हर महत्वपूर्ण निष्कर्ष का एक आधिकारिक उद्धरण है। ये जाँचें उपकरणों, नियमों, डेटाबेस या अलग AI मूल्यांककों द्वारा की जा सकती हैं। वास्तुकला इस पैटर्न से बदलती है कि एजेंट कार्य करता है और मनुष्य सब कुछ जाँचता है, से: एजेंट कार्य करता है, वातावरण साक्ष्य उत्पन्न करता है, मूल्यांकक परिणाम जाँचता है, एजेंट फीडबैक प्राप्त करता है, और एजेंट पाठ्यक्रम सुधारता है।

एक हार्नेस के चार कार्य

एक व्यावहारिक हार्नेस को चार घटकों के माध्यम से वर्णित किया जा सकता है। उपकरण हैं साधन: खोज इंजन, डेटाबेस, कैलकुलेटर और API। सीमाएँ सुरक्षा परिधि को परिभाषित करती हैं: कौन-से कार्यों की अनुमति है, कौन-से डेटा तक पहुँचा जा सकता है और कौन-से निर्णय स्वायत्त रूप से लिए जा सकते हैं। प्रक्रिया कार्यप्रवाह को एन्कोड करती है: अनिवार्य चरण, सत्यापन द्वार और निर्णय नियम जो खुले-अंत तर्क को दोहराई जाने वाली प्रक्रिया में बदलते हैं। फीडबैक संकेत प्रदान करता है, जैसे स्वचालित जाँच, भरोसा स्कोर और विरोधाभास पहचान, जो एजेंट को मनुष्य की प्रतीक्षा किए बिना पाठ्यक्रम सुधारने की अनुमति देता है। एक शक्तिशाली AI बिना हार्नेस के एक खाली कमरे में शानदार रसायनज्ञ है। उसे API देना कमरे में रसायन और उपकरण भरना है। हार्नेस इंजीनियरिंग असली प्रयोगशाला बनाना है: लेबल किए हुए रसायन, कैलिब्रेट किए गए उपकरण, मानक संचालन प्रक्रियाएँ, सुरक्षा बाधाएँ और कुछ गलत होने पर अलार्म।

ह्यूमन-इन-द-लूप से ह्यूमन-ऑन-एक्सेप्शन तक

हार्नेस इंजीनियरिंग का लक्ष्य आवश्यक रूप से मनुष्य को लूप से बाहर रखना नहीं है। यह मानव का ध्यान केवल वहीं केंद्रित करना है जहाँ सिस्टम स्वयं अनिश्चितता का समाधान नहीं कर सकता। उदाहरण के लिए, जब भरोसा 95% हो और सभी सत्यापन पारित हो जाएँ, तो स्वतः जारी रखें। जब भरोसा 72% हो और स्रोत विरोधाभासी हों, तो एजेंट फिर से खोज करता है। जब भरोसा 45% हो और कानूनी अस्पष्टता अनसुलझी हो, तो मनुष्य को भेजें। यह ह्यूमन-इन-द-लूप को ह्यूमन-ऑन-एक्सेप्शन में बदल देता है। यह निरंतर मानवीय समीक्षा की बाधा को कम करता है जबकि उच्च-जोखिम या अस्पष्ट मामलों के लिए निगरानी बनाए रखता है। परिणाम एक ऐसी प्रणाली है जो नियंत्रण का त्याग किए बिना विस्तार करती है।

प्रबंधकीय निहितार्थ

अधिकारियों के लिए, निहितार्थ स्पष्ट है। एंटरप्राइज़ AI का कठिन हिस्सा अब केवल मॉडल को अधिक स्मार्ट बनाना नहीं है। यह मॉडल के आसपास के वातावरण को इंजीनियर करना है ताकि एक प्रायिकतावादी बुद्धिमत्ता निर्धारक व्यावसायिक कार्यों का समर्थन कर सके। निवेश को तदनुसार बदलना चाहिए, कार्यप्रवाह डिज़ाइन, सत्यापन अवसंरचना, फीडबैक तंत्र और शासन सीमाओं की ओर, केवल मॉडल चयन की ओर नहीं। व्यावसायिक संदेश स्पष्ट है: मॉडल बुद्धिमत्ता प्रदान करते हैं, उपकरण क्षमता प्रदान करते हैं, और हार्नेस विश्वसनीयता प्रदान करते हैं। अधिक तकनीकी रूप से, हार्नेस इंजीनियरिंग प्रायिकतावादी AI तर्क को सीमित, मापने योग्य और दोहराए जा सकने वाले कार्यप्रवाहों में बदल देती है। जो संगठन इस अनुशासन में महारत हासिल करते हैं, वे AI एजेंटों को प्रायोगिक सहायकों के रूप में नहीं, बल्कि मुख्य व्यावसायिक प्रक्रियाओं के विश्वसनीय घटकों के रूप में तैनात कर पाएँगे।

स्रोतः Data Matters, in AI era. (Antony)

लेखक प्रोफ़ाइलः