जब AI में गड़बड़ी होती है तो जवाबदेह कौन होता है
जब कोई AI सिस्टम नुकसान पहुंचाता है, तो “यह कंप्यूटर ने किया” कोई जवाब नहीं है। जवाबदेही (accountability) का मतलब है यह जानना कि फैसले कौन लेता है, कौन जांच करता है और समस्याओं की शिकायत कैसे की जाती है और उन्हें कैसे सुधारा जाता है।
60 सेकंड में
जब AI में गड़बड़ी होती है तो जवाबदेह कौन होता है
जब कोई AI सिस्टम नुकसान पहुंचाता है, तो “यह कंप्यूटर ने किया” कोई जवाब नहीं है। जवाबदेही (accountability) का मतलब है यह जानना कि फैसले कौन लेता है, कौन जांच करता है और समस्याओं की…
इसमें कौन शामिल है?
| पक्ष | आम ज़िम्मेदारी |
|---|---|
| मॉडल डेवलपर | मॉडल बनाना और टेस्ट करना, उसकी सीमाओं को दर्ज करना, जाने-पहचाने जोखिमों को कम करना |
| इसे लागू करने वाली कंपनी | सही टूल चुनना, इसके इस्तेमाल के लिए इसे टेस्ट करना, कर्मचारियों को ट्रेन करना, नतीजों पर नज़र रखना |
| इसका इस्तेमाल करने वाला व्यक्ति | नियमों का पालन करना, नतीजों की जांच करना, इसका गलत इस्तेमाल न करना |
| रेगुलेटर (नियामक) | नियम तय करना, समस्याओं की जांच करना, कानून लागू करना |
| ऑडिटर और शोधकर्ता | सिस्टम्स की स्वतंत्र रूप से जांच करना और समस्याओं की रिपोर्ट करना |
ह्यूमन्स इन द लूप (Humans in the loop)
- एक कर्मचारी पढ़े बिना ही हर घंटे सैकड़ों AI फैसलों को मंज़ूरी देता है
- समीक्षक यह नहीं देख सकता कि AI ने यह फैसला क्यों लिया
- AI के फैसले को बदलने या खारिज करने के लिए हतोत्साहित किया जाता है
- समीक्षकों के पास पर्याप्त समय और सही जानकारी होती है
- सिस्टम जहां संभव हो, अपने मुख्य कारणों की व्याख्या करता है
- कर्मचारियों को AI से असहमत होने पर ट्रेन किया जाता है और उनका समर्थन किया जाता है
ऑडिट: पहले और बाद में जांच करना
- 1
लॉन्च से पहले
सटीकता, पक्षपात (bias), सुरक्षा और हिफ़ाज़त के लिए वास्तविक परिस्थितियों में टेस्ट करें। - 2
दस्तावेज़ तैयार करना (डॉक्युमेंट)
लिखें कि सिस्टम किस काम के लिए है, इसकी सीमाएं क्या हैं और कौन ज़िम्मेदार है। - 3
निगरानी रखना (मॉनिटर)
असली नतीजों, शिकायतों और असामान्य पैटर्न पर नज़र रखें। - 4
स्वतंत्र समीक्षा
बाहरी विशेषज्ञों को बड़े असर वाले सिस्टम्स की जांच करने दें। - 5
सुधारें या बंद करें
समस्याओं को ठीक करें, और ज़रूरत पड़ने पर सिस्टम को बंद करने के लिए तैयार रहें।
समस्याओं की रिपोर्ट करना और उन्हें ठीक करना
- प्रभावित लोगों के पास शिकायत करने और किसी इंसान द्वारा समीक्षा (रिव्यू) कराने की मांग करने का एक स्पष्ट तरीका होना चाहिए।
- संगठनों को रिकॉर्ड रखने चाहिए ताकि समस्याओं की जांच की जा सके।
- गंभीर घटनाओं की रिपोर्ट सही अधिकारियों को दी जानी चाहिए, जहां कानूनन ऐसा करना ज़रूरी हो, और उनसे सीखे गए सबक साझा किए जाने चाहिए।
- कर्मचारी बिना किसी डर के चिंताएं जताने में सक्षम होने चाहिए।
और देखें और पढ़ें
लैब
एक AI सिस्टम के लिए जवाबदेही का नक्शा (अकाउंटेबिलिटी मैप) और घटना की योजना (इंसिडेंट प्लान)।
समस्या
किसी संगठन द्वारा इस्तेमाल किए जाने वाले AI सिस्टम को चुनें, जैसे किसी बैंक का लोन टूल, किसी स्कूल का परीक्षा-निगरानी (प्रॉक्टरिंग) टूल या किसी शहर का ट्रैफ़िक कैमरा सिस्टम।
- एक सरल जवाबदेही का नक्शा बनाएं (एक टेबल भी चलेगा): प्रत्येक पक्ष और उसकी ज़िम्मेदारी की सूची बनाएं।
- बताएं कि मानवीय निगरानी (ह्यूमन ओवरसाइट) को कैसे काम करना चाहिए: कौन किस चीज़ की समीक्षा करता है, और कब।
- एक पांच चरणों वाली घटना योजना (इंसिडेंट प्लान) लिखें: समस्याओं की रिपोर्ट कैसे की जाती है, जांच की जाती है, ठीक किया जाता है, बताया जाता है और उनसे क्या सीखा जाता है।
- तीन सवाल लिखें जो एक स्वतंत्र ऑडिटर को पूछने चाहिए।
- एक संभावित जवाबदेही के अंतराल को समझाएं और बताएं कि इसे कैसे दूर किया जाए।
आपका काम तब पूरा होगा जब
कठिन सवाल
उत्तर देखने से पहले ख़ुद जवाब देने की कोशिश करें। अगर आप इनके जवाब दे सकते हैं, तो आप पाठ समझ गए हैं।
Q1एक मानवीय समीक्षक जोड़ने से कभी-कभी जवाबदेही और खराब क्यों हो सकती है?दिखाएं
क्योंकि संगठन उस इंसान की तरफ इशारा करके उसे ज़िम्मेदार ठहरा सकता है, भले ही उस व्यक्ति के पास गलती पकड़ने का कोई वास्तविक मौका ही न रहा हो — उदाहरण के लिए, क्योंकि उनके पास हर केस के लिए केवल कुछ सेकंड थे या वे AI के कारणों को नहीं देख सकते थे। इससे दोष सबसे कमज़ोर व्यक्ति पर मढ़ दिया जाता है। असली जवाबदेही के लिए पूरे सिस्टम को इस तरह डिज़ाइन करना ज़रूरी है कि समीक्षक वास्तव में अपना काम कर सके, और उस डिज़ाइन के लिए संगठन को ज़िम्मेदार बनाए रखा जाए।
Q2जब कोई कंपनी अपने AI की खुद सावधानी से जांच करती है, तब भी स्वतंत्र ऑडिट क्यों महत्वपूर्ण होते हैं?दिखाएं
क्योंकि लोगों में स्वाभाविक रूप से अपने काम को लेकर कुछ चीज़ें अनदेखी रह जाने की गुंजाइश (ब्लाइंड स्पॉट्स) होती है और उन पर लॉन्च करने का दबाव हो सकता है। स्वतंत्र ऑडिटर एक नया नज़रिया, अलग तरीके और कम हितों का टकराव (कॉन्फ्लिक्ट ऑफ़ इंटरेस्ट) लेकर आते हैं। उनके निष्कर्ष जनता का भरोसा भी बढ़ा सकते हैं। आंतरिक जांच और स्वतंत्र ऑडिट एक साथ मिलकर सबसे अच्छा काम करते हैं।
अक्सर पूछे जाने वाले सवाल
क्या किसी AI सिस्टम को खुद कानूनी रूप से ज़िम्मेदार ठहराया जा सकता है?
आम तौर पर नहीं। कानूनी प्रणालियां लोगों और संगठनों को ज़िम्मेदार ठहराती हैं, जैसे कि डेवलपर्स, सिस्टम का इस्तेमाल करने वाली कंपनियां, या यूजर्स। इस पर बहस जारी है, लेकिन व्यावहारिक ध्यान सिस्टम के पीछे के इंसानों और संगठनों पर ही रहता है।
AI ऑडिट क्या होता है?
यह किसी AI सिस्टम की एक व्यवस्थित जांच है: यह कितनी अच्छी तरह काम करता है, क्या यह निष्पक्ष और सुरक्षित है, क्या यह नियमों का पालन करता है और क्या इसके दस्तावेज़ ठीक से तैयार किए गए हैं। ऑडिट आंतरिक रूप से या स्वतंत्र विशेषज्ञों द्वारा किए जा सकते हैं।
क्या 'ह्यूमन इन द लूप' हमेशा AI को सुरक्षित बनाता है?
नहीं। अगर इंसान जल्दबाजी में है, अप्रशिक्षित है या असहमत होने में असमर्थ है, तो यह समीक्षा सिर्फ दिखावे के लिए होती है। सार्थक निगरानी के लिए समय, जानकारी, ट्रेनिंग और अधिकार की ज़रूरत होती है।
अगर AI के किसी फैसले से मुझे नुकसान हुआ है तो मुझे क्या करना चाहिए?
संगठन से स्पष्टीकरण और किसी इंसान द्वारा समीक्षा की मांग करें, रिकॉर्ड रखें, और उनकी शिकायत प्रक्रिया का इस्तेमाल करें। अगर उससे बात न बने, तो संबंधित नियामक (रेगुलेटर) या उपभोक्ता मंच से संपर्क करें। गंभीर नुकसान के लिए, किसी योग्य कानूनी पेशेवर से बात करें।
पाठ का टेस्ट
5 सवाल। पास होने और इस पाठ को पूरा करने के लिए 3 सही होने चाहिए (60%)।