AI पक्षपाती (unfair) क्यों हो सकता है
अगर AI एकतरफा उदाहरणों से सीखता है, तो वह कुछ लोगों के साथ पक्षपात कर सकता है। जानें कि ऐसा कैसे होता है और आवाज़ उठाना क्यों ज़रूरी है।
60 सेकंड में
AI पक्षपाती (unfair) क्यों हो सकता है
अगर AI एकतरफा उदाहरणों से सीखता है, तो वह कुछ लोगों के साथ पक्षपात कर सकता है। जानें कि ऐसा कैसे होता है और आवाज़ उठाना क्यों ज़रूरी है।
यह कैसे होता है
| अगर उदाहरण ज़्यादातर ऐसे थे… | तो AI शायद… |
|---|---|
| एक ही तरह के चेहरे या त्वचा के रंग की तस्वीरें | दूसरे चेहरों को कम अच्छी तरह पहचाने |
| शहरी लहजे (accents) वाली आवाज़ें | गांवों के लोगों या दूसरे लहजे वाले लोगों को गलत समझे |
| अंग्रेज़ी में लिखा हुआ टेक्स्ट | भारतीय भाषाओं में कम अच्छा काम करे |
| डॉक्टर के रूप में पुरुषों की और नर्स के रूप में महिलाओं की तस्वीरें | सोचे कि सिर्फ़ पुरुष ही डॉक्टर होते हैं |
यह क्यों मायने रखता है
- सिर्फ़ एक ही समूह से उदाहरण लेना
- सिर्फ़ अपने जैसे लोगों पर ही टेस्टिंग करना
- शिकायतों को नज़रअंदाज़ करना
- कई तरह के लोगों, जगहों और भाषाओं से उदाहरण लेना
- अलग-अलग समूहों के साथ टेस्टिंग करना
- बात सुनना और समस्याओं को ठीक करना
आप आवाज़ उठा सकते हैं
- अगर कोई ऐप आपका लहज़ा या भाषा नहीं समझता है, तो यह आपकी गलती नहीं है। यह ऐप की एक कमी है।
- क्या गलत हुआ यह बताने के लिए ऐप के फ़ीडबैक या रिपोर्ट बटन का इस्तेमाल करें।
- उन AI तस्वीरों या जवाबों पर ध्यान दें जो पुरानी पक्षपाती सोच को दोहराते हैं, और उनके बारे में बात करें।
और देखें और पढ़ें
लैब
कागज़ पर आपके द्वारा बनाए गए उदाहरणों के सेट की "निष्पक्ष या पक्षपाती?" जांच।
समस्या
पेन और कागज़।
- मान लीजिए आप एक ऐसा AI बना रहे हैं जो तस्वीरों से "एक क्रिकेटर" को पहचानता है।
- उन 10 तस्वीरों की सूची बनाएं जिन्हें आप इकट्ठा करेंगे। हर एक के बारे में लिखें (कौन है, कहाँ है, किस तरह का क्रिकेट है)।
- अपनी सूची जांचें: क्या उसमें पुरुष और महिलाएं दोनों हैं? अलग-अलग उम्र के लोग हैं? अलग-अलग जगहें हैं, जैसे शहर का मैदान और गांव का खेत? क्या दिव्यांग खिलाड़ी हैं?
- अपनी सूची को दोबारा लिखें ताकि यह ज़्यादा निष्पक्ष हो, और 2 वाक्यों में लिखें कि आपने क्या बदला और क्यों।
आपका काम तब पूरा होगा जब
कठिन सवाल
उत्तर देखने से पहले ख़ुद जवाब देने की कोशिश करें। अगर आप इनके जवाब दे सकते हैं, तो आप पाठ समझ गए हैं।
Q1अगर असली दुनिया में पहले से ही पक्षपाती पैटर्न्स मौजूद हैं, तो AI द्वारा उनकी नकल करना एक समस्या क्यों है?दिखाएं
क्योंकि AI उन पक्षपाती पैटर्न्स को बहुत तेज़ी से, बहुत सारे लोगों के लिए दोहरा सकता है, और उन्हें कंप्यूटर द्वारा जांची गई "सच्चाई" जैसा दिखा सकता है। पक्षपाती सोच को बदलने में मदद करने के बजाय, यह उसे और बढ़ावा दे सकता है। इसे बनाने वालों को इस पर ध्यान देने और इसे सुधारने की ज़रूरत है।
Q2किसी ऐप को बनाने वाले यह क्यों नहीं समझ पाते कि वह पक्षपाती है?दिखाएं
अगर वे टेस्टिंग ज़्यादातर अपने जैसे लोगों पर ही करते हैं, तो उन्हें सब कुछ ठीक लगता है। समस्याएं सिर्फ़ उन लोगों के लिए सामने आती हैं जिन्हें शामिल नहीं किया गया था। इसीलिए कई अलग-अलग लोगों के साथ टेस्टिंग करना, और फ़ीडबैक सुनना, बहुत ज़रूरी है।
अक्सर पूछे जाने वाले सवाल
क्या AI जानबूझकर पक्षपात करता है?
नहीं। उसकी कोई भावनाएं या इरादे नहीं होते। वह अपने उदाहरणों से पैटर्न्स की नकल करता है। इसे बनाने और इस्तेमाल करने वाले लोगों की ज़िम्मेदारी है कि वे जांचें कि यह निष्पक्ष है या नहीं।
क्या bias को ठीक किया जा सकता है?
इसे अक्सर कम किया जा सकता है—ज़्यादा अलग-अलग तरह के उदाहरणों का इस्तेमाल करके, कई समूहों के साथ टेस्टिंग करके और समस्याओं को ठीक करके। इसे पूरी तरह हटाना मुश्किल है, इसलिए लोग लगातार जांच करते रहते हैं।
एक बच्चा इसके बारे में क्या कर सकता है?
बहुत कुछ! पक्षपाती नतीजों पर ध्यान दें, उनके बारे में बात करें, ऐप्स में फ़ीडबैक दें, और शायद एक दिन आप खुद ज़्यादा निष्पक्ष AI बनाएं।
पाठ का टेस्ट
5 सवाल। पास होने और इस पाठ को पूरा करने के लिए 3 सही होने चाहिए (60%)।