भारतीय भाषाओं के लिए AIमध्यमपाठ 2416 मिनट का पाठ

नैतिक तरीके से भाषा का डेटा इकट्ठा करना

भाषा का डेटा लोगों से आता है। सीखें कि सही सहमति, उचित भुगतान, प्राइवेसी और निष्पक्ष प्रतिनिधित्व के साथ टेक्स्ट और आवाज़ कैसे इकट्ठा करें, और समुदाय को वापस कैसे लौटाएं।

पाठ वीडियो में

60 सेकंड में

नैतिक तरीके से भाषा का डेटा इकट्ठा करना

भाषा का डेटा लोगों से आता है। सीखें कि सही सहमति, उचित भुगतान, प्राइवेसी और निष्पक्ष प्रतिनिधित्व के साथ टेक्स्ट और आवाज़ कैसे इकट्ठा करें, और समुदाय को वापस कैसे लौटाएं।

1/5
आसान शब्दों में
अगर आप दादी-नानी की कोई रेसिपी सीखना चाहते हैं, तो आप उनसे पूछते हैं, उनका धन्यवाद करते हैं, और उसे अपने नाम से नहीं बेचते। AI के लिए लोगों के शब्द और आवाज़ें रिकॉर्ड करना भी ऐसा ही है। आप पहले पूछते हैं, उन्हें उचित भुगतान करते हैं या धन्यवाद देते हैं, और उन्होंने जिस बात पर सहमति दी थी, उसका सम्मान करते हैं।
किसी भी डेटासेट का हर वाक्य और हर वॉइस क्लिप किसी इंसान से ही आता है। कई भारतीय भाषाओं के लिए, खासकर कम बोली जाने वाली भाषाओं के लिए, डेटा एक छोटे समुदाय से आता है जो अपने शब्दों, कहानियों और आवाज़ों के साथ आप पर भरोसा करते हैं। इसे सही तरीके से करना नैतिक रूप से भी सही है और बेहतर डेटा तैयार करने का तरीका भी है।

छह सिद्धांत

सिद्धांतव्यवहार में इसका क्या मतलब है
पूरी जानकारी के साथ सहमति (Informed consent)उस व्यक्ति की अपनी भाषा में, आसान शब्दों में समझाएं कि आप क्या इकट्ठा कर रहे हैं, क्यों कर रहे हैं, इसका इस्तेमाल कौन करेगा, कितने समय के लिए करेगा, और क्या यह पब्लिक होगा। उन्हें सवाल पूछने दें। उनकी सहमति को रिकॉर्ड करें।
मना करने की आज़ादीमालिकों, शिक्षकों या गांव के मुखिया का कोई दबाव न हो। मना करने पर या बीच में ही रुक जाने पर कोई सज़ा या नुकसान न हो।
उचित भुगतानलोगों के समय और हुनर के लिए सही और समय पर भुगतान करें, और ऐसे तरीके से करें जो उनके लिए आसान हो। ट्रांसक्राइब करने वाले और रिव्यू करने वाले कुशल कर्मी होते हैं।
प्राइवेसीसिर्फ़ वही इकट्ठा करें जिसकी आपको ज़रूरत है। नाम, फ़ोन नंबर, पते और पहचान पत्र (ID) नंबर हटा दें। डेटा को सुरक्षित रूप से स्टोर करें और इसे सीमित लोगों को ही देखने दें।
सही प्रतिनिधित्वअलग-अलग क्षेत्रों, बोलियों, लिंग, उम्र और पृष्ठभूमि के लोगों को शामिल करें, और यह भी बताएं कि किन लोगों की भागीदारी छूट गई है।
समुदाय का फ़ायदानतीजे वापस समुदाय के साथ साझा करें, योगदान देने वालों को श्रेय दें, और जहां संभव हो, ऐसा डेटा और टूल्स जारी करें जिनका उपयोग समुदाय खुद कर सके।

सहमति की एक असरदार प्रक्रिया

  1. 1

    समुदाय के साथ मिलकर योजना बनाएं

    शुरू करने से पहले स्थानीय समूहों, शिक्षकों या भाषा संगठनों से बात करें। उनसे पूछें कि वे इससे क्या उम्मीद रखते हैं।
  2. 2

    साफ़-साफ़ समझाएं

    स्थानीय भाषा का उपयोग करें, उसे लिखकर देने के साथ-साथ बोलकर भी समझाएं, और उदाहरण दें। लोगों को सोचने का समय दें।
  3. 3

    हर इस्तेमाल के लिए अलग से पूछें

    अलग-अलग विकल्प दें: रिसर्च के लिए उपयोग, किसी प्रोडक्ट में उपयोग, पब्लिक रिलीज़, वॉइस क्लोनिंग। हो सकता है लोग कुछ के लिए 'हां' कहें और कुछ के लिए 'ना'।
  4. 4

    सहमति को रिकॉर्ड और स्टोर करें

    इस बात का रिकॉर्ड रखें कि किसने, किस बात पर और कब सहमति दी थी। इसे फ़ाइल में उनके नाम से नहीं, बल्कि एक ID से डेटा से जोड़ें।
  5. 5

    सहमति वापस लेने का सम्मान करें

    सहमति वापस लेने का एक आसान तरीका दें, और आने वाले वर्ज़न से उनके डेटा को हटाने की एक वास्तविक प्रक्रिया रखें।
सावधान रहें
कुछ मामलों में अतिरिक्त सावधानी की ज़रूरत होती है: बच्चों की रिकॉर्डिंग, स्वास्थ्य संबंधी जानकारी, जाति, धर्म, राजनीतिक विचार और अन्य संवेदनशील विवरण, और ऐसे समुदाय जिन्हें पहले रिसर्च से नुकसान पहुंचा हो। भारत का डिजिटल पर्सनल डेटा प्रोटेक्शन एक्ट और इसके नियम व्यक्तिगत डेटा पर लागू होते हैं, और बच्चों के डेटा के नियम अधिक सख्त हैं। किसी वास्तविक प्रोजेक्ट के लिए कानूनी विशेषज्ञ से और रिसर्च के लिए एथिक्स कमेटी से सलाह लें।

बोलियां और निष्पक्षता

अगर आप सिर्फ़ शहरों से, किसी एक इलाके से, या सिर्फ़ उन लोगों से डेटा इकट्ठा करते हैं जो आसानी से पढ़-लिख सकते हैं, तो आपका मॉडल सिर्फ़ उनके लिए सबसे अच्छा काम करेगा और बाकी सभी के लिए खराब। पहले से योजना बनाएं कि आप किससे डेटा इकट्ठा करेंगे, इसे लिखें, और डेटासेट कार्ड में ईमानदारी से इसकी रिपोर्ट करें।
सिर्फ़ डेटा निकालना
  • बिना पूछे समुदाय का कंटेंट स्क्रैप करना
  • "यह एक अच्छे काम के लिए है" कहकर वॉलंटियर्स को कुछ भी न देना
  • अंग्रेज़ी में एक ही सहमति फ़ॉर्म, जिस पर जल्दबाज़ी में दस्तखत कराए गए हों
  • हर चीज़ हमेशा के लिए संभाल कर रखना, बस 'शायद काम आ जाए' सोचकर
समुदाय के साथ मिलकर बनाना
  • पहले पूछना और साथ मिलकर मकसद तय करना
  • उचित और समय पर भुगतान करना, और योगदानकर्ताओं को श्रेय देना
  • स्थानीय भाषा में समझाई गई सहमति, जिसमें अलग-अलग विकल्प हों
  • सिर्फ़ वही इकट्ठा करना जिसकी ज़रूरत है और जो ज़रूरी नहीं उसे हटा देना

वापस लौटाना

  • आपने जो बनाया है उसका एक सारांश समुदाय की अपनी भाषा में साझा करें।
  • अगर योगदानकर्ता और साझेदार संगठन श्रेय चाहते हैं, तो उन्हें श्रेय दें।
  • जहां योगदानकर्ताओं ने सहमति दी हो, वहां डेटा या मॉडल को ओपन लाइसेंस के तहत जारी करें।
  • यह पक्का करें कि प्रोडक्ट वास्तव में उन लोगों के काम आए जिनकी भाषा से इसने सीखा है।
नोट
ओपन डेटा और प्राइवेसी कभी-कभी एक-दूसरे के विपरीत खिंच सकते हैं। एक पब्लिक स्पीच डेटासेट कई रिसर्चर्स के लिए उपयोगी होता है, लेकिन आवाज़ से लोगों की पहचान हो सकती है और इसका क्लोनिंग के लिए गलत इस्तेमाल भी हो सकता है। योगदानकर्ताओं के साथ मिलकर तय करें कि डेटा को किस हद तक जारी किया जाए, और उन्हें चुनने का वास्तविक विकल्प दें।
यह करके देखें। किसी ऐसे भाषा प्रोजेक्ट के बारे में सोचें जिसे आप करना चाहते हैं। आप किससे डेटा इकट्ठा करेंगे? कौन छूट सकता है? समुदाय में आप सबसे पहले किससे बात करेंगे?

और देखें और पढ़ें

लैब

एक छोटे स्पीच या टेक्स्ट प्रोजेक्ट के लिए एक पन्ने का सहमति फ़ॉर्म और एक छोटी डेटा कलेक्शन योजना।

~40 min

समस्या

कल्पना करें कि आप किसानों की हेल्पलाइन के लिए स्पीच रिकॉग्निशन की जांच करने के लिए किसी एक भारतीय भाषा में रोज़मर्रा के वाक्यों की 100 छोटी वॉइस रिकॉर्डिंग इकट्ठा करेंगे।

  1. सरल अंग्रेज़ी में एक पन्ने का सहमति फ़ॉर्म लिखें (जिसे अनुवाद करके बोलकर सुनाया जाएगा)। इसमें शामिल करें: आप कौन हैं, आप डेटा क्यों इकट्ठा कर रहे हैं, क्या इकट्ठा कर रहे हैं, इसे कैसे स्टोर किया जाता है, इसका उपयोग कौन कर सकता है, आप इसे कब तक रखेंगे, भुगतान, और सहमति कैसे वापस ली जा सकती है।
  2. इनके लिए अलग-अलग टिक बॉक्स जोड़ें: टेस्टिंग में उपयोग, ट्रेनिंग में उपयोग, पब्लिक रिलीज़, और वॉइस क्लोनिंग (आप चाहें तो यह विकल्प न देने का फ़ैसला कर सकते हैं; बताएं कि क्यों)।
  3. एक छोटी योजना लिखें: कौन से ज़िले, बोलियां, लिंग और आयु वर्ग; आप उन तक कैसे पहुंचेंगे; आप भुगतान कैसे करेंगे।
  4. योगदानकर्ताओं के लिए तीन जोखिमों की सूची बनाएं और बताएं कि आप प्रत्येक को कैसे कम करेंगे।

इस लैब के लिए कोई वास्तविक डेटा इकट्ठा न करें। यह सिर्फ़ एक डिज़ाइन अभ्यास है।

आपका काम तब पूरा होगा जब

कठिन सवाल

उत्तर देखने से पहले ख़ुद जवाब देने की कोशिश करें। अगर आप इनके जवाब दे सकते हैं, तो आप पाठ समझ गए हैं।

Q1एक फ़ंडर चाहता है कि आपका स्पीच डेटासेट सार्वजनिक रूप से रिलीज़ किया जाए, लेकिन कई योगदानकर्ता पब्लिक रिलीज़ के लिए सहमत नहीं हुए। आप क्या करेंगे?दिखाएं

सहमति का सम्मान करें। सिर्फ़ उन लोगों की रिकॉर्डिंग्स रिलीज़ करें जिन्होंने पब्लिक रिलीज़ के लिए सहमति दी थी, और बाक़ियों को उन्हीं शर्तों के तहत रखें जिन पर वे सहमत हुए थे। यह बात फ़ंडर को समझाएं, और भविष्य में कलेक्शन से पहले सहमति के विकल्पों की योजना बनाएं। बाद में बिना दोबारा पूछे शर्तें बदलना भरोसा तोड़ेगा और यह क़ानून के ख़िलाफ़ भी हो सकता है।

Q2योगदानकर्ताओं को स्थानीय मज़दूरी से बहुत ज़्यादा पैसे देना भी एक समस्या क्यों बन सकता है?दिखाएं

बहुत ज़्यादा पैसे मिलने पर लोगों के लिए ना कहना या पीछे हटना मुश्किल हो सकता है, जिससे आज़ाद सहमति कमज़ोर पड़ती है। इससे समुदाय में विवाद भी पैदा हो सकता है। भुगतान उचित होना चाहिए और लोगों के समय व हुनर का सम्मान करने वाला होना चाहिए, कम्युनिटी पार्टनर्स के साथ मिलकर तय होना चाहिए, और इसका इस्तेमाल कभी भी दबाव बनाने के लिए नहीं किया जाना चाहिए।

जारी रखने के लिए कृपया साइन इन करें।

अक्सर पूछे जाने वाले सवाल

क्या सहमति के लिए किसी फ़ॉर्म पर दस्तखत होना ही काफ़ी है?

सिर्फ़ इतना काफ़ी नहीं है। सहमति पूरी जानकारी के साथ होनी चाहिए: सामने वाले को समझ आना चाहिए कि वह किस बात के लिए राज़ी हो रहा है। उनकी भाषा में बोलकर समझाएं, सवाल पूछने का मौका दें, और अलग-अलग उपयोगों के लिए अलग-अलग विकल्प दें। फ़ॉर्म तो बस सहमति को दर्ज करता है; वह समझ नहीं पैदा करता।

मुझे योगदानकर्ताओं को कितना भुगतान करना चाहिए?

इसका कोई एक नियम नहीं है। स्थानीय मज़दूरी, लगने वाले समय और कौशल, तथा आने-जाने या डेटा के खर्च को ध्यान में रखें। समुदाय के साझेदारों से पूछें कि क्या उचित रहेगा। इतना ज़्यादा भी न दें कि लोग मजबूरी में 'ना' न कह सकें, और कभी इतना कम भी न दें कि यह शोषण बन जाए।

क्या मैं वॉट्सऐप ग्रुप के मैसेज को भाषा डेटा के रूप में इस्तेमाल कर सकता हूँ?

उन्हें लिखने वाले लोगों की सहमति के बिना बिल्कुल नहीं। निजी मैसेज में व्यक्तिगत डेटा होता है और उन्हें AI ट्रेनिंग के लिए साझा नहीं किया गया था। इसके बजाय, साफ़ सहमति लेकर सीधे लोगों से डेटा मांगें।

अगर मॉडल को ट्रेन करने के बाद कोई अपनी सहमति वापस ले ले तो क्या होगा?

उनके डेटा को अपने डेटासेट से और भविष्य की ट्रेनिंग से हटा दें, और अपने सहमति फ़ॉर्म में यह साफ़ लिखें कि आप क्या वापस ले सकते हैं और क्या नहीं। पहले से ट्रेन किए जा चुके मॉडल से डेटा निकालना बहुत मुश्किल होता है, इसलिए लोगों की सहमति लेने से पहले ही इस बारे में ईमानदार रहें।

पाठ का टेस्ट

5 सवाल। पास होने और इस पाठ को पूरा करने के लिए 3 सही होने चाहिए (60%)।

टेस्ट देने और अपनी प्रोग्रेस सेव करने के लिए साइन इन करें