मॉडल और डेटा सिक्योरिटीएडवांस्डपाठ 1755 मिनट का पाठ

प्राइवेसी-प्रिज़र्विंग मशीन लर्निंग

डिफरेंशियल प्राइवेसी, फेडरेटेड लर्निंग, एनोनिमाइज़ेशन और सिंथेटिक डेटा: असल में इनमें से कौन क्या सुरक्षित रखता है, और इसकी क्या कीमत चुकानी पड़ती है।

पाठ वीडियो में

60 सेकंड में

प्राइवेसी-प्रिज़र्विंग मशीन लर्निंग

डिफरेंशियल प्राइवेसी, फेडरेटेड लर्निंग, एनोनिमाइज़ेशन और सिंथेटिक डेटा: असल में इनमें से कौन क्या सुरक्षित रखता है, और इसकी क्या कीमत चुकानी पड़ती है।

1/4
आसान शब्दों में
अगर कोई टीचर किसी भी छात्र के नंबर बताए बिना पूरी क्लास का औसत नंबर जानना चाहती है, तो वह कुछ तरकीबें आज़मा सकती है: डेटा में थोड़ा सा नॉइज़ (अतिरिक्त फेरबदल) जोड़ दे, या हर छात्र से अपने उत्तर का केवल एक हिस्सा शेयर करने को कहे। AI के लिए प्राइवेसी टूल्स भी ऐसी ही तरकीबों का इस्तेमाल करते हैं।
मॉडल लोगों से जुड़े डेटा से सीखते हैं। प्राइवेसी-प्रिज़र्विंग तकनीकें यह कोशिश करती हैं कि मॉडल लोगों की प्राइवेसी की रक्षा करते हुए भी काम के पैटर्न सीख सके। इनमें से कोई भी मुफ्त नहीं है, और न ही कोई जादू है। हर तकनीक का एक तय काम होता है।

एनोनिमाइज़ेशन बनाम स्यूडोनिमाइज़ेशन

स्यूडोनिमाइज़्ड (Pseudonymised)
  • नामों को कोड से बदल दिया जाता है, जैसे कस्टमर 48213
  • एक 'की' (key) या टेबल के ज़रिए कोड को वापस लोगों से जोड़ा जा सकता है
  • ज़्यादातर प्राइवेसी कानूनों में इसे अभी भी पर्सनल डेटा माना जाता है
एनोनिमाइज़्ड (Anonymised)
  • डेटा को आपस में मिलाकर भी, किसी की पहचान करने का कोई वाजिब तरीका नहीं बचता
  • विस्तृत (rich) डेटा के साथ इसे हासिल करना बहुत मुश्किल है
  • अगर सच में एनोनिमस है, तो अक्सर प्राइवेसी कानून के दायरे में नहीं आता

री-आइडेंटिफिकेशन (फिर से पहचान) क्यों हो जाता है

सिर्फ नाम हटा देना काफी नहीं होता। कुछ आम जानकारियां मिलकर, जैसे पिन कोड, जन्मतिथि और जेंडर, किसी एक खास व्यक्ति की ओर इशारा कर सकती हैं। रिसर्चर्स ने ऐसे डेटा सेट्स में लोगों की बार-बार पहचान की है जिन्हें एनोनिमस कहकर पब्लिश किया गया था, क्योंकि उन्होंने इसे दूसरे पब्लिक डेटा से मिला दिया। लोकेशन हिस्ट्री या खरीदारी के रिकॉर्ड जैसे डिटेल्ड डेटा को आपस में जोड़ना खास तौर पर आसान होता है।
सावधान रहें
"हमने नाम हटा दिए हैं" को स्यूडोनिमाइज़ेशन समझें, एनोनिमाइज़ेशन नहीं। किसी भी डेटा को एनोनिमस कहने से पहले उसकी ठीक से जांच करवाएं।

डिफरेंशियल प्राइवेसी (Differential privacy)

डिफरेंशियल प्राइवेसी एक गणितीय गारंटी है। इसका मतलब है कि नतीजा (कोई आंकड़ा या मॉडल) लगभग वैसा ही रहेगा, चाहे उसमें किसी एक व्यक्ति का डेटा शामिल हो या न हो। इसे बड़ी सावधानी से नापे गए रैंडम नॉइज़ को जोड़कर हासिल किया जाता है। एक सेटिंग जिसे अक्सर एप्सिलॉन (epsilon) कहा जाता है, इस समझौते (trade-off) को कंट्रोल करती है: छोटा एप्सिलॉन मतलब मज़बूत प्राइवेसी और ज़्यादा नॉइज़।
  • मॉडल ट्रेनिंग के लिए, एक आम तरीका यह है कि हर उदाहरण मॉडल को कितना बदल सकता है उसकी सीमा तय की जाती है (क्लिपिंग), और फिर ट्रेनिंग के दौरान नॉइज़ जोड़ा जाता है।
  • यह सीधे तौर पर मेंबरशिप इन्फरेंस और मेमोराइज़ेशन के जोखिमों को कम करता है।
  • यह आमतौर पर एक्यूरेसी को कम कर देता है, खास तौर पर दुर्लभ ग्रुप्स और कम दिखने वाले पैटर्न्स के लिए।
  • यह गारंटी उतनी ही अच्छी होती है जितनी अच्छी इसकी सेटिंग्स और प्राइवेसी बजट का सही हिसाब-किताब हो।

फेडरेटेड लर्निंग (Federated learning)

फेडरेटेड लर्निंग में, डेटा डिवाइसों पर या संबंधित संस्थान के पास ही रहता है। मॉडल डेटा के पास जाता है, वहीं रहकर सीखता है, और केवल मॉडल अपडेट्स ही वापस भेजे और जोड़े जाते हैं। उदाहरण के लिए, कई अस्पताल मरीज़ों के रिकॉर्ड आपस में बांटे बिना एक साझा मॉडल को ट्रेन कर सकते हैं, या फोन का कीबोर्ड हर मैसेज को सर्वर पर भेजे बिना आपकी टाइपिंग से सीख सकता है।
  • यह डेटा के आने-जाने और एक जगह इकट्ठा करने की ज़रूरत को कम करता है।
  • अपडेट्स से भी लोकल डेटा के बारे में जानकारी लीक हो सकती है, इसलिए इसे अक्सर सिक्योर एग्रीगेशन या डिफरेंशियल प्राइवेसी के साथ मिलाकर इस्तेमाल किया जाता है।
  • कोई बेईमान प्रतिभागी जानबूझकर खराब (poisoned) अपडेट भेज सकता है, इसलिए डेटा को जोड़ने (aggregation) के दौरान जांच की ज़रूरत होती है।

सिंथेटिक डेटा (Synthetic data)

फायदानुकसान / समझौता
टेस्टिंग और डेवलपमेंट के लिए असली जैसा दिखने वाला डेटा शेयर किया जा सकता हैअगर जनरेटर ने असली रिकॉर्ड याद कर लिए हैं (मेमोराइज़ कर लिए हैं), तो उनमें से कुछ आउटपुट में दिख सकते हैं
ट्रेनिंग के लिए दुर्लभ मामलों को संतुलित कर सकता हैदुर्लभ लेकिन ज़रूरी असली पैटर्न छूट सकते हैं, या यह गलत पैटर्न गढ़ सकता है
कई काम-काज में असली पर्सनल डेटा का इस्तेमाल कम करता हैयह अपने आप एनोनिमस नहीं हो जाता; इसे ऐसा मानने से पहले जांच लें

सही टूल चुनना

ज़रूरतविचार करने योग्य टूल्स
यूज़र्स के बारे में आंकड़े पब्लिश करनाडिफरेंशियल प्राइवेसी
ऐसे संगठनों के बीच ट्रेनिंग कराना जो रॉ डेटा शेयर नहीं कर सकतेफेडरेटेड लर्निंग, साथ में सिक्योर एग्रीगेशन
डेवलपर्स को टेस्ट डेटा देनासिंथेटिक डेटा (लीकेज की जांच के बाद), या मास्क्ड डेटा
स्टोर किए जाने वाले डेटा को पूरी तरह कम करनामिनिमाइज़ेशन: सबसे आसान और अक्सर सबसे असरदार विकल्प

और देखें और पढ़ें

लैब

एक छोटे खिलौना (toy) डेटासेट पर री-आइडेंटिफिकेशन की जांच और किसी एक यूज़ केस के लिए चुनी गई प्राइवेसी तकनीक का लिखित विवरण।

~25 min

समस्या

200 काल्पनिक लोगों का एक छोटा (toy) डेटासेट बनाएं जिसमें ये कॉलम हों: पिन कोड, उम्र, जेंडर और एक संवेदनशील जानकारी जैसे कि कोई बीमारी। केवल मनगढ़ंत वैल्यू का ही इस्तेमाल करें।

  1. गिनें कि कितनी पंक्तियों (rows) में पिन कोड, उम्र और जेंडर का अनोखा (unique) कॉम्बिनेशन है।
  2. डेटा को थोड़ा सामान्य (generalise) बनाएं (जैसे 20–29 का आयु वर्ग, पिन कोड के पहले 3 अंक) और दोबारा गिनती करें।
  3. "नाम हटाने" को लेकर यह प्रक्रिया क्या दर्शाती है, इस पर 3 वाक्य लिखें।
  4. अपनी कंपनी के किसी एक असली यूज़ केस के लिए, मिनिमाइज़ेशन, स्यूडोनिमाइज़ेशन, डिफरेंशियल प्राइवेसी, फेडरेटेड लर्निंग और सिंथेटिक डेटा में से किसी एक को चुनें। अपने चुनाव का कारण बताएं और इसके नुकसान (trade-off) का भी ज़िक्र करें।

प्रैक्टिस लैब

कोड में बदलाव करें और इसे रन करें। Python आपके ब्राउज़र में चलता है — हमारे सर्वर पर कुछ नहीं भेजा जाता।

आउटपुट

कोई आउटपुट नहीं। वैल्यूज़ देखने के लिए print(...) जोड़ें।

आपका काम तब पूरा होगा जब

कठिन सवाल

उत्तर देखने से पहले ख़ुद जवाब देने की कोशिश करें। अगर आप इनके जवाब दे सकते हैं, तो आप पाठ समझ गए हैं।

Q1डेटा को सामान्य (generalise) करने से कम लोग अनोखे रह गए। फिर भी यह पूरा समाधान क्यों नहीं है?दिखाएं

हमलावर के पास दूसरी जानकारियां हो सकती हैं, जैसे सटीक पता या नौकरी की जगह, जो ग्रुप के दायरे को फिर से छोटा कर सकती हैं। छोटे ग्रुप जिनमें कोई संवेदनशील जानकारी एक जैसी हो, वे फिर भी भेद खोल देते हैं: अगर किसी एक ग्रुप के हर व्यक्ति को एक ही बीमारी है, तो उस ग्रुप में होना ही बीमारी को ज़ाहिर कर देता है। इसके अलावा, डेटा को जितना ज़्यादा सामान्य किया जाएगा, वह उतना ही कम काम का रह जाएगा। जिस डेटा को आप पब्लिश करने की योजना बना रहे हैं, उसके लिए औपचारिक तरीकों और एक्सपर्ट रिव्यू की ज़रूरत होती है।

Q2किसी बहुत दुर्लभ फ्रॉड पैटर्न का पता लगाने वाले मॉडल के लिए डिफरेंशियल प्राइवेसी सही विकल्प क्यों नहीं हो सकती?दिखाएं

डिफरेंशियल प्राइवेसी इस बात को सीमित करती है कि कुछ गिने-चुने रिकॉर्ड मॉडल को कितना बदल सकते हैं। कोई दुर्लभ फ्रॉड पैटर्न सिर्फ कुछ ही रिकॉर्ड में दिख सकता है, इसलिए नॉइज़ ठीक उसी सिग्नल को छिपा सकता है जिसकी आपको ज़रूरत है। दूसरी सुरक्षाओं पर विचार करें, जैसे सख्त एक्सेस कंट्रोल और स्यूडोनिमाइज़ेशन, या एक दर्ज कारण के साथ थोड़ी कमज़ोर प्राइवेसी सेटिंग स्वीकार करें।

जारी रखने के लिए कृपया साइन इन करें।

अक्सर पूछे जाने वाले सवाल

क्या एप्सिलॉन की कोई एक सही वैल्यू होती है?

कोई एक सही नंबर नहीं होता। यह डेटा, नुकसान की संभावना, और डेटा का कितनी बार इस्तेमाल हुआ है, इस पर निर्भर करता है। एक्सपर्ट्स सही रेंज को लेकर बहस करते हैं। आपने जो वैल्यू चुनी है और क्यों चुनी है, उसे रिकॉर्ड करें और प्राइवेसी स्पेशलिस्ट्स से उसकी समीक्षा करवाएं।

क्या एन्क्रिप्शन इस समस्या को हल कर देता है?

एन्क्रिप्शन डेटा को तब सुरक्षित रखता है जब वह स्टोर होता है या भेजा जा रहा होता है। मॉडल फिर भी डिक्रिप्ट किए गए डेटा से ही सीखता है, और उसे याद रख सकता है। होमोमॉर्फिक एन्क्रिप्शन और सिक्योर एन्क्लेव जैसी रिसर्च तकनीकें कंप्यूटेशन के दौरान डेटा को सुरक्षित रखती हैं, लेकिन वे लागत और जटिलता बढ़ा देती हैं। वे डिफरेंशियल प्राइवेसी से अलग समस्या को हल करती हैं।

क्या फेडरेटेड लर्निंग अपने आप में पूरी तरह प्राइवेट होती है?

नहीं। यह रॉ डेटा को लोकल रखती है, जो कि एक बड़ा फायदा है, लेकिन मॉडल अपडेट्स से भी जानकारी ज़ाहिर हो सकती है। यह तब सबसे ज़्यादा असरदार होती है जब इसे सिक्योर एग्रीगेशन और डिफरेंशियल प्राइवेसी के साथ इस्तेमाल किया जाए।

एक छोटी टीम को शुरुआत कहां से करनी चाहिए?

मिनिमाइज़ेशन और स्यूडोनिमाइज़ेशन से शुरुआत करें: कम डेटा इकट्ठा करें, सीधी पहचान मिटाएं और एक्सेस सीमित करें। डिफरेंशियल प्राइवेसी या फेडरेटेड लर्निंग को तभी जोड़ें जब कोई खास जोखिम इस अतिरिक्त मेहनत को वाजिब ठहराता हो।

पाठ का टेस्ट

5 सवाल। पास होने और इस पाठ को पूरा करने के लिए 3 सही होने चाहिए (60%)।

टेस्ट देने और अपनी प्रोग्रेस सेव करने के लिए साइन इन करें