प्राइवेसी-प्रिज़र्विंग मशीन लर्निंग
डिफरेंशियल प्राइवेसी, फेडरेटेड लर्निंग, एनोनिमाइज़ेशन और सिंथेटिक डेटा: असल में इनमें से कौन क्या सुरक्षित रखता है, और इसकी क्या कीमत चुकानी पड़ती है।
60 सेकंड में
प्राइवेसी-प्रिज़र्विंग मशीन लर्निंग
डिफरेंशियल प्राइवेसी, फेडरेटेड लर्निंग, एनोनिमाइज़ेशन और सिंथेटिक डेटा: असल में इनमें से कौन क्या सुरक्षित रखता है, और इसकी क्या कीमत चुकानी पड़ती है।
एनोनिमाइज़ेशन बनाम स्यूडोनिमाइज़ेशन
- नामों को कोड से बदल दिया जाता है, जैसे कस्टमर 48213
- एक 'की' (key) या टेबल के ज़रिए कोड को वापस लोगों से जोड़ा जा सकता है
- ज़्यादातर प्राइवेसी कानूनों में इसे अभी भी पर्सनल डेटा माना जाता है
- डेटा को आपस में मिलाकर भी, किसी की पहचान करने का कोई वाजिब तरीका नहीं बचता
- विस्तृत (rich) डेटा के साथ इसे हासिल करना बहुत मुश्किल है
- अगर सच में एनोनिमस है, तो अक्सर प्राइवेसी कानून के दायरे में नहीं आता
री-आइडेंटिफिकेशन (फिर से पहचान) क्यों हो जाता है
डिफरेंशियल प्राइवेसी (Differential privacy)
- मॉडल ट्रेनिंग के लिए, एक आम तरीका यह है कि हर उदाहरण मॉडल को कितना बदल सकता है उसकी सीमा तय की जाती है (क्लिपिंग), और फिर ट्रेनिंग के दौरान नॉइज़ जोड़ा जाता है।
- यह सीधे तौर पर मेंबरशिप इन्फरेंस और मेमोराइज़ेशन के जोखिमों को कम करता है।
- यह आमतौर पर एक्यूरेसी को कम कर देता है, खास तौर पर दुर्लभ ग्रुप्स और कम दिखने वाले पैटर्न्स के लिए।
- यह गारंटी उतनी ही अच्छी होती है जितनी अच्छी इसकी सेटिंग्स और प्राइवेसी बजट का सही हिसाब-किताब हो।
फेडरेटेड लर्निंग (Federated learning)
- यह डेटा के आने-जाने और एक जगह इकट्ठा करने की ज़रूरत को कम करता है।
- अपडेट्स से भी लोकल डेटा के बारे में जानकारी लीक हो सकती है, इसलिए इसे अक्सर सिक्योर एग्रीगेशन या डिफरेंशियल प्राइवेसी के साथ मिलाकर इस्तेमाल किया जाता है।
- कोई बेईमान प्रतिभागी जानबूझकर खराब (poisoned) अपडेट भेज सकता है, इसलिए डेटा को जोड़ने (aggregation) के दौरान जांच की ज़रूरत होती है।
सिंथेटिक डेटा (Synthetic data)
| फायदा | नुकसान / समझौता |
|---|---|
| टेस्टिंग और डेवलपमेंट के लिए असली जैसा दिखने वाला डेटा शेयर किया जा सकता है | अगर जनरेटर ने असली रिकॉर्ड याद कर लिए हैं (मेमोराइज़ कर लिए हैं), तो उनमें से कुछ आउटपुट में दिख सकते हैं |
| ट्रेनिंग के लिए दुर्लभ मामलों को संतुलित कर सकता है | दुर्लभ लेकिन ज़रूरी असली पैटर्न छूट सकते हैं, या यह गलत पैटर्न गढ़ सकता है |
| कई काम-काज में असली पर्सनल डेटा का इस्तेमाल कम करता है | यह अपने आप एनोनिमस नहीं हो जाता; इसे ऐसा मानने से पहले जांच लें |
सही टूल चुनना
| ज़रूरत | विचार करने योग्य टूल्स |
|---|---|
| यूज़र्स के बारे में आंकड़े पब्लिश करना | डिफरेंशियल प्राइवेसी |
| ऐसे संगठनों के बीच ट्रेनिंग कराना जो रॉ डेटा शेयर नहीं कर सकते | फेडरेटेड लर्निंग, साथ में सिक्योर एग्रीगेशन |
| डेवलपर्स को टेस्ट डेटा देना | सिंथेटिक डेटा (लीकेज की जांच के बाद), या मास्क्ड डेटा |
| स्टोर किए जाने वाले डेटा को पूरी तरह कम करना | मिनिमाइज़ेशन: सबसे आसान और अक्सर सबसे असरदार विकल्प |
और देखें और पढ़ें
लैब
एक छोटे खिलौना (toy) डेटासेट पर री-आइडेंटिफिकेशन की जांच और किसी एक यूज़ केस के लिए चुनी गई प्राइवेसी तकनीक का लिखित विवरण।
समस्या
200 काल्पनिक लोगों का एक छोटा (toy) डेटासेट बनाएं जिसमें ये कॉलम हों: पिन कोड, उम्र, जेंडर और एक संवेदनशील जानकारी जैसे कि कोई बीमारी। केवल मनगढ़ंत वैल्यू का ही इस्तेमाल करें।
- गिनें कि कितनी पंक्तियों (rows) में पिन कोड, उम्र और जेंडर का अनोखा (unique) कॉम्बिनेशन है।
- डेटा को थोड़ा सामान्य (generalise) बनाएं (जैसे 20–29 का आयु वर्ग, पिन कोड के पहले 3 अंक) और दोबारा गिनती करें।
- "नाम हटाने" को लेकर यह प्रक्रिया क्या दर्शाती है, इस पर 3 वाक्य लिखें।
- अपनी कंपनी के किसी एक असली यूज़ केस के लिए, मिनिमाइज़ेशन, स्यूडोनिमाइज़ेशन, डिफरेंशियल प्राइवेसी, फेडरेटेड लर्निंग और सिंथेटिक डेटा में से किसी एक को चुनें। अपने चुनाव का कारण बताएं और इसके नुकसान (trade-off) का भी ज़िक्र करें।
प्रैक्टिस लैब
कोड में बदलाव करें और इसे रन करें। Python आपके ब्राउज़र में चलता है — हमारे सर्वर पर कुछ नहीं भेजा जाता।
कोई आउटपुट नहीं। वैल्यूज़ देखने के लिए print(...) जोड़ें।
आपका काम तब पूरा होगा जब
कठिन सवाल
उत्तर देखने से पहले ख़ुद जवाब देने की कोशिश करें। अगर आप इनके जवाब दे सकते हैं, तो आप पाठ समझ गए हैं।
Q1डेटा को सामान्य (generalise) करने से कम लोग अनोखे रह गए। फिर भी यह पूरा समाधान क्यों नहीं है?दिखाएं
हमलावर के पास दूसरी जानकारियां हो सकती हैं, जैसे सटीक पता या नौकरी की जगह, जो ग्रुप के दायरे को फिर से छोटा कर सकती हैं। छोटे ग्रुप जिनमें कोई संवेदनशील जानकारी एक जैसी हो, वे फिर भी भेद खोल देते हैं: अगर किसी एक ग्रुप के हर व्यक्ति को एक ही बीमारी है, तो उस ग्रुप में होना ही बीमारी को ज़ाहिर कर देता है। इसके अलावा, डेटा को जितना ज़्यादा सामान्य किया जाएगा, वह उतना ही कम काम का रह जाएगा। जिस डेटा को आप पब्लिश करने की योजना बना रहे हैं, उसके लिए औपचारिक तरीकों और एक्सपर्ट रिव्यू की ज़रूरत होती है।
Q2किसी बहुत दुर्लभ फ्रॉड पैटर्न का पता लगाने वाले मॉडल के लिए डिफरेंशियल प्राइवेसी सही विकल्प क्यों नहीं हो सकती?दिखाएं
डिफरेंशियल प्राइवेसी इस बात को सीमित करती है कि कुछ गिने-चुने रिकॉर्ड मॉडल को कितना बदल सकते हैं। कोई दुर्लभ फ्रॉड पैटर्न सिर्फ कुछ ही रिकॉर्ड में दिख सकता है, इसलिए नॉइज़ ठीक उसी सिग्नल को छिपा सकता है जिसकी आपको ज़रूरत है। दूसरी सुरक्षाओं पर विचार करें, जैसे सख्त एक्सेस कंट्रोल और स्यूडोनिमाइज़ेशन, या एक दर्ज कारण के साथ थोड़ी कमज़ोर प्राइवेसी सेटिंग स्वीकार करें।
अक्सर पूछे जाने वाले सवाल
क्या एप्सिलॉन की कोई एक सही वैल्यू होती है?
कोई एक सही नंबर नहीं होता। यह डेटा, नुकसान की संभावना, और डेटा का कितनी बार इस्तेमाल हुआ है, इस पर निर्भर करता है। एक्सपर्ट्स सही रेंज को लेकर बहस करते हैं। आपने जो वैल्यू चुनी है और क्यों चुनी है, उसे रिकॉर्ड करें और प्राइवेसी स्पेशलिस्ट्स से उसकी समीक्षा करवाएं।
क्या एन्क्रिप्शन इस समस्या को हल कर देता है?
एन्क्रिप्शन डेटा को तब सुरक्षित रखता है जब वह स्टोर होता है या भेजा जा रहा होता है। मॉडल फिर भी डिक्रिप्ट किए गए डेटा से ही सीखता है, और उसे याद रख सकता है। होमोमॉर्फिक एन्क्रिप्शन और सिक्योर एन्क्लेव जैसी रिसर्च तकनीकें कंप्यूटेशन के दौरान डेटा को सुरक्षित रखती हैं, लेकिन वे लागत और जटिलता बढ़ा देती हैं। वे डिफरेंशियल प्राइवेसी से अलग समस्या को हल करती हैं।
क्या फेडरेटेड लर्निंग अपने आप में पूरी तरह प्राइवेट होती है?
नहीं। यह रॉ डेटा को लोकल रखती है, जो कि एक बड़ा फायदा है, लेकिन मॉडल अपडेट्स से भी जानकारी ज़ाहिर हो सकती है। यह तब सबसे ज़्यादा असरदार होती है जब इसे सिक्योर एग्रीगेशन और डिफरेंशियल प्राइवेसी के साथ इस्तेमाल किया जाए।
एक छोटी टीम को शुरुआत कहां से करनी चाहिए?
मिनिमाइज़ेशन और स्यूडोनिमाइज़ेशन से शुरुआत करें: कम डेटा इकट्ठा करें, सीधी पहचान मिटाएं और एक्सेस सीमित करें। डिफरेंशियल प्राइवेसी या फेडरेटेड लर्निंग को तभी जोड़ें जब कोई खास जोखिम इस अतिरिक्त मेहनत को वाजिब ठहराता हो।
पाठ का टेस्ट
5 सवाल। पास होने और इस पाठ को पूरा करने के लिए 3 सही होने चाहिए (60%)।