← सभी ट्रैक

लर्निंग पाथ

AI सिक्योरिटी प्रोफ़ेशनल

सिक्योरिटी टीमों के लिए पूरा रास्ता: AI ऐप्स और एजेंट्स को सुरक्षित करें, AI से बचाव करें, और इस सब पर नियंत्रण रखें।

39 पाठ · 237 मिनट बाकी

पाथ शुरू करें → चैटबॉट से एजेंट तक
  1. बुनियादी बातेंपाठ 3: चैटबॉट से एजेंट तकचैटबॉट बात करता है। एजेंट काम करता है। यही एक फर्क इस गाइड की पूरी सुरक्षा दुनिया की वजह है।शुरुआती5 मिनट का पाठ🧪 लैब📝 टेस्ट
  2. Agent सुरक्षापाठ 7: पुराने सुरक्षा नियम काम करना क्यों बंद कर देते हैंतीस साल की सुरक्षा समझ यह मानकर चलती है कि कोड और डेटा अलग-अलग चीज़ें हैं। Agents दोनों को एक ही बर्तन में डालकर मिला देते हैं।शुरुआती5 मिनट का पाठ🧪 लैब📝 टेस्ट
  3. Agent सुरक्षापाठ 8: Trust boundaryएक विचार, जिसे एक बार तय किया जाए, और जिस पर अगले पंद्रह मॉड्यूल निर्भर हैं। भरोसेमंद निर्देश कहां खत्म होते हैं और गैर-भरोसेमंद सामग्री कहां से शुरू होती है?शुरुआती6 मिनट का पाठ🧪 लैब📝 टेस्ट
  4. Agent सुरक्षापाठ 9: Prompt injection, करीब सेAI कमज़ोरियों की हर गंभीर सूची में सबसे बड़ा जोखिम। एक लाइव हमले को चरण-दर-चरण देखें और फिर बचाव चालू करें।शुरुआती6 मिनट का पाठ🧪 लैब📝 टेस्ट
  5. Agent सुरक्षापाठ 11: The lethal trifectaतीन ऐसी क्षमताएं जो अपने आप में बिल्कुल ठीक हैं। तीनों को एक ही agent में डाल दें तो आपने डेटा चोरी करने वाली मशीन बना दी है। स्विच ऑन करें और देखें।मध्यम6 मिनट का पाठ🧪 लैब📝 टेस्ट
  6. AI ऐप्लिकेशन्स को सुरक्षित करनापाठ 135: LLM ऐप्लिकेशन्स के लिए OWASP Top 10लार्ज लैंग्वेज मॉडल्स पर बने ऐप्स में दस सबसे बड़े जोखिमों की एक आम लिस्ट। हर एक को एक लाइन में समझें, और जानें कि यह कोर्स इसे कहाँ कवर करता है।मध्यम7 मिनट का पाठ🧪 लैब📝 टेस्ट
  7. AI ऐप्लिकेशन्स को सुरक्षित करनापाठ 136: AI फ़ीचर का थ्रेट मॉडलिंग करनाबनाने से पहले, डेटा कैसे फ़्लो होता है उसका मैप बनाएं, ध्यान दें कि ट्रस्ट कहाँ बदलता है, और पूछें कि क्या गलत हो सकता है। AI फ़ीचर्स के लिए यहाँ एक प्रैक्टिकल तरीका है।मध्यम8 मिनट का पाठ🧪 लैब📝 टेस्ट
  8. AI ऐप्लिकेशन्स को सुरक्षित करनापाठ 137: मॉडल आउटपुट को अनट्रस्टेड इनपुट की तरह लेंमॉडल का आउटपुट कुछ हद तक उस व्यक्ति द्वारा लिखा जाता है जिसने वह टेक्स्ट लिखा था जिसे मॉडल ने पढ़ा था। किसी भी अन्य कोड द्वारा इस्तेमाल किए जाने से पहले इसे एस्केप करें, वैलिडेट करें और अलाउ-लिस्ट करें।मध्यम8 मिनट का पाठ🧪 लैब📝 टेस्ट
  9. AI ऐप्लिकेशन्स को सुरक्षित करनापाठ 138: सिस्टम प्रॉम्प्ट लीकेज: प्रॉम्प्ट्स कोई सीक्रेट्स नहीं हैंमान कर चलें कि आपका सिस्टम प्रॉम्प्ट यूज़र्स द्वारा पढ़ा जाएगा। कीज़ और सुरक्षा नियमों को इससे बाहर रखें, और जो मायने रखता है उसे कोड में लागू करें।मध्यम6 मिनट का पाठ🧪 लैब📝 टेस्ट
  10. AI ऐप्लिकेशन्स को सुरक्षित करनापाठ 139: RAG को सुरक्षित करना: रिट्रीव किए गए दस्तावेज़ों के लिए अनुमतियाँरिट्रीवल तय करता है कि मॉडल क्या देखेगा। अगर रिट्रीवल इस बात को नज़रअंदाज़ करता है कि यूज़र कौन है, तो मॉडल खुशी-खुशी उन दस्तावेज़ों से जवाब दे देगा जिन्हें यूज़र को कभी नहीं पढ़ना चाहिए।मध्यम6 मिनट का पाठ🧪 लैब📝 टेस्ट
  11. AI ऐप्लिकेशन्स को सुरक्षित करनापाठ 140: वेक्टर स्टोर्स और एम्बेडिंग लीक्सएम्बेडिंग्स नंबरों की हानिरहित लिस्ट जैसी दिखती हैं। उनके साथ और उन्हें रखने वाले वेक्टर स्टोर के साथ उतनी ही सावधानी बरतें जितनी असली टेक्स्ट के साथ बरतते हैं।एडवांस्ड6 मिनट का पाठ🧪 लैब📝 टेस्ट
  12. AI ऐप्लिकेशन्स को सुरक्षित करनापाठ 141: अनियंत्रित खपत: डिनायल ऑफ वॉलेटहर मॉडल कॉल में पैसे लगते हैं। बिना किसी लिमिट के, एक हमलावर, एक बॉट या लूप में फंसा एक बग आपका बजट फूंक सकता है या हर किसी के लिए फ़ीचर बंद कर सकता है।मध्यम6 मिनट का पाठ🧪 लैब📝 टेस्ट
  13. AI ऐप्लिकेशन्स को सुरक्षित करनापाठ 142: AI फ़ीचर्स में गलत जानकारी और ज़रूरत से ज़्यादा भरोसामॉडल्स पूरे आत्मविश्वास के साथ गलत हो सकते हैं। खतरा तब बढ़ता है जब आपका प्रोडक्ट गलत जवाबों को भरोसेमंद दिखाता है, या जब लोग और सिस्टम बिना जांचे उन पर काम करने लगते हैं।मध्यम5 मिनट का पाठ🧪 लैब📝 टेस्ट
  14. AI ऐप्लिकेशन्स को सुरक्षित करनापाठ 143: AI रेड टीमिंग: तरीके और टूल्सरेड टीमिंग आपके अपने AI सिस्टम पर एक योजनाबद्ध हमला है ताकि दूसरों से पहले कमियों को ढूंढा जा सके। जानें कि इसका दायरा कैसे तय करें, कौन से टूल्स मदद करते हैं, और नतीजों को कैसे मापें और रिपोर्ट करें।मध्यम6 मिनट का पाठ🧪 लैब📝 टेस्ट
  15. AI ऐप्लिकेशन्स को सुरक्षित करनापाठ 144: AI पाइपलाइन में सुरक्षा टेस्टिंगरेड टीमिंग से समस्याएं एक बार मिलती हैं। आपकी बिल्ड पाइपलाइन उन्हें ठीक रखती है। कमियों को टेस्ट्स में बदलें, जिन चीज़ों पर आप निर्भर हैं उन्हें स्कैन करें, और जब भी मॉडल बदले दोबारा टेस्ट करें।एडवांस्ड6 मिनट का पाठ🧪 लैब📝 टेस्ट
  16. AI ऐप्लिकेशन्स को सुरक्षित करनापाठ 145: प्रोडक्शन में AI ऐप्स को लॉग और मॉनिटर करनाजिस चीज़ को आपने रिकॉर्ड ही नहीं किया, उसकी आप जांच नहीं कर सकते। हर AI बातचीत के बारे में सही चीज़ें लॉग करें, उन लॉग्स में मौजूद पर्सनल डेटा को सुरक्षित रखें, और गलत इस्तेमाल पर नज़र रखें।मध्यम8 मिनट का पाठ🧪 लैब📝 टेस्ट
  17. एंटरप्राइज में एजेंटिक सुरक्षापाठ 146: शैडो AI और एजेंट इन्वेंट्रीआपकी कंपनी के लोग पहले से ही ऐसे AI टूल्स और एजेंट्स का इस्तेमाल कर रहे हैं जिन्हें आपने कभी मंज़ूरी नहीं दी। जिसे आप देख नहीं सकते उसे सुरक्षित नहीं कर सकते, इसलिए पहला काम उन्हें ढूंढना और नोट करना है।मध्यम7 मिनट का पाठ🧪 लैब📝 टेस्ट
  18. एंटरप्राइज में एजेंटिक सुरक्षापाठ 147: एजेंट की पहचान: गैर-इंसानी पहचान और कम से कम अधिकार (least privilege)हर एजेंट को अपने नाम से लॉग इन करना चाहिए, कम समय के क्रेडेंशियल्स के साथ और सिर्फ़ उन अनुमतियों के साथ जिनकी उसके काम को ज़रूरत है। इंसानों के शेयर्ड अकाउंट्स और हमेशा चलने वाली कीज़ हर गलती को एक रहस्य बना देती हैं।एडवांस्ड5 मिनट का पाठ🧪 लैब📝 टेस्ट
  19. एंटरप्राइज में एजेंटिक सुरक्षापाठ 148: डेलिगेटेड एक्सेस: यूज़र्स की तरफ से काम करनाजब कोई एजेंट किसी व्यक्ति के लिए काम करता है, तो उसके पास उस व्यक्ति की ही अनुमतियाँ होनी चाहिए, जो और भी सीमित हों, कभी बढ़ाई न गई हों। OAuth स्कोप्स, सहमति और ऑडिट इसे सच बनाते हैं।एडवांस्ड6 मिनट का पाठ🧪 लैब📝 टेस्ट
  20. एंटरप्राइज में एजेंटिक सुरक्षापाठ 149: MCP सर्वर्स और क्लाइंट्स को मज़बूत करनाModel Context Protocol एजेंट्स में टूल्स को जोड़ना आसान बनाता है। वही आसानी इसका जोखिम है। यहाँ बताया गया है कि अपना डेटा गंवाए बिना किसी कंपनी में MCP कैसे चलाएं।एडवांस्ड7 मिनट का पाठ🧪 लैब📝 टेस्ट
  21. एंटरप्राइज में एजेंटिक सुरक्षापाठ 150: टूल पॉइज़निंग और रग पुल्सटूल का विवरण मॉडल द्वारा निर्देशों की तरह पढ़ा जाता है। हमलावर वहाँ गुप्त आदेश छिपा देते हैं, या आपके मंज़ूर करने के बाद किसी भरोसेमंद टूल को बदल देते हैं। यहाँ बताया गया है कि दोनों को कैसे पकड़ा जाए।एडवांस्ड6 मिनट का पाठ🧪 लैब📝 टेस्ट
  22. एंटरप्राइज में एजेंटिक सुरक्षापाठ 151: एजेंट-टू-एजेंट प्रोटोकॉल और भरोसाअलग-अलग टीमों और कंपनियों के एजेंट्स अब एक-दूसरे से सीधे बात करने लगे हैं। किसी दूसरे एजेंट का हर मैसेज अनट्रस्टेड इनपुट होता है, चाहे वह कितना भी सही क्यों न लगे।एडवांस्ड5 मिनट का पाठ🧪 लैब📝 टेस्ट
  23. एंटरप्राइज में एजेंटिक सुरक्षापाठ 152: ब्राउज़र और कंप्यूटर-यूज़ एजेंट्सजो एजेंट्स किसी इंसान की तरह क्लिक, टाइप और स्क्रॉल करते हैं, वे लॉग-इन किए गए ब्राउज़र की हर चीज़ तक पहुँच सकते हैं। उनके द्वारा पढ़ा जाने वाला हर पेज एक संभावित हमलावर हो सकता है।एडवांस्ड6 मिनट का पाठ🧪 लैब📝 टेस्ट
  24. एंटरप्राइज में एजेंटिक सुरक्षापाठ 153: कोडिंग एजेंट्स: सीक्रेट्स, पैकेज और पुल रिक्वेस्ट्सकोडिंग एजेंट्स आपका कोड पढ़ते हैं, कमांड्स चलाते हैं और पुल रिक्वेस्ट्स खोलते हैं। उनका सामना इश्यूज़ और डिपेंडेंसीज़ में मौजूद अनट्रस्टेड टेक्स्ट से होता है, और वे आपके सीक्रेट्स तक पहुँच सकते हैं। यहाँ बताया गया है कि उन्हें सुरक्षित रूप से कैसे इस्तेमाल करें।एडवांस्ड6 मिनट का पाठ🧪 लैब📝 टेस्ट
  25. एंटरप्राइज में एजेंटिक सुरक्षापाठ 154: बिज़नेस वर्कफ़्लो में एजेंट्स: पेमेंट्स, ईमेल और टिकट्सफाइनेंस, HR और सपोर्ट डेस्क वाले एजेंट्स पैसों और लोगों के डेटा से जुड़े काम करते हैं। पुराने बिज़नेस कंट्रोल्स, जैसे maker-checker और अप्रूवल लिमिट्स, यहाँ भी अच्छा काम करते हैं अगर आप उन्हें एजेंट्स पर भी लागू करें।मध्यम6 मिनट का पाठ🧪 लैब📝 टेस्ट
  26. एंटरप्राइज में एजेंटिक सुरक्षापाठ 155: एजेंट्स के लिए रनटाइम सिक्योरिटी: पॉलिसीज़ और गेटवेज़प्रॉम्प्ट में लिखे नियमों को बातों में उलझाकर तोड़ा जा सकता है। लेकिन एजेंट और उसके टूल्स के बीच गेटवे द्वारा लागू किए गए नियमों को नहीं। यहाँ जानें कि उस लेयर को कैसे बनाया जाए।एडवांस्ड7 मिनट का पाठ🧪 लैब📝 टेस्ट
  27. एंटरप्राइज में एजेंटिक सुरक्षापाठ 156: एजेंटिक सिस्टम्स के लिए इंसिडेंट रिस्पॉन्सपिछले पाठ में पहले दस मिनट के बारे में बताया गया था। यह पाठ इसे एक कंपनी प्लेबुक में बदलता है: रोल्स, स्टेप्स, सबूत, क्लीन-अप और अभ्यास के लिए एक टेबलटॉप एक्सरसाइज़।एडवांस्ड6 मिनट का पाठ🧪 लैब📝 टेस्ट
  28. एंटरप्राइज में एजेंटिक सुरक्षापाठ 157: एजेंट्स पर नियंत्रण: अप्रूवल्स, ऑडिट्स और जवाबदेहीसिक्योरिटी कंट्रोल्स के इर्द-गिर्द एक प्रोसेस की ज़रूरत होती है: एजेंट को कौन मंज़ूरी देता है, यह कितना जोखिम भरा है, इसका ज़िम्मेदार कौन है, और महीनों बाद आप कैसे चेक करते हैं कि यह अभी भी सुरक्षित है।मध्यम6 मिनट का पाठ🧪 लैब📝 टेस्ट
  29. मॉडल और डेटा सिक्योरिटीपाठ 169: Adversarial examples: मॉडल को बेवकूफ़ बनानाइनपुट में एक छोटा, सोच-समझकर किया गया बदलाव मॉडल के जवाब को पूरी तरह बदल सकता है। जानें कि ऐसा क्यों होता है, यह कहाँ मायने रखता है, और बचाव के उपाय वास्तव में क्या हासिल करते हैं।मध्यम7 मिनट का पाठ🧪 लैब📝 टेस्ट
  30. मॉडल और डेटा सिक्योरिटीपाठ 170: डेटा पॉइज़निंग और बैकडोर्सअगर हमलावर उस चीज़ को बदल सकते हैं जिससे मॉडल सीखता है, तो वे उसके व्यवहार को भी बदल सकते हैं। जानें कि पॉइज़निंग और छिपे हुए ट्रिगर्स कैसे काम करते हैं, और अपने डेटा की सुरक्षा कैसे करें।मध्यम5 मिनट का पाठ🧪 लैब📝 टेस्ट
  31. मॉडल और डेटा सिक्योरिटीपाठ 171: मॉडल्स और ट्रेनिंग डेटा की चोरीAPI के पीछे मौजूद मॉडल खुद को और उस डेटा को लीक कर सकता है जिससे उसने सीखा है। model extraction, membership inference और memorisation के बारे में जानें, और उन कंट्रोल्स के बारे में जो इन्हें कम करते हैं।एडवांस्ड6 मिनट का पाठ🧪 लैब📝 टेस्ट
  32. मॉडल और डेटा सिक्योरिटीपाठ 172: कोड रन करने वाली मॉडल फ़ाइलें: pickle और safetensorsकुछ मॉडल फ़ाइल फ़ॉर्मैट लोड करते ही कोड रन कर सकते हैं। जानें कि ऐसा क्यों होता है, और मॉडल्स को सुरक्षित रूप से कैसे लोड करें।मध्यम5 मिनट का पाठ🧪 लैब📝 टेस्ट
  33. मॉडल और डेटा सिक्योरिटीपाठ 173: Provenance: मॉडल्स को साइन करना और AI bill of materialsजिस मॉडल को आप ट्रेस नहीं कर सकते, उस पर भरोसा नहीं किया जा सकता। हैश, साइनिंग, बिल्ड प्रोवेनेंस और AI bill of materials के बारे में जानें।एडवांस्ड7 मिनट का पाठ🧪 लैब📝 टेस्ट
  34. मॉडल और डेटा सिक्योरिटीपाठ 174: ट्रेनिंग और फ़ाइन-ट्यूनिंग पाइपलाइन को सुरक्षित करनाआपके मॉडल को तैयार करने वाली पाइपलाइन हमलावरों का एक बड़ा निशाना होती है। डेटा, कंप्यूट, सीक्रेट्स, चेकपॉइंट्स और रिलीज़ को सुरक्षित करना सीखें।एडवांस्ड5 मिनट का पाठ🧪 लैब📝 टेस्ट
  35. मॉडल और डेटा सिक्योरिटीपाठ 175: प्राइवेसी-प्रिज़र्विंग मशीन लर्निंगDifferential privacy, federated learning, anonymisation और synthetic data: इनमें से हर एक वास्तव में क्या सुरक्षित रखता है, और इसकी क्या क़ीमत चुकानी पड़ती है।एडवांस्ड5 मिनट का पाठ🧪 लैब📝 टेस्ट
  36. मॉडल और डेटा सिक्योरिटीपाठ 176: प्रॉम्प्ट्स, लॉग्स और ट्रेनिंग डेटा में पर्सनल डेटाप्रॉम्प्ट्स, लॉग्स और डेटासेट्स के ज़रिए पर्सनल डेटा AI सिस्टम में लीक हो जाता है। इसे कम करना, हटाना (redact करना), रखने की समय-सीमा तय करना और लोगों के अधिकारों का सम्मान करना सीखें।मध्यम6 मिनट का पाठ🧪 लैब📝 टेस्ट
  37. मॉडल और डेटा सिक्योरिटीपाठ 177: AI रिस्क फ़्रेमवर्क्स: NIST AI RMF और ISO/IEC 42001व्यापक रूप से उपयोग किए जाने वाले दो फ़्रेमवर्क आपको AI रिस्क से जुड़े काम को व्यवस्थित करने और दूसरों के सामने इसे साबित करने में मदद करते हैं। जानें कि वे क्या हैं और सिक्योरिटी टीमें उनका उपयोग कैसे करती हैं।एडवांस्ड5 मिनट का पाठ🧪 लैब📝 टेस्ट
  38. मॉडल और डेटा सिक्योरिटीपाठ 178: सिक्योरिटी टीमों के लिए EU AI Act और भारत के नियमसामान्य शब्दों में, AI को सुरक्षित करने वाली टीमों के लिए EU AI Act और भारत के डेटा व साइबर नियमों का क्या मतलब है। हमेशा लीगल काउंसल से मौजूदा नियमों की पुष्टि करें।एडवांस्ड6 मिनट का पाठ🧪 लैब📝 टेस्ट
  39. मॉडल और डेटा सिक्योरिटीपाठ 179: AI सिक्योरिटी प्रोग्राम चलानासब कुछ एक साथ लाएं: इन्वेंट्री, रिस्क टियर्स, पॉलिसीज़, सिक्योर डेवलपमेंट, टेस्टिंग, मॉनिटरिंग, रिस्पॉन्स और रिपोर्टिंग, साथ ही शुरू करने के लिए 90-दिन का प्लान।एडवांस्ड7 मिनट का पाठ🧪 लैब📝 टेस्ट