लर्निंग पाथ
सिक्योरिटी इंजीनियर
AI एजेंट्स पर अटैक करने, उनका बचाव करने और उन्हें पूरे भरोसे के साथ शिप करने के लिए ज़रूरी हर चीज़।
25 पाठ · 132 मिनट बाकी
- बुनियादी बातेंपाठ 3: चैटबॉट से एजेंट तकचैटबॉट बात करता है। एजेंट काम करता है। यही एक फर्क इस गाइड की पूरी सुरक्षा दुनिया की वजह है।शुरुआती5 मिनट का पाठ🧪 लैब📝 टेस्ट
- बुनियादी बातेंपाठ 4: टूल्स: मॉडल को हाथ देनाटूल ऐसा कोई भी बटन है जिसे दबाने की मॉडल को इजाज़त होती है। यह देखने के लिए डायग्राम के हर हिस्से पर क्लिक करें कि भरोसा कहाँ बनता है और कहाँ टूटता है।शुरुआती6 मिनट का पाठ🧪 लैब📝 टेस्ट
- बुनियादी बातेंपाठ 5: कॉन्टेक्स्ट, मेमोरी और भूलनामॉडल के पास कोई मेमोरी नहीं होती। उसके पास कागज़ का एक पन्ना होता है जिसे हर मोड़ पर शुरू से दोबारा पढ़ा जाता है। एक बार जब आप यह समझ लेते हैं, तो कई तरह के हमलों की वजह समझ आ जाती है।शुरुआती3 मिनट का पाठ🧪 लैब📝 टेस्ट
- बुनियादी बातेंपाठ 6: जब एजेंट टीमों में काम करते हैंएक एजेंट का खतरा ऐसा है जिसका आप अंदाज़ा लगा सकते हैं। लेकिन एक-दूसरे को चिट्ठियाँ भेजते पांच एजेंट ऐसा खतरा हैं, जो आपकी नज़र रखने की क्षमता से भी ज़्यादा तेज़ी से बढ़ता है।मध्यम3 मिनट का पाठ🧪 लैब📝 टेस्ट
- Agent सुरक्षापाठ 7: पुराने सुरक्षा नियम काम करना क्यों बंद कर देते हैंतीस साल की सुरक्षा समझ यह मानकर चलती है कि कोड और डेटा अलग-अलग चीज़ें हैं। Agents दोनों को एक ही बर्तन में डालकर मिला देते हैं।शुरुआती5 मिनट का पाठ🧪 लैब📝 टेस्ट
- Agent सुरक्षापाठ 8: Trust boundaryएक विचार, जिसे एक बार तय किया जाए, और जिस पर अगले पंद्रह मॉड्यूल निर्भर हैं। भरोसेमंद निर्देश कहां खत्म होते हैं और गैर-भरोसेमंद सामग्री कहां से शुरू होती है?शुरुआती6 मिनट का पाठ🧪 लैब📝 टेस्ट
- Agent सुरक्षापाठ 9: Prompt injection, करीब सेAI कमज़ोरियों की हर गंभीर सूची में सबसे बड़ा जोखिम। एक लाइव हमले को चरण-दर-चरण देखें और फिर बचाव चालू करें।शुरुआती6 मिनट का पाठ🧪 लैब📝 टेस्ट
- Agent सुरक्षापाठ 10: Indirect injection: अदृश्य नोटहमलावर आपके agent से कभी बात नहीं करता। वे बस कहीं ऐसा नोट छोड़ देते हैं जिसे आपका agent कभी-न-कभी पढ़ेगा, और फिर वे इंतज़ार करते हैं।मध्यम6 मिनट का पाठ🧪 लैब📝 टेस्ट
- Agent सुरक्षापाठ 11: The lethal trifectaतीन ऐसी क्षमताएं जो अपने आप में बिल्कुल ठीक हैं। तीनों को एक ही agent में डाल दें तो आपने डेटा चोरी करने वाली मशीन बना दी है। स्विच ऑन करें और देखें।मध्यम6 मिनट का पाठ🧪 लैब📝 टेस्ट
- Agent सुरक्षापाठ 12: डेटा असल में बाहर कैसे निकलता हैExfiltration शायद ही कभी किसी फ़ाइल अपलोड जैसा दिखता हो। यह किसी तस्वीर, लिंक या थोड़े अजीब सर्च जैसी लग सकती है। इस चाल को समझने के लिए हर चैनल पर क्लिक करें।मध्यम5 मिनट का पाठ🧪 लैब📝 टेस्ट
- Agent सुरक्षापाठ 13: Excessive agency और blast radiusAgent से जुड़ी ज़्यादातर तबाही कोई चालाक हमले नहीं होतीं। वे एक साधारण गलती होती हैं जो किसी ऐसी परमिशन से टकरा जाती है जिसके बारे में किसी ने सोचा भी नहीं था। नीचे एक agent बनाएं और देखें कि नुकसान का आंकड़ा कैसे बढ़ता है।मध्यम7 मिनट का पाठ🧪 लैब📝 टेस्ट
- Agent सुरक्षापाठ 14: The confused deputyआपके agent के पास वे अधिकार हैं जो आपके यूज़र के पास नहीं हैं। हमलावर जो खुद कोई दरवाज़ा नहीं खोल सकता, वह बस agent से उसे खोलने के लिए कह देता है।मध्यम4 मिनट का पाठ🧪 लैब📝 टेस्ट
- Agent सुरक्षापाठ 15: सप्लाई चेन: प्लगइन्स, MCP सर्वर और स्किल्सटूल सर्वर इंस्टॉल करने का मतलब है किसी अनजान व्यक्ति को ऐसा टेक्स्ट बॉक्स थमा देना जो सीधे आपके agent के दिमाग में लिखता है। ज़्यादातर लोग इन्हें ब्राउज़र एक्सटेंशन की तरह इंस्टॉल कर लेते हैं।एडवांस्ड4 मिनट का पाठ🧪 लैब📝 टेस्ट
- Agent सुरक्षापाठ 16: Memory poisoningएक आम हमला बातचीत खत्म होते ही खत्म हो जाता है। लेकिन जो हमला लॉन्ग-टर्म मेमोरी तक पहुंच जाए, वह कभी खत्म नहीं होता।एडवांस्ड5 मिनट का पाठ🧪 लैब📝 टेस्ट
- Agent सुरक्षापाठ 17: Agents के बीच फैलने वाले हमलेजब agents आपस में बात करते हैं, तो एक ज़हरीला मैसेज उस पूरे सिस्टम में फैल सकता है जिसे भनक तक नहीं होती कि उस पर हमला हुआ है।एडवांस्ड5 मिनट का पाठ🧪 लैब📝 टेस्ट
- Agent सुरक्षापाठ 18: Sandboxing: बिना खिड़कियों वाला कमराआप एजेंट को बेवकूफ बनने से नहीं रोक सकते। लेकिन जब ऐसा हो, तब वह किस कमरे में खड़ा है, यह आप तय कर सकते हैं।मध्यम5 मिनट का पाठ🧪 लैब📝 टेस्ट
- Agent सुरक्षापाठ 19: लूप में इंसान को बनाए रखनाइंसान की मंज़ूरी वाला कदम आपका सबसे मज़बूत कंट्रोल है और इसे बिगाड़ना सबसे आसान है। सारा फर्क बस इस बात से पड़ता है कि आप डायलॉग बॉक्स कैसे लिखते हैं।शुरुआती5 मिनट का पाठ🧪 लैब📝 टेस्ट
- Agent सुरक्षापाठ 20: Guardrails, और वे कैसे लीक होते हैंफ़िल्टर, क्लासिफ़ायर और सेफ़्टी प्रॉम्प्ट्स रखना फ़ायदेमंद है। बस इस बात को लेकर ईमानदार रहें कि वे क्या हैं: वे स्पीड ब्रेकर हैं, दीवारें नहीं।मध्यम6 मिनट का पाठ🧪 लैब📝 टेस्ट
- Agent सुरक्षापाठ 21: सीक्रेट्स, पहचान और असल में एजेंट कौन हैएजेंट का हर एक्शन किसी न किसी रूप में होता है। उस पहचान को सही रखना ही ऑडिट ट्रेल और हाथ खड़े कर देने के बीच का फर्क है।एडवांस्ड5 मिनट का पाठ🧪 लैब📝 टेस्ट
- Agent सुरक्षापाठ 22: आपका एजेंट क्या कर रहा है, उस पर नज़र रखनाजिस चीज़ को आपने रिकॉर्ड ही नहीं किया, उसकी आप जांच नहीं कर सकते। एजेंट्स बहुत सारी एक्टिविटी करते हैं, और उनमें से लगभग कुछ भी डिफ़ॉल्ट रूप से लॉग नहीं होता।मध्यम5 मिनट का पाठ🧪 लैब📝 टेस्ट
- Agent सुरक्षापाठ 23: अपने ही एजेंट की रेड-टीमिंग करनाइससे पहले कि कोई और हमला करे, आप खुद हमला करें। यहाँ एक पक्की लिस्ट है जिसे आप आज दोपहर अपने सिस्टम पर चला सकते हैं।एडवांस्ड7 मिनट का पाठ🧪 लैब📝 टेस्ट
- Agent सुरक्षापाठ 24: जब सब गड़बड़ हो जाए: रिस्पॉन्स और किल स्विचमान कर चलें कि कोई घटना होगी ही। प्लान अभी लिखें, जब कहीं कोई आग नहीं लगी है और आप शांति से सोच सकते हैं।मध्यम5 मिनट का पाठ🧪 लैब📝 टेस्ट
- Agent सुरक्षापाठ 25: वे नियम जिनका हर कोई असल में ज़िक्र करता हैAI के जोखिम पर होने वाली हर गंभीर बातचीत में तीन दस्तावेज़ सामने आते हैं। यहाँ आसान भाषा में बताया गया है कि हर दस्तावेज़ किसलिए है।मध्यम7 मिनट का पाठ🧪 लैब📝 टेस्ट
- एक AGI बनाएंपाठ 66: एक्ज़ीक्यूटर को एक असली सैंडबॉक्स बनानाइस ट्यूटोरियल का एक्ज़ीक्यूटर आपकी मशीन पर आपके क्रेडेंशियल्स के साथ ऐसा कोड चलाता है जिसे हमलावर प्रभावित कर सकता है। इससे पहले कि यह आपकी किसी भी ज़रूरी चीज़ को छुए, यहाँ जानिए कि क्या बदलना ज़रूरी है।एडवांस्ड7 मिनट का पाठ🧪 लैब📝 टेस्ट
- इसे अमल में लाएंपाठ 60: प्री-फ़्लाइट चेकलिस्टइस गाइड की हर बात, ऐसी चीज़ों में समेटी गई है जिन्हें एजेंट के किसी असली चीज़ को छूने से पहले आप टिक कर सकते हैं। इसे प्रिंट करें। इस्तेमाल करें।मध्यम4 मिनट का पाठ🧪 लैब📝 टेस्ट