सिक्योरिटी डिफेंडर्स के लिए AIमध्यमपाठ 1685 मिनट का पाठ

AI security में करियर

AI security का दायरा बढ़ रहा है, और इसमें शुरुआत करने के कई रास्ते हैं। मुख्य रोल्स (roles), सीखी जाने वाली स्किल्स, और अपने काम को सुरक्षित और सही तरीके से दिखाना सीखें।

✦ ट्यूटर से पूछें🧪 लैब · 30 min📝 पाठ का टेस्ट
पाठ वीडियो में

60 सेकंड में

AI security में करियर

AI security का दायरा बढ़ रहा है, और इसमें शुरुआत करने के कई रास्ते हैं। मुख्य रोल्स (roles), सीखी जाने वाली स्किल्स, और अपने काम को सुरक्षित और सही तरीके से दिखाना सीखें।

1/6
आसान शब्दों में
एक क्रिकेट टीम में बल्लेबाज़ों, गेंदबाज़ों, एक विकेटकीपर और एक कोच की ज़रूरत होती है। सुरक्षा टीमें भी ऐसी ही होती हैं: कई रोल्स, और हर एक के लिए अलग-अलग स्किल्स। AI इस टीम में नए पद जोड़ रहा है।
AI security की नौकरियां दो क्षेत्रों को मिलाती हैं: पारंपरिक सुरक्षा, और यह समझना कि AI सिस्टम कैसे काम करते हैं और कैसे फ़ेल होते हैं। भारत में एक बड़ा सुरक्षा सेवा उद्योग है, जिसमें SOCs और मैनेज्ड सिक्योरिटी प्रोवाइडर्स शामिल हैं जो दुनिया भर के ग्राहकों को सेवाएं देते हैं, इसलिए शुरुआत करने के कई रास्ते मौजूद हैं।

जानने लायक प्रमुख रोल्स

रोलवे क्या करते हैंशुरुआत के लिए अच्छी स्किल्स
AI का इस्तेमाल करने वाला SOC analystAI हेल्पर्स की मदद से अलर्ट्स की छंटनी (triage) करना और घटनाओं की जांच करनानेटवर्किंग, ऑपरेटिंग सिस्टम, लॉग एनालिसिस, साफ़-सुथरा लिखना
Detection engineerडिटेक्शन रूल्स बनाना और टेस्ट करना, अक्सर कोड के रूप मेंक्वेरी लैंग्वेजेज़, स्क्रिप्टिंग, ATT&CK, टेस्टिंग की आदतें
AI के साथ AppSec engineerकोड रिव्यू करना, स्कैनर्स चलाना, सुरक्षित डेवलपमेंट में AI का इस्तेमाल करनाप्रोग्रामिंग, वेब सिक्योरिटी की बुनियादी समझ, कोड रिव्यू
AI security engineerAI ऐप्लिकेशन्स और एजेंट्स को सुरक्षित बनाना: परमिशन्स, डेटा, मॉनिटरिंगक्लाउड, आइडेंटिटी, ऐप्लिकेशन सिक्योरिटी, LLMs कैसे काम करते हैं
AI red teamerअनुमति लेकर, AI सिस्टम्स की कमज़ोरियों की टेस्टिंग करनाPrompt injection, थ्रेट मॉडलिंग, garak, PyRIT या promptfoo जैसे टूल्स
AI के लिए GRCAI के इस्तेमाल के लिए गवर्नेंस, रिस्क और कम्प्लायंसरिस्क फ्रेमवर्क्स जैसे NIST AI RMF, ISO/IEC 42001, पॉलिसी लिखना

सीखने लायक स्किल्स

  • नेटवर्किंग और ऑपरेटिंग सिस्टम की बुनियादी समझ: TCP/IP, DNS, HTTP, Windows और Linux कैसे काम करते हैं।
  • स्क्रिप्टिंग: छोटे-मोटे कामों को ऑटोमेट करने और लॉग्स को पार्स करने के लिए Python या PowerShell।
  • क्लाउड: कम से कम किसी एक बड़े क्लाउड में आइडेंटिटीज़, परमिशन्स और लॉगिंग।
  • LLM की बुनियादी समझ: tokens, context, tools, agents, और वे कैसे फ़ेल होते हैं।
  • थ्रेट मॉडलिंग: यह सोचना कि क्या गलत हो सकता है, जैसे STRIDE के ज़रिए।
  • कम्यूनिकेशन: इंजीनियर्स और मैनेजर्स दोनों के लिए साफ़-साफ़ रिपोर्ट्स लिखना।

एक पोर्टफोलियो बनाएं

  1. 1

    होम लैब

    अपने कंप्यूटर पर कुछ वर्चुअल मशीनें और एक मुफ़्त लॉग टूल सेटअप करें। आपने क्या बनाया, उसके बारे में लिखकर बताएं।
  2. 2

    CTFs

    कानूनी capture-the-flag प्रतियोगिताओं में भाग लें और (उनके खत्म होने के बाद) लिखें कि आपने चुनौतियों को कैसे हल किया।
  3. 3

    डिटेक्शन्स

    सैंपल डेटा पर Sigma या YARA रूल्स लिखें और टेस्ट करें, और उन्हें नोट्स के साथ शेयर करें।
  4. 4

    ओपन सोर्स

    जिन सिक्योरिटी प्रोजेक्ट्स का आप इस्तेमाल करते हैं, उनके डॉक्यूमेंटेशन, टेस्ट्स या रूल्स को बेहतर बनाएं।
  5. 5

    राइट-अप्स

    आपने क्या सीखा, उसके बारे में ब्लॉग लिखें—गलतियों को भी शामिल करें। साफ़-सुथरा लिखना एक बहुत अहम स्किल है।

सर्टिफिकेशन्स

सिक्योरिटी और क्लाउड के लिए वेंडर-स्पेसिफिक और वेंडर-न्यूट्रल सर्टिफिकेशन्स मौजूद हैं, और कुछ में अब AI भी शामिल है। किसी सर्टिफिकेशन के लिए पैसे देने से पहले यह जांच लें कि वह अप-टू-डेट है और जिन कंपनियों में आप काम करना चाहते हैं, वे उसकी कद्र करती हैं या नहीं। जो स्किल्स आप काम करके दिखा सकते हैं, वे सर्टिफिकेट्स जितनी ही मायने रखती हैं।

नैतिकता

ख़तरा
जिन सिस्टम्स के आप मालिक नहीं हैं या जिनकी टेस्टिंग की लिखित अनुमति आपके पास नहीं है, उनकी कभी भी टेस्टिंग न करें—"सीखने" या "मदद करने" के लिए भी नहीं। अपने पोर्टफोलियो में कभी भी असली क्लाइंट डेटा, अंदरूनी जानकारियां या unpatched vulnerabilities शेयर न करें। भरोसा ही सिक्योरिटी के काम की बुनियाद है; एक लापरवाह पोस्ट करियर खत्म कर सकती है।
कमज़ोर पोर्टफोलियो
  • ऐसी वेबसाइट्स के स्कैन के स्क्रीनशॉट जिन्हें टेस्ट करने की आपके पास अनुमति नहीं थी
  • नकल किए गए राइट-अप्स जिनमें अपना कोई काम न हो
  • उदाहरण के तौर पर इस्तेमाल किए गए असली क्लाइंट लॉग्स
मज़बूत पोर्टफोलियो
  • अपने खुद के तर्क के साथ होम लैब राइट-अप्स
  • सैंपल डेटा और नोट्स के साथ टेस्ट किए गए रूल्स
  • सिर्फ काल्पनिक या पब्लिक प्रैक्टिस डेटा
यह आज़माएं। टेबल में से कोई एक रोल चुनें। ऐसी तीन स्किल्स लिखें जो आपके पास पहले से हैं और दो ऐसी जिन्हें आप आगे सीखेंगे, साथ ही दोनों के लिए एक-एक छोटा प्रोजेक्ट भी सोचें।

और देखें और पढ़ें

लैब

अपने चुने हुए रोल के लिए 3 महीने का लर्निंग प्लान और एक पोर्टफोलियो प्रोजेक्ट का आइडिया।

~30 min

समस्या

AI security में अपने अगले कदमों की योजना बनाएं।

  1. इस पाठ से कोई एक रोल चुनें और लिखें कि यह आपके लिए सही क्यों है।
  2. इसके लिए ज़रूरी स्किल्स की लिस्ट बनाएं। हर एक पर मार्क करें: आती है, सीख रहे हैं, शुरू नहीं की।
  3. हर दो हफ़्ते के लिए एक छोटे लक्ष्य के साथ 3 महीने का प्लान बनाएं।
  4. एक ऐसे पोर्टफोलियो प्रोजेक्ट के बारे में बताएं जो सिर्फ आपकी अपनी लैब या काल्पनिक डेटा का इस्तेमाल करता हो, और आप उसे कैसे लिखेंगे।
  5. दो नैतिक नियम लिखें जिनका आप अपनी पूरी प्रैक्टिस में पालन करेंगे।

आपका काम तब पूरा होगा जब

कठिन सवाल

उत्तर देखने से पहले ख़ुद जवाब देने की कोशिश करें। अगर आप इनके जवाब दे सकते हैं, तो आप पाठ समझ गए हैं।

Q1AI security रोल्स में कम्यूनिकेशन स्किल्स इतनी महत्वपूर्ण क्यों हैं?दिखाएं

सिक्योरिटी से जुड़ी खोजें तभी मददगार होती हैं जब लोग उन पर कोई कदम उठाएं। आपको डेवलपर्स, मैनेजर्स और कभी-कभी ग्राहकों को अक्सर आसान भाषा में जोखिमों को समझाना होता है। AI के मामले में, आपको ईमानदारी से इसकी सीमाओं को भी समझाना होता है, ताकि लीडर्स न तो इसे नज़रअंदाज़ करें और न ही इस पर हद से ज़्यादा भरोसा करें।

Q2एक दोस्त आपसे अपना पोर्टफोलियो बनाने के लिए अपने एम्प्लॉयर के चैटबॉट को prompt injection के लिए "जल्दी से टेस्ट" करने को कहता है। आप क्या करेंगे?दिखाएं

मना कर दें, जब तक कि एम्प्लॉयर लिखित अनुमति और साफ़ दायरा न दे। आपका दोस्त किसी ऐसे सिस्टम की टेस्टिंग की अनुमति नहीं दे सकता जिसका वह मालिक नहीं है। इसके बजाय, अपना खुद का एक छोटा चैटबॉट ऐप बनाएं, या जानबूझकर कमज़ोर बनाई गई प्रैक्टिस लैब्स का इस्तेमाल करें, और उनकी टेस्टिंग करें। आपके पोर्टफोलियो में स्किल के साथ-साथ आपकी सही समझ भी दिखनी चाहिए।

जारी रखने के लिए कृपया साइन इन करें।

अक्सर पूछे जाने वाले सवाल

क्या मुझे कंप्यूटर साइंस की डिग्री की ज़रूरत है?

इससे मदद मिलती है, लेकिन कई लोग IT सपोर्ट, नेटवर्किंग, सॉफ्टवेयर डेवलपमेंट या अन्य क्षेत्रों से सिक्योरिटी में आते हैं। कंपनियां असली स्किल्स, कुछ नया सीखने की ललक और साफ़ कम्यूनिकेशन देखती हैं। एक अच्छा पोर्टफोलियो ये सब दिखा सकता है।

क्या मुझे पहले AI सीखना चाहिए या सिक्योरिटी?

पहले सिक्योरिटी की बुनियादी बातें मज़बूत करें (नेटवर्किंग, सिस्टम्स, लॉग्स), और साथ ही साथ LLM की बुनियादी बातें सीखें। AI security का ज़्यादातर काम असल में सिक्योरिटी का ही काम होता है, बस इसे एक नए तरह के सिस्टम पर लागू किया जाता है।

क्या सिक्योरिटी के क्षेत्र में आने में बहुत देर हो चुकी है क्योंकि यह सारा काम AI कर लेगा?

AI कामों को बदल रहा है, लेकिन संगठनों को अब भी जांच-पड़ताल करने, फ़ैसले लेने, डिटेक्शन्स बनाने और खुद AI सिस्टम्स को सुरक्षित करने के लिए इंसानों की ज़रूरत है। जो लोग सिक्योरिटी और AI दोनों को समझते हैं, वे बहुत अच्छी स्थिति में हैं।

क्या CTF राइट-अप्स लिखना ठीक है?

आम तौर पर हां, प्रतियोगिता खत्म होने के बाद और आयोजकों के नियमों का पालन करते हुए। पब्लिश करने से पहले नियम ज़रूर देख लें।

पाठ का टेस्ट

5 सवाल। पास होने और इस पाठ को पूरा करने के लिए 3 सही होने चाहिए (60%)।

टेस्ट देने और अपनी प्रोग्रेस सेव करने के लिए साइन इन करें