सिक्योरिटी डिफेंडर्स के लिए AIमध्यमपाठ 1586 मिनट का पाठ

डिफेंडर्स के लिए AI क्या कर सकता है और क्या नहीं

AI पढ़ने, लिखने और समझाने के लिए एक तेज़ मददगार है। यह सच का स्रोत नहीं है। समझें कि इसकी सीमा कहाँ है, और डेटा को सुरक्षित रूप से कैसे संभालना है।

✦ ट्यूटर से पूछें🧪 लैब · 20 min📝 पाठ का टेस्ट
पाठ वीडियो में

60 सेकंड में

डिफेंडर्स के लिए AI क्या कर सकता है और क्या नहीं

AI पढ़ने, लिखने और समझाने के लिए एक तेज़ मददगार है। यह सच का स्रोत नहीं है। समझें कि इसकी सीमा कहाँ है, और डेटा को सुरक्षित रूप से कैसे संभालना है।

1/6
आसान शब्दों में
कल्पना कीजिए कि पुलिस स्टेशन में एक नया हेल्पर है जो बहुत तेज़ी से पढ़ता है और साफ़-सुथरी रिपोर्ट लिखता है। बहुत काम का! लेकिन वह हेल्पर कभी-कभी अंदाज़े लगाता है और पूरे आत्मविश्वास के साथ बोलता है। इसलिए किसी को भी गिरफ्तार करने से पहले एक सीनियर अफ़सर हमेशा हर रिपोर्ट की जाँच करता है।
एक सिक्योरिटी ऑपरेशन्स सेंटर (SOC) बहुत सारे टेक्स्ट को संभालता है: अलर्ट, लॉग, टिकट, ईमेल, थ्रेट रिपोर्ट और स्क्रिप्ट। Large language models टेक्स्ट पर काम करने में माहिर होते हैं, इसलिए वे डिफेंडर्स का असली समय बचा सकते हैं। लेकिन एक मॉडल सिर्फ़ संभावित शब्दों का अनुमान लगाता है। जब तक कोई टूल उसे असली डेटा न दे, वह तथ्यों को खोजकर नहीं देखता, और तब भी वह चीज़ों में गड़बड़ी कर सकता है।

AI कहाँ मदद करता है

कामAI कैसे मदद करता हैआपको अभी भी क्या जाँचना है
समरी बनानाकिसी लंबे अलर्ट, टिकट हिस्ट्री या रिपोर्ट को एक छोटी समरी में बदल देता हैकि कोई ज़रूरी बात छूटी या बदली तो नहीं
समझानाकिसी कमांड लाइन, स्क्रिप्ट या अपरिचित लॉग फ़ील्ड को समझाता हैडॉक्युमेंटेशन या टेस्ट से उस स्पष्टीकरण का मिलान करना
क्वेरी का ड्राफ़्ट तैयार करनालॉग सर्च या डिटेक्शन रूल का पहला ड्राफ़्ट लिखता हैकि यह ठीक से चले, और जाने-पहचाने डेटा पर वही ढूँढे जो इसे ढूँढना चाहिए
रिपोर्ट का ड्राफ़्ट बनानाइंसीडेंट नोट्स, टाइमलाइन और मैनेजमेंट समरी लिखता हैसबूतों के आधार पर हर समय, नाम, नंबर और दावे की जाँच करना
अनुवाद करनाफ़िशिंग ईमेल या दूसरी भाषाओं के नोट्स का अनुवाद करता है; क्वेरी लैंग्वेज के बीच कन्वर्ज़न करता हैकिसी दूसरे तरीके या सहकर्मी के ज़रिए मुख्य अर्थ की पुष्टि करना

AI कहाँ कमज़ोर है

  • ज़मीनी हकीकत (Ground truth)। इसे नहीं पता कि आपके नेटवर्क पर असल में क्या हुआ। यह केवल आपके लॉग और टूल ही जानते हैं।
  • मनगढ़ंत इंडिकेटर्स। यह ऐसे IP एड्रेस, डोमेन, फ़ाइल हैश या मैलवेयर फ़ैमिली के नाम गढ़ सकता है जो देखने में असली लगते हैं।
  • CVE विवरण। यह वल्नरेबिलिटी ID, प्रभावित वर्ज़न और फ़िक्स को आपस में मिला सकता है। हमेशा आधिकारिक एडवाइज़री देखें।
  • हाल की घटनाएँ। इसकी ट्रेनिंग की एक कट-ऑफ तारीख होती है, इसलिए हो सकता है कि इसे नए खतरों के बारे में तब तक पता न हो जब तक कोई टूल इसे ताज़ा डेटा न दे।
  • आत्मविश्वास। यह सही होने पर और गलत होने पर, दोनों ही समय एक जैसे भरोसे के साथ बात करता है।
ख़तरा
असली कस्टमर डेटा, पासवर्ड, API keys, प्राइवेट कीज़, या अंदरूनी इंसीडेंट के विवरण कभी भी किसी पब्लिक चैटबॉट में पेस्ट न करें। केवल उन्हीं AI टूल्स का उपयोग करें जिन्हें आपके संगठन ने उस तरह के डेटा के लिए मंज़ूरी दी है। यदि आपको पक्का नहीं पता है, तो पहले अपने मैनेजर या सिक्योरिटी लीड से पूछें।

डेटा को सुरक्षित संभालना

जोखिम भरा
  • "अजीब पंक्तियों को ढूँढने" के लिए पूरा कस्टमर डेटाबेस एक्सपोर्ट पेस्ट करना
  • ऐसी कॉन्फ़िग फ़ाइल पेस्ट करना जिसमें असली API key शामिल हो
  • कंपनी के इंसीडेंट्स के लिए पर्सनल चैटबॉट अकाउंट का उपयोग करना
ज़्यादा सुरक्षित
  • कंपनी द्वारा स्वीकृत AI टूल का उपयोग करना, उसके डेटा नियमों के साथ
  • शेयर करने से पहले सीक्रेट्स और पर्सनल डेटा को हटाना या बदलना
  • नामों को छिपाकर (मास्क करके), केवल उतनी ही लॉग लाइन शेयर करना जितनी ज़रूरी हों

फ़ैसला इंसान का होता है

AI सुझाव दे सकता है, ड्राफ़्ट बना सकता है और समझा सकता है। एक तय इंसान ही फ़ैसला लेता है और ज़िम्मेदार होता है: अलर्ट बंद करना, अकाउंट ब्लॉक करना, कस्टमर को बताना, या जहाँ नियमों के तहत ज़रूरी हो वहाँ CERT-In को रिपोर्ट करना। किसी इंसीडेंट रिव्यू में "AI ने ऐसा कहा था" कभी भी स्वीकार्य कारण नहीं होता है।
  1. 1

    सबूत दें

    असली लॉग और अलर्ट डेटा पेस्ट करें या कनेक्ट करें (किसी स्वीकृत टूल में)।
  2. 2

    साफ़-साफ़ काम बताएं

    समरी बनाएं, समझाएं, ड्राफ़्ट करें। उसे कहें कि वह हर दावे के लिए सबूत दिखाए।
  3. 3

    वेरिफ़ाई करें

    अपने टूल्स और आधिकारिक स्रोतों से इंडिकेटर्स, CVEs और निष्कर्षों की जाँच करें।
  4. 4

    फ़ैसला लें और रिकॉर्ड करें

    एक इंसान निर्णय लेता है और लिखता है कि उसने ऐसा क्यों किया।
नोट
एक काम की आदत: AI से कहें कि वह हर बयान पर "सबूत से मिला" या "मेरा अंदाज़ा" का निशान लगाए। यह पूरी तरह से सही नहीं है, लेकिन इससे कमज़ोर बिंदुओं को पकड़ना आसान हो जाता है।
यह आज़माएँ। किसी चैटबॉट से एक आसान और सुरक्षित कमांड समझाने को कहें, जैसे netstat -ano। फिर उसके जवाब की जाँच आधिकारिक डॉक्युमेंटेशन से करें। क्या उसने हर फ़्लैग को सही बताया?

और देखें और पढ़ें

CERT-In (Indian Computer Emergency Response Team)Government of India · website · reading

लैब

एक पर्सनल "SOC में AI" रूल कार्ड: आप AI का उपयोग किस लिए करेंगे, आप हमेशा क्या जाँचना पसंद करेंगे, और आप कभी क्या पेस्ट नहीं करेंगे।

~20 min

समस्या

अपने लिए या अपनी टीम के लिए एक पेज का रूल कार्ड लिखें।

  1. SOC के ऐसे 5 काम लिखें जहाँ आप AI का उपयोग करेंगे (उदाहरण के लिए: टिकट की समरी बनाना, कमांड लाइन को समझाना)।
  2. हर एक के लिए लिखें कि नतीजे पर भरोसा करने से पहले आपको क्या जाँचना होगा।
  3. कम से कम 6 प्रकार के ऐसे डेटा की सूची बनाएँ जिन्हें आप कभी भी किसी पब्लिक चैटबॉट में पेस्ट नहीं करेंगे।
  4. एक सुरक्षित काम का टेस्ट करें: किसी चैटबॉट से एक आसान कमांड समझाने को कहें जैसे whoami /groups या ps aux। जवाब की तुलना आधिकारिक डॉक्युमेंटेशन से करें और किसी भी गलती को नोट करें।

आपका काम तब पूरा होगा जब

कठिन सवाल

उत्तर देखने से पहले ख़ुद जवाब देने की कोशिश करें। अगर आप इनके जवाब दे सकते हैं, तो आप पाठ समझ गए हैं।

Q1मनगढ़ंत इंडिकेटर्स को रोकने के लिए "AI से उसके स्रोत बताने को कहना" काफ़ी क्यों नहीं है?दिखाएं

एक मॉडल मनगढ़ंत स्रोत भी बना सकता है, या किसी ऐसे असली स्रोत का हवाला दे सकता है जिसमें वह बात लिखी ही न हो जिसका दावा किया गया है। संदर्भ (citations) तभी मदद करते हैं जब आप उन्हें खोलकर जाँचते हैं। इंडिकेटर्स के लिए, एकमात्र भरोसेमंद स्रोत आपकी अपनी टेलीमेट्री या कोई विश्वसनीय थ्रेट फ़ीड है जिसे आप सीधे क्वेरी करते हैं।

Q2आपका AI टूल किसी काम पर 10 में से 9 बार सही जवाब देता है। क्या यह उसे अकेले अलर्ट बंद करने देने के लिए काफ़ी है?दिखाएं

यह उस 10 में से 1 गलती के नुकसान पर निर्भर करता है। कम जोखिम वाले और आसानी से पलटे जा सकने वाले काम के लिए, सैंपलिंग और रिव्यू के साथ इसे स्वीकार किया जा सकता है। हाई-सिवेरिटी अलर्ट के लिए, एक गलत क्लोज़र का मतलब हो सकता है कि किसी बड़े हमले पर ध्यान ही न गया हो। इसलिए फ़ैसला केवल एक्यूरेसी के नंबर पर नहीं, बल्कि गंभीरता और असर पर निर्भर करता है, और हाई-सिवेरिटी फ़ैसलों में एक इंसानी रिव्यूर का होना ज़रूरी है।

जारी रखने के लिए कृपया साइन इन करें।

अक्सर पूछे जाने वाले सवाल

क्या AI, SOC एनालिस्ट्स की जगह ले लेगा?

AI काम को खत्म करने से ज़्यादा उसे बदल देता है। बार-बार पढ़ने और लिखने का काम तेज़ हो जाता है। सही फ़ैसला लेना, छानबीन करना, लोगों से बात करना और ज़िम्मेदारी लेना — इसके लिए अब भी इंसानों की ज़रूरत है। जो एनालिस्ट AI का अच्छा इस्तेमाल कर सकते हैं और उसकी सावधानी से जाँच कर सकते हैं, उनकी अहमियत और बढ़ जाती है।

कोई मॉडल मनगढ़ंत IP एड्रेस या हैश क्यों बनाएगा?

उसने टेक्स्ट में लाखों IP एड्रेस और हैश देखे हैं, इसलिए वह जानता है कि वे कैसे दिखते हैं। जब उससे ऐसा कुछ माँगा जाता है जो उसके पास नहीं है, तो वह एक असली जैसा दिखने वाला नंबर बना सकता है। वह जानबूझकर झूठ नहीं बोल रहा है; वह बस संभावित टेक्स्ट का अनुमान लगा रहा है। इसीलिए हर इंडिकेटर आपके डेटा या किसी भरोसेमंद फ़ीड से ही आना चाहिए।

क्या कंपनी का AI टूल किसी भी डेटा के लिए अपने आप सुरक्षित होता है?

नहीं। स्वीकृत टूल्स के भी नियम होते हैं: किस तरह के डेटा की अनुमति है, डेटा कहाँ स्टोर होता है, उसे कितने समय तक रखा जाता है। उन नियमों को पढ़ें और उनका पालन करें। डेटा सुरक्षा कानून, जैसे भारत का डिजिटल पर्सनल डेटा प्रोटेक्शन एक्ट 2023, और ग्राहकों के साथ आपके अनुबंध अभी भी लागू होते हैं।

क्या AI किसी मैलवेयर रिपोर्ट को पढ़कर मुझे बता सकता है कि क्या हम प्रभावित हैं?

वह रिपोर्ट से इंडिकेटर्स और तकनीकों को निकाल सकता है और उनके लिए सर्च क्वेरी तैयार कर सकता है। आप प्रभावित हैं या नहीं, यह आपके अपने टूल्स में उन सर्च को चलाने और खुद नतीजों की जाँच करने पर निर्भर करता है।

पाठ का टेस्ट

5 सवाल। पास होने और इस पाठ को पूरा करने के लिए 3 सही होने चाहिए (60%)।

टेस्ट देने और अपनी प्रोग्रेस सेव करने के लिए साइन इन करें