इसे अमल में लाएंमध्यमपाठ 604 मिनट का पाठ

प्री-फ़्लाइट चेकलिस्ट

इस गाइड की हर बात को ऐसी चीज़ों में समेटा गया है जिन्हें आप किसी एजेंट के असली दुनिया में काम करने से पहले टिक कर सकते हैं। इसे प्रिंट करें। इसका इस्तेमाल करें।

पाठ वीडियो में

60 सेकंड में

प्री-फ़्लाइट चेकलिस्ट

इस गाइड की हर बात को ऐसी चीज़ों में समेटा गया है जिन्हें आप किसी एजेंट के असली दुनिया में काम करने से पहले टिक कर सकते हैं। इसे प्रिंट करें। इसका इस्तेमाल करें।

1/4
आसान शब्दों में
पायलट हर उड़ान से पहले ज़ोर से बोलकर एक लिस्ट पढ़ते हैं, हज़ारों उड़ानों के बाद भी। इसलिए नहीं कि वे उड़ना भूल गए — बल्कि इसलिए कि लिस्ट उन बातों को पकड़ लेती है जिनके बारे में आप पूरी तरह आश्वस्त थे।

1 · जानें कि आप क्या बना रहे हैं

  • एक वाक्य में लिखा हो: यह एजेंट किस काम के लिए है।
  • लिखा हुआ हो: वो तीन सबसे बुरे काम जो यह मुमकिन तौर पर कर सकता है।
  • नाम से तय एक इंसान इसका ज़िम्मेदार हो। कोई टीम नहीं — एक व्यक्ति।
  • Module 13 की टेबल से सोच-समझकर चुना गया एक ऑटोनॉमी लेवल।

2 · ट्राइफेक्टा की एक कड़ी काटें

  • लिस्ट किया हुआ: यह किस प्राइवेट डेटा तक पहुँच सकता है।
  • लिस्ट किया हुआ: वो हर रास्ता जिससे गैर-भरोसेमंद कंटेंट इस तक पहुँच सकता है।
  • लिस्ट किया हुआ: वो हर तरीका जिससे जानकारी बाहर जा सकती है — इमेज लोड होना और सर्च क्वेरीज़ भी शामिल।
  • कम से कम एक कड़ी जानबूझकर काटी गई हो, और लिखा हो कि कौन सी और कैसे।

3 · कम से कम अधिकार (Least privilege)

  • हर टूल के होने की एक लिखित वजह हो।
  • हर रीड सिर्फ़ उतने ही सीमित रोज़ या फ़ाइलों तक हो जितने से काम चल जाए।
  • लिखने वाला हर टूल एक तय लिस्ट में हो, और हर एक के लिए मंज़ूरी का नियम हो।
  • इसकी अपनी पहचान हो और अपने कम समय तक चलने वाले क्रेडेंशियल्स हों।
  • एंड यूज़र की पहचान हर एक्शन के साथ जाए, जो आपके कोड द्वारा जोड़ी गई हो।
  • कोई भी सीक्रेट कभी कॉन्टेक्स्ट विंडो में न आए।

4 · इसे सीमित दायरे में रखें

  • होस्ट फ़ाइलसिस्टम की पहुँच के बिना एक sandbox में चलता हो।
  • नेटवर्क इग्रेस डिफ़ॉल्ट रूप से बंद (deny-by-default) हो और सिर्फ़ allow-list को इजाज़त हो, DNS समेत।
  • सख्त सीमाएं: प्रति रन स्टेप्स, प्रति रन खर्च, और समय सीमा।
  • एनवायरनमेंट अल्पकालिक (ephemeral) हो — हर रन पर मिटाया जाए और दोबारा बनाया जाए।

5 · जहाँ ज़रूरत हो वहाँ इंसान को रखें

  • ना पलटे जा सकने वाले हर एक्शन के लिए मंज़ूरी चाहिए।
  • अप्रूवल डायलॉग में असली वैल्यूज़ दिखें, जो आपके कोड द्वारा टूल के आर्गुमेंट्स से बनाई गई हों।
  • डायलॉग यह बताए कि क्या इसे वापस पलटा जा सकता है, और जो कुछ असामान्य हो उसे फ़्लैग करे।
  • अप्रूवल की संख्या इतनी कम हो कि लोग उन्हें सच में पढ़ें।

6 · इस पर नज़र रखें

  • हर टूल कॉल आर्गुमेंट्स और उस पर असर डालने वाले सोर्स के साथ लॉग हो।
  • शामिल हर एजेंट के लिए प्रति रन एक ही कोरिलेशन आईडी हो।
  • अलर्ट्स: किसी टूल का पहली बार इस्तेमाल, अचानक ज़्यादा एक्टिविटी, अनजान डेस्टिनेशन, सीक्रेट जैसा आउटपुट, नामंज़ूर किए गए अप्रूवल।
  • आप किसी भी पुराने रन को कदम-दर-कदम दोबारा चलाकर देख सकते हैं।
  • लॉग्स में से संवेदनशील जानकारी हटाई गई हो, उन तक पहुँच सीमित हो और एक तय रिटेंशन पॉलिसी हो।

7 · इस पर हमला करके देखें

  • स्टेजिंग कॉपी पर Module 23 की ग्रिड चलाकर परखी गई हो।
  • हर कामयाब हमला अब एक ऑटोमेटेड रिग्रेशन टेस्ट बन चुका हो।
  • हमले की कामयाबी की दर को समय के साथ ट्रैक किया जाए और उसकी समीक्षा हो।
  • क्षमता में हर बदलाव पर इसे दोबारा चलाना तय हो।

8 · बुरे दिन के लिए तैयारी रखें

  • एक ग्लोबल स्टॉप जो एक एक्शन में काम करे, और इस तिमाही में टेस्ट किया गया हो।
  • बिना किसी नए डिप्लॉय के, हर एजेंट और हर टूल को अलग से बंद करने की सुविधा।
  • टोकन रिवोकेशन जो हर जगह तुरंत लागू हो जाए।
  • एक लिखित इंसिडेंट रनबुक, और कोई ऐसा जिसने इसे सच में पढ़ा हो।
  • खर्च, वॉल्यूम और एरर रेट पर सर्किट ब्रेकर्स।

पाँच मिनट वाला वर्शन

पूरी लिस्ट का समय नहीं है? ये पाँच कदम ज़्यादातर चीज़ों को संभाल लेते हैं:
  1. 1

    ट्राइफेक्टा की एक कड़ी काटें

    प्राइवेट डेटा, गैर-भरोसेमंद कंटेंट, या बाहर निकलने का रास्ता। इनमें से एक को हटा दें और ज़्यादातर हमलों के पास जाने की कोई जगह नहीं बचेगी।
  2. 2

    कोई टूल हटाएँ

    टूल लिस्ट देखें और सबसे खतरनाक टूल को हटा दें जिसकी इसे सच में ज़रूरत नहीं है। यह अकेला ऐसा बचाव है जिसकी कोई काट नहीं है।
  3. 3

    ना पलटे जा सकने वाले कामों के लिए इंसान को रखें

    डायलॉग में असली वैल्यूज़ के साथ, न कि सिर्फ़ "एक्शन की अनुमति दें?"।
  4. 4

    सोर्स के साथ लॉगिंग चालू करें

    खासकर यह कि एजेंट ने हर एक्शन से ठीक पहले क्या पढ़ा था।
  5. 5

    स्टॉप बटन को टेस्ट करें

    आज ही। सिर्फ़ कागज़ों में नहीं।
असली उदाहरण
पूरी गाइड एक लाइन में: मान कर चलें कि मॉडल को बेवकूफ़ बनाया जाएगा, और सिस्टम को ऐसे डिज़ाइन करें कि बेवकूफ़ बना हुआ मॉडल ऐसा कुछ न कर सके जिसे आप बर्दाश्त न कर सकें।

और देखें और पढ़ें

लैब

प्री-फ़्लाइट चेकलिस्ट को किसी ऐसी चीज़ पर लागू करना जिसे आप सच में चलाते हैं।

~30 min

समस्या

Module 60 की चेकलिस्ट के सभी आठों सेक्शनों को किसी असली सिस्टम पर लागू करके देखें। बिना टिक वाले हर बॉक्स के लिए: ज़िम्मेदार व्यक्ति, तारीख, या लिखित में मंज़ूर किया गया जोखिम (accepted-risk)। फिर आज ही पाँच मिनट वाला वर्शन पूरा करें।

आपका काम तब पूरा होगा जब

कठिन सवाल

उत्तर देखने से पहले ख़ुद जवाब देने की कोशिश करें। अगर आप इनके जवाब दे सकते हैं, तो आप पाठ समझ गए हैं।

Q1आपके पास एक दोपहर का समय है और एक प्रोडक्शन एजेंट है जिसके पास 12 टूल्स हैं, डेटाबेस में लिखने (DB write) का एक्सेस है और कोई अप्रूवल गेट नहीं है। अपने काम को क्रम में रखें और पहले कदम की वजह बताएं।दिखाएं
पहला: असर डालने वाले सोर्स के साथ लॉगिंग चालू करें, क्योंकि यह जाने बिना कि एजेंट असल में क्या करता है, आप किसी और चीज़ का अंदाज़ा या प्राथमिकता तय नहीं कर सकते — और यह अकेला ऐसा कदम है जो जितने ज़्यादा समय तक चलेगा, उतना ही कीमती बनता जाएगा। फिर उस सबसे खतरनाक टूल को हटाएँ जो लॉग्स के मुताबिक इस्तेमाल में नहीं है। फिर बचे हुए सबसे ज़्यादा ना पलटे जा सकने वाले एक्शन पर एक अप्रूवल गेट लगाएँ। फिर इग्रेस को allow-list करें। फिर स्टॉप बटन टेस्ट करें। लॉगिंग को सबसे पहले रखना अजीब लग सकता है क्योंकि यह तुरंत कुछ ठीक नहीं करता, पर यह सही इसलिए है क्योंकि इसके बिना उस दोपहर का हर दूसरा फ़ैसला सिर्फ़ एक तुक्का होगा।

जारी रखने के लिए कृपया साइन इन करें।

अक्सर पूछे जाने वाले सवाल

एक छोटी टीम के लिए यह बहुत कुछ है। मैं कहाँ से शुरू करूँ?

सच कहें तो, पाँच मिनट वाले वर्शन से। ट्राइफेक्टा की एक कड़ी काटें, एक टूल हटाएँ, एक अप्रूवल गेट जोड़ें, लॉगिंग चालू करें, स्टॉप बटन टेस्ट करें। इसमें बस एक दोपहर लगेगी और यह ज़्यादातर संभावित नुकसान को खत्म कर देता है।

हम इनमें से कुछ भी किए बिना पहले ही प्रोडक्ट लॉन्च कर चुके हैं। अब क्या करें?

सबसे पहले लॉगिंग — इसके बिना आप खतरे का अंदाज़ा नहीं लगा सकते। एक हफ़्ते चलाएँ, देखें कि एजेंट असल में क्या इस्तेमाल करता है, फिर हर उस परमिशन को हटा दें जिसकी ज़रूरत नहीं पड़ी। अकेले यह कदम ही बहुत बड़ा फ़र्क ला देता है, और इसमें जोखिम भी कम है।

मैं अपने मैनेजर को इस पर समय देने के लिए कैसे मनाऊँ?

किताबी बातों को छोड़ें। अपने एजेंट के लिए तीन सबसे बुरे मुमकिन नतीजे साफ़ शब्दों में लिखें — "यह किसी भी ग्राहक को ईमेल भेज सकता है", "यह प्रोडक्शन रोज़ को डिलीट कर सकता है" — और दिखाएँ कि ऊपर दिए गए आठ सेक्शनों में से कितने अभी खाली हैं। ठोस बातें ही बजट दिलाती हैं।

क्या यह उन एजेंट्स पर भी लागू होता है जिन्हें मैं खुद बनाने के बजाय खरीदता हूँ?

एक-एक शब्द। वेंडर से पूछें: इसे क्या परमिशन चाहिए, यह कहाँ तक पहुँच सकता है, हम इसे कैसे रोकते हैं, लॉग्स में क्या होता है, और क्या इस पर रेड-टीमिंग की गई है? जिस वेंडर के पास अच्छे जवाब न हों, वह अनजाने में आपको एक काम की बात बता रहा होता है।

पाठ का टेस्ट

5 सवाल। पास होने और इस पाठ को पूरा करने के लिए 3 सही होने चाहिए (60%)।

टेस्ट देने और अपनी प्रोग्रेस सेव करने के लिए साइन इन करें