इसे अमल में लाएंशुरुआतीपाठ 695 मिनट का पाठ

शब्दावली और फ़ाइनल परीक्षा

हर शब्द एक जगह, फिर पूरी गाइड से चुने गए पंद्रह सवाल। सोलह सही कर लीजिए और आप इसे सच में समझ चुके हैं।

✦ ट्यूटर से पूछें🧪 लैब · 45 min📝 पाठ का टेस्ट
पाठ वीडियो में

60 सेकंड में

शब्दावली और फ़ाइनल परीक्षा

हर शब्द एक जगह, फिर पूरी गाइड से चुने गए पंद्रह सवाल। सोलह सही कर लीजिए और आप इसे सच में समझ चुके हैं।

1/3
आसान शब्दों में
यह आखिरी पेज है। पहले शब्दों की लिस्ट, फिर टेस्ट। कोई दबाव नहीं — आप जितनी बार चाहें कोशिश कर सकते हैं।

फ़ाइनल परीक्षा

बीस सवाल, हर बड़े विचार से एक। सबका जवाब दीजिए और आपको कमज़ोर कड़ियों के नाम के साथ एक स्कोर मिलेगा।

आगे कहाँ जाएँ

  • कुछ छोटा-सा बनाएँ और उस पर हमला करें। दो टूल्स वाला एक खिलौना agent, फिर उस पर Module 23 का ग्रिड चलाएँ। आप एक महीने पढ़ने से ज़्यादा एक शाम में सीख जाएँगे।
  • इंसीडेंट रिपोर्ट्स पर नज़र रखें। असली agent फ़ेलियर नियमित रूप से पब्लिश होते हैं और हर एक किसी बेंचमार्क से कहीं ज़्यादा काम का है।
  • OWASP LLM Top 10 को पूरा पढ़ें, एक बार, ठीक से। यह छोटा है और इस फ़ील्ड की साझी शब्दावली है।
  • अगर AGI वाली चीज़ों ने आपको आकर्षित किया, तो Robert Miles के पुराने वीडियो देखें। यह कहीं भी मिलने वाली alignment की सबसे साफ़ समझ है।
  • इसे किसी को सिखाएँ। किसी साथी को lethal trifecta समझाना यह पता लगाने का सबसे तेज़ तरीका है कि आप इसे समझ पाए या नहीं।
असली उदाहरण
पढ़ने के लिए धन्यवाद। इस गाइड की सबसे कीमती चीज़ कोई तकनीक नहीं है — बल्कि कुछ भी कनेक्ट करने से पहले यह पूछने की आदत है: यह ज़्यादा से ज़्यादा क्या नुकसान कर सकता है, और यह किसने तय किया कि यह स्वीकार्य है?

और देखें और पढ़ें

Robert Miles AI Safetyfull channel · videoOWASP GenAI Security Projectgenai.owasp.org · readingSimon Willison on prompt injectionsimonwillison.net · reading

लैब

फ़ाइनल परीक्षा, फिर एक चीज़ जो आप बनाते हैं और दूसरों को देते हैं।

~45 min

समस्या

20 सवालों का एग्ज़ाम दें। फिर इस कोर्स का कोई एक कॉन्सेप्ट किसी और को सिखाएँ — किसी सहकर्मी, छात्र, या दोस्त को — और ध्यान दें कि उन्हें कौन-सा हिस्सा समझ नहीं आया। वही कमी है जिसे आप भी ठीक से नहीं समझ पाए थे।

आपका काम तब पूरा होगा जब

कठिन सवाल

उत्तर देखने से पहले ख़ुद जवाब देने की कोशिश करें। अगर आप इनके जवाब दे सकते हैं, तो आप पाठ समझ गए हैं।

Q1कोई पूछता है: 'अगर AGI दशकों दूर है, तो इन सब की क्या ज़रूरत है?' बिना घुमाए-फिराए, तीन वाक्यों में जवाब दें।दिखाएं
ऐसा सॉफ़्टवेयर जो आपके ईमेल पढ़ता है और आपकी ओर से ईमेल भेज सकता है, पहले से मौजूद है, और इसे अभी से सही करना ज़रूरी है। इस कोर्स का हर कंट्रोल — least privilege, sandboxing, taint tracking, एक बाहरी स्टॉप — भविष्य की भविष्यवाणी किए बिना नुकसान को सीमित करता है, इसीलिए वे काम करते हैं चाहे समयसीमा तीन साल की हो या तीस साल की। सुरक्षा का काम किसी भविष्यवाणी पर निर्भर नहीं करता, इसलिए भविष्यवाणी इसमें देरी करने का कोई बहाना नहीं है।

जारी रखने के लिए कृपया साइन इन करें।

अक्सर पूछे जाने वाले सवाल

मैं सुरक्षा के बारे में और गहराई से जानना चाहता हूँ। आगे क्या करूँ?

ख़तरों के वर्गीकरण के लिए OWASP का GenAI प्रोजेक्ट, adversarial तकनीकों के लिए MITRE ATLAS, और असल दुनिया में क्या वाकई काम करता है इसके लगातार रिकॉर्ड के लिए Simon Willison का prompt-injection आर्काइव।

मैं AGI और alignment के बारे में और गहराई से जानना चाहता हूँ।

वीडियो एक्सप्लेनेशन के लिए Robert Miles, स्ट्रक्चर्ड कोर्स के लिए AI Safety Fundamentals का सिलेबस, और संस्थाएं असल में क्षमताओं की सीमाओं को कैसे संभाल रही हैं, इसके लिए प्रमुख लैब्स के पब्लिश किए गए सेफ़्टी फ़्रेमवर्क।

क्या इसमें कोई करियर है?

हाँ, और कई दिशाओं में माँग सप्लाई से कहीं ज़्यादा है: AI सिक्योरिटी इंजीनियरिंग, इवैल्यूएशन, red teaming, interpretability रिसर्च, और पॉलिसी। अगर आप पहले से सॉफ़्टवेयर बनाते हैं, तो सिक्योरिटी-इंजीनियरिंग का रास्ता सबसे आसान है।

जैसे-जैसे यह बदलता है, मैं ख़ुद को अपडेट कैसे रखूँ?

ऐसे कुछ ही लोगों को फ़ॉलो करें जो सोच-समझकर पब्लिश करते हैं और सबके सामने अपनी गलतियाँ सुधारते हैं। शोर-शराबे पर ध्यान न दें। इस गाइड के बुनियादी सिद्धांत — trust boundaries, least privilege, blast radius — दशकों से नहीं बदले हैं और यहाँ बताई गई हर खास तकनीक से ज़्यादा समय तक टिके रहेंगे।

पाठ का टेस्ट

5 सवाल। पास होने और इस पाठ को पूरा करने के लिए 3 सही होने चाहिए (60%)।

टेस्ट देने और अपनी प्रोग्रेस सेव करने के लिए साइन इन करें