← सभी ट्रैक

लर्निंग पाथ

AI रिसर्चर

पेपर्स पढ़ें, एक्सपेरिमेंट्स करें और interpretability और alignment पर काम करें।

26 पाठ · 172 मिनट बाकी

पाथ शुरू करें → 30 मिनट में एक पेपर पढ़ना
  1. AI रिसर्च कैसे करेंपाठ 324: 30 मिनट में एक पेपर पढ़नाकिसी पेपर को समझने के लिए आपको उसका एक-एक शब्द पढ़ने की ज़रूरत नहीं है। उसे तीन चरणों में पढ़ें, एक तय टेम्पलेट में नोट्स बनाएं, और कमज़ोर evaluation को पहचानना सीखें।मध्यम8 मिनट का पाठ🧪 लैब📝 टेस्ट
  2. AI रिसर्च कैसे करेंपाठ 325: किसी नतीजे को दोहराना (reproduce करना)किसी पेपर को सच में समझने का सबसे अच्छा तरीका यह है कि उसका नतीजा आप अपने कंप्यूटर पर निकाल कर देखें। छोटी शुरुआत करें, किसी एक संख्या का मिलान करें, और हर अंतर को नोट करें।मध्यम8 मिनट का पाठ🧪 लैब📝 टेस्ट
  3. AI रिसर्च कैसे करेंपाठ 326: एक साफ-सुथरा प्रयोग डिज़ाइन करनाएक अच्छा प्रयोग किसी एक स्पष्ट सवाल का निष्पक्ष रूप से जवाब देता है। एक छोटे Python उदाहरण के साथ hypotheses, baselines, ablations, random seeds और साफ data splits के बारे में जानें।मध्यम9 मिनट का पाठ🧪 लैब📝 टेस्ट
  4. AI रिसर्च कैसे करेंपाठ 327: कम बजट में Computeआप बड़े GPU क्लस्टर के बिना भी असली रिसर्च कर सकते हैं। छोटी शुरुआत करें, मुफ़्त और अकादमिक संसाधनों का समझदारी से उपयोग करें, कुशल (efficient) कोड लिखें, और जानें कि आपको सच में ज़्यादा रिसोर्स कब चाहिए।मध्यम7 मिनट का पाठ🧪 लैब📝 टेस्ट
  5. AI रिसर्च कैसे करेंपाठ 328: अपने नतीजों को लिखना और शेयर करनाऐसी रिसर्च जिसे कोई पढ़ या जांच न सके, किसी के काम नहीं आती। एक पेपर का ढांचा, साफ चित्र, ईमानदार सीमाएं, और preprints, कोड, ब्लॉग्स और वर्कशॉप्स के ज़रिए काम शेयर करना सीखें।मध्यम9 मिनट का पाठ🧪 लैब📝 टेस्ट
  6. AI रिसर्च कैसे करेंपाठ 329: भारत में AI रिसर्च के रास्तेAI रिसर्च में जाने का एक से ज़्यादा रास्ता है। मुख्य रास्तों की तुलना करें, जानें कि मेंटर्स कैसे खोजें और उनसे कैसे संपर्क करें, और रिसर्च ईमानदारी (integrity) के नियमों को समझें।मध्यम7 मिनट का पाठ🧪 लैब📝 टेस्ट
  7. एक LLM बनाएँपाठ 41: चरण 5 · एक पूरा छोटा GPTहर हिस्से को जोड़कर बना एक मॉडल जिसे आप आज रात ही ट्रेन कर सकते हैं। 100 से कम लाइनों में, और बनावट में बिल्कुल एक फ्रंटियर मॉडल जैसा।मध्यम7 मिनट का पाठ🧪 लैब📝 टेस्ट
  8. मॉडल के अंदर: इंटरप्रिटेबिलिटीपाठ 309: मॉडल के अंदर क्यों झांकें?मॉडल क्या करता है यह टेस्ट करने से बहुत कुछ पता चलता है, लेकिन यह नहीं कि वह ऐसा क्यों करता है। Interpretability सीधे उसके काम करने के तरीके (mechanism) को समझने की कोशिश करती है।एडवांस्ड6 मिनट का पाठ🧪 लैब📝 टेस्ट
  9. मॉडल के अंदर: इंटरप्रिटेबिलिटीपाठ 310: Probing: एक layer क्या जानती है?यह देखने के लिए कि एक layer के activations में क्या जानकारी मौजूद है, उस पर एक साधारण classifier ट्रेन करें। फिर समझें कि 'जानकारी का मौजूद होना' और 'मॉडल द्वारा उसका इस्तेमाल किया जाना' एक बात क्यों नहीं है।एडवांस्ड5 मिनट का पाठ🧪 लैब📝 टेस्ट
  10. मॉडल के अंदर: इंटरप्रिटेबिलिटीपाठ 311: Attention maps और उनकी सीमाएंAttention weights यह दिखाते हैं कि कोई head कहां देख रहा है। वे यह नहीं दिखाते कि वह वहां से क्या ले रहा है, या मॉडल उसका क्या करता है।एडवांस्ड6 मिनट का पाठ🧪 लैब📝 टेस्ट
  11. मॉडल के अंदर: इंटरप्रिटेबिलिटीपाठ 312: Features और superpositionएक अकेला neuron अक्सर कई असंबंधित चीज़ों पर प्रतिक्रिया देता है। इसकी एक बड़ी वजह यह मानी जाती है कि मॉडल्स अपने dimensions से कहीं ज़्यादा features को समेट लेते हैं।एडवांस्ड6 मिनट का पाठ🧪 लैब📝 टेस्ट
  12. मॉडल के अंदर: इंटरप्रिटेबिलिटीपाठ 313: Sparse autoencodersमॉडल के activations से sparse features की एक बड़ी डिक्शनरी सीखें, ताकि हर activation को कुछ आसानी से समझ आने वाले हिस्सों में समझाया जा सके।एडवांस्ड6 मिनट का पाठ🧪 लैब📝 टेस्ट
  13. मॉडल के अंदर: इंटरप्रिटेबिलिटीपाठ 314: Circuits: किसी व्यवहार का पता लगानाअलग-अलग रन के बीच activations को बदलकर पता लगाएं कि मॉडल के कौन-से हिस्से किसी खास व्यवहार की वजह हैं। Induction heads इसका सबसे बेहतरीन उदाहरण हैं।एडवांस्ड6 मिनट का पाठ🧪 लैब📝 टेस्ट
  14. मॉडल के अंदर: इंटरप्रिटेबिलिटीपाठ 315: Activations के ज़रिए मॉडल्स को steer करनाचलते हुए मॉडल के activations में अपनी पसंद की दिशा जोड़ें, और उसका व्यवहार बदल जाता है। यह रिसर्च के लिए काम का है, और यह भी याद दिलाता है कि safety training कितनी नाज़ुक हो सकती है।एडवांस्ड6 मिनट का पाठ🧪 लैब📝 टेस्ट
  15. मॉडल के अंदर: इंटरप्रिटेबिलिटीपाठ 316: सुरक्षा के लिए interpretability: उम्मीदें और सीमाएंकई लोगों को उम्मीद है कि मॉडल्स के अंदर झांककर एक दिन धोखेबाज़ी या छिपे हुए इरादों को पकड़ा जा सकेगा। यहां जानिए कि आज क्या सच है, क्या सिर्फ एक उम्मीद है, और यह evaluations के साथ कैसे मेल खाता है।एडवांस्ड6 मिनट का पाठ🧪 लैब📝 टेस्ट
  16. AGIपाठ 31: The alignment problemसिस्टम से वह करवाना जो आपका असली मतलब था, न कि वह जो आपने शब्द-दर-शब्द कहा। कैलकुलेटर के साथ यह आसान है। लेकिन किसी ऐसी चीज़ के साथ बहुत मुश्किल है जो खुद को बेहतर बनाने में लगी हो।मध्यम5 मिनट का पाठ🧪 लैब📝 टेस्ट
  17. Frontier alignment researchपाठ 317: सिद्धांतों से रिसर्च के तरीकों तकआप इन चिंताओं को जानते हैं: कमियों का फायदा उठाना (loopholes), ताकत हासिल करने की कोशिश (power-seeking), टेस्ट में अच्छा दिखने का दिखावा। रिसर्च तब शुरू होती है जब कोई चिंता एक ऐसा सवाल बन जाती है जिसका जवाब कोई प्रयोग या तर्क दे सके।एडवांस्ड7 मिनट का पाठ🧪 लैब📝 टेस्ट
  18. Frontier alignment researchपाठ 318: Scalable oversightआप ऐसे सिस्टम के काम की जांच कैसे करेंगे जो शायद आपसे भी ज़्यादा जानता हो? Scalable oversight उन विचारों का समूह है जो तब AI की निगरानी में मदद करते हैं जब इंसानी समझ अकेले काफी नहीं होती।एडवांस्ड7 मिनट का पाठ🧪 लैब📝 टेस्ट
  19. Frontier alignment researchपाठ 319: Constitutional और नियम-आधारित ट्रेनिंगलाखों जवाबों को हाथ से जांचने के बजाय, नियम लिख दें और AI के फीडबैक को उन्हें लागू करने दें। जानें कि Constitutional AI कैसे काम करता है, यह क्यों मददगार है, और यह कहां कमज़ोर पड़ता है।एडवांस्ड7 मिनट का पाठ🧪 लैब📝 टेस्ट
  20. Frontier alignment researchपाठ 320: Debate और weak-to-strong generalisationज़्यादा शक्तिशाली सिस्टम्स की निगरानी के लिए दो रिसर्च विचार: AI आपस में बहस करें और इंसान फैसला करे, और यह जांचना कि क्या एक कमज़ोर सुपरवाइज़र किसी शक्तिशाली मॉडल को अच्छी तरह ट्रेन कर सकता है। जानें कि ये प्रयोग क्या दिखा सकते हैं और क्या नहीं।एडवांस्ड6 मिनट का पाठ🧪 लैब📝 टेस्ट
  21. Frontier alignment researchपाठ 321: खतरनाक क्षमताओं के evaluationsकिसी शक्तिशाली मॉडल को रिलीज़ करने से पहले, टीमें यह टेस्ट करती हैं कि क्या वह गंभीर नुकसान पहुंचाने वाले काम कर सकता है। जानें कि ये evaluations कैसे डिज़ाइन किए जाते हैं, मॉडल की पूरी क्षमता निकालना क्यों ज़रूरी है, और सीमाएं (thresholds) नतीजों को फैसलों से कैसे जोड़ती हैं।एडवांस्ड7 मिनट का पाठ🧪 लैब📝 टेस्ट
  22. Frontier alignment researchपाठ 322: Misalignment के model organismsजीवविज्ञानी मक्खियों और चूहों में बीमारियों का अध्ययन करते हैं। Alignment रिसर्चर्स जानबूझकर गलत व्यवहार (misaligned behaviour) के छोटे, नियंत्रित उदाहरण बनाते हैं ताकि असल दुनिया में दिखने से पहले वे सुरक्षित रूप से इसका अध्ययन कर सकें।एडवांस्ड6 मिनट का पाठ🧪 लैब📝 टेस्ट
  23. Frontier alignment researchपाठ 323: एक alignment रिसर्च समस्या चुननाअच्छी रिसर्च एक अच्छी समस्या से शुरू होती है। रिसर्च की समझ (taste), काम की व्यावहारिकता (tractability) और फीडबैक लूप को परखना सीखें, पेपर्स ढूंढें और पढ़ें, कम compute में काम करें, मिलकर काम करें, और रिसर्च पब्लिश करने की सुरक्षा के बारे में सोचें।एडवांस्ड7 मिनट का पाठ🧪 लैब📝 टेस्ट
  24. AI सिस्टम्स का मूल्यांकन (Evaluation)पाठ 217: Benchmarks और उनकी सीमाएंMMLU, HumanEval, SWE-bench और LMArena जैसे जाने-माने benchmarks असल में क्या नापते हैं, वे पुराने क्यों पड़ जाते हैं, और हाई स्कोर का यह मतलब क्यों नहीं है कि मॉडल आपका काम कर ही देगा।मध्यम6 मिनट का पाठ🧪 लैब📝 टेस्ट
  25. AI सिस्टम्स का मूल्यांकन (Evaluation)पाठ 218: Contamination: जब टेस्ट लीक हो गयामॉडल्स इंटरनेट के भारी-भरकम टेक्स्ट से सीखते हैं, जिसमें वही टेस्ट के सवाल भी शामिल हो सकते हैं जिनसे उन्हें परखा जाना है। इसके संकेत पहचानना सीखें, और जानें कि held-out और ताज़ा टेस्ट सेट्स आपको कैसे बचाते हैं।मध्यम6 मिनट का पाठ🧪 लैब📝 टेस्ट
  26. AI सिस्टम्स का मूल्यांकन (Evaluation)पाठ 219: अपने काम के हिसाब से क्या नापेंएक्यूरेसी सिर्फ़ एक नंबर है। काम पूरा होना, विश्वसनीयता (faithfulness), सुरक्षा, स्पीड, लागत और यूज़र की संतुष्टि—ये सब मायने रखते हैं। बनाने से पहले तय करें कि आपके लिए "अच्छा" क्या है।मध्यम6 मिनट का पाठ🧪 लैब📝 टेस्ट