एक AGI बनाएंशुरुआतीपाठ 617 मिनट का पाठ

डिजिटल सोच के तीन स्तर

एक मॉडल जो बात करता है, एक मॉडल जो खुद को जांचता है, और एक सिस्टम जो अपने आप काम करता है। AGI को लेकर ज़्यादातर भ्रम इन्हीं तीनों को आपस में मिलाने से होता है।

✦ ट्यूटर से पूछें🧪 लैब · 15 min📝 पाठ का टेस्ट
पाठ वीडियो में

60 सेकंड में

डिजिटल सोच के तीन स्तर

एक मॉडल जो बात करता है, एक मॉडल जो खुद को जांचता है, और एक सिस्टम जो अपने आप काम करता है। AGI को लेकर ज़्यादातर भ्रम इन्हीं तीनों को आपस में मिलाने से होता है।

1/5
आसान शब्दों में
एक दोस्त आपकी अधूरी बात पूरी करने में माहिर है। दूसरा दोस्त यह जांचता है कि जो कहा गया वह सच है भी या नहीं। तीसरा दोस्त बाहर जाता है, काम निपटाता है, वापस आकर बताता है कि काम हो गया। ये तीनों एक ही दोस्त नहीं हैं।
किसी भी आर्किटेक्चर को समझने से पहले, इन तीनों स्तरों को अलग-अलग समझना ज़रूरी है। ये एक के ऊपर एक बने हैं, और "क्या यह AGI है?" वाली लगभग हर बहस असल में इस बात पर होती है कि कोई किस स्तर को देख रहा है।

डायग्राम के किसी भी बॉक्स पर टैप करें

1 · LLMmemory and vocabularywrapped by2 · LLLMreasoning and verificationwrapped by3 · AGIautonomous looppredictsprovespursues"sounds right"no idea if it is true"checked right"ran it, tested it"goal reached"and kept goingeach tier adds a capability the one below it cannot haveand a failure mode the one below it cannot cause
स्तर 1 — LLM

याददाश्त और वोकैबुलरी। यह ट्रेनिंग के दौरान सीखे गए सांख्यिकीय पैटर्न से अगले token का अंदाज़ा लगाता है। इसे पता होता है कि कौन-से शब्द एक साथ अच्छे लगते हैं; लेकिन इसके पास यह जानने का कोई तरीका नहीं होता कि वे सच हैं या नहीं। Track A की हर बात यहाँ लागू होती है। अकेले दम पर यह एक बेहद होशियार, पूरे आत्मविश्वास से बोलने वाला, लेकिन अविश्वसनीय कहानीकार है।

हर स्तर पर क्लिक करें। स्तर 1 से 2 पर जाने से आपको विश्वसनीयता मिलती है। स्तर 2 से 3 पर जाने से ऑटोनॉमी मिलती है — और ऑटोनॉमी के ही असल परिणाम होते हैं।

शब्दावली के बारे में एक बात

नोट
LLM हर जगह इस्तेमाल होने वाला एक आम शब्द है। LLLM — "Large Language Logic Model" — बोलने-से-पहले-जांचने वाले पैटर्न को समझने का एक उपयोगी तरीका है, और यह अभी इंडस्ट्री का मानक शब्द नहीं बना है; यही आर्किटेक्चर रिसर्च पेपर्स और प्रोडक्ट दस्तावेज़ों में tool-augmented reasoning, verifier-in-the-loop, program-aided language models और reasoning models (Module 51) जैसे नामों से मिलता है। हम यहाँ LLLM का इस्तेमाल इसलिए कर रहे हैं क्योंकि यह इस स्तर को साफ़-साफ़ नाम देता है। जब आप इस कोर्स से बाहर किसी से बात करें, तो "verifier-in-the-loop" कहें, वे तुरंत समझ जाएंगे।

हर स्तर क्या कर सकता है और क्या नहीं

LLMLLLMAGI
धाराप्रवाह टेक्स्ट बनाता हैहाँहाँहाँ
पता होता है कि वह सही है या नहींनहींकभी-कभी — जहाँ चेकर मौजूद होकभी-कभी
अपनी गलतियों से खुद संभलता हैनहींहाँ, एक ही काम के दौरानहाँ, कई अलग-अलग कामों के दौरान
असल दुनिया में एक्शन लेता हैनहींसिर्फ अपने चेकर के अंदरहाँ — असली मकसद यही है
कई चरणों तक एक लक्ष्य पर टिका रहता हैनहींनहींहाँ
कल की बातें याद रखता हैनहींनहींसिर्फ तभी जब आप इसमें मेमोरी बनाएं
नुकसान पहुँचा सकता हैसिर्फ गलत जानकारी देकरसिर्फ गलत जानकारी देकरगलत काम करके
ख़तरा
आखिरी पंक्ति को ध्यान से पढ़ें। स्तर 1 और 2 एक खराब वाक्य बनाकर गलती करते हैं। स्तर 3 कोई गलत एक्शन लेकर गड़बड़ करता है। यह कोई छोटा-मोटा फर्क नहीं है — यही Track B के होने की पूरी वजह है, और इसीलिए Module 66 में दिया गया sandbox कोई वैकल्पिक (optional) चीज़ नहीं है।
यह करें
सिस्टम बनाने वाले (builder) के लिए व्यावहारिक सीख: ज़्यादातर समस्याएं जिन्हें लोग एक बड़ा मॉडल लगाकर सुलझाने की कोशिश करते हैं, वे असल में एक स्तर ऊपर जाने से हल हो जाती हैं। किसी छोटे मॉडल को एक असली वेरीफ़ायर से जोड़ना, अकेले अंदाज़ा लगाने वाले किसी विशाल मॉडल से कहीं बेहतर होता है — लगभग हर उस काम में जहाँ सही और गलत की जांच की जा सके।

और देखें और पढ़ें

Deep dive into LLMs like ChatGPTAndrej Karpathy · video
Tool-augmented and verifier-in-the-loop reasoningYouTube search

लैब

तीनों स्तरों पर एक ही काम की तुलना और माप।

~15 min

समस्या

कोई ऐसा काम चुनें जिसके जवाब की जांच की जा सके। इसे तीन तरीकों से हल करें: सिर्फ मॉडल (स्तर 1), मॉडल के साथ चेकर लूप (स्तर 2), टूल्स और मेमोरी वाला ऑटोनॉमस एजेंट (स्तर 3)। प्रत्येक की सटीकता (accuracy), लागत (cost) और लेटेंसी (latency) को मापें।

आपका काम तब पूरा होगा जब

कठिन सवाल

उत्तर देखने से पहले ख़ुद जवाब देने की कोशिश करें। अगर आप इनके जवाब दे सकते हैं, तो आप पाठ समझ गए हैं।

Q1आपके काम में स्तर 2, स्तर 3 से ज़्यादा सटीक और सस्ता है। तो स्तर 3 का इस्तेमाल कब सही होता है?दिखाएं
जब काम को एक ही जांचे-परखे जा सकने वाले चरण के रूप में न बताया जा सके — जब काम शुरू करने के बाद ही उसके छोटे-छोटे लक्ष्य समझ आते हों, जब यह लंबे समय तक कई टूल्स में फैला हो, या जब इनपुट एक बार में आने के बजाय लगातार आ रहा हो। अगर आप पूरे काम को पहले से ही लिख सकते हैं, तो स्तर 2 आमतौर पर हर पैमाने पर जीतेगा। ऑटोनॉमी वह कीमत है जो आप उन समस्याओं को सुलझाने के लिए चुकाते हैं जिन्हें आप पहले से पूरी तरह समझा नहीं सकते थे।

जारी रखने के लिए कृपया साइन इन करें।

अक्सर पूछे जाने वाले सवाल

क्या LLLM एक अलग तरह का मॉडल है?

नहीं — और इस बात को लेकर पूरी तरह साफ़ रहना बहुत ज़रूरी है। यह वही एक ही मॉडल है जिसके आसपास दूसरा सिस्टम जुड़ा होता है। कोई भी "LLLM" को ट्रेन नहीं करता। आप इसे एक सामान्य मॉडल, एक चेकर और एक लूप को मिलाकर बनाते हैं। इसमें आपको जो समझदारी मिलती है, वह आपके आर्किटेक्चर में होती है, मॉडल के weights में नहीं।

तो क्या reasoning मॉडल एक LLLM है?

काफी करीब है। एक reasoning मॉडल (Module 51) में जांचने और फिर से कोशिश करने का व्यवहार उसके weights के अंदर ही ट्रेन किया गया होता है, इसलिए वह इसका ज़्यादातर हिस्सा अंदरूनी तौर पर करता है। एक LLLM इसे बाहरी तौर पर करता है, उस कोड में जो आपने लिखा है और जिसकी आप जांच कर सकते हैं। बाहरी तरीका धीमा होता है लेकिन उसकी जांच-परख बहुत आसानी से की जा सकती है — और अक्सर यही आपके काम का सौदा होता है।

क्या मुझे अपने प्रोडक्ट के लिए स्तर 3 की ज़रूरत है?

आमतौर पर नहीं, और यह अच्छी खबर है। ज़्यादातर काम के प्रोडक्ट्स स्तर 2 के होते हैं: एक मॉडल जो ड्राफ़्ट तैयार करता है और एक चेकर जो उसकी जांच करता है, और बटन दबाने के लिए एक इंसान मौजूद होता है। स्तर 3 की ओर तभी जाएं जब काम के लिए वाकई बिना किसी इंसानी देखरेख के कई चरणों की ज़रूरत हो।

आज की अत्याधुनिक तकनीक (frontier) कहाँ तक पहुँची है?

कम समय के लिए — कुछ मिनटों से लेकर कुछ घंटों तक — यह पूरी तरह स्तर 3 पर है, जहाँ हर चरण के अंदर स्तर 2 जैसी विश्वसनीयता होती है। जिस चीज़ की कमी है वह लूप नहीं है; बल्कि ऐसी मेमोरी है जो समय के साथ जुड़ती रहे और ऐसी विश्वसनीयता जो कई दिनों तक टिकी रहे। Modules 30 और 54।

पाठ का टेस्ट

5 सवाल। पास होने और इस पाठ को पूरा करने के लिए 3 सही होने चाहिए (60%)।

टेस्ट देने और अपनी प्रोग्रेस सेव करने के लिए साइन इन करें