एक AGI बनाएंशुरुआतीपाठ 686 मिनट का पाठ

अगले बिल्डरों को यह सिखाना

किसी को मेंटर कैसे करें — किसी जिज्ञासु टीनेजर या जूनियर इंजीनियर को — ताकि वे चैट बॉक्स के इर्द-गिर्द सिर्फ एक और रैपर बनाने के बजाय ऐसे सिस्टम बनाएं जो सच में काम आएं।

✦ ट्यूटर से पूछें🧪 लैब · 20 min📝 पाठ का टेस्ट
पाठ वीडियो में

60 सेकंड में

अगले बिल्डरों को यह सिखाना

किसी को मेंटर कैसे करें — किसी जिज्ञासु टीनेजर या जूनियर इंजीनियर को — ताकि वे चैट बॉक्स के इर्द-गिर्द सिर्फ एक और रैपर बनाने के बजाय ऐसे सिस्टम बनाएं जो सच में काम आएं।

1/6
आसान शब्दों में
सबसे अच्छी चीज़ जो कोई आपको सिखा सकता है, वह यह नहीं है कि कंप्यूटर से बात कैसे करवाएं। बल्कि यह है कि कंप्यूटर से यह कैसे साबित करवाएं कि वह सही है, और फिर ऐसी कोई असली समस्या कैसे ढूंढें जिस पर इसे आज़माया जा सके।
तीन बातें, क्रम से। लगभग हर कोई पहले दो को छोड़ देता है और सोचता है कि उनका प्रोजेक्ट आगे क्यों नहीं बढ़ रहा।

1 · सिर्फ़ प्रॉम्प्टिंग के बजाय डिटरमिनिस्टिक (deterministic) गार्डरेल्स

हर शुरुआत करने वाले की आदत होती है कि वह गलत जवाब को प्रॉम्प्ट बेहतर करके ठीक करने की कोशिश करता है। यह कभी-कभार काम कर जाता है, और यही इसका सबसे बड़ा जाल है।
एक बिगिनर क्या बनाता है
  • एक लंबा, चतुर प्रॉम्प्ट।
  • निर्देश के तौर पर "कृपया सटीक रहें" लिखना।
  • हर गलती को ठीक करने के लिए एक और वाक्य जोड़ना।
  • कुछ ऐसा बनाकर रिलीज़ करना जो सिर्फ डेमो में काम करता है।
  • यह नहीं बता पाना कि मंगलवार को यह फेल क्यों हुआ।
एक सच्चा बिल्डर क्या बनाता है
  • एक छोटा प्रॉम्प्ट और एक सख्त चेकर।
  • सटीकता कोड के ज़रिए लागू की जाती है, अंग्रेज़ी में विनती करके नहीं।
  • चेकिंग को और सख्त करके हर गलती को ठीक करना।
  • कुछ ऐसा बनाना जो उन इनपुट्स पर भी काम करे जिनके बारे में किसी ने सोचा भी न हो।
  • मंगलवार को जो हुआ उसे हूबहू दोबारा चलाकर दिखा पाना।
यह करें
वह वाक्य जो उनसे तब तक दोहराते रहने को कहें जब तक यह उनकी आदत न बन जाए: मॉडल प्रस्ताव देता है, कंपाइलर फैसला करता है। एक बार जब कोई इस पर सच में यकीन कर लेता है, तो उसके सोचने और बनाने का तरीका हमेशा के लिए बदल जाता है।

2 · स्टेट मैनेजमेंट (State management)

हर नया व्यक्ति यह मान लेता है कि AI को सब याद रहता है। ऐसा नहीं है — मॉड्यूल 5। जब तक वे यह नहीं समझेंगे, वे ऐसे सिस्टम बनाते रहेंगे जो अचानक सब भूल जाते हैं, और फिर वे मॉडल को दोष देंगे।
  1. 1

    उनसे खुद यह साबित करवाएं

    एक नए सेशन में मॉडल से उसका नाम पूछें। देखें कि उन्हें कैसे समझ आता है कि पिछली कोई भी बात याद नहीं रही। सिर्फ दस सेकंड, और यह एक घंटे के लेक्चर से ज़्यादा सिखा देता है।
  2. 2

    फिर उन्हें कागज़ वाला उदाहरण दें

    इस बार मॉडल जो कुछ भी जानता है, वह कागज़ के उस एक पन्ने पर है जो आप उसे थमाते हैं। वह पन्ना पढ़ता है, जवाब देता है, और भूल जाता है। मेमोरी का मतलब है कि आप एक बेहतर पन्ना लिखें।
  3. 3

    फिर उनसे वह पन्ना बनवाएं

    बातचीत की लिस्ट। फिर एक स्टेट ऑब्जेक्ट। फिर एक डेटाबेस। फिर रिट्रीवल। इसी क्रम में — हर कदम पर वे खुद किसी सीमा से टकराएंगे जिससे उन्हें अगले कदम की ज़रूरत महसूस होगी।
  4. 4

    फिर उन्हें खर्च दिखाएं

    हर टर्न पर टोकन की गिनती प्रिंट करें। इसे बढ़ते हुए देखना कॉन्टेक्स्ट बजटिंग को इस तरह समझा देता है जैसा कोई लेक्चर नहीं समझा सकता।

3 · असली समस्याओं और सीमाओं को सुलझाना

यही चीज़ एक साधारण पोर्टफोलियो प्रोजेक्ट को एक असली कंपनी से अलग करती है। एक और चैटबॉट रैपर कोई 0-से-1 नहीं है — यह 1-से-1.001 है, और ऐसे दस हज़ार पहले से मौजूद हैं।
उनका ध्यान इंसानों के उन मुश्किल और थकाऊ कामों की तरफ ले जाएं जहां मामूली गलती का भी बड़ा नुकसान हो सकता है। इस पैटर्न पर ध्यान दें:
संकेतयह क्यों मायने रखता हैउदाहरण
कोई इसे हर हफ्ते खुद अपने हाथों से करता हैअसली और बार-बार होने वाली परेशानीलेज़र (बही-खाते) से इनवॉइस का मिलान करना
गलती होने पर बड़ा नुकसान होता हैनिश्चिंत होने के लिए कोई पैसे देने को तैयार होगानियमों (compliance) की समय-सीमा चूक जाना
सही या गलत की जांच की जा सकती हैआप एक वेरिफ़ायर बना सकते हैंक्या यह संदर्भ किसी असली कानूनी मामले से जुड़ा है?
काम उबाऊ है, कोई रचनात्मक नहींपुराने ढर्रे को कोई बनाए नहीं रखना चाहतासिर्फ तीन शर्तों के लिए 400 पन्ने पढ़ना
किसी विशेषज्ञ के पास काम अटका रहता हैइसका फायदा बिल्कुल साफ और मापने योग्य हैसुरक्षा से जुड़े सवालों (security questionnaires) की समीक्षा सिर्फ एक ही व्यक्ति कर सकता है
जब ये पाँचों बातें सही होती हैं, तो एक ऑटोनॉमस लूप महज़ एक डेमो नहीं रह जाता — यह उस काम को संभाल लेता है जिसे कोई इंसान सच में नहीं करना चाहता, और जांचने योग्य होने की वजह से आप यह साबित कर सकते हैं कि इसने सही काम किया।

पहला प्रोजेक्ट जो सब कुछ सिखा दे

  1. उनकी अपनी ज़िंदगी से कोई ऐसी चीज़ चुनें जिसे जांचा जा सके। जैसे मैथ्स के प्रैक्टिस सवालों को चेक करना। किसी CSV फ़ाइल को वैलिडेट करना। या यह चेक करना कि उनके कोड में टेस्ट शामिल हैं या नहीं।
  2. पहले इसे टीयर 1 के रूप में बनाएं — सिर्फ एक प्रॉम्प्ट। देखें कि यह कैसे गलत होता है।
  3. अब एक चेकर जोड़ें। देखें कि यह कैसे भरोसेमंद बन जाता है। यही सबसे बड़ा सबक है।
  4. इसमें एक लूप जोड़ें ताकि यह अपनी गलतियां खुद सुधारे। देखें कि यह किसी गड़बड़ी से कैसे उबरता है।
  5. इसमें स्टेट जोड़ें ताकि रीस्टार्ट होने पर भी डेटा न खोए।
  6. उनसे पूछें: अगर यह गलत हो जाए और कोई इसे न देख रहा हो, तो यह क्या नुकसान कर सकता है? फिर वह सीमा तय करें।
  7. सिर्फ इसके बाद ही, इसे किसी असली चीज़ पर काम करने दें।
असली उदाहरण
वह आदत जो किसी भी फ़्रेमवर्क से ज़्यादा कीमती है। हर बार जब वे कोई ऐसा सिस्टम बनाएं जो कोई कार्रवाई करता है, तो उनसे तीन सवालों के जवाब ज़ोर से बुलवाएं: यह ज़्यादा से ज़्यादा क्या नुकसान कर सकता है? यह किसने तय किया कि इतना नुकसान मंज़ूर है? हमें कैसे पता चलेगा? जो बिल्डर ये सवाल अपने आप पूछता है, उस पर असली सिस्टम सौंपने का भरोसा किया जा सकता है — और जो नहीं पूछता, उस पर आगे चलकर भरोसा नहीं किया जाना चाहिए।

उन्हें किन बातों से सावधान करें

  • डेमो झूठ बोलते हैं। जो इनपुट आपने चुना है, उस पर तो कुछ भी काम कर जाएगा। उन इनपुट्स पर टेस्ट करें जो आपने नहीं चुने थे।
  • आत्मविश्वास से भरे जवाब का मतलब सही जवाब नहीं होता। मॉडल के बात करने के अंदाज़ से उसकी सटीकता का कोई लेना-देना नहीं होता।
  • दिलचस्प हिस्सा मॉडल नहीं है। बल्कि वह लूप, चेकर और सीमाएं हैं — जो सामान्य सॉफ़्टवेयर ही हैं जिन्हें लिखना वे पहले से जानते हैं।
  • ऑटोनॉमी (स्वायत्तता) कोई स्विच नहीं, बल्कि एक डायल है। "सिर्फ सुझाव दें" से शुरुआत करें और धीरे-धीरे आगे बढ़ें (मॉड्यूल 13)।
  • कुछ छोटा बनाएं और रिलीज़ करें जो सच में इस्तेमाल हो। एक असली यूज़र दस शानदार प्रोटोटाइप्स से बेहतर होता है।

और देखें और पढ़ें

Intro to Large Language ModelsAndrej Karpathy · video
Building effective agentsAnthropic engineering · readingRob Miles on AI safetyRobert Miles · channel

लैब

बिगिनर के लिए पहला प्रोजेक्ट, जिसे आपने डिज़ाइन किया हो।

~20 min

समस्या

किसी नए व्यक्ति के लिए पहला AI प्रोजेक्ट डिज़ाइन करें: जिसे चेक किया जा सके, जो काम का हो, और जिसमें किसी चैट इंटरफ़ेस की अनुमति न हो। उनके खास प्रोजेक्ट के लिए मॉड्यूल 68 के सात स्टेप्स लिखें, जिसमें वह जोखिम वाला सवाल भी शामिल हो जिसका जवाब उन्हें किसी असली चीज़ पर इसे इस्तेमाल करने से पहले देना होगा।

आपका काम तब पूरा होगा जब

कठिन सवाल

उत्तर देखने से पहले ख़ुद जवाब देने की कोशिश करें। अगर आप इनके जवाब दे सकते हैं, तो आप पाठ समझ गए हैं।

Q1आपके स्टूडेंट का tier-1 वर्शन उसके टेस्ट केसों पर बिल्कुल ठीक काम करता है। उसे verifier जोड़ने की कोई वजह नहीं दिखती। बहस से नहीं, एक प्रयोग के ज़रिए उसे समझाएं।दिखाएं
उनसे 50 ऐसे नए टेस्ट केस तैयार करवाएं जो उन्होंने खुद न लिखे हों — किसी अलग सोर्स से, किसी अलग फ़ॉर्मेट में, या किसी दोस्त से — और उन पर tier-1 वर्शन चलाएं। एक्यूरेसी में आने वाली गिरावट ही सबसे बड़ा तर्क है। फिर verifier जोड़ें और उन्हीं 50 पर दोबारा रन करें। उन्हें उम्मीद के मुताबिक आने वाला नतीजा न बताएं; 'मेरे उदाहरणों पर काम करता है' और 'उन उदाहरणों पर काम करता है जो मैंने नहीं चुने' के बीच का फ़र्क ही सबसे काम की चीज़ है जिसे वे खुद समझ सकते हैं, और यह किसी के बताने से कहीं ज़्यादा असरदार है।

जारी रखने के लिए कृपया साइन इन करें।

अक्सर पूछे जाने वाले सवाल

किस उम्र में इसे शुरू किया जा सकता है?

कोई भी जो for-loop लिख सकता है। यहाँ के सिद्धांत — प्रस्ताव देना और जाँचना, आपने क्या आज़माया उसे याद रखना, काम पूरा होने पर रुक जाना — बिल्कुल मुश्किल नहीं हैं। गणित वैकल्पिक है और सिस्टम बनाने के लिए ज़्यादातर ज़रूरी नहीं है।

क्या शुरुआत करने वालों को किसी फ़्रेमवर्क का इस्तेमाल करना चाहिए?

अपने पहले लूप के लिए तो बिल्कुल नहीं। बीस लाइनें खुद अपने हाथों से लिखने से समझ आता है कि फ़्रेमवर्क अंदर क्या कर रहा है। उसके बाद, जो भी समय बचाए उसका इस्तेमाल करें — असल बात समझना है, कोड की लाइनों की संख्या नहीं।

मैं उन्हें एक और चैटबॉट बनाने से कैसे रोकूँ?

उनके पहले प्रोजेक्ट के लिए चैट इंटरफ़ेस पर रोक लगा दें। इस बात पर ज़ोर दें कि आउटपुट कोई फ़ाइल, रिपोर्ट, पुल रिक्वेस्ट (pull request) या पास होने वाला टेस्ट हो। इससे सोचने और डिज़ाइन करने का पूरा नज़रिया बदल जाता है।

अगर वे इसके बजाय किसी मॉडल को ट्रेन करना चाहते हैं तो?

उन्हें ट्रैक E, मॉड्यूल 36 — छोटे मॉडल वाले प्रोजेक्ट पर भेजें। एक दोपहर 10M-पैरामीटर वाले मॉडल को ट्रेन करना महीनों पढ़ने से ज़्यादा सिखा देता है, और इसका खर्च भी लगभग कुछ नहीं होता।

पाठ का टेस्ट

5 सवाल। पास होने और इस पाठ को पूरा करने के लिए 3 सही होने चाहिए (60%)।

टेस्ट देने और अपनी प्रोग्रेस सेव करने के लिए साइन इन करें