AGIमध्यमपाठ 295 मिनट का पाठ

मॉडल अचानक इतने अच्छे कैसे हो गए

कोई एक जादुई आइडिया नहीं था। इसका ज़्यादातर जवाब काफी सीधा-सादा है — हर चीज़ की मात्रा बढ़ाना — और साथ में कुछ तरकीबें, जिन्होंने टेक्स्ट का अंदाज़ा लगाने वाले सिस्टम को निर्देश मानने वाले सिस्टम में बदल दिया।

✦ ट्यूटर से पूछें🧪 लैब · 15 min📝 पाठ का टेस्ट
पाठ वीडियो में

60 सेकंड में

मॉडल अचानक इतने अच्छे कैसे हो गए

कोई एक जादुई आइडिया नहीं था। इसका ज़्यादातर जवाब काफी सीधा-सादा है — हर चीज़ की मात्रा बढ़ाना — और साथ में कुछ तरकीबें, जिन्होंने टेक्स्ट का अंदाज़ा लगाने वाले सिस्टम को निर्देश…

1/4
आसान शब्दों में
किसी ने कोई जादुई दिमाग़ ईजाद नहीं किया। उन्होंने बस मशीन को बहुत बड़ा बना दिया, उसे बहुत ज़्यादा डेटा दिया, और फिर उसे तमीज़ सिखाई।

भाग एक: स्केलिंग

रिसर्चर्स ने पाया कि जब आप तीन चीज़ों को एक साथ बढ़ाते हैं, तो मॉडल की क्वालिटी आसानी से और अंदाज़ा लगाने लायक तरीके से सुधरती है: parameters (साइज़), data (टेक्स्ट की मात्रा), और compute (ट्रेनिंग की मात्रा)। इन्हें ही स्केलिंग लॉज़ (scaling laws) कहा जाता है।
'अंदाज़ा लगाने लायक' (Predictable) यहाँ सबसे ज़रूरी शब्द है। इसका मतलब था कि आप दस करोड़ डॉलर खर्च कर सकते थे और आपको मोटा-मोटी पता होता था कि बदले में क्या मिलेगा — इसी चीज़ ने रिसर्च को एक इंडस्ट्री में बदल दिया।
compute · data · parameters →capabilitywe are somewhere around hereif it keeps goingif it flattens
पूरी टाइमलाइन की बहस सिर्फ एक तस्वीर में। कोई नहीं जानता कि हम उन दो रेखाओं में से किस पर हैं, और सच तो यह है कि अब तक का डेटा दोनों ही बातों से मेल खाता है।

भाग दो: वे तरकीबें जिन्होंने इसे काम का बनाया

  1. 1

    Transformers (2017)

    एक ऐसा आर्किटेक्चर जहाँ हर शब्द दूसरे हर शब्द पर ध्यान दे सकता है, और जो आधुनिक हार्डवेयर पर तेज़ी से और कुशलता से ट्रेन होता है। इसी ने बड़े पैमाने (scale) का रास्ता खोला।
  2. 2

    Instruction tuning

    निर्देशों का सही ढंग से पालन करने वाले उदाहरणों पर ट्रेन करना। यह सिर्फ आगे का टेक्स्ट जोड़ने वाले सिस्टम को आपके असली सवाल का जवाब देने वाले सिस्टम में बदल देता है।
  3. 3

    इंसानी फीडबैक से सीखना (RLHF)

    लोग आउटपुट को रेटिंग देते हैं; मॉडल को उन जवाबों की तरफ ढाला जाता है जिन्हें लोग पसंद करते हैं। यहीं पर "मददगार, हानिरहित और सच्चा" बर्ताव डाला जाता है — और सुरक्षा से जुड़ी ज़्यादातर खूबियाँ यहीं बसती हैं।
  4. 4

    Inference के समय सोचना (Reasoning)

    मॉडल को जवाब देने से पहले स्टेप्स में सोचने दें, खुद को परखने दें, और दोबारा कोशिश करने दें। ट्रेनिंग compute के बजाय रनटाइम compute खर्च करके क्षमता हासिल करना।
  5. 5

    Tools

    इसे एक कैलकुलेटर, एक सर्च इंजन, या कोड चलाने वाला टूल दें। Track B का हर मॉड्यूल इसी एक कदम से निकलता है।

इसमें वाकई हैरान करने वाली बात क्या है

  • Emergence (अचानक उभरना)। कुछ क्षमताएँ धीरे-धीरे सुधरने के बजाय एक बड़े स्केल पर अचानक सामने आती हैं — जैसे गणित या कई स्टेप्स वाली रीजनिंग। यह असर कितना असली और कितना तीखा है, इस पर अभी भी बहस जारी है।
  • हर काम कर पाना मुफ़्त में मिला। किसी ने इन मॉडल्स को कोड लिखना, तमिल का अनुवाद करना और प्रकाश संश्लेषण (photosynthesis) समझाना अलग से नहीं सिखाया। ये सब सिर्फ टेक्स्ट का सही अंदाज़ा लगाने के साथ अपने-आप आ गए।
  • नुस्खा बहुत आसान था। इसके मुख्य विचार एक पन्ने पर आ सकते हैं। असली मुश्किल बहुत बड़े पैमाने की इंजीनियरिंग है, न कि कोई गहरी अवधारणा।
सावधान रहें
यह आखिरी बात सुरक्षा के लिहाज़ से दोनों तरफ जाती है। एक आसान नुस्खा तेज़ी से और सस्ते में फैलता है, जिसका मतलब है कि यह क्षमता सिर्फ कुछ चुनिंदा और ज़िम्मेदार संगठनों तक ही सीमित नहीं रहने वाली।

वे सीमाएँ जिनसे लोग टकरा रहे हैं

सीमास्थिति
हाई-क्वालिटी टेक्स्ट डेटालगातार कम हो रहा है; सिंथेटिक डेटा पर फिलहाल दांव लगाया जा रहा है
Compute की लागत और बिजलीबहुत भारी और बढ़ती जा रही है; इस रेस में कौन टिक सकता है, यह तय करने वाली असली रुकावट
घटता हुआ फायदा (Diminishing returns)क्षमता का हर अगला कदम पिछले कदम से ज़्यादा महंगा पड़ता है
विश्वसनीयतास्केलिंग से औसत परफॉर्मेंस सुधरती है, लेकिन कम होने वाली गलतियाँ पूरी तरह ठीक नहीं होतीं

और देखें और पढ़ें

Deep dive into LLMs like ChatGPTAndrej Karpathy · long form · video
Attention and transformers, visually3Blue1Brown · video
Scaling laws explainedYouTube search

लैब

एक स्केलिंग कर्व जिसे आपने खुद फिट किया हो।

~15 min

समस्या

एक ही डेटा पर चार अलग-अलग साइज़ में एक छोटा मॉडल ट्रेन करें। log-log axes पर parameters के सामने अंतिम loss का ग्राफ बनाएं। एक लाइन फिट करें और आगे का अंदाज़ा लगाएं (extrapolate करें) उस साइज़ के लिए जिसे आपने ट्रेन नहीं किया। फिर उस साइज़ को ट्रेन करें और अपने अंदाज़े की जांच करें।
शुरुआती कोडpython
sizes = [1e5, 3e5, 1e6, 3e6]
losses = [run_training(n) for n in sizes]
import numpy as np
a, b = np.polyfit(np.log10(sizes), np.log10(losses), 1)
predict = lambda n: 10 ** (a * np.log10(n) + b)
print(f"predicted loss at 1e7: {predict(1e7):.3f}")
Google Colab खोलें ↗इस कोड के लिए आपके अपने सेटअप की ज़रूरत है (एक मॉडल, एक GPU या अतिरिक्त पैकेज)। इसे Google Colab में चलाएं: File → Upload notebook।

आपका काम तब पूरा होगा जब

कठिन सवाल

उत्तर देखने से पहले ख़ुद जवाब देने की कोशिश करें। अगर आप इनके जवाब दे सकते हैं, तो आप पाठ समझ गए हैं।

Q1आपकी फिटिंग 100B parameters पर 0.8 के loss का अंदाज़ा लगाती है। इस पर भरोसा न करने के दो कारण बताइए।दिखाएं
पहला: आपने अपने डेटा से चार गुना ज़्यादा बड़े पैमाने का अंदाज़ा लगा दिया (extrapolate कर दिया), और स्केलिंग लॉज़ अनुभवों पर आधारित फिटिंग होते हैं जिनकी एक सीमा होती है, वे भौतिकी के नियम नहीं हैं। दूसरा: loss का मतलब क्षमता नहीं होता। एक अनुमानित loss यह नहीं बताता कि कोई खास क्षमता उभरेगी या नहीं, और जिन क्षमताओं की आपको परवाह है, हो सकता है कि वे loss के साथ सीधे तौर पर बिल्कुल न बदलें (मॉड्यूल 29)।

जारी रखने के लिए कृपया साइन इन करें।

अक्सर पूछे जाने वाले सवाल

क्या सिर्फ स्केलिंग से AGI बन जाएगा?

इस पर वाकई बहुत बहस है। कुछ गंभीर रिसर्चर्स का मानना है कि स्केल, टूल्स और मेमोरी को मिलाकर वहाँ पहुँचा जा सकता है। दूसरों का मानना है कि कुछ बुनियादी चीज़ें अभी भी गायब हैं — जैसे लगातार सीखना (continual learning), कारण-प्रभाव वाले मॉडल (causal models), और ज़मीनी समझ (grounding) — जो कितना भी compute बढ़ाने से नहीं मिलेंगी। दोनों में से कोई भी पक्ष अभी इसे साबित नहीं कर सकता।

क्या यह वाकई "सिर्फ" सांख्यिकी (statistics) है?

तकनीकी तौर पर हाँ, लेकिन लोग इस बात को जितना सीधा समझते हैं, यह उतनी है नहीं। टेक्स्ट का बहुत अच्छी तरह से अंदाज़ा लगाने के चक्कर में मॉडल को दुनिया के बारे में एक अंदरूनी समझ बनानी ही पड़ती है। उस समझ को सचमुच 'समझना' माना जाए या नहीं, यह दर्शनशास्त्र की बात है, और इससे इस बात पर कोई फर्क नहीं पड़ता कि यह सिस्टम क्या कर सकता है।

बड़े मॉडल कम भ्रमित (hallucinate) क्यों होते हैं, फिर भी पूरी तरह गलतियाँ क्यों नहीं छोड़ते?

क्योंकि स्केल औसत को बेहतर बनाता है, पर अंदरूनी सिस्टम को नहीं बदलता। यह अभी भी संभावनाओं (probabilities) पर चलने वाली मशीन है जिसके पास सच जानने का कोई इनबिल्ट ज़रिया नहीं है। साइज़ बढ़ाने से कहीं ज़्यादा मदद इसे खोजे गए असली स्रोतों से जोड़ने (grounding) से मिलती है।

क्या ओपन मॉडल्स सुरक्षा के लिए खतरा हैं?

यह एक ऐसा समझौता है जिसके दोनों तरफ मज़बूत तर्क हैं: वे आज़ाद सुरक्षा रिसर्च को मुमकिन बनाते हैं और ताकत को एक जगह जमा होने से रोकते हैं, लेकिन एक बार किसी क्षमता को रिलीज़ कर दिया जाए तो उसे वापस खींचने का रास्ता भी बंद कर देते हैं। समझदार लोग भी इस पर ज़ोरदार असहमति रखते हैं।

पाठ का टेस्ट

5 सवाल। पास होने और इस पाठ को पूरा करने के लिए 3 सही होने चाहिए (60%)।

टेस्ट देने और अपनी प्रोग्रेस सेव करने के लिए साइन इन करें