AGIशुरुआतीपाठ 275 मिनट का पाठ

क्षमता की सीढ़ी

बुद्धिमत्ता कोई एक स्विच नहीं है जिसे बस ऑन कर दिया जाए। यह देखने के लिए कि क्या बदलता है — और जो भी इसकी निगरानी कर रहा है उसके लिए इसका क्या मतलब है — सीढ़ी के पायदानों पर क्लिक करके देखें।

पाठ वीडियो में

60 सेकंड में

क्षमता की सीढ़ी

बुद्धिमत्ता कोई एक स्विच नहीं है जिसे बस ऑन कर दिया जाए। यह देखने के लिए कि क्या बदलता है — और जो भी इसकी निगरानी कर रहा है उसके लिए इसका क्या मतलब है — सीढ़ी के पायदानों पर क्लिक…

1/4
आसान शब्दों में
इसे किसी जादुई दरवाज़े की तरह नहीं, बल्कि सीढ़ियों की तरह समझें। हर एक सीढ़ी ऊपर चढ़ने पर, मशीन अपने आप थोड़ा और काम कर सकती है — और हर सीढ़ी पर, आपको उस पर थोड़ा अलग तरीके से नज़र रखनी होगी।
मंज़िल की रेखा की तुलना में सीढ़ी एक बेहतर मानसिक मॉडल (सोचने का तरीका) है। हर पायदान पर जो बात मायने रखती है वह कोई लेबल नहीं, बल्कि एक व्यावहारिक सवाल है: इंसान के देखने से पहले यह खुद से कितना काम कर सकती है?

Interactive · the capability ladder

Rung 3 — AgentIt acts, you check afterwards. It plans, uses tools, works for minutes or hours. It can send, write, deploy and spend. Oversight: approval gates on the irreversible, plus logs someone reads. This is where the frontier actually is today.

ध्यान देने लायक पैटर्न

पायदानों को फिर से पढ़ें और देखें कि असल में क्या बदलता है। यह "कितनी चतुर है" नहीं है — बल्कि यह है कि कुछ गड़बड़ होने से पहले यह बिना किसी इंसानी निगरानी के कितने समय तक चल सकती है। वह संख्या ही असली पैमाना है, और वही तय करती है कि आपको ट्रैक B की कितनी ज़रूरत है।
toolassistantagentautonomousunsupervised timesecondsminutes to hoursdays — nobody is watchingabove this line, oversight must be designed in
वह वक्र (कर्व) जो मायने रखता है। क्षमता आड़ी धुरी (हॉरिजॉन्टल एक्सिस) है; खड़ी धुरी (वर्टिकल एक्सिस) यह है कि किसी इंसान के कुछ भी देखने से पहले सिस्टम कितने समय तक चलता है। ट्रैक B में मौजूद हर चीज़ इसी दूसरी संख्या को सही और सुरक्षित बनाए रखने के लिए है।

ईमानदारी से कहें तो, हम आज कहाँ हैं

  • आज के सबसे बेहतरीन सिस्टम पूरी तरह से एजेंट वाले पायदान पर हैं: वे योजना बनाते हैं, टूल्स का इस्तेमाल करते हैं, और असली कामों पर मिनटों से लेकर घंटों तक काम करते हैं।
  • लंबे समय के दौरान वे अविश्वसनीय हो जाते हैं — छोटी-छोटी गलतियाँ बढ़ती जाती हैं, और वे हमेशा इस पर ध्यान नहीं दे पाते।
  • वे कल से कुछ नहीं सीखते। जब तक कि आप उनके आसपास मेमोरी का इंतज़ाम न करें, हर सेशन बिल्कुल नए सिरे से शुरू होता है।
  • वे बहुत ही असंतुलित हैं: कुछ सीमित चीज़ों में इंसानों से भी बेहतर, लेकिन ऐसी चीज़ों में अजीब तरह से कमज़ोर जिन्हें एक बच्चा भी आसानी से कर लेता है।
यह करें
यह असंतुलन अपने आप में सुरक्षा से जुड़ा एक सच है। एक ऐसा सिस्टम जो कोड लिखने में शानदार है लेकिन नतीजों का अंदाज़ा लगाने में खराब है, यह ठीक वैसा मेल है जिसे भरोसे की नहीं बल्कि बाहरी सीमाओं की ज़रूरत होती है।

और देखें और पढ़ें

लैब

क्षमता की सीढ़ी पर आपके अपने सिस्टम्स, और उनमें से प्रत्येक के लिए ज़रूरी निगरानी।

~10 min

समस्या

छह पायदानों वाली सीढ़ी पर उन तीन सिस्टम्स को रखें जिनका आप इस्तेमाल करते हैं। प्रत्येक के लिए, असली संख्या मापें: किसी इंसान के कुछ भी देखने से पहले यह कितने समय तक काम करता है? फिर बताएं कि वह संख्या किस तरह की निगरानी की माँग करती है।

आपका काम तब पूरा होगा जब

कठिन सवाल

उत्तर देखने से पहले ख़ुद जवाब देने की कोशिश करें। अगर आप इनके जवाब दे सकते हैं, तो आप पाठ समझ गए हैं।

Q1दो सिस्टम्स समान रूप से सक्षम हैं। एक कहीं अधिक खतरनाक है। इसका कारण (मैकेनिज्म) एक वाक्य में दें, फिर उसे विस्तार से समझाएं।दिखाएं
ऑटोनॉमी को परमिशन से गुणा किया गया है, न कि बुद्धिमत्ता से। विस्तार से: क्षमता यह तय करती है कि कोई सिस्टम क्या कर सकता है; बिना निगरानी के काम करने का समय यह तय करता है कि वह बिना ध्यान में आए कितने समय तक ऐसा करता है; और परमिशन सेट यह तय करता है कि वह कितना नुकसान पहुँचा सकता है। सैंडबॉक्स में रीड-ओनली एक्सेस वाला एक शानदार मॉडल सुरक्षित है; वही मॉडल प्रोडक्शन क्रेडेंशियल्स और रात भर चलने वाले शेड्यूल के साथ सुरक्षित नहीं है। इन दोनों मल्टीप्लायर्स पर आपका नियंत्रण होता है।

जारी रखने के लिए कृपया साइन इन करें।

अक्सर पूछे जाने वाले सवाल

क्या हमें हर पायदान क्रम से ही चढ़ना होगा?

शायद एकदम सीधे क्रम में नहीं। तरक्की ऊबड़-खाबड़ रही है — कुछ क्षमताओं में अचानक छलांग लगी है जबकि अन्य जस की तस बनी हुई हैं। कोई सिस्टम रिसर्च में इंसानों से कहीं आगे हो सकता है और फिर भी हो सकता है कि वह भरोसेमंद तरीके से टैक्सी बुक न कर पाए।

कौन सा पायदान खतरनाक है?

कोई भी ऐसा पायदान जहाँ सिस्टम आपके चेक करने से पहले ही तेज़ी से ऐसे काम कर देता है जिन्हें आप वापस पहले जैसा नहीं कर सकते। उस सीमा को आज ही, एजेंट वाले पायदान पर, आम बिज़नेस सॉफ़्टवेयर द्वारा पार किया जा चुका है। यह भविष्य की कोई समस्या नहीं है।

क्या ज़्यादा क्षमता का मतलब ज़्यादा खतरा है?

क्षमता उस ऑटोनॉमी (स्वायत्तता) और परमिशन को कई गुना बढ़ा देती है जो आपने उसे दी हैं। सैंडबॉक्स में केवल रीड-ओनली एक्सेस वाला ज़्यादा सक्षम मॉडल ज़्यादा खतरनाक नहीं होता। वही मॉडल प्रोडक्शन क्रेडेंशियल्स के साथ बहुत ज़्यादा खतरनाक हो जाता है। इस मल्टीप्लायर (गुणांक) पर आपका नियंत्रण होता है।

क्या सुपरइंटेलीजेंस के ऊपर भी कोई पायदान है?

लोग बार-बार खुद को बेहतर बनाने (रिकर्सिव सेल्फ़-इम्प्रूवमेंट) के बारे में अंदाज़ा लगाते हैं — एक ऐसा सिस्टम जो खुद को सुधारता है, और फिर खुद को और भी तेज़ी से सुधारता है। क्या यह कोई वास्तविक प्रक्रिया है या सिर्फ एक मनगढ़ंत कहानी, यह अभी पूरी तरह तय नहीं है।

पाठ का टेस्ट

5 सवाल। पास होने और इस पाठ को पूरा करने के लिए 3 सही होने चाहिए (60%)।

टेस्ट देने और अपनी प्रोग्रेस सेव करने के लिए साइन इन करें