क्षमता की सीढ़ी
बुद्धिमत्ता कोई एक स्विच नहीं है जिसे बस ऑन कर दिया जाए। यह देखने के लिए कि क्या बदलता है — और जो भी इसकी निगरानी कर रहा है उसके लिए इसका क्या मतलब है — सीढ़ी के पायदानों पर क्लिक करके देखें।
60 सेकंड में
क्षमता की सीढ़ी
बुद्धिमत्ता कोई एक स्विच नहीं है जिसे बस ऑन कर दिया जाए। यह देखने के लिए कि क्या बदलता है — और जो भी इसकी निगरानी कर रहा है उसके लिए इसका क्या मतलब है — सीढ़ी के पायदानों पर क्लिक…
Interactive · the capability ladder
ध्यान देने लायक पैटर्न
ईमानदारी से कहें तो, हम आज कहाँ हैं
- आज के सबसे बेहतरीन सिस्टम पूरी तरह से एजेंट वाले पायदान पर हैं: वे योजना बनाते हैं, टूल्स का इस्तेमाल करते हैं, और असली कामों पर मिनटों से लेकर घंटों तक काम करते हैं।
- लंबे समय के दौरान वे अविश्वसनीय हो जाते हैं — छोटी-छोटी गलतियाँ बढ़ती जाती हैं, और वे हमेशा इस पर ध्यान नहीं दे पाते।
- वे कल से कुछ नहीं सीखते। जब तक कि आप उनके आसपास मेमोरी का इंतज़ाम न करें, हर सेशन बिल्कुल नए सिरे से शुरू होता है।
- वे बहुत ही असंतुलित हैं: कुछ सीमित चीज़ों में इंसानों से भी बेहतर, लेकिन ऐसी चीज़ों में अजीब तरह से कमज़ोर जिन्हें एक बच्चा भी आसानी से कर लेता है।
और देखें और पढ़ें
लैब
क्षमता की सीढ़ी पर आपके अपने सिस्टम्स, और उनमें से प्रत्येक के लिए ज़रूरी निगरानी।
समस्या
आपका काम तब पूरा होगा जब
कठिन सवाल
उत्तर देखने से पहले ख़ुद जवाब देने की कोशिश करें। अगर आप इनके जवाब दे सकते हैं, तो आप पाठ समझ गए हैं।
Q1दो सिस्टम्स समान रूप से सक्षम हैं। एक कहीं अधिक खतरनाक है। इसका कारण (मैकेनिज्म) एक वाक्य में दें, फिर उसे विस्तार से समझाएं।दिखाएं
अक्सर पूछे जाने वाले सवाल
क्या हमें हर पायदान क्रम से ही चढ़ना होगा?
शायद एकदम सीधे क्रम में नहीं। तरक्की ऊबड़-खाबड़ रही है — कुछ क्षमताओं में अचानक छलांग लगी है जबकि अन्य जस की तस बनी हुई हैं। कोई सिस्टम रिसर्च में इंसानों से कहीं आगे हो सकता है और फिर भी हो सकता है कि वह भरोसेमंद तरीके से टैक्सी बुक न कर पाए।
कौन सा पायदान खतरनाक है?
कोई भी ऐसा पायदान जहाँ सिस्टम आपके चेक करने से पहले ही तेज़ी से ऐसे काम कर देता है जिन्हें आप वापस पहले जैसा नहीं कर सकते। उस सीमा को आज ही, एजेंट वाले पायदान पर, आम बिज़नेस सॉफ़्टवेयर द्वारा पार किया जा चुका है। यह भविष्य की कोई समस्या नहीं है।
क्या ज़्यादा क्षमता का मतलब ज़्यादा खतरा है?
क्षमता उस ऑटोनॉमी (स्वायत्तता) और परमिशन को कई गुना बढ़ा देती है जो आपने उसे दी हैं। सैंडबॉक्स में केवल रीड-ओनली एक्सेस वाला ज़्यादा सक्षम मॉडल ज़्यादा खतरनाक नहीं होता। वही मॉडल प्रोडक्शन क्रेडेंशियल्स के साथ बहुत ज़्यादा खतरनाक हो जाता है। इस मल्टीप्लायर (गुणांक) पर आपका नियंत्रण होता है।
क्या सुपरइंटेलीजेंस के ऊपर भी कोई पायदान है?
लोग बार-बार खुद को बेहतर बनाने (रिकर्सिव सेल्फ़-इम्प्रूवमेंट) के बारे में अंदाज़ा लगाते हैं — एक ऐसा सिस्टम जो खुद को सुधारता है, और फिर खुद को और भी तेज़ी से सुधारता है। क्या यह कोई वास्तविक प्रक्रिया है या सिर्फ एक मनगढ़ंत कहानी, यह अभी पूरी तरह तय नहीं है।
पाठ का टेस्ट
5 सवाल। पास होने और इस पाठ को पूरा करने के लिए 3 सही होने चाहिए (60%)।