टाइमलाइन को लेकर बहस कैसे करें
डिनर पर आपसे पूछा जाएगा, "तो AI दुनिया पर कब्ज़ा कब कर रहा है?" बिना किसी हाइप बेचने वाले या निराशावादी की तरह लगे, ईमानदारी से जवाब देने का तरीका यहाँ है।
60 सेकंड में
टाइमलाइन को लेकर बहस कैसे करें
डिनर पर आपसे पूछा जाएगा, "तो AI दुनिया पर कब्ज़ा कब कर रहा है?" बिना किसी हाइप बेचने वाले या निराशावादी की तरह लगे, ईमानदारी से जवाब देने का तरीका यहाँ है।
सबसे समझदार लोग असहमत क्यों हैं
| अगर आप मानते हैं... | तो आप उम्मीद करते हैं... | क्योंकि |
|---|---|---|
| स्केलिंग काम करती रहेगी | एक दशक के भीतर क्षमताओं में बड़ी छलांग | ग्रोथ का ग्राफ अभी धीमा नहीं पड़ा है |
| स्केलिंग धीमी पड़ रही है | धीमी प्रगति, ठहराव | हर अगला कदम पिछले से बहुत ज़्यादा महंगा है |
| अहम हिस्से नदारद हैं | कई दशक, या एक बिल्कुल नया तरीका | कोई निरंतर सीख (continual learning) नहीं, कोई आधार नहीं, कोई कारण-प्रभाव मॉडल (causal models) नहीं |
| एजेंट्स सब कुछ बदल देते हैं | बिना किसी नए मॉडल के तेज़ी से बदलाव | क्षमता × स्वायत्तता (autonomy) × डिप्लॉयमेंट |
| रुकावटें भौतिक (physical) हैं | हाइप से कहीं धीमा | ऊर्जा, चिप्स, डेटा, नियम-कानून (regulation), और संस्थानों के काम करने की रफ़्तार |
चार तरीके जिनसे आपकी बात समझदारी भरी लगेगी
- 1
पूछें कि उनका क्या मतलब है
"जब आप AGI कहते हैं, तो क्या आपका मतलब है कि यह ज़्यादातर काम कर लेता है, या यह कि यह इंसानों की तरह सीखता है?" आधी असहमति यहीं खत्म हो जाती है। - 2
लेबल्स की नहीं, क्षमताओं की बात करें
"क्या कोई AI 2028 तक बिना किसी निगरानी के जूनियर डेवलपर का पूरे हफ्ते का काम कर पाएगा?" एक ऐसा सवाल है जिस पर आप शर्त लगा सकते हैं। "क्या यह AGI है?" पर नहीं। - 3
क्षमता और डिप्लॉयमेंट को अलग रखें
किसी चीज़ का मुमकिन होना और उसका हर जगह मौजूद होना एक बात नहीं है। अस्पताल और बैंक वाजिब कारणों से धीरे काम करते हैं। - 4
एक दायरा दें और वजह बताएं
"मुझे पाँच साल में बहुत बड़ा बदलाव देखकर भी हैरानी नहीं होगी, और तीस साल लगने पर भी नहीं। मेरी राय किस बात से बदल सकती है, वह यहाँ है।"
वे संकेत जिन पर सच में नज़र रखनी चाहिए
- टास्क की लंबाई। कोई एजेंट बिना निगरानी के कितना लंबा काम पूरा कर सकता है? यही वह संख्या है जो लगातार बदल रही है, और यह बेंचमार्क स्कोर से कहीं ज़्यादा मायने रखती है।
- लॉन्ग टेल (दुर्लभ मामलों) में विश्वसनीयता, औसत नहीं। औसत तो सालों से सुधर रहे हैं; दुर्लभ मामले ही असली डिप्लॉयमेंट को रोकते हैं।
- हर उपयोगी काम की घटती लागत। यह तय करता है कि तकनीक को कितना अपनाया जाएगा, सिर्फ कच्ची क्षमता से यह तय नहीं होता।
- निरंतर सीखना (Continual learning)। अगर कोई सिस्टम डिप्लॉयमेंट के दौरान अपने अनुभवों से सचमुच सीखता है, तो यह वाकई एक बड़ा बदलाव होगा।
- असली घटनाएं। किसी एजेंट की हर गंभीर नाकामी, असली जोखिमों के बारे में किसी भी बेंचमार्क से कहीं ज़्यादा सिखाती है।
और देखें और पढ़ें
लैब
एक अनुमान जो आपने लिखकर रखा है, साथ में गलत साबित करने वाली शर्त के।
समस्या
आपका काम तब पूरा होगा जब
कठिन सवाल
उत्तर देखने से पहले ख़ुद जवाब देने की कोशिश करें। अगर आप इनके जवाब दे सकते हैं, तो आप पाठ समझ गए हैं।
Q1'2030 तक AGI' को एक शर्त लगाने लायक दावे के रूप में दोबारा लिखें, फिर बताएं कि नया रूप बेहतर क्यों है।दिखाएं
अक्सर पूछे जाने वाले सवाल
मुझे इस बारे में असल में किसे पढ़ना चाहिए?
ऐसे लोगों को पढ़ें जो ऐसी भविष्यवाणियाँ करते हैं जिन्हें गलत साबित किया जा सके (falsifiable) और फिर यह भी प्रकाशित करते हैं कि उनका नतीजा क्या रहा। ऐसे भविष्यवक्ताओं को तरजीह दें जो सार्वजनिक रूप से अपनी राय बदलते हैं। ऐसे किसी भी व्यक्ति की बात को अनदेखा करें जिसका नज़रिया पाँच साल में बिल्कुल न बदला हो — और ऐसे किसी भी व्यक्ति को भी, जो अपने जवाब के आधार पर कुछ बेच रहा हो।
क्या AI रिसर्चर्स खुद चिंतित हैं?
इस क्षेत्र के सर्वे लगातार दिखाते हैं कि राय बहुत बंटी हुई है, जिसमें एक अच्छा-खासा अल्पसंख्यक वर्ग गंभीर नतीजों की वास्तविक आशंका जताता है। कोई आम सहमति नहीं है। कोई भी व्यक्ति जो आपसे कहता है कि "विशेषज्ञ सहमत हैं" — चाहे किसी भी पक्ष में — वह सर्वे की सही तस्वीर नहीं बता रहा है।
क्या इस बात से फर्क पड़ता है कि मैं क्या सोचता हूँ?
आपके काम के लिए, आपकी उम्मीद से कम फर्क पड़ता है: ज़्यादातर टाइमलाइनों में व्यावहारिक कदम एक जैसे ही होते हैं। आपके वोट, आपके करियर के फैसलों और आप अपने बच्चों को क्या सिखाते हैं, इसके लिए यह काफी मायने रखता है।
जो डरा हुआ है, मैं उससे कैसे बात करूँ?
उनकी बात को खारिज करने के बजाय गंभीरता से लें, फिर उस बात पर आएं जिसे सच में नियंत्रित किया जा सकता है: सिस्टम कैसे डिप्लॉय किए जाते हैं, उन्हें क्या अनुमतियाँ (permissions) मिलती हैं, और क्या निगरानी रखी जाती है। नियंत्रण की भावना (agency) डर का तोड़ है, और यहाँ वाकई इस पर काफी नियंत्रण मुमकिन है।
पाठ का टेस्ट
5 सवाल। पास होने और इस पाठ को पूरा करने के लिए 3 सही होने चाहिए (60%)।