इसे अमल में लाएंशुरुआतीपाठ 595 मिनट का पाठ

टाइमलाइन को लेकर बहस कैसे करें

डिनर पर आपसे पूछा जाएगा, "तो AI दुनिया पर कब्ज़ा कब कर रहा है?" बिना किसी हाइप बेचने वाले या निराशावादी की तरह लगे, ईमानदारी से जवाब देने का तरीका यहाँ है।

पाठ वीडियो में

60 सेकंड में

टाइमलाइन को लेकर बहस कैसे करें

डिनर पर आपसे पूछा जाएगा, "तो AI दुनिया पर कब्ज़ा कब कर रहा है?" बिना किसी हाइप बेचने वाले या निराशावादी की तरह लगे, ईमानदारी से जवाब देने का तरीका यहाँ है।

1/5
आसान शब्दों में
कुछ बहुत समझदार लोग कहते हैं "जल्द ही"। दूसरे बहुत समझदार लोग कहते हैं "सालों तक नहीं"। वे झूठ नहीं बोल रहे हैं। वे अलग-अलग चीज़ों को देख रहे हैं और अलग शब्दों का इस्तेमाल कर रहे हैं।

सबसे समझदार लोग असहमत क्यों हैं

अगर आप मानते हैं...तो आप उम्मीद करते हैं...क्योंकि
स्केलिंग काम करती रहेगीएक दशक के भीतर क्षमताओं में बड़ी छलांगग्रोथ का ग्राफ अभी धीमा नहीं पड़ा है
स्केलिंग धीमी पड़ रही हैधीमी प्रगति, ठहरावहर अगला कदम पिछले से बहुत ज़्यादा महंगा है
अहम हिस्से नदारद हैंकई दशक, या एक बिल्कुल नया तरीकाकोई निरंतर सीख (continual learning) नहीं, कोई आधार नहीं, कोई कारण-प्रभाव मॉडल (causal models) नहीं
एजेंट्स सब कुछ बदल देते हैंबिना किसी नए मॉडल के तेज़ी से बदलावक्षमता × स्वायत्तता (autonomy) × डिप्लॉयमेंट
रुकावटें भौतिक (physical) हैंहाइप से कहीं धीमाऊर्जा, चिप्स, डेटा, नियम-कानून (regulation), और संस्थानों के काम करने की रफ़्तार

चार तरीके जिनसे आपकी बात समझदारी भरी लगेगी

  1. 1

    पूछें कि उनका क्या मतलब है

    "जब आप AGI कहते हैं, तो क्या आपका मतलब है कि यह ज़्यादातर काम कर लेता है, या यह कि यह इंसानों की तरह सीखता है?" आधी असहमति यहीं खत्म हो जाती है।
  2. 2

    लेबल्स की नहीं, क्षमताओं की बात करें

    "क्या कोई AI 2028 तक बिना किसी निगरानी के जूनियर डेवलपर का पूरे हफ्ते का काम कर पाएगा?" एक ऐसा सवाल है जिस पर आप शर्त लगा सकते हैं। "क्या यह AGI है?" पर नहीं।
  3. 3

    क्षमता और डिप्लॉयमेंट को अलग रखें

    किसी चीज़ का मुमकिन होना और उसका हर जगह मौजूद होना एक बात नहीं है। अस्पताल और बैंक वाजिब कारणों से धीरे काम करते हैं।
  4. 4

    एक दायरा दें और वजह बताएं

    "मुझे पाँच साल में बहुत बड़ा बदलाव देखकर भी हैरानी नहीं होगी, और तीस साल लगने पर भी नहीं। मेरी राय किस बात से बदल सकती है, वह यहाँ है।"

वे संकेत जिन पर सच में नज़र रखनी चाहिए

  • टास्क की लंबाई। कोई एजेंट बिना निगरानी के कितना लंबा काम पूरा कर सकता है? यही वह संख्या है जो लगातार बदल रही है, और यह बेंचमार्क स्कोर से कहीं ज़्यादा मायने रखती है।
  • लॉन्ग टेल (दुर्लभ मामलों) में विश्वसनीयता, औसत नहीं। औसत तो सालों से सुधर रहे हैं; दुर्लभ मामले ही असली डिप्लॉयमेंट को रोकते हैं।
  • हर उपयोगी काम की घटती लागत। यह तय करता है कि तकनीक को कितना अपनाया जाएगा, सिर्फ कच्ची क्षमता से यह तय नहीं होता।
  • निरंतर सीखना (Continual learning)। अगर कोई सिस्टम डिप्लॉयमेंट के दौरान अपने अनुभवों से सचमुच सीखता है, तो यह वाकई एक बड़ा बदलाव होगा।
  • असली घटनाएं। किसी एजेंट की हर गंभीर नाकामी, असली जोखिमों के बारे में किसी भी बेंचमार्क से कहीं ज़्यादा सिखाती है।
सावधान रहें
दो दावों पर आपको शक होना चाहिए: "अगले साल यह सब कुछ बदल देगा" और "यह सिर्फ ऑटो-कम्प्लीट है, देखने लायक कुछ नहीं।" दोनों ही बातें सतही हैं, दोनों कहने में अच्छी लगती हैं, और दोनों ही इस हकीकत के सामने नहीं टिकतीं कि ये सिस्टम असल में क्या करते हैं।
असली उदाहरण
डिनर टेबल पर देने लायक एक जवाब जो आप सच में इस्तेमाल कर सकते हैं: "कोई नहीं जानता। लेकिन हमारे पास पहले से ही ऐसा सॉफ़्टवेयर है जो आपके ईमेल पढ़ता है और आपकी तरफ से ईमेल भेज सकता है — और इसे ठीक से समझना और संभालना ज़रूरी है, चाहे इससे ज़्यादा स्मार्ट कुछ कभी आए या न आए।"
यह करें
इस पूरी गाइड का यही मकसद है। सुरक्षा का काम टाइमलाइन पर निर्भर नहीं करता। अगर AGI तीस साल दूर है, तो भी Track B इसी तिमाही में आपकी सुरक्षा करता है। अगर यह करीब है, तो Track B वह बुनियाद है जिस पर बाकी सब कुछ टिका है। दोनों ही हाल में, सोमवार को आपको एक ही काम करना है।

और देखें और पढ़ें

लैब

एक अनुमान जो आपने लिखकर रखा है, साथ में गलत साबित करने वाली शर्त के।

~15 min

समस्या

AI की क्षमताओं के बारे में तीन स्पष्ट, तय तारीख वाली और गलत साबित की जा सकने वाली भविष्यवाणियां लिखें। हर एक के लिए बताएं कि किस सबूत से आपकी राय बदल जाएगी। खुद को परखने के लिए कैलेंडर में एक रिमाइंडर लगाएं।

आपका काम तब पूरा होगा जब

कठिन सवाल

उत्तर देखने से पहले ख़ुद जवाब देने की कोशिश करें। अगर आप इनके जवाब दे सकते हैं, तो आप पाठ समझ गए हैं।

Q1'2030 तक AGI' को एक शर्त लगाने लायक दावे के रूप में दोबारा लिखें, फिर बताएं कि नया रूप बेहतर क्यों है।दिखाएं
उदाहरण के लिए: '31 दिसंबर 2030 तक, सार्वजनिक रूप से उपलब्ध कोई सिस्टम बिना किसी निगरानी के, पेशेवर गुणवत्ता के साथ, कम से कम 50% प्रयासों में एक अलग रखे गए सेट (held-out set) से बेतरतीब ढंग से चुना गया 40 घंटे का सॉफ़्टवेयर टास्क पूरा कर देगा।' यह बेहतर इसलिए है क्योंकि हर शब्द को मापा जा सकता है, नतीजे का स्रोत तय है, और कोई इसके विपरीत दांव लगा सकता है — जो आपको सिर्फ मूड के बजाय एक ठोस रुख अपनाने पर मजबूर करता है। ऐसी कोई भी भविष्यवाणी जिसके खिलाफ कोई शर्त न लगा सके, भविष्यवाणी नहीं होती।

जारी रखने के लिए कृपया साइन इन करें।

अक्सर पूछे जाने वाले सवाल

मुझे इस बारे में असल में किसे पढ़ना चाहिए?

ऐसे लोगों को पढ़ें जो ऐसी भविष्यवाणियाँ करते हैं जिन्हें गलत साबित किया जा सके (falsifiable) और फिर यह भी प्रकाशित करते हैं कि उनका नतीजा क्या रहा। ऐसे भविष्यवक्ताओं को तरजीह दें जो सार्वजनिक रूप से अपनी राय बदलते हैं। ऐसे किसी भी व्यक्ति की बात को अनदेखा करें जिसका नज़रिया पाँच साल में बिल्कुल न बदला हो — और ऐसे किसी भी व्यक्ति को भी, जो अपने जवाब के आधार पर कुछ बेच रहा हो।

क्या AI रिसर्चर्स खुद चिंतित हैं?

इस क्षेत्र के सर्वे लगातार दिखाते हैं कि राय बहुत बंटी हुई है, जिसमें एक अच्छा-खासा अल्पसंख्यक वर्ग गंभीर नतीजों की वास्तविक आशंका जताता है। कोई आम सहमति नहीं है। कोई भी व्यक्ति जो आपसे कहता है कि "विशेषज्ञ सहमत हैं" — चाहे किसी भी पक्ष में — वह सर्वे की सही तस्वीर नहीं बता रहा है।

क्या इस बात से फर्क पड़ता है कि मैं क्या सोचता हूँ?

आपके काम के लिए, आपकी उम्मीद से कम फर्क पड़ता है: ज़्यादातर टाइमलाइनों में व्यावहारिक कदम एक जैसे ही होते हैं। आपके वोट, आपके करियर के फैसलों और आप अपने बच्चों को क्या सिखाते हैं, इसके लिए यह काफी मायने रखता है।

जो डरा हुआ है, मैं उससे कैसे बात करूँ?

उनकी बात को खारिज करने के बजाय गंभीरता से लें, फिर उस बात पर आएं जिसे सच में नियंत्रित किया जा सकता है: सिस्टम कैसे डिप्लॉय किए जाते हैं, उन्हें क्या अनुमतियाँ (permissions) मिलती हैं, और क्या निगरानी रखी जाती है। नियंत्रण की भावना (agency) डर का तोड़ है, और यहाँ वाकई इस पर काफी नियंत्रण मुमकिन है।

पाठ का टेस्ट

5 सवाल। पास होने और इस पाठ को पूरा करने के लिए 3 सही होने चाहिए (60%)।

टेस्ट देने और अपनी प्रोग्रेस सेव करने के लिए साइन इन करें