जवाब की जाँच करें: सोर्स, वेरिफिकेशन और हैल्यूसिनेशन
AI ऐसे तथ्य, आंकड़े और यहाँ तक कि सोर्स भी गढ़ सकता है जो एकदम असली लगते हैं। सीखें कि बेहतर सवाल कैसे पूछें, चेतावनी के संकेतों को कैसे पहचानें, और जो ज़रूरी है उसकी पुष्टि कैसे करें।
60 सेकंड में
जवाब की जाँच करें: सोर्स, वेरिफिकेशन और हैल्यूसिनेशन
AI ऐसे तथ्य, आंकड़े और यहाँ तक कि सोर्स भी गढ़ सकता है जो एकदम असली लगते हैं। सीखें कि बेहतर सवाल कैसे पूछें, चेतावनी के संकेतों को कैसे पहचानें, और जो ज़रूरी है उसकी पुष्टि कैसे…
चेतावनी के संकेत
| संकेत | यह क्यों मायने रखता है |
|---|---|
| बिना किसी सोर्स के बहुत सटीक आंकड़े | आंकड़े गढ़ना आसान होता है और उन पर शक करना मुश्किल |
| मशहूर हस्तियों के कोट्स | कोट्स अक्सर मनगढ़ंत होते हैं या किसी गलत व्यक्ति के नाम कर दिए जाते हैं |
| लिंक्स, किताबों के नाम या पेपर के नाम | ये मनगढ़ंत हो सकते हैं; इन्हें खोलकर जाँचें |
| हालिया घटनाएँ या मौजूदा कीमतें | मॉडल की जानकारी पुरानी हो सकती है, बशर्ते ऐप वेब पर सर्च न करता हो |
| स्थानीय नियम, फीस, तारीखें | ये जगह के हिसाब से अलग होते हैं और अक्सर बदलते रहते हैं |
| दोबारा पूछने पर जवाब बदल जाना | इस बात का संकेत कि मॉडल को पक्का यकीन नहीं है |
मददगार प्रॉम्प्ट्स
Answer the question below. For each key fact, tell me
how confident you are (high / medium / low).
If you don't know, say "I don't know".
List any sources you used so I can check them myself.
Question: What documents are usually needed to open
a savings bank account in India?वेरिफिकेशन (जाँचने) की आदत
- 1
जो ज़रूरी है उसे चुनें
वे कौन से तथ्य हैं जिनके गलत होने पर नुकसान या शर्मिंदगी हो सकती है? - 2
कोई स्वतंत्र सोर्स ढूँढें
आधिकारिक वेबसाइट, पाठ्यपुस्तक, भरोसेमंद समाचार, या कोई विशेषज्ञ। - 3
तुलना करें
क्या सोर्स में भी वही बात उसी तरह कही गई है? - 4
सुधारें या हटा दें
तथ्य को सही करें, या पुष्टि न होने पर उसे हटा दें।
- उसी चैटबॉट से "क्या आपको पक्का यकीन है?" पूछना और "हाँ" मान लेना
- बिना खोले किसी लिंक पर भरोसा कर लेना
- सिर्फ उन्हीं तथ्यों की जाँच करना जिन पर आपको पहले से शक था
- चैटबॉट से बाहर किसी दूसरे सोर्स से जाँच करना
- हर लिंक को खोलना और ठीक वही वाक्य ढूँढना
- उन सभी आंकड़ों, नामों और तारीखों की जाँच करना जिनका आप इस्तेमाल करेंगे
और देखें और पढ़ें
लैब
एक चैटबॉट जवाब के लिए फैक्ट-चेक टेबल, जिसमें हर दावे के लिए एक नतीजा हो।
समस्या
किसी चैटबॉट से अपने पसंद का कोई तथ्यात्मक सवाल पूछें (उदाहरण के लिए कोई ऐतिहासिक घटना, सरकारी प्रक्रिया, या विज्ञान से जुड़ा विषय)। उससे मुख्य तथ्य और सोर्स बताने को कहें।
- इन कॉलमों के साथ एक टेबल बनाएं: दावा (Claim), AI द्वारा दिया गया सोर्स, मेरे द्वारा जाँचा गया सोर्स, नतीजा (सही / गलत / पुष्टि नहीं हो सकी)।
- चैटबॉट के बाहर के सोर्स का इस्तेमाल करके कम से कम 5 दावों की जाँच करें।
- उसके द्वारा दिए गए हर लिंक को खोलें और नोट करें कि क्या वह मौजूद है और मेल खाता है।
- एक वाक्य लिखें कि आप इस जवाब पर कितना भरोसा करेंगे और क्यों।
आपका काम तब पूरा होगा जब
कठिन सवाल
उत्तर देखने से पहले ख़ुद जवाब देने की कोशिश करें। अगर आप इनके जवाब दे सकते हैं, तो आप पाठ समझ गए हैं।
Q1किसी बड़े शहर की तुलना में किसी छोटे गाँव के बारे में किसी मॉडल द्वारा मनगढ़ंत तथ्य बनाने की संभावना ज़्यादा क्यों हो सकती है?दिखाएं
मॉडल टेक्स्ट से सीखते हैं, और बड़े शहरों के बारे में बहुत ज़्यादा टेक्स्ट उपलब्ध होता है। कम जानकारी होने पर मॉडल के पास सीखने के लिए कम पैटर्न होते हैं, लेकिन फिर भी वह धाराप्रवाह टेक्स्ट तैयार करता है और कमियों को ऐसी बातों से भर देता है जो सुनने में सही लगें। कम चर्चा वाले विषयों पर ही हैल्यूसिनेशन सबसे आम होते हैं और उन्हें पकड़ पाना सबसे मुश्किल होता है।
Q2एक जवाब 90% सही है। फिर भी 10% खतरनाक क्यों हो सकता है?दिखाएं
क्योंकि सही हिस्से भरोसा पैदा करते हैं, जिससे पाठक जाँच करना बंद कर देते हैं। एक भी गलत खुराक (डोज़), तारीख, डेडलाइन या रकम बड़ा नुकसान पहुँचा सकती है, और यह सही तथ्यों के बीच छिपी रहती है। यही वजह है कि जिन तथ्यों पर आप अमल करने वाले हैं, उनकी जाँच ज़रूर करें, भले ही बाकी सब सही क्यों न लग रहा हो।
अक्सर पूछे जाने वाले सवाल
AI मनगढ़ंत बातें क्यों बनाता है?
यह ऐसे टेक्स्ट का अनुमान लगाता है जो सुनने में सही लगे। जब उसके पास सही जानकारी नहीं होती, तब भी सबसे "संभावित" टेक्स्ट एक आत्मविश्वास से भरा, मनगढ़ंत जवाब हो सकता है। उसके पास यह जानने का कोई इनबिल्ट तरीका नहीं है कि उसे कुछ नहीं पता।
क्या वेब सर्च करने वाले चैटबॉट हमेशा सही होते हैं?
वे हालिया तथ्यों के लिए अक्सर बेहतर होते हैं, लेकिन वे भी किसी पेज को गलत समझ सकते हैं, खराब सोर्स चुन सकते हैं, या जानकारियों को आपस में मिला सकते हैं। लिंक खोलें और मुख्य हिस्सों की जाँच करें।
मुझे किन तथ्यों की हमेशा जाँच करनी चाहिए?
ऐसी कोई भी चीज़ जिस पर आप अमल करने वाले हैं या जिसे शेयर करने वाले हैं: आंकड़े, तारीखें, नाम, कानून, कीमतें, मेडिकल या आर्थिक जानकारी, और कोट्स।
क्या मैं एक AI की जाँच के लिए दूसरे AI का इस्तेमाल कर सकता हूँ?
दूसरा चैटबॉट शायद कुछ गलतियाँ पकड़ ले, लेकिन दोनों एक ही तरह से गलत भी हो सकते हैं। इसका इस्तेमाल एक अतिरिक्त संकेत के रूप में करें, सबूत के रूप में नहीं। आधिकारिक और भरोसेमंद मानवीय सोर्स हमेशा सबसे पहले आते हैं।
पाठ का टेस्ट
5 सवाल। पास होने और इस पाठ को पूरा करने के लिए 3 सही होने चाहिए (60%)।