रोज़मर्रा की ज़िंदगी में AIशुरुआतीपाठ 875 मिनट का पाठ

Deepfakes और AI से बनी तस्वीरों की पहचान करना

AI ऐसी तस्वीरें, वीडियो और आवाज़ें बना सकता है जो कभी हुई ही नहीं थीं। ध्यान से देखने पर थोड़ी मदद मिलती है। सोर्स (स्रोत) की जांच करने से कहीं ज़्यादा मदद मिलती है।

✦ ट्यूटर से पूछें🧪 लैब · 15 min📝 पाठ का टेस्ट
पाठ वीडियो में

60 सेकंड में

Deepfakes और AI से बनी तस्वीरों की पहचान करना

AI ऐसी तस्वीरें, वीडियो और आवाज़ें बना सकता है जो कभी हुई ही नहीं थीं। ध्यान से देखने पर थोड़ी मदद मिलती है। सोर्स (स्रोत) की जांच करने से कहीं ज़्यादा मदद मिलती है।

1/6
आसान शब्दों में
Deepfake कंप्यूटर द्वारा बनाई गई एक नकली तस्वीर, वीडियो या आवाज़ होती है। यह बिल्कुल असली लग सकती है। इसलिए यह पूछने के बजाय कि "क्या यह असली लग रही है?", यह पूछें "इसे सबसे पहले किसने शेयर किया, और क्या भरोसेमंद लोग भी यही बात कह रहे हैं?"
Deepfake ऐसा मीडिया है जिसे AI द्वारा बनाया या बदला जाता है ताकि किसी को कुछ ऐसा कहते या करते दिखाया जा सके जो उन्होंने कभी किया ही नहीं। AI सिर्फ़ एक वाक्य से बिल्कुल नई तस्वीरें भी बना सकता है। कुछ तो बस हानिरहित मज़ाक होते हैं। लेकिन कुछ का इस्तेमाल धोखा देने, झूठ फैलाने या लोगों को चोट पहुँचाने के लिए किया जाता है।

ऐसे सुराग जिन्हें आप देख सकते हैं

पुरानी या कम ख़र्च में बनी फ़ेक चीज़ों में अक्सर छोटी-मोटी ग़लतियाँ होती हैं। नई वाली में शायद कोई ग़लती न दिखे। इसलिए ये सुराग मदद तो कर सकते हैं, लेकिन कोई भी सुराग यह साबित नहीं करता कि तस्वीर असली ही है।
कहाँ देखेंसंभावित सुराग
हाथ, दाँत, कान, गहनेउंगलियों की ग़लत गिनती, पिघले हुए आकार, बेमेल झुमके/कुंडल
तस्वीर में लिखा टेक्स्टअजीब, टूटे-फूटे अक्षरों वाले साइनबोर्ड या लेबल
होंठ और आवाज़मुँह की हरकत बोले जा रहे शब्दों से मेल नहीं खाती; आवाज़ सपाट या अजीब तरह से बहुत ज़्यादा साफ़/स्मूथ लगती है
आँखें और चेहरे के किनारेचेहरे के चारों ओर धुंधले किनारे, अजीब तरह से पलकें झपकाना, त्वचा जो ज़रूरत से ज़्यादा चिकनी दिखती है
रोशनी और परछाइयाँअलग-अलग दिशाओं में जाती हुई परछाइयाँ
बैकग्राउंडमुड़ी हुई रेखाएं, बार-बार दोहराए जाने वाले पैटर्न, आपस में जुड़े हुए चेहरों वाले लोग

बेहतर तरीका: सोर्स की जांच करें

  1. 1

    इसे सबसे पहले किसने पोस्ट किया?

    किसी ऑफिशियल अकाउंट ने, किसी जाने-माने न्यूज़ चैनल/अख़बार ने, या किसी अनजान फ़ॉरवर्ड ने?
  2. 2

    क्या कोई भरोसेमंद व्यक्ति या संस्था इसके बारे में बता रही है?

    अगर किसी मशहूर व्यक्ति ने सचमुच कोई चौंकाने वाली बात कही है, तो कई भरोसेमंद न्यूज़ सोर्स इसे ज़रूर कवर करेंगे।
  3. 3

    तस्वीर को सर्च करें

    कई सर्च ऐप्स आपको तस्वीर के ज़रिए सर्च करने की सुविधा देते हैं। हो सकता है आपको असली, पुरानी तस्वीर मिल जाए।
  4. 4

    फ़ैक्ट-चेकर्स को देखें

    फ़ैक्ट-चेक करने वाले संगठन अक्सर वायरल पोस्ट्स की पड़ताल करते हैं। जो दावा किया जा रहा है, उसे "fact check" लिखकर सर्च करें।
  5. 5

    शेयर करने से पहले रुकें

    अगर आप इसकी पुष्टि नहीं कर सकते, तो इसे आगे फ़ॉरवर्ड न करें।
फ़ेक चीज़ों को फैलाता है
  • "कई बार फ़ॉरवर्ड किया गया है", इसलिए यह सच ही होगा
  • शेयर करना क्योंकि यह आपको गुस्सा दिलाता है
  • "मैं इसे बस ऐसे ही शेयर कर देता हूँ, शायद काम का हो"
फ़ेक चीज़ों को रोकता है
  • यह जाँचना कि इसे सबसे पहले किसने पोस्ट किया
  • जब कोई पोस्ट आपको बहुत गुस्सा या डरा दे, तो एक पल के लिए रुकना
  • जिसकी पुष्टि न कर सकें, उसे शेयर न करना
सावधान रहें
कुछ प्लेटफ़ॉर्म और टूल्स AI से बने कंटेंट पर लेबल या छिपे हुए निशान लगा देते हैं। इससे मदद मिलती है, लेकिन यह अभी हर जगह नहीं है, और लेबल्स को हटाया भी जा सकता है। लेबल न होने का मतलब यह नहीं है कि कंटेंट असली है।
ख़तरा
अगर कोई आपकी या आपके किसी जानने वाले की फ़ेक निजी या आपत्तिजनक तस्वीर बनाता है, तो इसमें पीड़ित की कोई ग़लती नहीं है। इसे आगे शेयर न करें। सबूत सहेज कर रखें, उस प्लेटफ़ॉर्म पर इसकी रिपोर्ट करें, और cybercrime.gov.in पर रिपोर्ट करें या 1930 पर कॉल करें। किसी भरोसेमंद बड़े या दोस्त से बात करें।
यह करके देखें। अगली बार जब WhatsApp या किसी दूसरे ऐप पर कोई चौंकाने वाला वीडियो या फ़ोटो आए, तो उसे फ़ॉरवर्ड न करें। उस दावे को "fact check" लिखकर सर्च करें और देखें कि भरोसेमंद सोर्स क्या कह रहे हैं।

और देखें और पढ़ें

लैब

एक असली वायरल पोस्ट पर जांचा-परखा फ़ैसला।

~15 min

समस्या

हाल ही में मिला कोई एक वायरल फ़ोटो या वीडियो ढूंढें (या न्यूज़ में से कोई चर्चित पोस्ट चुनें)।

  1. लिखें कि उस पोस्ट में क्या दावा किया जा रहा है।
  2. इस पाठ की टेबल से देखकर विज़ुअल सुराग ढूंढें और नोट करें कि आपको क्या दिखता है।
  3. सोर्स की जांच करें: इसे सबसे पहले किसने पोस्ट किया? क्या भरोसेमंद न्यूज़ सोर्स या फ़ैक्ट-चेकर्स इसका ज़िक्र कर रहे हैं? अगर आपके फ़ोन में सुविधा है, तो इमेज सर्च करके देखें।
  4. कारणों के साथ अपना फ़ैसला लिखें: पुष्टि हुई (confirmed), झूठा (false), या कह नहीं सकते (can't tell)।

जब तक आप जांच कर रहे हों, उस पोस्ट को फ़ॉरवर्ड न करें।

आपका काम तब पूरा होगा जब

कठिन सवाल

उत्तर देखने से पहले ख़ुद जवाब देने की कोशिश करें। अगर आप इनके जवाब दे सकते हैं, तो आप पाठ समझ गए हैं।

Q1समय के साथ "ग़लतियाँ ढूंढें" वाली सलाह कमज़ोर क्यों पड़ती जाती है, जबकि "सोर्स की जांच करें" हमेशा असरदार रहती है?दिखाएं

AI इमेज और वीडियो टूल्स लगातार बेहतर होते जा रहे हैं, इसलिए दिखने वाली ग़लतियाँ ग़ायब हो जाती हैं। लेकिन फ़ेक कहीं-न-कहीं से तो आता ही है, और भरोसेमंद सोर्स कभी भी ऐसी बात की पुष्टि नहीं करेंगे जो हुई ही नहीं। सोर्स की जांच कहानी को परखती है, पिक्सल को नहीं, इसलिए यह इस बात पर निर्भर नहीं करती कि फ़ेक कितना असली दिख रहा है।

Q2अगर लोग यह सीख लें कि किसी भी चीज़ का फ़ेक बनाया जा सकता है, तो इससे कौन सा नया ख़तरा पैदा होता है?दिखाएं

लोग असली सबूतों पर भी भरोसा करना बंद कर सकते हैं, और जो कोई भी असली वीडियो में पकड़ा जाएगा वह आसानी से कह सकता है कि "यह AI से बना है"। यह चीज़ भरोसेमंद सोर्स, ज़िम्मेदार पत्रकारिता और मीडिया कहाँ से आया है यह साबित करने के तरीकों को और भी ज़्यादा ज़रूरी बना देती है।

जारी रखने के लिए कृपया साइन इन करें।

अक्सर पूछे जाने वाले सवाल

क्या ऐसे ऐप्स हैं जो सभी deepfakes का पता लगा सकते हैं?

कोई भी टूल इन सभी को नहीं पकड़ सकता। पहचान करने वाले टूल्स जानकारों की मदद तो कर सकते हैं, लेकिन उनसे दोनों तरह की ग़लतियाँ हो सकती हैं (असली को नकली और नकली को असली बताना)। आम लोगों के लिए, सोर्स की जांच करना ज़्यादा भरोसेमंद तरीका है।

क्या AI तस्वीरें बनाना हमेशा ग़लत होता है?

नहीं। लोग आर्ट, स्कूल प्रोजेक्ट्स, पोस्टर्स और मोज़-मस्ती के लिए AI तस्वीरों का इस्तेमाल करते हैं। यह तब नुक़सानदेह बन जाता है जब इसका इस्तेमाल धोखा देने, ठगने, परेशान करने या बिना इजाज़त किसी असली व्यक्ति का रूप धरने के लिए किया जाता है।

मेरे दोस्त की फ़ोटो का इस्तेमाल करके एक फ़ेक बनाया गया। हमें क्या करना चाहिए?

इसे शेयर न करें। सबूत के तौर पर स्क्रीनशॉट लें और लिंक सेव करें। जिस प्लेटफ़ॉर्म पर यह दिखा है, वहाँ इसकी रिपोर्ट करें। भारत में आप cybercrime.gov.in पर रिपोर्ट कर सकते हैं या 1930 पर कॉल कर सकते हैं। अपने दोस्त का साथ दें; इसमें उनकी कोई ग़लती नहीं है।

क्या किसी असली वीडियो को नकली कहा जा सकता है?

हाँ। कुछ लोग अब अपने ऊपर से इल्ज़ाम हटाने के लिए असली सबूतों को भी "यह deepfake है" कह देते हैं। यही एक और वजह है कि भावनाओं में बहने के बजाय सोर्स की अच्छी तरह से जांच की जाए।

पाठ का टेस्ट

5 सवाल। पास होने और इस पाठ को पूरा करने के लिए 3 सही होने चाहिए (60%)।

टेस्ट देने और अपनी प्रोग्रेस सेव करने के लिए साइन इन करें