मल्टीमॉडल और जनरेटिव AIमध्यमपाठ 2495 मिनट का पाठ

वॉटरमार्क और कंटेंट क्रेडेंशियल्स

SynthID जैसे अदृश्य वॉटरमार्क और हस्ताक्षरित (signed) कंटेंट क्रेडेंशियल्स (C2PA) यह दिखाने में मदद करते हैं कि कोई तस्वीर, वीडियो या आवाज़ कहाँ से आई है। जानिए कि ये कैसे काम करते हैं, और क्या साबित नहीं कर सकते।

✦ ट्यूटर से पूछें🧪 लैब · 20 min📝 पाठ का टेस्ट
पाठ वीडियो में

60 सेकंड में

वॉटरमार्क और कंटेंट क्रेडेंशियल्स

SynthID जैसे अदृश्य वॉटरमार्क और हस्ताक्षरित (signed) कंटेंट क्रेडेंशियल्स (C2PA) यह दिखाने में मदद करते हैं कि कोई तस्वीर, वीडियो या आवाज़ कहाँ से आई है। जानिए कि ये कैसे काम…

1/5
आसान शब्दों में
₹500 के नोट पर एक छिपा हुआ वॉटरमार्क होता है जिसे आप रोशनी के सामने देख सकते हैं। AI से बनी तस्वीरों में भी छिपे हुए निशान हो सकते हैं, और कुछ में एक साइन्ड "लेबल" होता है जो बताता है कि वे कहाँ से आई हैं। लेकिन ज़्यादातर तस्वीरों में दोनों में से कुछ भी नहीं होता, इसलिए कोई निशान न होने से बहुत कम जानकारी मिलती है। आपको फिर भी दूसरी जाँचें करनी होंगी।
जैसे-जैसे AI से बनी तस्वीरें, वीडियो और आवाज़ें बेहतर होती जा रही हैं, सिर्फ़ ध्यान से देखना ही काफ़ी नहीं होता। दो तरह के टूल्स इसमें मदद करने की कोशिश करते हैं: कंटेंट के अंदर छिपे वॉटरमार्क, और फ़ाइल से जुड़े कंटेंट क्रेडेंशियल्स। ये अलग तरह से काम करते हैं और अलग तरह से फ़ेल भी होते हैं।

अदृश्य वॉटरमार्क

अदृश्य वॉटरमार्क पिक्सल या आवाज़ के अंदर ही बना एक ऐसा पैटर्न होता है, जो लोगों को आसानी से समझ नहीं आता, लेकिन एक ख़ास डिटेक्टर इसे पहचान सकता है। Google का SynthID इसका एक जाना-माना उदाहरण है, जिसका इस्तेमाल Google के AI टूल्स से बने कंटेंट को मार्क करने के लिए किया जाता है। जेनरेटर कंटेंट बनाते समय ही यह वॉटरमार्क जोड़ देता है; और बाद में कंपनी का डिटेक्टर इसकी जाँच कर सकता है।
  • ख़ूबी: यह खुद कंटेंट के अंदर ही होता है, इसलिए यह रीसाइज़ करने या कंप्रेस करने जैसे कुछ आम बदलावों के बाद भी बचा रह सकता है।
  • कमी: भारी बदलाव (heavy edits), क्रॉपिंग, दोबारा रिकॉर्ड करने या जानबूझकर किए गए हमलों से यह कमज़ोर हो सकता है या मिट सकता है।
  • कमी: कोई डिटेक्टर आमतौर पर सिर्फ़ अपनी ही कंपनी का वॉटरमार्क ढूँढ पाता है। जिस टूल से कोई वॉटरमार्क नहीं जोड़ा जाता, उसके कंटेंट में कुछ भी नहीं दिखता।

कंटेंट क्रेडेंशियल्स (C2PA)

C2PA (Coalition for Content Provenance and Authenticity) कंटेंट क्रेडेंशियल्स के लिए एक खुला तकनीकी मानक (open technical standard) है। कंटेंट क्रेडेंशियल किसी फ़ाइल से जुड़ा एक साइन्ड रिकॉर्ड होता है, जो यह बता सकता है कि इसे किसने बनाया, किस टूल से बनाया, क्या AI का इस्तेमाल हुआ था, और इसमें क्या बदलाव किए गए थे। यह सिग्नेचर क्रिप्टोग्राफ़ी से बनाया जाता है, इसलिए अगर कोई रिकॉर्ड या कंटेंट में बदलाव करता है, तो जाँच में यह तुरंत पता चल जाता है कि अब यह मेल नहीं खा रहा।
  1. 1

    बनाएँ

    C2PA को सपोर्ट करने वाला कैमरा, एडिटिंग ऐप या AI जेनरेटर एक रिकॉर्ड दर्ज करता है: किसने बनाया, कब बनाया, किस टूल से बनाया, AI का इस्तेमाल हुआ या नहीं।
  2. 2

    साइन करें

    टूल या संगठन द्वारा रिकॉर्ड को डिजिटली साइन किया जाता है।
  3. 3

    एडिट करें

    सपोर्ट करने वाले एडिटर्स पुरानी जानकारी के ऊपर नई एंट्री जोड़ते जाते हैं, जिससे पूरी हिस्ट्री सुरक्षित रहती है।
  4. 4

    वेरीफ़ाई करें

    कोई भी व्यक्ति वेरीफ़ाई टूल से फ़ाइल की जाँच कर सकता है: क्या सिग्नेचर मान्य (valid) है, इसे किसने साइन किया है, और हिस्ट्री क्या कहती है?

वॉटरमार्क बनाम कंटेंट क्रेडेंशियल

अदृश्य वॉटरमार्ककंटेंट क्रेडेंशियल (C2PA)
यह कहाँ मौजूद होता हैपिक्सल या आवाज़ के अंदरफ़ाइल से जुड़े मेटाडेटा में
यह क्या बताता हैआमतौर पर सिर्फ़ "इस टूल द्वारा बनाया गया" (हाँ या ना का संकेत)एक पूरी, साइन्ड हिस्ट्री
क्या इसे हटाना आसान है?काफ़ी मुश्किल, लेकिन भारी बदलावों या हमलों से मुमकिन हैआसान: एक स्क्रीनशॉट लेने या बार-बार री-अपलोड करने से यह हट सकता है
इसकी जाँच कौन कर सकता हैआमतौर पर वही कंपनी जिसने इसे जोड़ा थाकोई भी व्यक्ति जिसके पास C2PA वेरीफ़ाई टूल हो
चूँकि दोनों में कुछ कमियाँ हैं, इसलिए कुछ सिस्टम दोनों को मिला देते हैं: मेटाडेटा हट जाने के बाद भी वॉटरमार्क की मदद से कंटेंट क्रेडेंशियल को दोबारा ढूँढने में मदद मिल सकती है।

ये टूल्स क्या साबित नहीं कर सकते

गलत निष्कर्ष
  • "कोई वॉटरमार्क नहीं मिला, इसलिए यह असली है"
  • "कोई कंटेंट क्रेडेंशियल नहीं है, इसलिए यह नकली है"
  • "इसमें क्रेडेंशियल्स हैं, इसलिए इसमें सब कुछ सच है"
सही निष्कर्ष
  • कई AI टूल्स कोई वॉटरमार्क नहीं जोड़ते, और वॉटरमार्क हटाए भी जा सकते हैं
  • आजकल की ज़्यादातर असली तस्वीरों में कोई क्रेडेंशियल नहीं होते, और इन्हें आसानी से हटाया जा सकता है
  • क्रेडेंशियल्स सिर्फ़ यह दिखाते हैं कि किसने साइन किया और उन्होंने क्या दावा किया, यह नहीं कि दिखाई गई घटना सच्ची या निष्पक्ष है
सावधान रहें
किसी चीज़ का न होना कुछ भी साबित नहीं करता। आज के ज़्यादातर कंटेंट में वॉटरमार्क या क्रेडेंशियल का न होना एक सामान्य बात है। हमेशा इन जाँचों के साथ-साथ स्रोत, संदर्भ (context) और भरोसेमंद फ़ैक्ट-चेकर्स की भी मदद लें।
नोट
भारत सहित कई सरकारों ने AI से बने कंटेंट पर लेबल लगाने के नियमों पर चर्चा की है या नियम लागू किए हैं, और प्लेटफ़ॉर्मों की भी अपनी लेबलिंग नीतियाँ हैं। ये बदलती रहती हैं, इसलिए अपनी ज़रूरत के हिसाब से ताज़ा नियम ज़रूर देखें।
करके देखें। अपने फ़ोन से एक फ़ोटो लें और उसे किसी मैसेजिंग ऐप पर खुद को भेजें। क्या आपको मिली फ़ाइल में अभी भी उसकी मूल जानकारी मौजूद है, जैसे तारीख और कैमरा? इससे पता चलता है कि मेटाडेटा कितनी आसानी से गायब हो सकता है।

और देखें और पढ़ें

C2PA: Coalition for Content Provenance and AuthenticityC2PA · reading

लैब

पब्लिक कंटेंट क्रेडेंशियल्स वेरीफ़ाई टूल से जाँची गई तीन तस्वीरों पर एक संक्षिप्त प्रोवेनेंस रिपोर्ट।

~20 min

समस्या

इंटरनेट पर किसी पब्लिक "Content Credentials verify" टूल को खोजें। ऐसे कई मुफ़्त टूल्स उपलब्ध हैं। कुछ भी अपलोड करने से पहले उसका प्राइवेसी नोट ज़रूर पढ़ें, और केवल वही तस्वीरें इस्तेमाल करें जिन्हें शेयर करने का आपके पास अधिकार हो, जिनमें कोई निजी व्यक्ति या दस्तावेज़ न हों।

  1. तीन तस्वीरें जुटाएँ: (a) सीधे आपके अपने फ़ोन से ली गई एक फ़ोटो; (b) वही फ़ोटो, किसी मैसेजिंग ऐप से भेजने के बाद या उसका स्क्रीनशॉट लेने के बाद; (c) किसी ऐसे स्रोत से ली गई तस्वीर जो कंटेंट क्रेडेंशियल्स जोड़ने का दावा करता हो, जैसे कोई न्यूज़ या स्टॉक इमेज पेज जिस पर क्रेडेंशियल लेबल दिखता हो, या किसी ऐसे AI टूल से बनाई गई तस्वीर जो इन्हें जोड़ने की बात कहता हो।
  2. वेरीफ़ाई टूल में हर तस्वीर की जाँच करें। रिकॉर्ड करें: क्रेडेंशियल्स मिले या नहीं, किसने साइन किया, कौन सा टूल था, क्या AI के इस्तेमाल का ज़िक्र है, और एडिट हिस्ट्री क्या है।
  3. हर तस्वीर के लिए एक लाइन में लिखें कि आप क्या निष्कर्ष निकाल सकते हैं और क्या नहीं।

आपका काम तब पूरा होगा जब

कठिन सवाल

उत्तर देखने से पहले ख़ुद जवाब देने की कोशिश करें। अगर आप इनके जवाब दे सकते हैं, तो आप पाठ समझ गए हैं।

Q1इन टूल्स की मदद से किसी कंटेंट को असली साबित करना, उसे नकली साबित करने से ज़्यादा आसान क्यों है?दिखाएं

किसी भरोसेमंद स्रोत का मान्य सिग्नेचर एक पक्का सबूत होता है: फ़ाइल की हिस्ट्री के पीछे कोई ज़िम्मेदार व्यक्ति या संस्था खड़ी होती है। लेकिन नकली कंटेंट में आमतौर पर कोई निशान ही नहीं छूटता, या उसके निशान मिटा दिए जाते हैं। आप किसी संकेत के न होने से कोई नकारात्मक बात साबित नहीं कर सकते। इसलिए प्रोवेनेंस टूल्स ईमानदार क्रिएटर्स के लिए यह दिखाने का सबसे अच्छा ज़रिया हैं कि उनका काम असली है, जबकि बाकी सब चीज़ों के लिए दूसरी जाँचों का सहारा लिया जाता है।

Q2एक राजनीतिक दल अपने द्वारा साइन्ड मान्य कंटेंट क्रेडेंशियल्स के साथ एक वीडियो पोस्ट करता है, जिसमें कहा गया है कि यह अनएडिटेड (बिना किसी बदलाव के) है। एक सतर्क दर्शक को फिर भी क्या जाँचना चाहिए?दिखाएं

क्रेडेंशियल यह साबित करता है कि उस पार्टी ने उस दावे पर साइन किया है और तब से फ़ाइल बदली नहीं है। इससे यह साबित नहीं होता कि वह सीन बनावटी नहीं था, साइन करने से पहले उसे किसी लंबी क्लिप से काटा नहीं गया था, या जो संदर्भ दिया गया है वह सही है। देखें कि इस घटना की रिपोर्ट और किसने की है, क्या कोई दूसरा फ़ुटेज मौजूद है, और स्वतंत्र फ़ैक्ट-चेकर्स क्या कहते हैं।

जारी रखने के लिए कृपया साइन इन करें।

अक्सर पूछे जाने वाले सवाल

अगर कंटेंट क्रेडेंशियल्स को हटाना इतना आसान है, तो इनका इस्तेमाल क्यों करें?

क्योंकि जब ये मौजूद और मान्य (valid) होते हैं, तो एक पुख़्ता और जाँचने लायक इतिहास देते हैं। न्यूज़ एजेंसियाँ, कैमरा निर्माता और एडिटिंग टूल्स इनका इस्तेमाल यह दिखाने के लिए कर सकते हैं कि असली कंटेंट वाकई असली है। जैसे-जैसे ज़्यादा टूल्स और प्लेटफ़ॉर्म इन्हें सहेज कर दिखाना शुरू करेंगे, इनका फ़ायदा उतना ही बढ़ेगा।

क्या मैं खुद SynthID वॉटरमार्क की जाँच कर सकता हूँ?

Google ने अपने कुछ प्रोडक्ट्स और टूल्स में SynthID की जाँच करने की सुविधा दी है, लेकिन इसकी पहुँच और दायरा बदलते रहते हैं। इसके लिए Google की ताज़ा आधिकारिक जानकारी देखें। याद रखें कि अगर कोई वॉटरमार्क न मिले, तो इसका मतलब यह नहीं है कि कंटेंट असली है।

क्या कंटेंट क्रेडेंशियल्स से मेरा पर्सनल डेटा उजागर होता है?

टूल और सेटिंग्स के आधार पर, इनमें क्रिएटर का नाम, डिवाइस या एडिट हिस्ट्री जैसी जानकारियाँ शामिल हो सकती हैं। संवेदनशील फ़ोटो शेयर करने से पहले यह ज़रूर जाँच लें कि आपका कैमरा या ऐप क्या जोड़ रहा है, ठीक वैसे ही जैसे आप लोकेशन डेटा की जाँच करते हैं।

क्या कोई नकली कंटेंट क्रेडेंशियल्स बना सकता है?

वे किसी भरोसेमंद हस्ताक्षरकर्ता (signer) का मान्य सिग्नेचर आसानी से जालसाज़ी करके नहीं बना सकते। लेकिन कोई अपनी खुद की 'की' (key) से भ्रामक कंटेंट को साइन कर सकता है, या किसी असली तस्वीर को गलत संदर्भ में पेश कर सकता है। इसीलिए यह देखना ज़रूरी होता है कि इसे किसने साइन किया है और क्या आप उन पर भरोसा करते हैं।

पाठ का टेस्ट

5 सवाल। पास होने और इस पाठ को पूरा करने के लिए 3 सही होने चाहिए (60%)।

टेस्ट देने और अपनी प्रोग्रेस सेव करने के लिए साइन इन करें