मुख्य सामग्री पर जाएँ
Zubnet AI › सीखें › Wiki › Content Provenance
सुरक्षा

Content Provenance

इसे भी कहा जाता है: C2PA, Content Credentials
इस बात के verifiable records कि कोई media कहाँ से आया और उसे कैसे edit किया गया, जिसमें यह भी शामिल है कि उसे AI ने generate किया या नहीं, और जो ज़्यादातर C2PA standard के ज़रिए दिए जाते हैं।

यह क्यों मायने रखता है

Generative models अब सस्ते में photorealistic images, विश्वसनीय लगने वाले video और cloned आवाज़ें बना सकते हैं। नकली चीज़ों को बाद में detect करने की कोशिश हारी हुई दौड़ है, क्योंकि detectors भरोसेमंद नहीं हैं और models की हर नई पीढ़ी के साथ और पीछे छूट जाते हैं।

Provenance इस समस्या को उलट देता है। यह साबित करने की कोशिश करने की जगह कि कोई चीज़ नकली है, यह ईमानदार स्रोतों को यह साबित करने देता है कि क्या असली है, और AI tools को अपनी generate की हुई चीज़ों पर label लगाने देता है। यह अकेले धोखे को रोक नहीं सकता, पर पत्रकारों, platforms और आम दर्शकों को एक ऐसा signal देता है जिसे वे जाँच सकते हैं।

गहन अध्ययन

Content provenance का मतलब है किसी photo, video, audio clip या document के साथ उसके स्रोत और इतिहास की भरोसेमंद जानकारी जोड़ना: उसे किस camera या AI model ने बनाया, किसने publish किया, उसमें कौन-से edits हुए। इसकी तुलना अक्सर media के nutrition label से की जाती है।

इसका प्रमुख standard C2PA है, जो Coalition for Content Provenance and Authenticity का है, जिसकी स्थापना 2021 में Adobe, Arm, BBC, Intel, Microsoft और Truepic ने की थी। Google, OpenAI, Meta, Amazon और Sony बाद में जुड़े। आम लोगों के लिए इसका नाम Content Credentials है, जो एक छोटे "CR" icon के रूप में दिखता है, जिस पर click करके आप file का इतिहास देख सकते हैं।

C2PA कैसे काम करता है

जब कोई camera, editing app या AI generator कोई file बनाता या बदलता है, तो वह एक manifest लिखता है: बयानों का एक set, जैसे "इस camera model से capture किया गया", "इस AI model से generate किया गया" या "crop और color-adjust किया गया"। Manifest को cryptographic hash के ज़रिए content से बाँधा जाता है और tool के certificate से digitally sign किया जाता है, यह वही तरह की technology है जो websites को सुरक्षित रखती है।

Chain का हर tool अपना signed manifest जोड़ता है, जिससे file का एक इतिहास जमा होता जाता है। Verifier यह पुष्टि कर सकता है कि manifests सही-सलामत हैं, signers trust list में हैं और signing के बाद से content बदला नहीं है। कोई भी छेड़छाड़ signature को तोड़ देती है।

Adoption

  • AI generators: OpenAI, DALL-E और अपने बाद के image models की images और Sora videos के साथ Content Credentials जोड़ता है। Adobe Firefly, Microsoft के image tools और Google के models कई products में ऐसा ही करते हैं।
  • Cameras और phones: Leica ने 2023 में built-in credentials वाला पहला camera उतारा, जिसके बाद photojournalists के लिए Sony, Nikon और Canon के models आए। Google के Pixel 10 phones camera app की हर photo को sign करते हैं।
  • Platforms: LinkedIn, TikTok, YouTube और Meta के apps AI-generated या camera से ली गई media पर label लगाने के लिए C2PA data पढ़ते हैं, हालाँकि coverage एक-सी नहीं है।

सीमाएँ

  • Metadata हटाना आसान है। Screenshot, re-encode या ऐसे platform पर upload जो metadata हटा देता है, manifest को मिटा देता है। यह इस standard की सबसे बड़ी कमज़ोरी है।
  • Label का न होना कुछ साबित नहीं करता। ज़्यादातर media में credentials नहीं होते, इसलिए label का न होना यह नहीं बताता कि कोई चीज़ नकली है। गलत इरादे वाले लोग बस ऐसे tools इस्तेमाल करते हैं जो label नहीं लगाते।
  • Provenance सच्चाई नहीं है। Credential बताता है कि file कहाँ से आई, यह नहीं कि उसमें जो दिख रहा है वह सही है। असली, signed photo भी मंचित हो सकती है या उसका caption भ्रामक हो सकता है।
  • Signers पर भरोसा। यह system उतना ही अच्छा है जितनी signing keys की security और भरोसेमंद certificate holders की सूची।
  • Privacy। Identity की जानकारी design से ही optional है, क्योंकि अनिवार्य पहचान photographers और whistleblowers को खतरे में डाल सकती है।

Provenance, watermarks और fingerprints

तीन तकनीकें एक-दूसरे की पूरक हैं:

  • Signed metadata (C2PA) विस्तृत और verifiable है, पर आसानी से हटाया जा सकता है।
  • Invisible watermarks, जैसे Google का SynthID, pixels या audio के अंदर ही embed होते हैं। ये कई edits झेल जाते हैं, पर इनमें जानकारी कम होती है और ठान लेने वाला attacker इन्हें कमज़ोर कर सकता है।
  • Fingerprinting content का एक signature database में रखती है, ताकि metadata हटाई जा चुकी file को भी उसके record से मिलाया जा सके।

C2PA के हाल के versions इन्हें "durable credentials" के रूप में जोड़ते हैं: अगर metadata हटा दिया जाए, तो watermark या fingerprint से मूल manifest ढूँढा जा सकता है।

Regulation

कानून अब इसे अनिवार्य करने लगा है। EU AI Act का Article 50, जो अगस्त 2026 से लागू होता है, providers को बाध्य करता है कि वे AI-generated content को machine-readable तरीके से mark करें, और deepfakes का खुलासा ज़रूरी बनाता है। जो systems पहले से market में हैं, उन्हें अपना content mark करने के लिए 2 दिसंबर 2026 तक का समय है। California का AI Transparency Act बड़े generative AI providers से अपेक्षा करता है कि वे provenance data embed करें और detection tools दें, और AI-generated content के लिए चीन के labeling नियम सितंबर 2025 में लागू हुए।

← सभी शब्द
ESC