अब जब आप Facebook, Instagram, X (Twitter) या Snapchat पर कोई वीडियो देखते हैं, तो क्या यकीन कर सकते हैं कि वह असली है? AI तकनीक इतनी उन्नत हो चुकी है कि सच्चाई और फर्जीवाड़े की सीमा मिटती जा रही है और अब सोशल मीडिया के सिक्योरिटी सिस्टम भी इसे पहचान नहीं पा रहे हैं.
OpenAI का नया AI वीडियो टूल “Sora” ऐसे वीडियो बना रहा है, जिन्हें पहचानना लगभग असंभव हो गया है. वॉशिंगटन पोस्ट की एक रिपोर्ट के मुताबिक, YouTube, Facebook, Instagram, Pinterest, TikTok, LinkedIn, Snapchat और X पर Sora से बने वीडियो अपलोड किए गए, लेकिन केवल YouTube ही ऐसा प्लेटफॉर्म रहा जिसने उन्हें AI जनरेटेड के रूप में पहचाना.
YouTube ने लगाया लेबल, बाकी रहे असफल
YouTube ने इन वीडियो पर “Altered or Synthetic Content” का टैग लगाया, हालांकि यह लेबल यूजर्स को तुरंत दिखाई नहीं देता. वीडियो के डिस्क्रिप्शन सेक्शन में जाकर ही यह जानकारी मिलती है कि वीडियो AI से बनाया गया है. बाकी सातों प्लेटफॉर्म ने किसी भी तरह की पहचान या चेतावनी नहीं दिखाई मानो सब कुछ पूरी तरह असली हो.
कंटेंट क्रेडेंशियल्स सिस्टम भी फेल
कुछ साल पहले गूगल, मेटा, माइक्रोसॉफ्ट, अडोबी और बीबीसी जैसी दिग्गज कंपनियों ने मिलकर “Content Credentials System” तैयार किया था. इस सिस्टम का उद्देश्य था हर फोटो, वीडियो या ऑडियो फाइल में डिजिटल पहचान (Metadata) जोड़ना ताकि पता चल सके कि उसे कैमरे से शूट किया गया है या AI से बनाया गया.
लेकिन जब टेस्ट के दौरान इन वीडियो को सोशल मीडिया पर अपलोड किया गया, तो प्लेटफॉर्म्स ने खुद उस डिजिटल पहचान को मिटा दिया. गूगल की प्रवक्ता क्रिस्टा मुलडून के अनुसार, “यह सिस्टम अभी शुरुआती चरण में है, और इसे अपनाने में समय लगेगा.”
AI की ताकत, असली जैसी फर्जी दुनिया
आज AI टूल्स इतने शक्तिशाली हो गए हैं कि वे किसी भी व्यक्ति का चेहरा या आवाज़ किसी भी सीन में जोड़ सकते हैं. Sora जैसे सिस्टम कुछ ही सेकंड में ऐसा वीडियो बना देते हैं जो पूरी तरह वास्तविक लगने वाला भ्रम पैदा करता है. इससे असली और नकली के बीच की दीवार लगभग टूट चुकी है.
OpenAI के वादे और हकीकत में फर्क
OpenAI ने Sora लॉन्च करते समय वादा किया था कि हर वीडियो में वॉटरमार्क और कंटेंट क्रेडेंशियल्स मेटाडेटा जोड़ा जाएगा, ताकि उसकी पहचान की जा सके. लेकिन वॉशिंगटन पोस्ट की जांच में पता चला कि ये दावे सिर्फ कागजों तक सीमित हैं. सोशल मीडिया साइट्स न केवल उन निशानों को मिटा रही हैं, बल्कि अब ऐसे टूल भी मौजूद हैं जो वॉटरमार्क हटाने के तरीके सिखाते हैं. सबसे चिंताजनक बात यह है कि OpenAI ने खुद माना कि Sora के प्रो-वर्जन में न वॉटरमार्क होता है और न ही मेटाडेटा, यानी जो चाहे जैसा वीडियो बना सकता है और कोई पकड़ नहीं पाएगा.