AI कंटेंट पर 20 फरवरी से लगेगा स्पष्ट लेबल, डीपफेक 3 घंटे में हटाना होगा! सरकार का सोशल मीडिया कंपनियों को सख्त आदेश

सोशल मीडिया प्लेटफॉर्म्स अब AI (आर्टिफिशियल इंटेलिजेंस) से बने कंटेंट को छुपा नहीं पाएंगे। इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय ने मंगलवार को IT रूल्स 2021 में बड़ा बदलाव करते हुए आदेश जारी किया है कि 20 फरवरी 2024 से सभी सोशल मीडिया प्लेटफॉर्म्स (जैसे X/ट्विटर, YouTube, Facebook, Instagram, Snapchat) को AI या डीपफेक टेक्नोलॉजी से बने वीडियो, ऑडियो और फोटो पर स्पष्ट लेबल लगाना अनिवार्य होगा। साथ ही, अगर कोई डीपफेक कंटेंट शिकायत के बाद 3 घंटे के अंदर हटाया नहीं गया, तो प्लेटफॉर्म को जवाबदेह ठहराया जाएगा।

यह कदम मिसइनफॉर्मेशन, इलेक्शन मैनिपुलेशन और ऑनलाइन धोखाधड़ी को रोकने के लिए उठाया गया है। आइए विस्तार से समझते हैं कि ये नए नियम क्या हैं और आपके लिए क्यों महत्वपूर्ण हैं।

क्या हैं नए IT नियम? 3 बड़े बदलाव जो बदल देंगे सोशल मीडिया का गेम

1. AI कंटेंट पर अनिवार्य लेबलिंग और मेटाडेटा एम्बेड

नियम 3(3) के तहत, हर सिंथेटिक/AI जनरेटेड कंटेंट (चाहे वह वीडियो, ऑडियो, इमेज या टेक्स्ट हो) पर प्रॉमिनेंट लेबल लगाना होगा। यह लेबल:

• विजुअल कंटेंट में कम से कम 10% एरिया में दिखना चाहिए।

• ऑडियो कंटेंट के पहले 10% समय में सुनाई देना चाहिए।

• साथ ही, कंटेंट में परमानेंट यूनिक मेटाडेटा/आइडेंटिफायर एम्बेड करना होगा, जिसे हटाया या छुपाया नहीं जा सकेगा।

2. डीपफेक या हानिकारक AI कंटेंट 3 घंटे में हटाना अनिवार्य

अगर कोई डीपफेक वीडियो या फोटो (जिसमें किसी की आवाज़, चेहरा या एक्सप्रेशन बदला गया हो) शिकायत मिलती है, तो प्लेटफॉर्म को 3 घंटे के अंदर उसे हटाना होगा। यह समयसीमा गैर-डीपफेक अवैध कंटेंट के मुकाबले काफी कम है।

3. प्लेटफॉर्म की बढ़ती जिम्मेदारी: टेक्निकल टूल्स और यूजर्स को वॉर्निंग

• प्लेटफॉर्म्स को ऑटोमेटेड टूल्स विकसित करने होंगे, जो AI जनरेटेड अवैध, अश्लील या भ्रम फैलाने वाले कंटेंट को स्वतः चिह्नित कर सकें।

• हर 3 महीने में यूजर्स को चेतावनी देनी होगी कि AI का दुरुपयोग करने पर उनका अकाउंट सस्पेंड हो सकता है या कानूनी कार्रवाई हो सकती है।

• लेबल या मेटाडेटा को हटाने/छुपाने की सुविधा प्लेटफॉर्म को नहीं दी जा सकती।

यूजर्स और क्रिएटर्स पर क्या असर पड़ेगा?

यूजर्स के लिए फायदे:

• फेक कंटेंट आसानी से पहचानने में मदद मिलेगी।

• मिसइनफॉर्मेशन और ऑनलाइन धोखाधड़ी कम होगी।

• चुनाव या महत्वपूर्ण मुद्दों पर AI जनरेटेड प्रोपेगैंडा का प्रभाव कमजोर पड़ेगा।

क्रिएटर्स के लिए चुनौतियाँ:

• AI टूल्स से कंटेंट बनाने वालों को अतिरिक्त लेबलिंग की जिम्मेदारी।

• मेटाडेटा एम्बेड करने की तकनीकी आवश्यकता।

• नियम न मानने पर कंटेंट हटने या अकाउंट एक्शन का जोखिम।

इंडस्ट्री पर प्रभाव: टेक्नोलॉजी और कॉस्ट में बदलाव

सोशल मीडिया कंपनियों को मेटाडेटा ट्रैकिंग, कंटेंट वेरिफिकेशन और ऑटोमोडरेशन टूल्स में भारी निवेश करना होगा। इससे उनके ऑपरेशनल खर्च बढ़ सकते हैं, लेकिन साथ ही प्लेटफॉर्म की विश्वसनीयता भी बढ़ेगी।

क्या है डीपफेक? ऐसी AI तकनीक जो बना सकती है कोई भी फेक वीडियो

डीपफेक AI और डीप लर्निंग का उपयोग करके बनाई गई ऐसी मीडिया फाइल्स हैं, जिनमें किसी व्यक्ति का चेहरा, आवाज़ या हावभाव किसी और व्यक्ति में रिप्लेस किया जाता है। यह इतना रियलिस्टिक होता है कि असली और नकली में फर्क कर पाना आम यूजर्स के लिए मुश्किल होता है। अक्सर इसका इस्तेमाल फेक न्यूज़, अश्लील कंटेंट या ब्लैकमेलिंग के लिए किया जाता रहा है। नए नियम इसे रोकने की दिशा में एक मजबूत कदम हैं।

निष्कर्ष: एक सुरक्षित और भरोसेमंद इंटरनेट की ओर कदम

सरकार का यह फैसला “ओपन, सेफ, ट्रस्टेड और अकाउंटेबल इंटरनेट” के विजन को साकार करने की दिशा में एक महत्वपूर्ण कदम है। AI के बढ़ते इस्तेमाल के युग में, ट्रांसपेरेंसी और जवाबदेही जरूरी हो गई है। 20 फरवरी से लागू होने वाले ये नियम न सिर्फ यूजर्स को सचेत करेंगे, बल्कि प्लेटफॉर्म्स और क्रिएटर्स को भी जिम्मेदार बनाएंगे।

अगर आप भी AI टूल्स का इस्तेमाल करते हैं, तो 20 फरवरी के बाद लेबलिंग का नियम याद रखें। और हाँ, अब सोशल मीडिया पर कोई भी वीडियो देखते समय लेबल चेक करना न भूलें!