सरकार ने सोशल मीडिया प्लेटफॉर्म्स को 3 घंटे के भीतर एआई-जनरेटेड डीपफेक कंटेंट को लेबल करने और हटाने का निर्देश दिया है।

 ऑनलाइन एआई-आधारित डीपफेक के प्रसार का संज्ञान लेते हुए, सूचना प्रौद्योगिकी मंत्रालय ने मंगलवार को फेसबुक, इंस्टाग्राम और यूट्यूब जैसे सोशल मीडिया मध्यस्थों के लिए संशोधित दिशानिर्देश जारी किए, जिसमें उन्हें एआई-जनित सभी सामग्री को स्पष्ट रूप से लेबल करने और यह सुनिश्चित करने का निर्देश दिया गया है कि ऐसी कृत्रिम सामग्री में अंतर्निहित पहचानकर्ता हों।

सरकार ने सोशल मीडिया प्लेटफॉर्मों को एआई-जनरेटेड या डीपफेक सामग्री को हटाने के लिए तीन घंटे की समय सीमा निर्धारित की है, जैसे ही इसे सरकार द्वारा चिह्नित किया जाता है या अदालत द्वारा आदेश दिया जाता है।

आधिकारिक अधिसूचना में डिजिटल प्लेटफॉर्मों को एआई लेबल या संबंधित मेटाडेटा को लागू किए जाने के बाद हटाने या दबाने की अनुमति देने से भी प्रतिबंधित किया गया है।

MeitY के आदेश के अनुसार, सोशल मीडिया कंपनियों को अवैध, यौन शोषणकारी या भ्रामक एआई-जनित सामग्री के प्रसार का पता लगाने और उसे रोकने के लिए स्वचालित उपकरणों को तैनात करना होगा।

“एक मध्यस्थ को अपने उपयोगकर्ताओं को समय-समय पर, कम से कम हर तीन महीने में एक बार, अपने नियमों और विनियमों, गोपनीयता नीति, उपयोगकर्ता समझौते या किसी अन्य उपयुक्त माध्यम से सरल और प्रभावी तरीके से कृत्रिम बुद्धिमत्ता के दुरुपयोग से संबंधित नियमों के उल्लंघन के परिणामों के बारे में सूचित करना चाहिए।”

यदि किसी मध्यस्थ को कृत्रिम रूप से उत्पन्न सूचना के निर्माण, सृजन, संशोधन, परिवर्तन, होस्टिंग, प्रदर्शन, अपलोडिंग, प्रकाशन, प्रसारण, भंडारण, अद्यतन, साझाकरण या अन्यथा प्रसार के संबंध में किसी भी उल्लंघन की जानकारी होती है, तो "वह शीघ्र और उचित कार्रवाई करेगा"।

अद्यतन दिशा-निर्देशों के अनुसार, सोशल मीडिया प्लेटफॉर्मों को उचित और उपयुक्त तकनीकी उपाय अपनाने होंगे, जिनमें स्वचालित उपकरण या अन्य उपयुक्त तंत्र शामिल हैं, ताकि किसी भी उपयोगकर्ता को ऐसी कृत्रिम रूप से उत्पन्न जानकारी बनाने, उत्पन्न करने, संशोधित करने, बदलने, प्रकाशित करने, प्रसारित करने, साझा करने या फैलाने की अनुमति न दी जाए, जो उस समय लागू किसी भी कानून का उल्लंघन करती हो, जिसमें भारतीय न्याय संहिता अधिनियम, 2023 (45 ऑफ 2023), बच्चों को यौन अपराधों से संरक्षण अधिनियम, 2012 (32 ऑफ 2012), और विस्फोटक पदार्थ अधिनियम, 1908 (6 ऑफ 1908) शामिल हैं।

नियमों के मसौदे में एआई द्वारा उत्पन्न या संशोधित सामग्री पोस्ट करते समय उपयोगकर्ताओं द्वारा खुलासा करना अनिवार्य करने और प्लेटफार्मों को ऐसी घोषणाओं को सत्यापित करने के लिए प्रौद्योगिकी अपनाने की आवश्यकता का प्रावधान है।

सोशल मीडिया प्लेटफॉर्म पहले ही कई ऐसे फीचर्स पेश कर चुके हैं, जो यूजर्स को कुछ कंटेंट को आर्टिफिशियल इंटेलिजेंस (एआई) का उपयोग करके जेनरेट या मॉडिफाई किए गए कंटेंट के रूप में लेबल करने की अनुमति देते हैं।