नई दिल्ली: प्रधानमंत्री नरेंद्र मोदी से जुड़ी कथित AI-मॉर्फ्ड तस्वीरों के मामले में दिल्ली हाईकोर्ट ने शुक्रवार को अहम निर्देश जारी किए। एक महिला ने आरोप लगाया है कि उसकी तस्वीर को AI फेस-स्वैपिंग तकनीक के जरिए बदलकर प्रधानमंत्री नरेंद्र मोदी के साथ एक आपत्तिजनक तस्वीर के रूप में तैयार किया गया और उसे सोशल मीडिया तथा एक विरोध प्रदर्शन के दौरान इस्तेमाल किया गया।
महिला की याचिका पर सुनवाई करते हुए दिल्ली हाईकोर्ट ने Meta को उसके प्लेटफॉर्म पर मौजूद संबंधित आपत्तिजनक कंटेंट को 24 घंटे के भीतर हटाने का निर्देश दिया। कोर्ट ने महिला को पुलिस सुरक्षा देने और दिल्ली पुलिस से मामले में कार्रवाई की रिपोर्ट भी मांगी है।
मामले में Cockroach Janta Party (CJP) से जुड़े सौरव दास, अभिजीत दिपके, आशुतोष रांका और रत्ना सिंह को भी नोटिस जारी किया गया है। हालांकि, इन लोगों पर लगाए गए आरोप अभी न्यायिक रूप से साबित नहीं हुए हैं।
क्या है पूरा मामला?
यह मामला दिल्ली के जंतर-मंतर पर हुए एक विरोध प्रदर्शन से जुड़ा बताया जा रहा है। याचिकाकर्ता महिला का आरोप है कि उसकी निजी तस्वीर का इस्तेमाल उसकी अनुमति के बिना किया गया और AI आधारित फेस-स्वैपिंग तकनीक की मदद से उसका चेहरा प्रधानमंत्री नरेंद्र मोदी के साथ दिखाई जाने वाली एक आपत्तिजनक तस्वीर में लगा दिया गया।
महिला के मुताबिक, कथित तौर पर तैयार की गई तस्वीर को पोस्टर और बैनर पर इस्तेमाल किया गया। इसके अलावा प्रदर्शन से संबंधित वीडियो और तस्वीरें सोशल मीडिया पर भी प्रसारित किए गए।
याचिका में महिला ने दावा किया है कि इस घटना के बाद उसे धमकियों का सामना करना पड़ा। उसने कथित AI डीपफेक सामग्री को इंटरनेट से हटाने और अपनी सुरक्षा सुनिश्चित करने के लिए अदालत से तत्काल हस्तक्षेप की मांग की।
दिल्ली पुलिस ने दर्ज की FIR
इस मामले में दिल्ली पुलिस ने भी FIR दर्ज की है। पुलिस के मुताबिक, शिकायत के आधार पर साइबर पुलिस स्टेशन, नई दिल्ली में मामला दर्ज किया गया और मामले की जांच की जा रही है।
रिपोर्टों के अनुसार, शिकायत में CJP से जुड़े कुछ लोगों के नाम लिए गए हैं, लेकिन FIR में आरोपियों को फिलहाल अज्ञात बताया गया है। पुलिस कथित तस्वीर के निर्माण, उसके प्रदर्शन और सोशल मीडिया पर प्रसार सहित अलग-अलग पहलुओं की जांच कर रही है।
इसलिए यह कहना अभी सही नहीं होगा कि जिन लोगों के नाम शिकायत में हैं, उनके खिलाफ आरोप अदालत में सिद्ध हो चुके हैं।
हाईकोर्ट ने Meta को क्या निर्देश दिया?
दिल्ली हाईकोर्ट ने Meta को संबंधित सोशल मीडिया प्लेटफॉर्म से कथित आपत्तिजनक कंटेंट को हटाने का निर्देश दिया। कोर्ट ने कहा कि Meta को संबंधित सामग्री तक पहुंच 24 घंटे के भीतर हटानी होगी। अदालत ने इस मामले में Meta को नोटिस भी जारी किया है।
यह आदेश ऐसे मामलों में सोशल मीडिया प्लेटफॉर्म की भूमिका को लेकर भी महत्वपूर्ण है, जहां किसी व्यक्ति की तस्वीर को उसकी अनुमति के बिना AI तकनीक से बदलकर आपत्तिजनक रूप में प्रसारित करने का आरोप हो।
महिला को पुलिस सुरक्षा देने का आदेश
महिला ने अदालत को बताया कि कथित तस्वीरों के प्रसार के बाद उसे धमकियां मिल रही हैं। इस पर हाईकोर्ट ने उसकी सुरक्षा को गंभीरता से लेते हुए दिल्ली पुलिस को सुरक्षा उपलब्ध कराने का निर्देश दिया। अदालत ने यह भी कहा कि महिला का वर्तमान पता सार्वजनिक रिकॉर्ड में उजागर न किया जाए।
कोर्ट के निर्देश के अनुसार, महिला अपना सटीक पता जांच अधिकारी को देगी और अधिकारी इसे संबंधित थाना प्रभारी तक पहुंचाएगा, ताकि उसकी सुरक्षा सुनिश्चित की जा सके।
हाईकोर्ट ने दिल्ली पुलिस को मामले में अब तक की कार्रवाई की जानकारी देते हुए एक सप्ताह के भीतर स्टेटस रिपोर्ट दाखिल करने का निर्देश दिया है। रिपोर्ट में पुलिस को यह बताना होगा कि FIR दर्ज होने के बाद मामले में क्या कदम उठाए गए हैं।
कोर्ट ने यह भी निर्देश दिया कि मामले से जुड़े वेब लिंक और संबंधित सामग्री जांच एजेंसी को इलेक्ट्रॉनिक रूप में उपलब्ध कराई जाए।
CJP से जुड़े चार लोगों को नोटिस
इस मामले में अदालत ने सौरव दास, अभिजीत दिपके, आशुतोष रांका और रत्ना सिंह को भी नोटिस जारी किया है। महिला की याचिका में इन लोगों पर कथित रूप से उसकी तस्वीर के इस्तेमाल और प्रसार से जुड़े आरोप लगाए गए हैं।
हालांकि, यह स्पष्ट रखना जरूरी है कि नोटिस जारी होना किसी व्यक्ति को दोषी ठहराने के बराबर नहीं है। मामले में आरोपों की जांच और आगे की न्यायिक प्रक्रिया के बाद ही किसी व्यक्ति की कानूनी जिम्मेदारी तय हो सकती है।
सुनवाई के दौरान अदालत ने मामले की संवेदनशीलता पर टिप्पणी करते हुए कहा कि यह मामला केवल महिला की तस्वीर से संबंधित नहीं है, बल्कि इसमें देश के प्रधानमंत्री की तस्वीर भी शामिल है। अदालत ने यह भी संकेत दिया कि ऐसे मामलों में संबंधित संस्थाओं को संवेदनशीलता के साथ कार्रवाई करनी चाहिए।
AI Deepfake क्या होता है?
AI Deepfake ऐसी डिजिटल सामग्री को कहा जाता है जिसे आर्टिफिशियल इंटेलिजेंस की मदद से इस तरह तैयार या बदला जाता है कि वह वास्तविक तस्वीर या वीडियो जैसी दिखाई दे।
फेस-स्वैपिंग तकनीक के जरिए किसी व्यक्ति के चेहरे को दूसरी तस्वीर या वीडियो में लगाया जा सकता है। यही तकनीक जब बिना अनुमति किसी व्यक्ति की तस्वीर को आपत्तिजनक या भ्रामक तरीके से बदलने के लिए इस्तेमाल की जाती है, तो इससे निजता, प्रतिष्ठा और ऑनलाइन सुरक्षा से जुड़े गंभीर सवाल उठ सकते हैं।
