[ad_1]
- Hindi News
- Tech auto
- Grok AI Obscene Content Row: X Submits Response To IT Ministry, Report Under Examination After Deepfake Concerns
नई दिल्ली2 मिनट पहले
- कॉपी लिंक
दुनिया के सबसे अमीर कारोबारी इलॉन मस्क के AI चैटबॉट ग्रोक (Grok) के जरिए महिलाओं और बच्चों की अश्लील तस्वीरें बनाने के मामले में भारत सरकार को अपना जवाब सौंप दिया है। आईटी मंत्रालय ने 2 दिसंबर को मस्क की कंपनी को बुधवार शाम 5 बजे तक का समय दिया था।
न्यूज एजेंसी के मुताबिक, कंपनी ने एक्शन टेकन रिपोर्ट दाखिल कर दी है, जिसकी मंत्रालय जांच कर रहा है। सरकार ने चेतावनी दी थी कि अगर AI टूल्स के गलत इस्तेमाल पर कड़े कदम नहीं उठाए गए, तो X को भारतीय कानूनों के तहत मिल रही कानूनी सुरक्षा खत्म कर दी जाएगी।
दरअसल, शिवसेना (UBT) की सांसद प्रियंका चतुर्वेदी ने शुक्रवार को AI चैटबोट Grok के गलत इस्तेमाल पर चिंता जताई थी। उन्होंने आईटी मिनिस्टर को लेटर लिखा था। इसमें कहा था कि कुछ लोग AI की मदद से महिलाओं की असली तस्वीरों को आपत्तिजनक रूप में बदल रहे हैं, जो बेहद गंभीर मामला है।
पहले इस पूरे मामले को समझिए
कुछ यूजर सोशल मीडिया प्लेटफॉर्म X पर फर्जी अकाउंट बनाते हैं। इन अकाउंट्स से वे महिलाओं की तस्वीरें पोस्ट करते हैं। इसके बाद Grok AI को प्रॉम्प्ट दिया जाता है कि महिलाओं की फोटो को गलत और आपत्तिजनक रूप में दिखाया जाए। AI से कपड़े बदलने या तस्वीर को सेक्शुअल अंदाज में पेश करने जैसी प्रॉम्प्ट दिए जाते हैं।
इन तस्वीरों के लिए महिलाओं से कोई अनुमति नहीं ली जाती। कई बार वे महिलाएं खुद भी नहीं जानतीं कि उनकी तस्वीरों का ऐसा इस्तेमाल हो रहा है। आरोप है कि Grok इस तरह की गलत मांगों को रोकने के बजाय उन्हें स्वीकार कर लेता है।
कुछ यूजर्स Grok पर इस तरह के प्रॉम्प्ट्स देकर महिलाओं की अश्लील फोटो बनाते हैं।
इन प्रॉम्प्ट्स की मदद से Grok पर अश्लील कंटेंट बनाया जाता है।
सरकार ने आदेश में क्या कहा
मंत्रालय का कहना है कि X ने सूचना प्रौद्योगिकी अधिनियम, 2000 और आईटी नियम 2021 के तहत तय कानूनी जिम्मेदारियों का पालन नहीं किया। अगर नियमों का पालन नहीं हुआ, तो X, उसके जिम्मेदार अधिकारियों और ऐसे कंटेंट फैलाने वाले यूजर्स के खिलाफ आईटी एक्ट, आईटी रूल्स और अन्य लागू कानूनों के तहत सख्त कार्रवाई की जा सकती है।
प्रियंका चतुर्वेदी ने लेटर में लिखा-
- सोशल मीडिया खासकर X पर, AI के Grok फीचर का गलत इस्तेमाल हो रहा है। कुछ पुरुष फर्जी अकाउंट बनाकर महिलाओं की तस्वीरें पोस्ट कर रहे हैं और AI से कपड़े छोटे दिखाने या तस्वीरों को गलत तरीके से पेश करने को कह रहे हैं।
- यह सिर्फ फेक अकाउंट तक सीमित नहीं है, बल्कि उन महिलाओं को भी निशाना बनाया जा रहा है जो खुद अपनी तस्वीरें शेयर करती हैं। यह बहुत गलत है और AI का गंभीर दुरुपयोग है।
- सबसे ज्यादा चिंता की बात यह है कि Grok इस तरह की गलत डिमांड को मान रहा है। इससे महिलाओं की प्राइवेसी का उल्लंघन हो रहा है और उनकी तस्वीरों का बिना अनुमति इस्तेमाल किया जा रहा है। यह सिर्फ गलत नहीं, बल्कि क्राइम है।
- भारत चुपचाप नहीं देख सकता कि टेक्नोलॉजी और इनोवेशन के नाम पर महिलाओं की इज्जत को सार्वजनिक और डिजिटल तरीके से नुकसान पहुंचाया जाए। बड़े टेक प्लेटफॉर्म पर ऐसी घटनाएं लगातार बढ़ रही हैं, जो चिंता का विषय हैं।
- देश महिलाओं के सम्मान के साथ हो रहे ऐसे डिजिटल अपराधों को नजरअंदाज नहीं कर सकता। दूसरे बड़े टेक प्लेटफॉर्म पर भी इस तरह की घटनाएं हो रही हैं, जहां कोई रोक नहीं है।
- भारत AI और उसके फायदों का समर्थन करता है, लेकिन महिलाओं को अपमानित करने और निशाना बनाने वाले कंटेंट को बिल्कुल बर्दाश्त नहीं किया जाएगा।
आदेश न मानने पर कानूनी सुरक्षा खत्म होने का खतरा
आईटी एक्ट के अनुसार, अगर X पर कोई अश्लील, आपत्तिजनक, महिला विरोधी या गैरकानूनी कंटेंट डाला जाता है, तो प्लेटफॉर्म को इसकी जानकारी मिलते ही उसे तुरंत हटाना होता है। अगर केंद्र सरकार या कोर्ट X को कोई कंटेंट हटाने या अकाउंट ब्लॉक करने को कहती है, तो उसे मानना कानूनी रूप से जरूरी है।
अगर X आदेश नहीं मानता तो X को जो कानूनी सुरक्षा मिलती है, वह छीन ली जा सकती है। इसके बाद X यूजर्स को ही गैरकानूनी कंटेंट के लिए जिम्मेदार माना जाएगा।
वहीं कंपनी पर क्रिमिनल केस, जुर्माना, जिम्मेदार अधिकारियों पर FIR जांच एजेंसियों द्वारा पूछताछ हो सकती है। सरकार IT Act की धारा 69A के तहत X के किसी खास अकाउंट किसी कंटेंट या पूरे प्लेटफॉर्म के कुछ फीचर्स भारत में ब्लॉक कर सकती है।
————————————–
ये खबर भी पढ़ें…
सोशल मीडिया पर अश्लील कंटेंट को लेकर केंद्र की चेतावनी, कहा- कंपनियां ऐसे कंटेंट पर रोक लगाएं, नहीं तो केस होगा
केंद्र सरकार ने 30 दिसंबर को सभी सोशल मीडिया प्लेटफॉर्म्स को अश्लील कंटेंट को लेकर चेतावनी जारी की थी। इसमें कहा गया है कि कंपनियां अश्लील, भद्दे, पोर्नोग्राफिक, बच्चों से जुड़े यौन शोषण वाले और गैर-कानूनी कंटेंट पर तुरंत रोक लगाएं। यदि कंपनियां ऐक्शन नहीं लेंगी तो उन पर केस चलेगा। पूरी खबर पढ़ें…
[ad_2]
X ने अश्लील AI कंटेंट पर सरकार को जवाब सौंपा: आईटी मंत्रालय जांच कर रहा, महिलाओं की आपत्तिजनक तस्वीरें क्रिएट कर शेयर करने का आरोप
