नई दिल्ली, 15 जनवरी (पीटीआई) माइक्रोब्लॉगिंग प्लेटफॉर्म एक्स ने एआई चैटबॉट ग्रोक के दुरुपयोग को रोकने के लिए कड़े तकनीकी उपाय लागू किए हैं। यह फैसला उन मामलों के सामने आने के बाद लिया गया है, जिनमें ग्रोक के जरिए वास्तविक लोगों की अश्लील और आपत्तिजनक डीपफेक तस्वीरें बनाई गई थीं, जिस पर भारत समेत कई देशों में कड़ी प्रतिक्रिया हुई थी।
एक्स ने अपने आधिकारिक ‘सेफ्टी’ हैंडल पर बताया कि जिन देशों या क्षेत्रों में यह गैरकानूनी है, वहां ग्रोक के माध्यम से वास्तविक लोगों की बिकिनी, अंडरवियर या इसी तरह के खुले कपड़ों में तस्वीरें बनाने की सुविधा को पूरी तरह जियोब्लॉक कर दिया गया है। यह पाबंदी सभी उपयोगकर्ताओं पर लागू होगी, चाहे वे मुफ्त उपयोगकर्ता हों या पेड सब्सक्राइबर।
कंपनी ने यह भी स्पष्ट किया कि अब एक्स प्लेटफॉर्म पर ग्रोक अकाउंट के जरिए नई तस्वीरें बनाना या मौजूदा तस्वीरों को संपादित करना केवल पेड सब्सक्राइबरों के लिए ही संभव होगा। एक्स का कहना है कि इससे नियमों का उल्लंघन करने वालों की पहचान करना और उनके खिलाफ कार्रवाई करना आसान होगा।
इसके अलावा, ग्रोक के जरिए वास्तविक लोगों की आपत्तिजनक कपड़ों में तस्वीरों को एडिट करने की सुविधा पर भी रोक लगा दी गई है। एक्स ने कहा कि ये कदम उसकी मौजूदा सुरक्षा नीति के अनुरूप हैं और एआई से जुड़ी हर सामग्री को सख्त नियमों का पालन करना होगा।
एक्स के अनुसार, उसकी सेफ्टी टीम लगातार निगरानी कर रही है और अवैध या नियमों का उल्लंघन करने वाली सामग्री को तेजी से हटाया जा रहा है। गंभीर मामलों में अकाउंट स्थायी रूप से निलंबित किए जा रहे हैं और जरूरत पड़ने पर स्थानीय सरकारों तथा कानून प्रवर्तन एजेंसियों के साथ सहयोग भी किया जा रहा है।
कंपनी ने दोहराया कि बाल यौन शोषण, बिना सहमति के नग्नता और अवांछित यौन कंटेंट के खिलाफ उसकी नीति बेहद सख्त है और ऐसे मामलों में ‘शून्य सहनशीलता’ बरती जाती है।
हाल ही में आईटी मंत्रालय की आपत्ति के बाद एक्स ने लगभग 3,500 आपत्तिजनक पोस्ट हटाईं और 600 से अधिक अकाउंट बंद किए थे। सरकार ने यह भी स्पष्ट किया है कि आईटी कानून के तहत मिलने वाली सुरक्षा तभी लागू होगी, जब प्लेटफॉर्म सभी कानूनी जिम्मेदारियों और नियमों का पूरी तरह पालन करेगा।
भारत के साथ-साथ ब्रिटेन और यूरोपीय संघ ने भी ग्रोक से जुड़े डीपफेक और कंटेंट मॉडरेशन के मुद्दे पर एक्स पर दबाव बढ़ाया है।
श्रेणी: ताज़ा खबर
एसईओ टैग: #स्वदेशी, #समाचार, ग्रोक द्वारा यौनिक एआई कंटेंट पर रोक के लिए एक्स के तकनीकी कदम