लंदन, 9 जनवरी (एपी) एलोन मस्क का एआई चैटबॉट ग्रोक अधिकांश उपयोगकर्ताओं को किसी भी छवि को बनाने या संपादित करने से रोक रहा है, एक वैश्विक प्रतिक्रिया के बाद जो लोगों के यौन रूप से गहरे नकली बनाने के बाद फूट पड़ी।
चैटबॉट, जिसे मस्क के सोशल मीडिया प्लेटफॉर्म एक्स के माध्यम से एक्सेस किया जाता है, पिछले कुछ हफ्तों में एक लहर दे रहा है जो शोधकर्ताओं का कहना है कि छवियों को संशोधित करने के लिए दुर्भावनापूर्ण उपयोगकर्ता अनुरोध हैं, जिसमें महिलाओं को बिकनी में या यौन स्पष्ट स्थिति में रखना शामिल है।
शोधकर्ताओं ने चेतावनी दी है कि कुछ मामलों में, कुछ चित्र बच्चों को दर्शाते हुए दिखाई दिए। दुनिया भर की सरकारों ने मंच की निंदा की है और मंच की जांच शुरू कर दी है।
शुक्रवार को, ग्रोक इस संदेश के साथ छवि में बदलाव के अनुरोधों का जवाब दे रहे थेः “छवि निर्माण और संपादन वर्तमान में भुगतान करने वाले ग्राहकों तक सीमित हैं। आप इन सुविधाओं को अनलॉक करने के लिए सदस्यता ले सकते हैं। जबकि ग्रोक के लिए अभिदाता संख्या सार्वजनिक रूप से उपलब्ध नहीं है, स्पष्ट डीपफेक की संख्या में उल्लेखनीय गिरावट आई है जो ग्रोक अब पहले के दिनों की तुलना में उत्पन्न कर रहा है।
यूरोपीय संघ ने ग्रोक को “अवैध” और “भयावह” व्यवहार के लिए फटकार लगाई है, जबकि फ्रांस, भारत, मलेशिया के अधिकारियों और ब्राजील के एक सांसद ने जांच की मांग की है।
गुरुवार को, ब्रिटेन के प्रधान मंत्री कीर स्टारमर ने एक्स के खिलाफ अनिर्दिष्ट कार्रवाई की धमकी दी।
“यह शर्मनाक है। यह घृणित है। और इसे बर्दाश्त नहीं किया जाना चाहिए, “स्टारमर ने ग्रेटेस्ट हिट्स रेडियो पर कहा। “एक्स को इस पर पकड़ बनानी होगी।” उन्होंने कहा कि मीडिया नियामक ऑफकॉम को “कार्रवाई करने के लिए हमारा पूरा समर्थन है” और “सभी विकल्प” मेज पर हैं।
“यह घृणित है। एक्स को उनके अभिनय को एक साथ लाने और इस सामग्री को नीचे लाने की आवश्यकता है। हम इस पर कार्रवाई करेंगे क्योंकि यह बर्दाश्त करने योग्य नहीं है। ऑफकॉम और ब्रिटेन के गोपनीयता नियामक दोनों ने इस सप्ताह कहा कि उन्होंने ब्रिटिश नियमों का पालन करने के लिए किए गए उपायों की जानकारी के लिए एक्स और मस्क की कृत्रिम बुद्धिमत्ता कंपनी एक्सएआई से संपर्क किया है।
ग्रोक एक्स उपयोगकर्ताओं के लिए उपयोग करने के लिए स्वतंत्र है, जो सोशल मीडिया प्लेटफॉर्म पर सवाल पूछ सकते हैं। वे या तो इसे अपने द्वारा सीधे बनाए गए पोस्ट में या अन्य उपयोगकर्ताओं के पोस्ट के जवाब में टैग कर सकते हैं।
ग्रोक को 2023 में लॉन्च किया गया। पिछली गर्मियों में कंपनी ने एक छवि जनरेटर सुविधा, ग्रोक इमेजिन को जोड़ा, जिसमें एक तथाकथित “मसालेदार मोड” शामिल था जो वयस्क सामग्री उत्पन्न कर सकता है।
समस्या दोनों बढ़ जाती है क्योंकि मस्क अपने चैटबॉट को अधिक सुरक्षा उपायों के साथ प्रतिद्वंद्वियों के लिए एक एजियर विकल्प के रूप में पेश करता है, और क्योंकि ग्रोक की छवियां सार्वजनिक रूप से दिखाई देती हैं, और इसलिए इसे आसानी से फैलाया जा सकता है। (एपी) जीआरएस जीआरएस
वर्गः ब्रेकिंग न्यूज एसईओ टैगः #swadesi, #News, मस्क के ग्रोक चैटबॉट ने यौन डीपफेक के लिए वैश्विक बैकलैश के बाद छवि पीढ़ी को प्रतिबंधित किया