(ब्लूमबर्ग) — कृत्रिम बुद्धिमत्ता चैटबॉट द्वारा उपयोगकर्ता के संकेतों के जवाब में सोशल मीडिया प्लेटफॉर्म
मलेशियाई अधिकारियों ने शनिवार को एक बयान में कहा कि वे महिलाओं और नाबालिगों की छवियों में हेरफेर करके अशोभनीय, अत्यधिक आक्रामक या अन्यथा हानिकारक सामग्री तैयार करने के लिए एआई के दुरुपयोग की शिकायतों के बाद ग्रोक द्वारा निर्मित छवियों की जांच कर रहे हैं।
ब्लूमबर्ग से सर्वाधिक पढ़ा गया
संचार और मल्टीमीडिया आयोग ने शनिवार को एक बयान में कहा कि ऐसी हानिकारक सामग्री बनाना या प्रसारित करना मलेशियाई कानून के तहत अपराध है। इसमें कहा गया है कि मीडिया निगरानी संस्था कथित तौर पर कानून का उल्लंघन करने वाले एक्स उपयोगकर्ताओं की जांच करेगी और कंपनी के प्रतिनिधियों को तलब करेगी।
आयोग के बयान के अनुसार, “हालांकि एक्स वर्तमान में एक लाइसेंस प्राप्त सेवा प्रदाता नहीं है, लेकिन इसका कर्तव्य है कि वह अपने प्लेटफॉर्म पर हानिकारक सामग्री के प्रसार को रोके।”
मस्क ने एक्स संडे को एक पोस्ट में कहा कि प्लेटफॉर्म बच्चों से संबंधित सहित अवैध सामग्री के खिलाफ कार्रवाई करता है, इसे हटाता है, खातों को स्थायी रूप से निलंबित करता है और आवश्यकतानुसार अधिकारियों के साथ काम करता है।
उन्होंने पोस्ट में कहा, ”अवैध सामग्री बनाने के लिए ग्रोक का उपयोग करने वाले किसी भी व्यक्ति को वही परिणाम भुगतने होंगे जैसे कि वे अवैध सामग्री अपलोड करते हैं।”
मलेशिया ग्रोक पर बढ़ती चिंता व्यक्त करने वाली नवीनतम सरकार है। भारत ने शुक्रवार को एक्स को पत्र लिखकर एआई चैटबॉट की व्यापक समीक्षा का आदेश दिया ताकि यह सुनिश्चित किया जा सके कि यह “नग्नता, कामुकता, यौन रूप से स्पष्ट या अन्यथा गैरकानूनी सामग्री” वाली सामग्री उत्पन्न नहीं करता है। ब्लूमबर्ग ने 2 जनवरी के पत्र की एक प्रति देखी है।
प्लेटफ़ॉर्म को 72 घंटों के भीतर भारत के इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय को की गई कार्रवाई की रिपोर्ट सौंपनी होगी और आपराधिक और आईटी कानूनों के तहत संभावित कानूनी कार्रवाई की चेतावनी दी गई थी। सरकार ने कहा कि वह अनुचित एआई-जनित सामग्री के लिए सोशल मीडिया प्लेटफार्मों पर नियमों पर विचार कर सकती है।
भारत के सूचना प्रौद्योगिकी मंत्री अश्विनी वैष्णव ने सीएनबीसी-टीवी 18 के साथ एक साक्षात्कार में कहा, “संसदीय समिति ने सोशल मीडिया को विनियमित करने के लिए एक मजबूत कानून की सिफारिश की है। हम इस पर विचार कर रहे हैं।”
फ़्रांस ने शुक्रवार को ग्रोक पर लोगों की सहमति के बिना एक्स पर “स्पष्ट रूप से अवैध” यौन सामग्री तैयार करने का आरोप लगाया। फ्रांसीसी सरकार ने एक बयान में कहा कि ग्रोक द्वारा बनाई गई छवियां संभावित रूप से यूरोपीय संघ के डिजिटल सेवा अधिनियम का उल्लंघन करती हैं। बयान के अनुसार, विनियमन के लिए अवैध सामग्री के प्रसार के जोखिम को कम करने के लिए बड़े प्लेटफार्मों की आवश्यकता है।
चैटबॉट की आपत्तिजनक छवियां इसकी अपनी स्वीकार्य-उपयोग नीति का स्पष्ट उल्लंघन हैं, जो बच्चों के यौन शोषण पर रोक लगाती है। कुछ चित्र छवियों को हटा दिया गया है।
ग्रोक विकसित करने वाली और एक्स चलाने वाली कंपनी एक्सएआई को टिप्पणी के लिए ईमेल किए गए अनुरोध पर जवाब मिला, “लीगेसी मीडिया लाइज़।”
पिछले दो हफ्तों में, प्लेटफ़ॉर्म पर उपयोगकर्ताओं की बढ़ती संख्या ने ग्रोक से यौन संदर्भ में महिलाओं और बच्चों की छवियां बनाने और तस्वीरों को मॉर्फ करने का अनुरोध किया है। क्रिसमस से पहले प्लेटफॉर्म द्वारा एडिट-इमेज फीचर पेश किए जाने के बाद वैश्विक स्तर पर यह चलन जोर पकड़ गया।
ग्रोक ने शुक्रवार को उपयोगकर्ताओं के सवालों के जवाब में एक्स पर एक पोस्ट तैयार किया कि उसने “सुरक्षा उपायों में खामियों” की पहचान की है जिन्हें तत्काल ठीक किया जा रहा है।
–संतोष कुमार और अद्वैत पालेपू की सहायता से।
(पांचवें पैराग्राफ से मस्क की टिप्पणियों के साथ अपडेट।)
ब्लूमबर्ग बिजनेसवीक से सर्वाधिक पढ़ा गया
©2026 ब्लूमबर्ग एल.पी
