एलन मस्क की बढ़ी मुसीबत; इन देशों ने Grok AI पर लगाया बैन, भेजा नोटिस

Elon Musk-Grok AI: बिना अनुमति अश्लील डीपफेक तस्वीरें बनाए जानें के आरोप के बाद इंडोनेशिया और मलेशिया ने इस पर रोक लगा दी है. दोनों देशों ने X और xAI से तुरंत जवाब और सुरक्षा उपायों के लिए नोटिस दिया है.

Elon Musk की कंपनी xAI का चर्चित AI चैटबॉट Grok एक बार फिर विवादों में घिर गया है. इंडोनेशिया और मलेशिया ने इसे अस्थायी रूप से बैन कर दिया है. Grok AI पर फर्जी और अश्लील डीपफेक इमेज बनाने के आरोप हैं. महिलाओं और बच्चों को निशाना बनाए जाने के बाद इन दोनों देशों ने सख्त रुख अपनाया. इंडोनेशिया और मलेशिया का कहना है कि Grok की टेक्नोलॉजी डिजिटल दुनिया में एक नया खतरा बन चुकी है. भारत सरकार ने भी हाल ही में X के AI टूल Grok के जरिए अश्लील और आपत्तिजनक कंटेंट फैलने पर गंभीर चिंता जताई थी.

एक्शन में फंसा Grok

मलेशिया और इंडोनेशिया ने Grok पर अस्थायी बैन लगाकर साफ कर दिया है कि AI की आजादी अब बिना नियमों के नहीं चलेगी. मलेशिया की MCMC ने कहा कि Grok का गलत इस्तेमाल पोर्नोग्राफिक और अश्लील कंटेंट बनाने में हो रहा था. यह कंटेंट बिना लोगों की सहमति के बनाया जा रहा था, जिससे उनकी गरिमा और सुरक्षा को खतरा पैदा हुआ. सरकारों का मानना है कि इस तरह की AI टेक्नोलॉजी समाज के लिए गंभीर जोखिम बन सकती है.

X और xAI की लापरवाही

मलेशिया के नियामक ने बताया कि उसने X और xAI को 3 और 8 जनवरी को नोटिस भेजे थे. इन नोटिसों में प्रभावी तकनीकी सुरक्षा उपाय लागू करने की मांग की गई थी. लेकिन कंपनी ने केवल यूजर रिपोर्टिंग सिस्टम पर ध्यान दिया और असली समस्या यानी डीपफेक जनरेशन पर कोई ठोस समाधान नहीं दिया. इसी वजह से Grok को ब्लॉक करने का फैसला लिया गया.

डीपफेक से डिजिटल खतरा

Grok जैसे AI टूल्स से बनाई जा रही नकली तस्वीरें और वीडियो असली जैसे लगते हैं, जिससे लोगों की पहचान और छवि बर्बाद हो सकती है. कई देशों, जिनमें भारत और यूरोपीय यूनियन भी शामिल हैं, पहले ही इस पर चिंता जता चुके हैं. सरकारें चाहती हैं कि AI कंपनियां सख्त सेफ्टी गार्डरेल लगाएं ताकि तकनीक का गलत इस्तेमाल रोका जा सके. अब दुनिया देख रही है कि xAI इस दबाव का कैसे जवाब देता है.

यह नही पढ़े: Grok AI पर नहीं थम रहा अश्लील कंटेंट, भारत सरकार का नोटिस बेअसर

इंडोनेशिया हुआ सख्त

इंडोनेशिया की संचार और डिजिटल मंत्री, मेउत्या हफीद (Meutya Hafid) ने कहा कि Grok से बनाए जा रहे फर्जी अश्लील कंटेंट महिलाओं और बच्चों के लिए बड़ा खतरा हैं. X से इस फीचर को लेकर तुरंत स्पष्टीकरण मांगा गया है. उन्होंने इसे मानवाधिकार और डिजिटल सुरक्षा का गंभीर उल्लंघन बताया. सरकार ने साफ किया कि नागरिकों की इज्जत और सुरक्षा से कोई समझौता नहीं होगा.