Tokyo News: दुनिया के सबसे अमीर शख्स एलन मस्क की कंपनी xAI फिर विवादों में घिर गई है। कंपनी के AI चैटबॉट ‘ग्रोक’ (Grok) ने जापान की राजकुमारी काको की आपत्तिजनक तस्वीरें बना दीं। इस हरकत के बाद इंटरनेट पर बवाल मच गया है। मामले की गंभीरता को देखते हुए इंडोनेशिया और मलेशिया ने इस चैटबॉट को अपने यहां बैन कर दिया है। दावा किया जा रहा है कि यह AI टूल महिलाओं की तस्वीरों से छेड़छाड़ कर रहा है।
राजकुमारी की तस्वीर से हुई छेड़छाड़
यह पूरा विवाद जापान के शाही परिवार से जुड़ा है। क्राउन प्रिंस अकिशिनो की बेटी राजकुमारी काको 2 जनवरी को एक नव वर्ष समारोह में शामिल हुई थीं। वहां उन्होंने नीले रंग की ड्रेस पहनी थी। एक यूजर ने एलन मस्क के AI टूल ‘ग्रोक’ का गलत इस्तेमाल किया। उसने राजकुमारी की उस तस्वीर को एक छोटी बिकिनी वाली फोटो में बदल दिया। देखते ही देखते यह फर्जी (Deepfake) तस्वीर वायरल हो गई। इसे हटाए जाने से पहले 1 करोड़ 50 लाख से ज्यादा लोग देख चुके थे।
हर घंटे आ रही थीं 6000 गंदी रिक्वेस्ट
एक ब्रिटिश अखबार की रिपोर्ट ने इस मामले में चौंकाने वाला खुलासा किया है। रिपोर्ट के मुताबिक, ग्रोक पर हर घंटे 6000 से ज्यादा बार ऐसी ही बिकिनी तस्वीरें बनाने की मांग की जा रही थी। 2 जनवरी को यह मांग सबसे ज्यादा बढ़ गई थी। इस खतरे को देखते हुए इंडोनेशिया और मलेशिया ने कड़ा कदम उठाया। मलेशिया के संचार आयोग ने इसे ‘बिना सहमति के बनाई गई अश्लील सामग्री’ बताया है। सुरक्षा को देखते हुए वहां ग्रोक के इस्तेमाल पर रोक लगा दी गई है।
मस्क ने दी सफाई, नियम हुए सख्त
इतने बड़े विवाद के बाद एलन मस्क ने अपनी कंपनी का बचाव किया है। उन्होंने आलोचकों पर ही निशाना साधते हुए कहा कि वे सेंसरशिप का बहाना ढूंढ रहे हैं। हालांकि, कंपनी ने अब सख्ती बरतनी शुरू कर दी है। ग्रोक ने इमेज बनाने वाले फीचर पर कुछ रोक लगा दी है। कंपनी ने साफ कहा है कि अवैध कंटेंट बनाने वालों का अकाउंट हमेशा के लिए सस्पेंड कर दिया जाएगा। जरूरत पड़ने पर पुलिस और कानून की मदद भी ली जाएगी।
