New Delhi News: Google का नया AI मॉडल लोगों की प्राइवेसी के लिए खतरा बनता जा रहा है। हालिया रिपोर्ट्स में दावा किया गया है कि Gemini Nano Banana Pro से फर्जी Aadhaar Card और पैन कार्ड बनाए जा रहे हैं। कई यूजर्स ने सोशल मीडिया पर इसकी शिकायत की है। यह मॉडल इतना एडवांस है कि इससे बने डॉक्यूमेंट बिल्कुल असली लगते हैं। यह प्राइवेसी और सुरक्षा में एक बड़ी सेंध है।
बिना सवाल पूछे बना दी फर्जी आईडी
इस नए मॉडल की जांच के दौरान चौंकाने वाले नतीजे सामने आए। जब AI को फर्जी आईडी बनाने का निर्देश दिया गया, तो उसने तुरंत काम कर दिया। सिस्टम ने कोई सुरक्षा सवाल नहीं पूछा। इसने फोटो और नकली जानकारी को डॉक्यूमेंट में बिल्कुल सही तरीके से भर दिया। यह इतनी आसानी से हुआ कि किसी को भी शक नहीं होगा। यह स्पष्ट रूप से दिखाता है कि मॉडल में सुरक्षा की भारी कमी है।
बेहद हाई क्वालिटी हैं तस्वीरें
Google का यह नया टूल 4K इमेज जनरेशन के लिए जाना जाता है। इसकी एडिटिंग क्षमता बहुत शानदार है। इसी खूबी का इस्तेमाल अब गलत कामों में हो रहा है। इससे बने Aadhaar Card की नकल इतनी साफ है कि प्रिंट करने पर यह असली जैसा दिखता है। यह मॉडल ChatGPT के मुकाबले ज्यादा रियल तस्वीरें बनाता है। इसलिए फर्जीवाड़े का खतरा और भी बढ़ गया है।
वाटरमार्क भी नहीं है काफी
Google ने दावा किया है कि AI से बनी तस्वीरों पर वाटरमार्क होता है। कंपनी ने इसमें ‘SynthID’ नाम का अदृश्य वाटरमार्क भी लगाया है। लेकिन जानकारों का मानना है कि इसे हटाना मुश्किल नहीं है। अगर किसी को यह आईडी जल्दी में दिखाई जाए, तो वह धोखा खा सकता है। गूगल अक्सर कड़े सुरक्षा नियमों का दावा करता है। इसके बावजूद इतनी बड़ी चूक होना हैरानी की बात है।
पहले भी आ चुके हैं ऐसे मामले
फर्जी आईडी बनने का यह पहला मामला नहीं है। इससे पहले ChatGPT के GPT-4o मॉडल के साथ भी ऐसा हुआ था। तब भी यूजर्स ने फर्जी डॉक्यूमेंट बनाए थे। हालांकि, Google के नए मॉडल ने इस खतरे को कई गुना बढ़ा दिया है। यह मॉडल हिंसा या अन्य संवेदनशील कंटेंट को तो ब्लॉक करता है, लेकिन फर्जी आईडी रोकने में नाकाम रहा है। अब देखना होगा कि कंपनी इस पर क्या कदम उठाती है।
