California News: सोशल मीडिया क्षेत्र की दिग्गज कंपनी मेटा ने किशोरों की सुरक्षा के लिए एक बेहद महत्वपूर्ण सेफ्टी फीचर पेश किया है। यदि कोई बच्चा मेटा एआई चैटबॉट से सुसाइड या खुद को नुकसान पहुंचाने से जुड़ी बातें करेगा, तो उसके पैरेंट्स के पास तुरंत एक इमरजेंसी अलर्ट पहुंच जाएगा।
यह नया सुरक्षा टूल इंस्टाग्राम और मेटा के दूसरे प्रमुख प्लेटफॉर्म पर उपलब्ध एआई चैटबॉट के लिए तैयार किया गया है। टेक कंपनियों पर लगातार यह आरोप लग रहे थे कि उनके चैटबॉट मानसिक संकट से जूझ रहे बच्चों को सही तरीके से जवाब नहीं दे पाते हैं। इसी दबाव के बाद मेटा ने यह बदलाव किया है।
शुरुआत में चार देशों के पैरेंट्स को मिलेगी यह खास सुविधा
मेटा का यह नया सेफ्टी फीचर शुरुआत में यूनाइटेड स्टेट्स, यूनाइटेड किंगडम, कनाडा और ऑस्ट्रेलिया में जारी किया जा रहा है। इन देशों में इंस्टाग्राम के पेरेंटल सुपरविज़न टूल्स का उपयोग करने वाले माता-पिता को यह सुविधा मिलेगी। इस साल के अंत तक कंपनी इसे पूरी दुनिया में लागू करेगी।
अलर्ट भेजने से पहले इंसानी स्तर पर जांचेगा मेटा का सिस्टम
मेटा ने स्पष्ट किया है कि किशोरों की ऐसी संवेदनशील बातचीत को पकड़ने के लिए एक खास एआई सिस्टम काम करेगा। हालांकि, यह तकनीक खुद अंतिम फैसला नहीं लेगी। माता-पिता को कोई भी नोटिफिकेशन या अलर्ट भेजने से पहले हर फ्लैग की गई चैट की मैन्युअल रूप से गहन समीक्षा की जाएगी।
कंपनी ने अपने आधिकारिक ब्लॉग पोस्ट में कहा है कि वे पैरेंट्स की मानसिक स्थिति और संवेदनशीलता को समझते हैं। गलत अलर्ट से बचने के लिए ही मैन्युअल रिव्यू की व्यवस्था जोड़ी गई है। इस नए अपडेट के बाद पैरेंट्स यह भी देख सकेंगे कि उनके बच्चे ने पिछले हफ्ते मेटा एआई से किन विषयों पर चर्चा की थी।
