मेटा AI का बड़ा फैसला : अगर बच्चा एआई से करेगा सुसाइड की बात, तो माता-पिता को तुरंत मिलेगा सीक्रेट अलर्ट

नई दिल्ली । एआई चैटबॉट्स तेजी से बच्चों और किशोरों की जिंदगी का हिस्सा बनते जा रहे हैं। कई टीनएजर्स घंटों तक मेटा एआई के साथ बातचीत करते हैं लेकिन इसी बढ़ती निर्भरता ने मानसिक स्वास्थ्य और ऑनलाइन सुरक्षा को लेकर नई चिंताएं भी पैदा कर दी हैं। वहीं अब इन खतरों को देखते हुए सोशल मीडिया कंपनी मेटा एक ऐसा नया सेफ्टी फीचर लेकर आ रही है जो बच्चों की सुरक्षा को पहले से ज्यादा मजबूत बना सकता है। बता दें कि हाल के दिनों में एआई चैटबॉट्स द्वारा मानसिक तनाव और डिप्रेशन से जूझ रहे युवाओं को दिए गए जवाबों को लेकर कई टेक कंपनियां आलोचनाओं के घेरे में थीं। माना जा रहा है कि इसी बढ़ते दबाव के बाद मेटा ने यह बड़ा कदम उठाया है।

कैसे करेगा नया मेटा एआई सेफटी फीचर काम?
जानकारी में मेटा ने बताया है कि अगर कोई टीनएजर मेटा एआई चैटबॉट पर खुदकुशी या खुद को नुकसान पहुंचाने जैसी बातें करता है तो सिस्टम ऐसे संकेतों को पहचान लेगा। हालांकि अंतिम फैसला केवल एआई नहीं करेगा। आई द्वारा फ्लैग की गई हर बातचीत की पहले मेटा की विशेषज्ञ टीम मैनुअली समीक्षा करेगी। जांच के बाद यदि जरूरत महसूस होगी तभी बच्चे के माता-पिता को सीक्रेट अलर्ट भेजा जाएगा।

इसको लकेर कंपनी ने अपने ब्लॉग पोस्ट में कहा है कि “हम समझते हैं कि ऐसे अलर्ट माता-पिता के लिए कितने परेशान करने वाले हो सकते हैं। इसलिए हम पूरी सावधानी बरत रहे हैं। अगर किसी बातचीत में टीनएजर का इरादा पूरी तरह साफ नहीं भी होगा तब भी सुरक्षा को ध्यान में रखते हुए पेरेंट्स को अलर्ट भेज दिया जाएगा”

सबसे पहले इन देशों में मिलेगा फीचर
अभी के लिए बताया जा रहा है कि मेटा इस फीचर को शुरुआती चरण में अमेरिका, ब्रिटेन, कनाडा और ऑस्ट्रेलिया में लॉन्च करेगा। यह सुविधा केवल उन परिवारों के लिए उपलब्ध होगी जो इंस्टाग्राम के परेंटल सुपरविजन टूल्स का इस्तेमाल कर रहे हैं। इसके साथ ही कंपनी का कहना है कि साल के अंत तक इस फीचर को दुनियाभर में रोलआउट करने की योजना है। ऐसे में भारत के यूजर्स को भी इसी वर्ष के अंत तक यह सुविधा मिलने की उम्मीद है। वहीं मेटा ऐसा करने वाला पहला एआई चैटबॉट प्लेटफॉर्म होगा जो आत्महत्या से जुड़े संकेत मिलने पर सीधे माता-पिता को सूचना देगा।

पहले से मौजूद हैं कई सुरक्षा फीचर्स
जैसा कि सभी को पता है कि मेटा पहले ही पैरेंट्स को कई डिजिटल सेफ्टी टूल्स उपलब्ध करा चुका है। यदि कोई टीनएजर इंस्टाग्राम पर लगातार सूइसाइड या सेल्फ-हार्म से जुड़ा कंटेंट सर्च करता है तो माता-पिता को नोटिफिकेशन मिल जाता है। इसके अलावा वे यह भी देख सकते हैं कि पिछले एक सप्ताह में उनके बच्चे ने मेटा एआई से किन विषयों पर बातचीत की हालांकि पूरी चैट पढ़ने की अनुमति नहीं होती।

इमरजेंसी सर्विसेज को भी भेजी जा सकती है सूचना
इसके साथ ही मेटा एक और अहम सुरक्षा फीचर पर भी काम कर रहा है। यदि एआई को लगे कि कोई यूजर तुरंत खुद को नुकसान पहुंचा सकता है तो कंपनी संबंधित इमरजेंसी सर्विसेज को भी जानकारी दे सकती है। वहीं फेसबुक और इंस्टाग्राम पर पहले से लागू इस सुरक्षा व्यवस्था को अब मेटा एआई चैटबॉट तक भी विस्तारित किया जा रहा है। वहीं इसको लेकर डिजिटल सुरक्षा विशेषज्ञों का मानना है कि एआई के बढ़ते इस्तेमाल के दौर में ऐसे कदम बच्चों की ऑनलाइन सुरक्षा और मानसिक स्वास्थ्य की रक्षा के लिए महत्वपूर्ण साबित हो सकते हैं।