[ad_1]
खाने के विकारों को रोकने के लिए समर्पित न्यूयॉर्क स्थित एक एनजीओ ने एआई चैटबॉट को हानिकारक उपकरण प्रदान करने की रिपोर्ट के बाद बंद कर दिया है।
नेशनल ईटिंग डिसऑर्डर एसोसिएशन (NEDA) चार कर्मचारियों को आग लगाने के अपने फैसले के लिए आग में है, जिन्होंने इसकी हेल्पलाइन के लिए काम किया था, जिससे लोगों को खाने के विकार से संबंधित लोगों को सहायता देने वाले स्वयंसेवकों तक पहुंचने की अनुमति मिली। एनजीओ की चैटबॉट ‘टेसा’ एक कार्यकर्ता द्वारा इंस्टाग्राम पर पोस्ट किए जाने के बाद समस्याओं में फंस गई है, जिसमें दावा किया गया है कि इसने उसे ‘स्वस्थ खाने के टिप्स’ की पेशकश की और वजन कम करने की सलाह दी। अभिभावक की सूचना दी।
कार्यकर्ता शेरोन मैक्सवेल को एक दिन में 500-1,000 कैलोरी की कमी और वजन पर नज़र रखने के लिए साप्ताहिक वजन की सलाह दी गई थी। मैक्सवेल का दावा है कि अगर उसने अपने विकार के ‘कठोर’ के दौरान चैटबॉट तक पहुंच बनाई होती, तो उसे मदद नहीं मिलती और वह जीवित नहीं रहती।
एनजीओ ने कहा कि उन आहारों में खाने के विकार विकसित होने की संभावना पांच गुना अधिक होती है। NEDA ने कहा कि चैटबॉट के मौजूदा संस्करण ने हानिकारक मानी जाने वाली और बॉडी पॉजिटिविटी प्रोग्राम से असंबंधित जानकारी दी हो सकती है। संगठन ने कहा कि वह जांच कर रहा है और अगली सूचना तक कार्यक्रम को बंद कर दिया है।
पिछले महीने, NEDA हेल्पलाइन के एक पूर्व कर्मचारी ने दावा किया था कि हेल्पलाइन ने कोविद -19 महामारी की शुरुआत के बाद से कॉल और संदेशों में 107 प्रतिशत की बढ़ोतरी देखी, जो ज्यादातर आत्मघाती विचारों, खुद को नुकसान पहुंचाने और बाल शोषण की रिपोर्ट से संबंधित थी। यूनियन ने हेल्पलाइन की मांगों को पूरा करने के लिए पर्याप्त स्टाफ और प्रशिक्षण की मांग की थी।
रिपोर्ट के अनुसार, NEDA ने मनोविज्ञान के शोधकर्ताओं और AI कंपनी Cass AI के साथ काम किया जो मानसिक स्वास्थ्य पर ध्यान केंद्रित करने वाले चैटबॉट विकसित करती है। NEDA वेबसाइट पर एक पोस्ट में एक मनोवैज्ञानिक एलेन फिट्ज़सिमोंस ने कहा है कि चैटबॉट ‘टेसा’ को खाने के विकार की रोकथाम को व्यापक रूप से उपलब्ध कराने के लिए एक समाधान के रूप में सोचा गया था।
एनईडीए के सीईओ लिज़ थॉम्पसन ने वेबसाइट को बताया कि ‘टेसा’ हेल्पलाइन को बदलने के लिए नहीं थी बल्कि इसे एक अलग कार्यक्रम के रूप में बनाया गया था। CEO ने स्पष्ट किया कि चैटबॉट OpenAI के ChatGPT द्वारा नहीं चलाया जाता है और यह अत्यधिक कार्यात्मक AI सिस्टम नहीं है।
[ad_2]
Source link