[ad_1]
जबकि कृत्रिम बुद्धिमत्ता में प्रगति ने पहले के कठिन और समय लेने वाले अवसरों को कम कर दिया है, संबंधित मुद्दे हमें बड़े जोखिमों से आगाह करते हैं। दुर्भावनापूर्ण इरादों के लिए भी फोटो और फिल्मों का संशोधन बढ़ रहा है। (यह भी पढ़ें: ‘मुस्कुराते पहलवानों’ की फोटोशॉप तस्वीर वायरल? बजरंग पुनिया ने एक चेतावनी के साथ मूल शेयर किया)
हिंदुस्तान टाइम्स ने समस्या के मूल कारण और समाधान का निर्धारण करने के लिए दो तकनीकी विशेषज्ञों का साक्षात्कार लिया। अतुल राय स्टैक टेक्नोलॉजीज के सह-संस्थापक और सीईओ हैं, जो एक एआई फर्म है जो सुरक्षा और कॉर्पोरेट बिग डेटा एनालिटिक्स पर केंद्रित है। हमने VPNMentor से भी बात की, जिसने हाल ही की एक रिपोर्ट में पाया कि एआई-जेनरेट की गई तस्वीरें अक्सर सामाजिक पूर्वाग्रहों को दर्शाती हैं, चार प्रसिद्ध छवि जनरेटर ऐसी छवियां बनाते हैं जो स्टीरियोटाइपिक रूप से पक्षपाती कीवर्ड दिए जाने पर इन पूर्वाग्रहों की ओर तिरछी हो जाती हैं। उदाहरण के लिए, “नर्स” कीवर्ड के लिए, उपकरण मुख्य रूप से महिलाओं की छवियां उत्पन्न करते हैं, जबकि “सीईओ” के लिए वे ज्यादातर पुरुषों की छवियां उत्पन्न करते हैं। (यह भी पढ़ें: एआई-चालित धोखे का उदय: कैसे एक मनगढ़ंत पेंटागन विस्फोट ने सोशल मीडिया और शेयरों को हिला दिया)
एआई टूल्स में पूर्वाग्रह कितना आम है, और आपको क्या लगता है कि यह समाज को कैसे प्रभावित करेगा?
वीपीएनमेंटर प्रवक्ता: एआई में पूर्वाग्रह से होने वाली क्षति अन्य समान उदाहरणों की तुलना में थोड़ी बढ़ जाती है क्योंकि हम जानते हैं कि प्रत्येक मनुष्य या प्रत्येक कंपनी का किसी भी कारण से किसी विषय के प्रति अपना पूर्वाग्रह हो सकता है, लेकिन लोगों का एक महत्वपूर्ण बहुमत एआई को इस भावहीन परिपूर्ण के रूप में देखता है होने के नाते कोई पक्षपात नहीं हो सकता है। इसे ध्यान में रखते हुए, पक्षपाती एआई-जनित छवियां हानिकारक रूढ़िवादिता को कायम रख सकती हैं और मौजूदा असमानताओं को बढ़ा सकती हैं।
यह भी पढ़ें | छवियों के लिए शब्द: वास्तविक यादों और एआई कृतियों के बीच धुंधली सीमाएं
आपको क्या लगता है कि एआई इमेज-क्रिएटर टूल्स में पूर्वाग्रह के मूल कारण क्या हैं?
अतुल: एल्गोरिदम को प्रशिक्षित करने के लिए उपयोग किए जाने वाले डेटा में पूर्वाग्रह मौजूद हैं, यह पूर्वाग्रह का मुख्य मूल कारण है। उदाहरण के लिए, यदि एआई इमेज क्रिएटर टूल को प्रशिक्षित करने के लिए उपयोग किया जाने वाला अधिकांश डेटा किसी विशेष लिंग या जाति के प्रति पक्षपाती है, तो टूल द्वारा उत्पन्न परिणामी छवियां भी पक्षपाती हो सकती हैं।
एआई उपकरण कंपनियों को अपने उत्पादों को डिजाइन और परीक्षण करते समय किन नैतिक विचारों को ध्यान में रखना चाहिए?
अतुल: एआई समाज का प्रतिबिंब है, कोई भी पूर्वाग्रह या पूर्वाग्रह जो वहां मौजूद हैं, वहां भी मौजूद हो सकते हैं। एआई उद्योग को इसलिए नैतिक मुद्दों और सूचना के स्रोत के बारे में पता होना चाहिए।
एआई को चुनौती देने के बजाय, समाज को चुनौती देना और उसके भीतर गहराई से दबे पूर्वाग्रहों को कम करने के लिए काम करना आवश्यक है। नैतिक चिंताओं को दूर करने और यह गारंटी देने के लिए कि एआई प्रौद्योगिकियां एक जिम्मेदार और नैतिक तरीके से विकसित की जाती हैं, एआई उद्योग को समाज के साथ सहयोग करना चाहिए।
वीपीएनमेंटर प्रवक्ता: छवि निर्माण एल्गोरिदम को डिजाइन और परीक्षण करने वाली एआई टूल कंपनियों को प्रशिक्षण डेटा में विविधता और प्रतिनिधित्व सुनिश्चित करने, हानिकारक रूढ़िवादिता से बचने और एल्गोरिथम कार्यक्षमता के बारे में पारदर्शी होने जैसे नैतिक कारकों पर विचार करने की आवश्यकता है। इसके अतिरिक्त, जवाबदेही और पारदर्शिता सुनिश्चित करने के लिए, कंपनियों को अपने एल्गोरिदम और निर्णय लेने की प्रक्रियाओं के स्वतंत्र ऑडिट और जांच की अनुमति देनी चाहिए।
एआई-जनित छवियों में संभावित पूर्वाग्रहों की पहचान करने और उन्हें कम करने में सहायता के लिए कौन से संसाधन उपलब्ध हैं?
वीपीएनमेंटर प्रवक्ता: जिम्मेदार एआई उपयोग के लिए एआई नाउ इंस्टीट्यूट के दिशानिर्देश और एल्गोरिद्मिक जस्टिस लीग के टूलकिट जैसे संसाधन उपयोगकर्ताओं को संभावित पूर्वाग्रहों को पहचानने और कम करने में मदद कर सकते हैं। अधिक नैतिक और पारदर्शी एआई टूल्स को प्रोत्साहित करने के लिए डेवलपर्स और कंपनियों के साथ जुड़ना भी आवश्यक है।
क्या आप एआई पर नियंत्रण रखने के लिए सरकार के नेतृत्व वाली नियामक संस्था का समर्थन करते हैं या उद्योग द्वारा विकसित ढांचा बेहतर है?
अतुल: चाहे कोई नियामक निकाय हो या उद्योग स्वयं एआई विकास प्रक्रिया का प्रभारी हो, महत्वपूर्ण बात यह सुनिश्चित करना है कि जानकारी की प्रामाणिकता हो, और सूचना के स्रोत से जवाबदेही और पारदर्शिता हो।
हालांकि, जेनेरेटिव एआई का उद्योग अभी भी विकास के प्रारंभिक चरण में है, जिससे इसके नियमन के लिए एक सार्वभौमिक रणनीति विकसित करना कुछ कठिन हो गया है। विश्वसनीयता और पारदर्शिता सुनिश्चित करते हुए एआई के दुरुपयोग को सीमित करने के लिए एक लचीली रणनीति विकसित करने के लिए उद्योग के नेता और तकनीकी अग्रणी अधिकारियों के साथ सहयोग कर सकते हैं।
[ad_2]
Source link