[ad_1]
गूगल पहचानने के लिए सिस्टम पर काम कर रहा है एआई-जनित कंपनी के एक शीर्ष अधिकारी ने गुरुवार को कहा कि सिंथेटिक मीडिया राजनीतिक गलत सूचनाओं से निपटने के उसके प्रयास का भी हिस्सा होगा, उन्होंने कहा कि इन्हें इसके उत्पादों में लागू किया जाएगा और संभावित रूप से उद्योग में व्यापक उपयोग के लिए पेश किया जाएगा।
टिप्पणियाँ कृत्रिम बुद्धिमत्ता-जनित पाठ के उपयोग पर बढ़ती चिंताओं की पृष्ठभूमि में आती हैं गलत सूचना के लिए डीपफेकविशेष रूप से एक विशिष्ट मामले के प्रकाश में जब सरकार के खिलाफ प्रदर्शन करने वाले एथलीटों को यथार्थवादी दिखने वाली विकृत छवियों के साथ लक्षित किया गया था।
इन प्रणालियों में, ट्रस्ट और सुरक्षा के लिए Google के उपाध्यक्ष लॉरी रिचर्डसन ने पत्रकारों के एक बंद समूह के साथ बातचीत के दौरान कहा, इसमें अपने स्वयं के उत्पादों के लिए अभी तक लॉन्च की जाने वाली वॉटरमार्किंग तकनीकें, नई पारदर्शिता आवश्यकताएं और मशीन-लर्निंग क्लासिफायर शामिल हैं जो कर सकते हैं अन्य कंपनियों के टूल द्वारा उत्पन्न सिंथेटिक मीडिया का पता लगाएं।
यह भी पढ़ें: अमेरिका में पीएम मोदी से मुलाकात के बाद Google, Amazon ने मेगा निवेश की घोषणा की
“हमने I/O में दो बड़ी घोषणाएँ साझा कीं [Google’s developer conference held in May]. एक तो यह कि हम अपने सभी उत्पादों को वॉटरमार्क करने के लिए प्रतिबद्ध हैं ताकि लोग देख सकें कि क्या यह Google ही बना रहा है [the content]… हमने अभी तक इस पर विशेष जानकारी नहीं दी है, लेकिन यह चल रहा है। और दूसरा यह है कि हम छवियों और पाठ को मेटाडेटा प्रदान कर रहे हैं ताकि आप वास्तव में पता लगा सकें और सरल तरीके से समझ सकें कि इंटरनेट पर उनका मूल क्या है, ”उसने कहा, बिना कोई समयरेखा बताए कि ये कब अपेक्षित हो सकते हैं।
उन्होंने कहा कि अन्य कदम, “हमारी ओर से और मैं दूसरों से आशा करती हूं” अधिक स्तरित दृष्टिकोण पर आधारित होंगे, ताकि उपयोगकर्ताओं को यह समझने में मदद मिल सके कि वे क्या देख रहे हैं। “कुछ पारदर्शिता आवश्यकताएँ होंगी जिन्हें हम लेबलिंग के दौरान लागू कर सकते हैं और यह स्पष्ट कर सकते हैं कि सामग्री कब उत्पन्न हुई है या नहीं। और हम व्यापक पारिस्थितिकी तंत्र के साथ साझेदारी करेंगे क्योंकि हम जानते हैं कि नुकसान हमारे अपने प्लेटफार्मों पर शुरू या बंद नहीं होता है, ”उसने कहा।
यह भी पढ़ें: मीडिया कानून को लेकर Google कनाडा में स्थानीय समाचारों पर रोक लगाएगा
उदाहरण के लिए, उन्होंने कहा कि इनमें से एक तकनीकी समाधान उसी तरह होगा जैसे कंपनी ने बाल यौन शोषण सामग्री या सीएसएएम का पता लगाने के लिए एक मशीन लर्निंग एल्गोरिदम विकसित किया है, जिसका उपयोग सोशल मीडिया सेवा टिकटॉक करती है।
“इस पहचान पक्ष पर वास्तव में बहुत दिलचस्प काम हो रहा है। इसका एक टुकड़ा जिसे हमने बाह्यीकृत किया है वह एक क्लासिफायर है जो सिंथेटिक ऑडियो का पता लगा सकता है, मुझे लगता है, अभी 99% सटीकता है। इसलिए मुझे कम से कम सर्वोत्तम प्रकार के तकनीकी समाधान लाने की हमारी क्षमता के बारे में कुछ आशावाद है, ”उसने कहा।
सिंथेटिक मीडिया और डीपफेक का पता लगाना एक कठिन चुनौती बन गई है। एआई कला कार्यक्रमों मिडजर्नी, डैल-ई और स्टेबल डिफ्यूजन के हाल के संस्करणों में पोप डिस्क-जॉकिंग जैसी वायरल, यथार्थवादी लेकिन नकली छवियां सामने आई हैं, जबकि एडोब और गूगल की नई फोटो संपादन सुविधाएं फोटोशॉपिंग तकनीकों को चुनौतीपूर्ण बनाती हैं। – जैसे पृष्ठभूमि या वस्तुओं को हटाना – आसान।
अप्रैल में, तमिलनाडु के मंत्री पी त्यागराजन ने आरोप लगाया कि उन्हें एक डीपफेक ऑडियो क्लिप के माध्यम से निशाना बनाया गया था, जिससे यह पता चलता है कि उन्होंने अपनी ही पार्टी पर हमला किया था – रिपोर्ट के अनुसार, ऐसे आरोपों की न तो पुष्टि की जा सकती है और न ही स्वतंत्र विशेषज्ञों द्वारा तकनीकी विश्लेषण द्वारा पुष्टि की जा सकती है।
अगले महीने, केंद्र सरकार के खिलाफ विरोध प्रदर्शन कर रहे पहलवानों को छेड़छाड़ की गई छवियों के साथ निशाना बनाया गया, जिसमें उन्हें जेल ले जाते समय मुस्कुराते हुए दिखाया गया था, जबकि मूल तस्वीर में ऐसी कोई अभिव्यक्ति नहीं थी। इसका खंडन करना आसान था क्योंकि मूल छवि का तुरंत पता लगा लिया गया था और लोग सार्वजनिक रूप से उपलब्ध ऐप्स के साथ परिणामों को दोहरा सकते थे।
“मेरे लिए यह सर्वोच्च प्राथमिकता है कि हम उपयोगकर्ताओं को यह समझने में मदद करें कि वे क्या देख रहे हैं जब वे हमारे प्लेटफ़ॉर्म पर जानकारी प्राप्त करते हैं क्योंकि आप जानते हैं कि चित्र, ऑडियो और टेक्स्ट उत्पन्न करने में प्रवेश की बाधा पहले की तुलना में कम होने वाली है,” उसने कहा।
रिचर्डसन ने कहा कि एआई से संबंधित गलत सूचनाओं के आसपास Google के विशिष्ट हस्तक्षेप “अभी भी विकसित हो रहे हैं”, और यह इन्हें कैसे साझा करता है – “क्या वह डेटाबेस या हैशिंग दृष्टिकोण या कुछ समान दृष्टिकोण लेगा” अभी भी आना बाकी है।
‘एन्क्रिप्शन बहस चुनौतीपूर्ण है’
सीएसएएम से लड़ने के वर्तमान प्रयासों के केंद्र में हैशिंग और डेटाबेस हैं। Google और इसके प्रमुख उद्योग प्रतिद्वंद्वियों में ऐसी तकनीकें शामिल हैं जहां वे ज्ञात बाल यौन छवियों को ट्रैक करने और फिंगरप्रिंटिंग एल्गोरिदम बनाने के लिए गैर सरकारी संगठनों के साथ सहयोग करते हैं। यदि किसी उपयोगकर्ता के डिवाइस पर किसी छवि या फ़ाइल में एक ही फिंगरप्रिंट – या हैश है – तो इसे बाल यौन छवि के लिए एक सकारात्मक मिलान माना जाता है।
लेकिन ये – अभी के लिए – केवल तभी काम करते हैं जब कोई छवि क्लाउड पर अपलोड की जाती है। समस्या से निपटने में अपर्याप्त होने और अक्सर झूठी सकारात्मक बातें सामने लाने, दोनों के लिए उनकी आलोचना की गई है।
यूके, कुछ देशों के उदाहरण के रूप में जो कानूनी प्रावधानों पर विचार कर रहे हैं जो सीएसएएम पर सख्त कदम चाहते हैं, ने प्रस्ताव दिया है कि तकनीकी कंपनियां ऐसी सामग्री पर प्रतिबंध लगाने के लिए स्कैन करें, भले ही वे उपकरणों पर संग्रहीत हों, एक ऐसी प्रक्रिया जो संभवतः अंत के रूप में जानी जाने वाली प्रक्रिया को तोड़ देगी। टू-एंड एन्क्रिप्शन (ई2ईई) जो ऐसी कंपनियों को यह निर्धारित करने से रोकता है कि किसी के निजी डिवाइस पर क्या है।
Google, Apple के विपरीत, जिसने पिछले महीने यूके के प्रावधानों के खिलाफ सार्वजनिक रुख अपनाया था, उसने अभी तक इस पर कोई विशिष्ट रुख नहीं बताया है।
“मुझे लगता है कि एन्क्रिप्शन बहस वास्तव में कठिन है। मैं विशेष रूप से विनियमन के उन विशिष्ट रूपों के बारे में बात नहीं करना चाहता जो लंबित हो सकते हैं, लेकिन हम सीएसएएम पर जितना आक्रामक होना चाहते हैं, उतना ही आक्रामक होने का मार्ग प्रशस्त करने का प्रयास कर रहे हैं, साथ ही साथ हमारे उत्पादों की तरह कमजोरियां पैदा नहीं कर रहे हैं। निर्मित वास्तव में महत्वपूर्ण है. यह एक उद्योग व्यापी समस्या है,” रिचर्डसन ने एन्क्रिप्शन के बारे में एक प्रश्न पर कहा।
भारत सरकार, अपने आईटी नियम, 2021 के अनुसार, जिस पर अब अदालतों द्वारा रोक लगा दी गई है, गलत सूचना से निपटने के प्रयास में किसी संदेश की उत्पत्ति का पता लगाना कानूनी रूप से अनिवार्य है, लेकिन विशेषज्ञों ने कहा है कि ई2ईई को तोड़े बिना ऐसा दृष्टिकोण भी असंभव है। .
[ad_2]
Source link