ट्रम्प: एआई छवियों के खतरे: ट्रम्प की नकली तस्वीरें गिरफ्तार, पुतिन ने इंटरनेट पर बाढ़ ला दी

पूर्व राष्ट्रपति डोनाल्ड तुस्र्प दंगों की पोशाक पहने न्यूयॉर्क शहर के पुलिस अधिकारियों द्वारा गिरोह से निपटना। रूसी राष्ट्रपति व्लादिमीर पुतिन जेल में एक मंद रोशनी वाली कंक्रीट सेल की सलाखों के पीछे।
अत्यधिक विस्तृत, सनसनीखेज छवियों ने हाल के दिनों में ट्विटर और अन्य प्लेटफार्मों पर बाढ़ ला दी है, इस खबर के बीच कि ट्रम्प संभावित आपराधिक आरोपों का सामना कर रहे हैं और अंतर्राष्ट्रीय आपराधिक न्यायालय ने पुतिन के लिए गिरफ्तारी वारंट जारी किया है।
लेकिन कोई भी दृश्य दूरस्थ रूप से वास्तविक नहीं है। छवियां – और सोशल मीडिया पर छाई विविधताओं के स्कोर – कृत्रिम बुद्धि द्वारा संचालित तेजी से परिष्कृत और व्यापक रूप से सुलभ छवि जनरेटर का उपयोग करके निर्मित किए गए थे।
गलत सूचना विशेषज्ञ चेतावनी देते हैं कि छवियां एक नई वास्तविकता का अग्रदूत हैं: प्रमुख समाचार घटनाओं के बाद सोशल मीडिया पर नकली तस्वीरों और वीडियो की बाढ़ आ गई और समाज के लिए महत्वपूर्ण समय पर तथ्य और कल्पना को और अधिक उलझा दिया।
“यह संकट की घटनाओं के दौरान शोर जोड़ता है। यह सनक के स्तर को भी बढ़ाता है,” कहा जेविन वेस्टसिएटल में वाशिंगटन विश्वविद्यालय में प्रोफेसर हैं, जो गलत सूचना के प्रसार पर ध्यान केंद्रित करते हैं। “आप सिस्टम और आपको प्राप्त होने वाली जानकारी में विश्वास खोना शुरू करते हैं।”
जबकि तस्वीरों में हेरफेर करने और नकली छवियां बनाने की क्षमता नई नहीं है, एआई इमेज जनरेटर टूल द्वारा मध्य यात्रा, DALL-E और अन्य का उपयोग करना आसान है। वे जल्दी से यथार्थवादी छवियां उत्पन्न कर सकते हैं – विस्तृत पृष्ठभूमि के साथ पूर्ण – बड़े पैमाने पर उपयोगकर्ताओं से एक साधारण पाठ संकेत से थोड़ा अधिक।
हाल की कुछ छवियों को मिडजर्नी के टेक्स्ट-टू-इमेज सिंथेसिस मॉडल के एक नए संस्करण के इस महीने के रिलीज़ द्वारा संचालित किया गया है, जो अन्य बातों के अलावा, अब समाचार एजेंसी की तस्वीरों की शैली की नकल करने वाली ठोस छवियां उत्पन्न कर सकता है।

एक व्यापक रूप से प्रसारित ट्विटर थ्रेड में, नीदरलैंड स्थित खोजी पत्रकारिता सामूहिक बेलिंगकैट के संस्थापक एलियट हिगिंस ने ट्रम्प की काल्पनिक गिरफ्तारी की नाटकीय छवियों के स्कोर को आकर्षित करने के लिए टूल के नवीनतम संस्करण का उपयोग किया।
हजारों बार शेयर और लाइक किए गए विजुअल्स में वर्दीधारी अधिकारियों की भीड़ को रिपब्लिकन अरबपति को पकड़ते हुए और हिंसक रूप से फुटपाथ पर नीचे खींचते हुए दिखाया गया है।
हिगिंस, जो छवियों के एक सेट के पीछे भी थे पुतिन गिरफ्तार किया जा रहा है, मुकदमा चलाया जा रहा है और फिर जेल में डाल दिया गया है, कहते हैं कि उन्होंने छवियों को बिना किसी बुरे इरादे के पोस्ट किया। यहां तक ​​कि उन्होंने अपने ट्विटर थ्रेड में स्पष्ट रूप से कहा कि छवियां एआई-जेनरेट की गई थीं।
हिगिंस के अनुसार, फिर भी, छवियां उसे मिडजर्नी सर्वर से लॉक करने के लिए पर्याप्त थीं। सैन फ्रांसिस्को स्थित स्वतंत्र अनुसंधान प्रयोगशाला ने टिप्पणी मांगने वाले ईमेल का जवाब नहीं दिया।
हिगिंस ने एक ईमेल में लिखा है, “ट्रम्प की गिरफ्तारी की छवि वास्तव में केवल आकस्मिक रूप से दिखा रही थी कि मिडजर्नी वास्तविक दृश्यों को प्रस्तुत करने में कितनी अच्छी और बुरी थी।” “जैसे ही मैंने मिडजर्नी के संकेतों को जोड़ा, छवियों ने एक प्रकार की कथा का निर्माण करना शुरू कर दिया, इसलिए मैंने उन्हें एक कथा में जोड़ा, और कहानी को समाप्त करने का फैसला किया।”
उन्होंने बताया कि छवियां बिल्कुल सही नहीं हैं: कुछ में, ट्रम्प को अजीब तरह से पुलिस उपयोगिता बेल्ट पहने हुए देखा जाता है। दूसरों में, चेहरे और हाथ स्पष्ट रूप से विकृत होते हैं।
लेकिन यह पर्याप्त नहीं है कि हिगिंस जैसे उपयोगकर्ता अपनी पोस्ट में स्पष्ट रूप से कहते हैं कि चित्र एआई-जनित हैं और केवल मनोरंजन के लिए हैं, कहते हैं शिरीन एलेनविटनेस में मीडिया टेक्नोलॉजिस्ट, न्यूयॉर्क स्थित एक मानवाधिकार संगठन जो दृश्य साक्ष्य पर ध्यान केंद्रित करता है।
बहुत बार, दृश्य उस महत्वपूर्ण संदर्भ के बिना दूसरों द्वारा जल्दी से साझा किए जाते हैं, उसने कहा। दरअसल, ट्रम्प की कुछ हिगिंस की छवियों को साझा करने वाली एक इंस्टाग्राम पोस्ट जैसे कि वे 79,000 से अधिक पसंद की गई थीं।
“आप बस एक छवि देख रहे हैं, और एक बार जब आप कुछ देखते हैं, तो आप इसे नहीं देख सकते,” एनलेन ने कहा।
एक अन्य हालिया उदाहरण में, सोशल मीडिया उपयोगकर्ताओं ने एक सिंथेटिक तस्वीर साझा की जिसमें कथित तौर पर पुतिन को चीनी नेता का हाथ चूमते और घुटने टेकते हुए दिखाया गया है झी जिनपिंग. रूसी राष्ट्रपति द्वारा इस सप्ताह क्रेमलिन में शी का स्वागत करने के रूप में प्रसारित की गई छवि जल्द ही एक अपरिष्कृत मीम बन गई।
यह स्पष्ट नहीं है कि छवि किसने बनाई या उन्होंने किस उपकरण का उपयोग किया, लेकिन कुछ सुरागों ने जालसाजी को दूर कर दिया। उदाहरण के लिए, दोनों नेताओं के सिर और जूते थोड़े विकृत थे, और कमरे का इंटीरियर उस कमरे से मेल नहीं खाता था जहां वास्तविक बैठक हुई थी।
विशेषज्ञों का कहना है कि सिंथेटिक छवियों को वास्तविक चीज़ों से अलग करना कठिन होता जा रहा है, दृश्य गलत सूचना से निपटने का सबसे अच्छा तरीका बेहतर जन जागरूकता और शिक्षा है।
वेस्ट ने कहा, “यह इतना आसान हो रहा है और इन छवियों को बनाना इतना सस्ता है कि हमें जनता को जागरूक करने के लिए जो कुछ भी कर सकते हैं उसे करना चाहिए।”
हिगिंस का सुझाव है कि सोशल मीडिया कंपनियां एआई-जनित छवियों का पता लगाने के लिए विकासशील प्रौद्योगिकी पर ध्यान केंद्रित कर सकती हैं और इसे अपने प्लेटफॉर्म में एकीकृत कर सकती हैं।

धोखा देने या नुकसान पहुंचाने की क्षमता वाले “कृत्रिम, हेरफेर या संदर्भ से बाहर के मीडिया” पर प्रतिबंध लगाने के लिए ट्विटर की एक नीति है। कम्युनिटी नोट्स से एनोटेशन, ट्विटर का क्राउड-सोर्सेड फैक्ट चेकिंग प्रोजेक्ट, कुछ ट्वीट्स के साथ संलग्न किया गया था ताकि इस संदर्भ को शामिल किया जा सके कि ट्रम्प छवियां एआई-जेनरेट की गई थीं।
गुरुवार को टिप्पणी के लिए पहुंचने पर, कंपनी ने केवल एक स्वचालित प्रतिक्रिया वापस ईमेल की।
फेसबुक और इंस्टाग्राम की मूल कंपनी मेटा ने टिप्पणी करने से इनकार कर दिया। कुछ मनगढ़ंत ट्रम्प छवियों को इसके तीसरे पक्ष के तथ्य-जांच कार्यक्रम के माध्यम से या तो “गलत” या “लापता संदर्भ” के रूप में लेबल किया गया था, जिसमें एपी एक भागीदार है।
आर्थर हॉलैंड मिशेलन्यूयॉर्क में कार्नेगी काउंसिल फॉर एथिक्स इन इंटरनेशनल अफेयर्स के एक साथी, जो उभरती प्रौद्योगिकियों पर केंद्रित है, ने कहा कि उन्हें चिंता है कि दुनिया आसन्न जलप्रलय के लिए तैयार नहीं है।
वह सोचता है कि आम लोगों से जुड़े डीपफेक – उदाहरण के लिए किसी पूर्व-साथी या सहकर्मी की हानिकारक नकली तस्वीरें – को कैसे विनियमित किया जाएगा।
“एक नीतिगत दृष्टिकोण से, मुझे यकीन नहीं है कि हम समाज के हर स्तर पर इस पैमाने के विघटन से निपटने के लिए तैयार हैं,” मिशेल ने एक ईमेल में लिखा है। “मेरी समझ में यह निश्चित रूप से इस पर रोक लगाने के लिए एक अकल्पनीय तकनीकी सफलता लेने जा रहा है।”