क्यों ChatGPT हर इंटरनेट यूजर के लिए खतरनाक हो सकता है

चैटजीपीटी विश्व स्तर पर अपनी सहज संवादी क्षमताओं के लिए लोगों का ध्यान खींचा है। आर्टिफिशियल इंटेलिजेंस (एआई)-संचालित समाधान, जो स्वतंत्र अनुसंधान निकाय ओपनएआई द्वारा बनाया गया है, प्रशिक्षण के लिए मशीन लर्निंग पर निर्भर करता है। ऐसे लोग हैं जो एआई चैटबॉट की क्षमताओं की कसम खाते हैं और जो लोग इसे वायरस कहते हैं उन्हें छोड़ देते हैं। ओपनएआई सीईओ और सह-संस्थापक सैम ऑल्टमैन कहा कि चैटजीपीटी “अविश्वसनीय रूप से सीमित है” और इस पर बहुत अधिक भरोसा करना एक गलती हो सकती है। हालाँकि, रिसर्च फर्म चेकपॉइंट की एक नई रिपोर्ट से पता चलता है कि यह हैकर्स को फ़िशिंग ईमेल और दुर्भावनापूर्ण कोड लिखने में मदद कर सकता है।
चैटजीपीटी जोखिम लाता है
ChatGPT को अच्छी तरह से लिखित कोड उत्पन्न करने और विकास प्रक्रिया में सहायता करने की क्षमता के लिए प्रशंसा मिल रही है। चेकप्वाइंट रिसर्च रिपोर्ट से पता चलता है कि ओपनएआई के अपने बड़े भाषा मॉडल (एलएलएम) के लिए नए इंटरफेस की यह क्षमता साइबर अपराधियों को उनके दुर्भावनापूर्ण सोशल इंजीनियरिंग अटैक वैक्टर में मदद कर सकती है, खासकर जब साइबर सुरक्षा की दुनिया तेजी से बदल रही है।
“यह नई और विकासशील तकनीक अच्छे और बुरे दोनों के लिए खतरे के परिदृश्य को कैसे प्रभावित कर सकती है, इस पर सतर्क रहने के महत्व पर जोर देना महत्वपूर्ण है। जबकि यह नई तकनीक रक्षकों की मदद करती है, यह कम कुशल खतरे वाले अभिनेताओं के लिए आवश्यक प्रवेश पट्टी को भी कम करती है। फ़िशिंग अभियान चलाने और मैलवेयर विकसित करने के लिए,” चेकपॉइंट रिसर्च की एक रिपोर्ट में कहा गया है।
आप ट्विटर पर चैटजीपीटी द्वारा उत्पन्न दुर्भावनापूर्ण कोड या संवादों के उदाहरण पा सकते हैं।

कैसे शोधकर्ताओं ने चैटजीपीटी के साथ एक ईमेल बनाया जो आपके पीसी को संक्रमित कर सकता है
चैटजीपीटी की कोड बनाने की क्षमता को दर्शाने के लिए, रिसर्च फर्म ने चैटजीपीटी और एक अन्य प्लेटफॉर्म, ओपनएआई का इस्तेमाल किया ज़ाब्ताएक एआई-आधारित प्रणाली जो एक पूर्ण संक्रमण प्रवाह बनाने के लिए प्राकृतिक भाषा को कोड में अनुवादित करती है।
शोधकर्ताओं ने कहा, “हमने कोड की एक भी लाइन नहीं लिखी और एआई को सारा काम करने दिया। हमने केवल पहेली के टुकड़ों को एक साथ रखा और परिणामी हमले को अंजाम दिया।” चेकपॉइंट के शोधकर्ताओं ने कोडेक्स और चैटजीपीटी का उपयोग करके “एक विश्वसनीय फ़िशिंग ईमेल” बनाया – जैसे हम में से कुछ ने हमारे असाइनमेंट बनाए।
यह भी पढ़ें: LaMDA सबक? Google का चैटजीपीटी प्रतिद्वंद्वी बनाने के लिए ना कहना
शोधकर्ताओं ने चैटजीपीटी से ईमेल को परिष्कृत करने और ग्राहकों को एक्सेल शीट डाउनलोड करने का आग्रह करने वाला एक लिंक शामिल करने के लिए कहा। ChatGPT ने सामग्री नीति के उल्लंघन की टीम को चेतावनी दी, लेकिन टीम “एक कोड लिखने के लिए आगे बढ़ी जिसे कॉपी किया जा सकता है और एक URL से निष्पादन योग्य डाउनलोड करने और इसे चलाने के लिए एक्सेल वर्कबुक में पेस्ट किया जा सकता है।”
इसके कारण एक हानिरहित दिखने वाला ईमेल एक लिंक के साथ आया जो एक दुर्भावनापूर्ण एक्सेल फ़ाइल को डाउनलोड करता है जिसका उपयोग कंप्यूटर को संक्रमित करने के लिए किया जा सकता है। “हालांकि इस आलेख में प्रस्तुत कोड और संक्रमण प्रवाह को सरल प्रक्रियाओं का उपयोग करने से बचाया जा सकता है, यह साइबर सुरक्षा पर एआई शोध के प्रभाव का एक प्रारंभिक प्रदर्शन है,” शोधकर्ताओं ने कहा।