[ad_1]
“चैटजीपीटी के हमारे लॉन्च के बाद से, उपयोगकर्ताओं ने ऐसे आउटपुट साझा किए हैं जिन्हें वे राजनीतिक रूप से पक्षपाती, आक्रामक या अन्यथा आपत्तिजनक मानते हैं। कई मामलों में, हमें लगता है कि उठाई गई चिंताएँ वैध हैं और हमारे सिस्टम की वास्तविक सीमाओं को उजागर करती हैं जिन्हें हम दूर करना चाहते हैं। हमने कुछ गलतफहमियों को भी देखा है कि चैटजीपीटी से आपको मिलने वाले आउटपुट को आकार देने के लिए हमारे सिस्टम और नीतियां एक साथ कैसे काम करती हैं, ”यह ब्लॉग में कहा गया है।
इसने आगे कहा कि “अपने मिशन के अनुसरण में, हम यह सुनिश्चित करने के लिए प्रतिबद्ध हैं कि एआई और एजीआई तक पहुंच, लाभ और प्रभाव व्यापक हो। हमारा मानना है कि इन लक्ष्यों को प्राप्त करने के लिए कम से कम तीन बिल्डिंग ब्लॉक आवश्यक हैं।” एआई सिस्टम व्यवहार के संदर्भ में।” कंपनी फिर इन बिल्डिंग ब्लॉक्स के बारे में बात करती है:
‘तीन बिल्डिंग ब्लॉक’
डिफ़ॉल्ट व्यवहार में सुधार करें: ओपनएआई का कहना है कि चैटजीपीटी अलग-अलग इनपुट पर कैसे प्रतिक्रिया करता है, इस बारे में चमकदार और सूक्ष्म पूर्वाग्रहों को कम करने के लिए यह अनुसंधान और इंजीनियरिंग में निवेश कर रहा है।
शोध में उन उदाहरणों को भी शामिल किया जाएगा जहां चैटजीपीटी ने आउटपुट से इंकार कर दिया था कि इसे नहीं करना चाहिए और साथ ही उन मामलों को भी शामिल किया जाएगा जहां इसे अस्वीकार नहीं करना चाहिए। स्टार्टअप ने और सुधार करने के लिए ‘अमूल्य उपयोगकर्ता प्रतिक्रिया’ की आवश्यकता पर भी प्रकाश डाला।
एआई के मूल्यों को परिभाषित करें: कंपनी चैटजीपीटी के लिए एक अपग्रेड विकसित कर रही है जो उपयोगकर्ताओं को “समाज द्वारा परिभाषित” व्यवहार को आसानी से अनुकूलित करने की अनुमति देगा।
“इसका अर्थ होगा सिस्टम आउटपुट की अनुमति देना जिससे अन्य लोग (स्वयं शामिल) दृढ़ता से असहमत हो सकते हैं। यहां सही संतुलन कायम करना चुनौतीपूर्ण होगा – अनुकूलन को चरम पर ले जाने से हमारी तकनीक और चाटुकारितापूर्ण एआई के दुर्भावनापूर्ण उपयोग को सक्षम करने का जोखिम होगा जो लोगों की मौजूदा मान्यताओं को बिना सोचे समझे बढ़ा देता है।” ,” यह कहा।
डिफ़ॉल्ट पर सार्वजनिक इनपुट: OpenAI ने कहा कि यह सिस्टम व्यवहार, प्रकटीकरण तंत्र (जैसे वॉटरमार्किंग) और अधिक व्यापक रूप से तैनाती नीतियों जैसे विषयों पर सार्वजनिक इनपुट मांगने के शुरुआती प्रयासों के प्रारंभिक चरण में है।
“हम अपनी सुरक्षा और नीतिगत प्रयासों के तीसरे पक्ष के ऑडिट करने के लिए बाहरी संगठनों के साथ साझेदारी भी तलाश रहे हैं,” यह कहा।
[ad_2]
Source link