वैज्ञानिकों ने स्पष्ट मानवीय पूर्वाग्रह का पता लगाने के लिए 'ओपिनियनजीपीटी' बनाया - और आप स्वयं इसका परीक्षण कर सकते हैं

हम्बोल्ट-यूनिवर्सिटेट ज़ू बर्लिन के शोधकर्ताओं की एक टीम ने एक बड़े भाषा कृत्रिम बुद्धिमत्ता मॉडल को विकसित किया है, जिसे जानबूझकर व्यक्त पूर्वाग्रह के साथ आउटपुट उत्पन्न करने के लिए तैयार किया गया है।

ओपिनियनजीपीटी कहा जाता है, टीम का मॉडल मेटा के लामा 2 का एक ट्यून किया गया संस्करण है, जो ओपनएआई के चैटजीपीटी या एंथ्रोपिक के क्लाउड 2 की क्षमता के समान एक एआई सिस्टम है।

निर्देश-आधारित फाइन-ट्यूनिंग नामक प्रक्रिया का उपयोग करते हुए, ओपिनियनजीपीटी कथित तौर पर संकेतों का जवाब दे सकता है जैसे कि यह 11 पूर्वाग्रह समूहों में से एक का प्रतिनिधि था: अमेरिकी, जर्मन, लैटिन अमेरिकी, मध्य पूर्वी, एक किशोर, 30 से अधिक उम्र का कोई व्यक्ति, एक वृद्ध व्यक्ति , एक पुरुष, एक महिला, एक उदारवादी, या एक रूढ़िवादी।

"ओपिनियनजीपीटी: एक बहुत ही पक्षपाती जीपीटी मॉडल" की घोषणा! इसे यहां आज़माएं: https://t.co/5YJjHlcV4n
मॉडल उत्तरों पर पूर्वाग्रह के प्रभाव की जांच करने के लिए, हमने एक सरल प्रश्न पूछा: क्या होगा यदि हम ट्यून करें #जीपीटी केवल राजनीतिक रूप से दक्षिणपंथी झुकाव वाले व्यक्तियों द्वारा लिखे गए ग्रंथों के साथ मॉडल?

[1 / 3]

- एलन अकबिक (@alan_akbik) सितम्बर 8, 2023

ओपिनियनजीपीटी को रेडिट पर "आस्कएक्स" समुदायों, जिन्हें सबरेडिट्स कहा जाता है, से प्राप्त डेटा के एक संग्रह पर परिष्कृत किया गया था। इन सबरेडिट्स के उदाहरणों में "एक महिला से पूछें" और "एक अमेरिकी से पूछें" शामिल होंगे।

टीम ने 11 विशिष्ट पूर्वाग्रहों से संबंधित सबरेडिट ढूंढना शुरू किया और प्रत्येक से 25 हजार सबसे लोकप्रिय पोस्ट निकाले। फिर उन्होंने केवल उन्हीं पोस्ट को बरकरार रखा जो अपवोट के लिए न्यूनतम सीमा को पूरा करते थे, जिनमें कोई एम्बेडेड उद्धरण नहीं था और 80 शब्दों से कम थे।

जो कुछ बचा था, उससे ऐसा प्रतीत होता है मानो उन्होंने इसका उपयोग किया हो दृष्टिकोण एंथ्रोपिक के संवैधानिक एआई के समान। प्रत्येक पूर्वाग्रह लेबल का प्रतिनिधित्व करने के लिए पूरी तरह से नए मॉडल को स्पिन करने के बजाय, उन्होंने प्रत्येक अपेक्षित पूर्वाग्रह के लिए अलग निर्देश सेट के साथ एकल 7 बिलियन-पैरामीटर Llama2 मॉडल को अनिवार्य रूप से ठीक किया।

संबंधित: सोशल मीडिया पर एआई के उपयोग से मतदाताओं की भावनाओं पर असर पड़ने की संभावना है

परिणाम, कार्यप्रणाली, वास्तुकला और डेटा पर आधारित है वर्णित जर्मन टीम के शोध पत्र में, एक एआई प्रणाली प्रतीत होती है जो वास्तविक दुनिया पूर्वाग्रह का अध्ययन करने के लिए एक उपकरण की तुलना में एक स्टीरियोटाइप जनरेटर के रूप में अधिक कार्य करती है।

जिस डेटा पर मॉडल को परिष्कृत किया गया है, उसकी प्रकृति और इसे परिभाषित करने वाले लेबलों के साथ डेटा के संदिग्ध संबंध के कारण, ओपिनियनजीपीटी आवश्यक रूप से ऐसे टेक्स्ट को आउटपुट नहीं करता है जो किसी भी मापने योग्य वास्तविक दुनिया पूर्वाग्रह के साथ संरेखित हो। यह बस अपने डेटा के पूर्वाग्रह को दर्शाते हुए टेक्स्ट को आउटपुट करता है।

शोधकर्ता स्वयं अपने अध्ययन, लेखन की कुछ सीमाओं को पहचानते हैं:

उदाहरण के लिए, "अमेरिकियों" की प्रतिक्रियाओं को 'रेडिट पर पोस्ट करने वाले अमेरिकियों' या यहां तक ​​कि 'इस विशेष सबरेडिट पर पोस्ट करने वाले अमेरिकियों' के रूप में बेहतर समझा जाना चाहिए।' इसी तरह, 'जर्मन' को 'जर्मन जो इस विशेष सबरेडिट पर पोस्ट करते हैं,' आदि के रूप में समझा जाना चाहिए।

इन चेतावनियों को यह कहने के लिए और परिष्कृत किया जा सकता है कि पोस्ट आती हैं, उदाहरण के लिए, "अमेरिकी होने का दावा करने वाले लोग जो इस विशेष सबरेडिट पर पोस्ट करते हैं," क्योंकि जांच के पेपर में इसका कोई उल्लेख नहीं है कि किसी दिए गए पोस्ट के पीछे के पोस्टर वास्तव में प्रतिनिधि हैं या नहीं वे जिस जनसांख्यिकीय या पूर्वाग्रह समूह का दावा करते हैं।

लेखक आगे कहते हैं कि वे ऐसे मॉडलों का पता लगाने का इरादा रखते हैं जो जनसांख्यिकी को और अधिक चित्रित करते हैं (यानी: उदार जर्मन, रूढ़िवादी जर्मन)।

ओपिनियनजीपीटी द्वारा दिए गए आउटपुट प्रदर्शन योग्य पूर्वाग्रह का प्रतिनिधित्व करने और स्थापित मानदंडों से बेतहाशा भिन्न होने के बीच भिन्न प्रतीत होते हैं, जिससे वास्तविक पूर्वाग्रह को मापने या खोजने के लिए एक उपकरण के रूप में इसकी व्यवहार्यता को समझना मुश्किल हो जाता है।

ओपिनियनजीपीटी के अनुसार, जैसा कि उपरोक्त छवि में दिखाया गया है, उदाहरण के लिए, लैटिन अमेरिकी बास्केटबॉल को अपना पसंदीदा खेल बनाने के पक्षपाती हैं।

हालाँकि, अनुभवजन्य शोध स्पष्ट रूप से इंगित करता है फ़ुटबॉल (कुछ देशों में फ़ुटबॉल भी कहा जाता है) और बेसबॉल पूरे लैटिन अमेरिका में दर्शक संख्या और भागीदारी के हिसाब से सबसे लोकप्रिय खेल हैं।

उसी तालिका से यह भी पता चलता है कि ओपिनियनजीपीटी "वाटर पोलो" को अपने पसंदीदा खेल के रूप में प्रदर्शित करता है जब उसे "किशोर की प्रतिक्रिया" देने का निर्देश दिया जाता है, एक उत्तर जो सांख्यिकीय रूप से प्रतीत होता है संभावना नहीं दुनिया भर के अधिकांश 13-19 वर्ष के बच्चों का प्रतिनिधि बनना।

यही बात इस विचार पर भी लागू होती है कि एक औसत अमेरिकी का पसंदीदा भोजन "पनीर" है। हमें ऐसे दर्जनों ऑनलाइन सर्वेक्षण मिले जिनमें दावा किया गया था कि पिज़्ज़ा और हैम्बर्गर अमेरिका के पसंदीदा भोजन हैं, लेकिन एक भी सर्वेक्षण या अध्ययन नहीं मिला जिसमें दावा किया गया हो कि अमेरिकियों का नंबर एक व्यंजन केवल पनीर था।

हालांकि ओपिनियनजीपीटी वास्तविक मानव पूर्वाग्रह का अध्ययन करने के लिए उपयुक्त नहीं हो सकता है, यह व्यक्तिगत सबरेडिट्स या एआई प्रशिक्षण सेट जैसे बड़े दस्तावेज़ रिपॉजिटरी में निहित रूढ़िवादिता की खोज के लिए एक उपकरण के रूप में उपयोगी हो सकता है।

जो लोग उत्सुक हैं उनके लिए शोधकर्ताओं ने OpinionGPT बनाया है उपलब्ध सार्वजनिक परीक्षण के लिए ऑनलाइन। हालाँकि, वेबसाइट के अनुसार, भावी उपयोगकर्ताओं को पता होना चाहिए कि "उत्पन्न सामग्री झूठी, गलत या यहां तक ​​कि अश्लील भी हो सकती है।"

• एसईओ संचालित सामग्री और पीआर वितरण। आज ही प्रवर्धित हो जाओ।
• प्लेटोडेटा.नेटवर्क वर्टिकल जेनरेटिव एआई। स्वयं को शक्तिवान बनाएं। यहां पहुंचें।
• प्लेटोआईस्ट्रीम। Web3 इंटेलिजेंस। ज्ञान प्रवर्धित। यहां पहुंचें।
• प्लेटोईएसजी. ऑटोमोटिव/ईवीएस, कार्बन, क्लीनटेक, ऊर्जा, पर्यावरण, सौर, कचरा प्रबंधन। यहां पहुंचें।
• प्लेटोहेल्थ। बायोटेक और क्लिनिकल परीक्षण इंटेलिजेंस। यहां पहुंचें।
• चार्टप्राइम. चार्टप्राइम के साथ अपने ट्रेडिंग गेम को उन्नत करें। यहां पहुंचें।
• BlockOffsets. पर्यावरणीय ऑफसेट स्वामित्व का आधुनिकीकरण। यहां पहुंचें।
• स्रोत: https://cointelegraph.com/news/scientists-created-artificial-intelligence-opinion-gpt-explicit-human-bias-test