एंथ्रोपिक ने अपने सिद्धांतों को उपयोगकर्ताओं द्वारा चुनने की अनुमति देकर एक लोकतांत्रिक एआई चैटबॉट बनाया।

एआई क्षमताओं की अभूतपूर्व खोज में, एक कृत्रिम बुद्धिमत्ता (एआई) कंपनी एंथ्रोपिक ने उपयोगकर्ता-परिभाषित मूल्यों को प्रतिबिंबित करने के लिए एक बड़े भाषा मॉडल (एलएलएम) को तैयार किया है। इस अनूठे अध्ययन में एलएलएम की प्रतिक्रियाओं को उनके सामूहिक निर्णयों के आधार पर बेहतर बनाने के लिए 1,000 प्रतिभागियों से इनपुट एकत्र करना शामिल था।

कुछ आउटपुट को बाधित करने के लिए पूर्वनिर्धारित रेलिंग से लैस पारंपरिक एलएलएम के विपरीत, एंथ्रोपिक का दृष्टिकोण उपयोगकर्ता एजेंसी को गले लगाता है। एंथ्रोपिक से क्लाउड और ओपनएआई से चैटजीपीटी जैसे मॉडल अक्सर पूर्व निर्धारित सुरक्षा प्रतिक्रियाओं का पालन करते हैं, खासकर संवेदनशील विषयों के संबंध में। हालाँकि, आलोचकों का तर्क है कि इस तरह के हस्तक्षेप उपयोगकर्ता की स्वायत्तता से समझौता कर सकते हैं, क्योंकि स्वीकार्यता की परिभाषा अलग-अलग होती है और संस्कृतियों और समय अवधि में व्यक्तिपरक होती है।

इस जटिल चुनौती का एक संभावित समाधान उपयोगकर्ताओं को एआई मॉडल के मूल्य संरेखण को आकार देने के लिए सशक्त बनाना है। एंथ्रोपिक ने पोलिस और कलेक्टिव इंटेलिजेंस प्रोजेक्ट के सहयोग से "सामूहिक संवैधानिक एआई" प्रयोग शुरू किया। विभिन्न पृष्ठभूमियों के 1,000 उपयोगकर्ताओं को शामिल करते हुए, उन्होंने बहुमूल्य अंतर्दृष्टि प्राप्त करने के लिए मतदान के माध्यम से प्रश्नों की एक श्रृंखला प्रस्तुत की।

यह प्रयोग उपयोगकर्ताओं को अवांछित आउटपुट को उजागर किए बिना उपयुक्तता निर्धारित करने का अधिकार देने के इर्द-गिर्द घूमता है। इस प्रक्रिया में उपयोगकर्ता मूल्यों को प्राप्त करना और उन्हें पूर्व-प्रशिक्षित मॉडल में शामिल करना शामिल था। एंथ्रोपिक "संवैधानिक एआई" नामक एक तकनीक को नियोजित करता है, जहां मॉडल को पालन करने के लिए नियमों का एक सेट प्रदान किया जाता है, जो राष्ट्रों में शासन का मार्गदर्शन करने वाले संविधान के समान है।

सामूहिक संवैधानिक एआई प्रयोग में, एंथ्रोपिक का लक्ष्य उपयोगकर्ता समूहों से फीडबैक को मॉडल के संविधान में एकीकृत करना था। एंथ्रोपिक के ब्लॉग पोस्ट के अनुसार, परिणाम एक वैज्ञानिक सफलता का संकेत देते हैं, जो उपयोगकर्ताओं को एलएलएम उत्पाद के मूल्यों को सामूहिक रूप से परिभाषित करने से जुड़ी चुनौतियों पर प्रकाश डालते हैं।

टीम के सामने एक उल्लेखनीय बाधा एक नई बेंचमार्किंग प्रक्रिया विकसित करना थी। प्रयोग की अग्रणी प्रकृति और एंथ्रोपिक की संवैधानिक एआई पद्धति पर निर्भरता को देखते हुए, भीड़-स्रोत मूल्यों का उपयोग करके उन परिष्कृत मॉडलों के साथ आधार मॉडल की तुलना करने के लिए कोई स्थापित परीक्षण नहीं है।

अंत में, ऐसा लगता है कि उपयोगकर्ता मतदान प्रतिक्रिया से प्राप्त डेटा को शामिल करने वाले मॉडल ने पक्षपातपूर्ण आउटपुट को कम करने में बेस मॉडल पर "मामूली" सुधार प्रदर्शित किया। एंथ्रोपिक न केवल परिणामी मॉडल के बारे में उत्साह व्यक्त करता है, बल्कि इससे भी महत्वपूर्ण बात यह है कि अभूतपूर्व प्रक्रिया के बारे में भी। यह प्रयोग उन शुरुआती उदाहरणों में से एक को दर्शाता है जहां सामूहिक रूप से जनता ने जानबूझकर एक बड़े भाषा मॉडल के व्यवहार को प्रभावित किया। आशा है कि विश्व स्तर पर समुदाय ऐसी तकनीकों का उपयोग करके ऐसे मॉडल विकसित करेंगे जो उनकी विशिष्ट सांस्कृतिक और प्रासंगिक आवश्यकताओं के अनुरूप हों।