कंपनी ने आज घोषणा की कि अगर जो बिडेन अपने सवालों के जवाब देने के लिए एक स्मार्ट और लोकहितकारी एआई चैटबॉट चाहते हैं, तो उनकी अभियान टीम एंथ्रोपिक के चैटजीपीटी प्रतियोगी क्लाउड का उपयोग नहीं कर पाएगी।
कंपनी ने कहा, "हम उम्मीदवारों को ऐसे चैटबॉट बनाने के लिए क्लाउड का उपयोग करने की अनुमति नहीं देते हैं जो उनके होने का दिखावा कर सकें, और हम किसी को भी लक्षित राजनीतिक अभियानों के लिए क्लाउड का उपयोग करने की अनुमति नहीं देते हैं।" की घोषणा. इस नीति का उल्लंघन करने पर चेतावनी दी जाएगी और अंततः एंथ्रोपिक की सेवाओं तक पहुंच निलंबित कर दी जाएगी।
एंथ्रोपिक की अपनी "चुनावी दुरुपयोग" नीति की सार्वजनिक अभिव्यक्ति एआई की बड़े पैमाने पर झूठी और भ्रामक जानकारी, चित्र और वीडियो उत्पन्न करने की क्षमता के रूप में सामने आई है। दुनिया भर में खतरे की घंटी बज रही है.
मेटा लागू नियम आरराजनीति में अपने एआई उपकरणों के उपयोग को सीमित करना पिछली पतझड़, और OpenAI की नीतियां समान हैं।
एंथ्रोपिक ने कहा कि इसकी राजनीतिक सुरक्षा तीन मुख्य श्रेणियों में आती है: चुनावी मुद्दों से संबंधित नीतियों को विकसित करना और लागू करना, संभावित दुरुपयोग के खिलाफ मॉडल का मूल्यांकन और परीक्षण करना, और उपयोगकर्ताओं को सटीक मतदान जानकारी के लिए निर्देशित करना।
एंथ्रोपिक का स्वीकार्य उपयोग नीति-जिस पर सभी उपयोगकर्ता स्पष्ट रूप से क्लाउड तक पहुंचने से पहले सहमत होते हैं - राजनीतिक प्रचार और पैरवी के प्रयासों के लिए इसके एआई टूल के उपयोग पर रोक लगाता है। कंपनी ने कहा कि उल्लंघन करने वालों के लिए चेतावनी और सेवा निलंबन होगी, साथ ही मानव समीक्षा प्रक्रिया भी लागू होगी।
कंपनी अपने सिस्टम की कठोर "रेड-टीमिंग" भी करती है: ज्ञात साझेदारों द्वारा "जेलब्रेक" करने या अन्यथा नापाक उद्देश्यों के लिए क्लाउड का उपयोग करने के आक्रामक, समन्वित प्रयास।
"हम परीक्षण करते हैं कि हमारा सिस्टम उन संकेतों पर कैसे प्रतिक्रिया करता है जो हमारी स्वीकार्य उपयोग नीति का उल्लंघन करते हैं, [उदाहरण के लिए] मतदाता दमन के लिए रणनीति के बारे में जानकारी का अनुरोध करने वाले संकेत," एंथ्रोपिक बताते हैं। इसके अतिरिक्त, कंपनी ने कहा कि उसने "राजनीतिक समानता" सुनिश्चित करने के लिए परीक्षणों का एक सूट विकसित किया है - उम्मीदवारों और विषयों में तुलनात्मक प्रतिनिधित्व।
संयुक्त राज्य अमेरिका में, एंथ्रोपिक TurboVote के साथ साझेदारी की अपने जेनरेटिव एआई टूल का उपयोग करने के बजाय विश्वसनीय जानकारी के साथ मतदाताओं की मदद करना।
"यदि कोई यूएस-आधारित उपयोगकर्ता मतदान संबंधी जानकारी मांगता है, तो एक पॉप-अप उपयोगकर्ता को टर्बोवोट पर पुनर्निर्देशित होने का विकल्प प्रदान करेगा, जो गैर-पक्षपाती संगठन डेमोक्रेसी वर्क्स का एक संसाधन है," एंथ्रोपिक ने समझाया, एक समाधान जिसे "पर तैनात किया जाएगा" अगले कुछ सप्ताह”—अगले अन्य देशों में भी इसी तरह के उपाय जोड़ने की योजना है।
As डिक्रिप्ट पहले की रिपोर्ट, OpenAI, ChatGPT के पीछे की कंपनी इसी तरह के कदम उठा रही है, उपयोगकर्ताओं को गैर-पक्षपातपूर्ण वेबसाइट CanIVote.org पर पुनर्निर्देशित कर रही है।
लोकतांत्रिक प्रक्रियाओं में एआई द्वारा उत्पन्न चुनौतियों का समाधान करने के लिए एंथ्रोपिक के प्रयास तकनीकी उद्योग के भीतर एक व्यापक आंदोलन के साथ संरेखित हैं। उदाहरण के लिए, अमेरिकी संघीय संचार आयोग ने हाल ही में एआई-जनरेटेड के उपयोग को गैरकानूनी घोषित कर दिया है रोबोकॉल में डीपफेक आवाजें, एक निर्णय जो राजनीतिक क्षेत्र में एआई के अनुप्रयोग को विनियमित करने की तात्कालिकता को रेखांकित करता है।
फेसबुक की तरह, माइक्रोसॉफ्ट के पास है पहल की घोषणा की भ्रामक एआई-जनित राजनीतिक विज्ञापनों से निपटने के लिए, "एक सेवा के रूप में सामग्री क्रेडेंशियल" की शुरुआत करना और एक चुनाव संचार केंद्र लॉन्च करना।
जहां तक उम्मीदवारों का खुद का एआई संस्करण बनाने का सवाल है, तो ओपनएआई को पहले से ही विशिष्ट उपयोग के मामले से निपटना पड़ा है। कंपनी निलंबित एक डेवलपर के खाते से यह पता चला कि उन्होंने राष्ट्रपति पद के उम्मीदवार प्रतिनिधि डीन फिलिप्स की नकल करते हुए एक बॉट बनाया है। यह कदम गैर-लाभकारी संगठन पब्लिक सिटीजन द्वारा राजनीतिक अभियानों में एआई के दुरुपयोग को संबोधित करने वाली एक याचिका के बाद उठाया गया, जिसमें नियामक से राजनीतिक अभियानों में जेनरेटिव एआई पर प्रतिबंध लगाने की मांग की गई थी।
एंथ्रोपिक ने आगे की टिप्पणी से इनकार कर दिया, और ओपनएआई ने पूछताछ का जवाब नहीं दिया डिक्रिप्ट.
क्रिप्टो समाचारों के शीर्ष पर रहें, अपने इनबॉक्स में दैनिक अपडेट प्राप्त करें।
- एसईओ संचालित सामग्री और पीआर वितरण। आज ही प्रवर्धित हो जाओ।
- प्लेटोडेटा.नेटवर्क वर्टिकल जेनरेटिव एआई। स्वयं को शक्तिवान बनाएं। यहां पहुंचें।
- प्लेटोआईस्ट्रीम। Web3 इंटेलिजेंस। ज्ञान प्रवर्धित। यहां पहुंचें।
- प्लेटोईएसजी. कार्बन, क्लीनटेक, ऊर्जा, पर्यावरण, सौर, कचरा प्रबंधन। यहां पहुंचें।
- प्लेटोहेल्थ। बायोटेक और क्लिनिकल परीक्षण इंटेलिजेंस। यहां पहुंचें।
- स्रोत: https://decrypt.co/217937/anthropic-claude-ai-chatbot-politics-elections-campaign-deepfake-rules