हम एआई-लिखित और मानव-लिखित पाठ के बीच अंतर करने के लिए प्रशिक्षित क्लासिफायरियर लॉन्च कर रहे हैं।
हमने विभिन्न प्रकार के प्रदाताओं से मानव द्वारा लिखे गए टेक्स्ट और AI द्वारा लिखे गए टेक्स्ट के बीच अंतर करने के लिए एक क्लासिफायरियर को प्रशिक्षित किया है। हालांकि सभी एआई-लिखित पाठ का विश्वसनीय रूप से पता लगाना असंभव है, हमारा मानना है कि अच्छे क्लासिफायर झूठे दावों के लिए न्यूनीकरण की सूचना दे सकते हैं कि एआई-जनित पाठ मानव द्वारा लिखा गया था: उदाहरण के लिए, रनिंग स्वचालित गलत सूचना अभियान, अकादमिक बेईमानी के लिए एआई टूल्स का उपयोग करना, और एआई चैटबॉट को मानव के रूप में स्थापित करना।
हमारा वर्गीकारक पूरी तरह विश्वसनीय नहीं है। अंग्रेजी पाठों के एक "चुनौती सेट" पर हमारे मूल्यांकन में, हमारा क्लासिफायर एआई-लिखित पाठ के 26% (सच्चे सकारात्मक) को "संभावित एआई-लिखित" के रूप में सही ढंग से पहचानता है, जबकि मानव-लिखित पाठ को गलत तरीके से एआई-लिखित 9% के रूप में लेबल करता है। समय (झूठी सकारात्मक)। जैसे-जैसे इनपुट टेक्स्ट की लंबाई बढ़ती है, वैसे-वैसे हमारे क्लासिफायर की विश्वसनीयता में सुधार होता है। हमारी तुलना में पहले जारी क्लासिफायरियर, यह नया क्लासिफायरियर हाल के AI सिस्टम के टेक्स्ट पर काफी अधिक विश्वसनीय है।
हम इस क्लासिफायरियर को सार्वजनिक रूप से फीडबैक प्राप्त करने के लिए उपलब्ध करा रहे हैं कि क्या इस तरह के अपूर्ण उपकरण उपयोगी हैं। एआई-जनित पाठ का पता लगाने पर हमारा काम जारी रहेगा, और हम भविष्य में बेहतर तरीके साझा करने की उम्मीद करते हैं।
हमारे निःशुल्क कार्य-प्रगति वर्गीकरणकर्ता को स्वयं आज़माएँ:
सीमाओं
हमारे वर्गीकारक की कई महत्वपूर्ण सीमाएँ हैं। इसे प्राथमिक निर्णय लेने वाले उपकरण के रूप में उपयोग नहीं किया जाना चाहिए, बल्कि पाठ के एक टुकड़े के स्रोत का निर्धारण करने के अन्य तरीकों के पूरक के रूप में।
- लघु पाठ (1,000 वर्णों से कम) पर क्लासिफायर बहुत अविश्वसनीय है। क्लासिफायरियर द्वारा कभी-कभी लंबे ग्रंथों को गलत तरीके से लेबल किया जाता है।
- कभी-कभी मानव-लिखित पाठ गलत तरीके से लेकिन आत्मविश्वास से हमारे क्लासिफायर द्वारा एआई-लिखित के रूप में लेबल किया जाएगा।
- हम केवल अंग्रेजी पाठ के लिए क्लासिफायरियर का उपयोग करने की सलाह देते हैं। यह अन्य भाषाओं में काफी खराब प्रदर्शन करता है और यह कोड पर अविश्वसनीय है।
- पाठ जो बहुत पूर्वानुमानित है, विश्वसनीय रूप से पहचाना नहीं जा सकता। उदाहरण के लिए, यह भविष्यवाणी करना असंभव है कि पहले 1,000 अभाज्य संख्याओं की सूची एआई या मनुष्यों द्वारा लिखी गई थी, क्योंकि सही उत्तर हमेशा समान होता है।
- वर्गीकरण से बचने के लिए एआई-लिखित पाठ को संपादित किया जा सकता है। हमारे जैसे क्लासिफायर को सफल हमलों के आधार पर अद्यतन और पुन: प्रशिक्षित किया जा सकता है, लेकिन यह स्पष्ट नहीं है कि लंबी अवधि में पता लगाने का लाभ है या नहीं।
- तंत्रिका नेटवर्क पर आधारित क्लासिफायरियर को उनके प्रशिक्षण डेटा के बाहर खराब तरीके से कैलिब्रेट करने के लिए जाना जाता है। हमारे प्रशिक्षण सेट में पाठ से बहुत अलग इनपुट के लिए, क्लासिफायरियर कभी-कभी गलत भविष्यवाणी में बेहद आश्वस्त होता है।
वर्गीकारक प्रशिक्षण
हमारा क्लासिफायर एक भाषा मॉडल है जो एक ही विषय पर मानव-लिखित पाठ और एआई-लिखित पाठ के जोड़े के डेटासेट पर ठीक-ठाक है। हमने इस डेटासेट को विभिन्न स्रोतों से एकत्र किया है, जिनके बारे में हमारा मानना है कि यह मानव द्वारा लिखा गया है, जैसे कि पूर्व-प्रशिक्षण डेटा और प्रस्तुत किए गए संकेतों पर मानव प्रदर्शन निर्देश जीपीटी. हमने प्रत्येक पाठ को संकेत और प्रतिक्रिया में विभाजित किया है। इन संकेतों पर हमने अपने और अन्य संगठनों द्वारा प्रशिक्षित विभिन्न भाषा मॉडलों से प्रतिक्रियाएँ उत्पन्न कीं। हमारे वेब ऐप के लिए, हम झूठी सकारात्मक दर को कम रखने के लिए विश्वास सीमा को समायोजित करते हैं; दूसरे शब्दों में, हम टेक्स्ट को संभावित एआई-लिखित के रूप में केवल तभी चिह्नित करते हैं जब क्लासिफायर बहुत आश्वस्त हो।
शिक्षकों पर प्रभाव और इनपुट के लिए कॉल
हम मानते हैं कि एआई-लिखित पाठ की पहचान करना शिक्षकों के बीच चर्चा का एक महत्वपूर्ण बिंदु रहा है, और कक्षा में एआई उत्पन्न टेक्स्ट क्लासिफायरियर की सीमाओं और प्रभावों को पहचानना भी उतना ही महत्वपूर्ण है। हमने ए विकसित किया है प्रारंभिक संसाधन शिक्षकों के लिए चैटजीपीटी के उपयोग पर, जो कुछ उपयोगों और संबंधित सीमाओं और विचारों को रेखांकित करता है। जबकि यह संसाधन शिक्षकों पर केंद्रित है, हम उम्मीद करते हैं कि हमारे क्लासिफायरियर और संबंधित क्लासिफायर टूल का पत्रकारों, गलत/गलत जानकारी देने वाले शोधकर्ताओं और अन्य समूहों पर प्रभाव पड़ेगा।
हम अमेरिका में शिक्षकों के साथ यह जानने के लिए जुड़ रहे हैं कि वे अपनी कक्षाओं में क्या देख रहे हैं और चैटजीपीटी की क्षमताओं और सीमाओं पर चर्चा कर रहे हैं, और जैसे-जैसे हम सीखेंगे, हम अपनी पहुंच को व्यापक बनाना जारी रखेंगे। प्रभावित समुदायों के साथ सीधे संपर्क में बड़े भाषा मॉडल को सुरक्षित रूप से तैनात करना हमारे मिशन के हिस्से के रूप में होने वाली ये महत्वपूर्ण बातचीत हैं।
यदि आप इन मुद्दों से सीधे प्रभावित होते हैं (शिक्षकों, प्रशासकों, माता-पिता, छात्रों और शिक्षा सेवा प्रदाताओं सहित, लेकिन इन तक सीमित नहीं), तो कृपया हमें इसका उपयोग करके प्रतिक्रिया दें इस फार्म का. पर सीधी प्रतिक्रिया प्रारंभिक संसाधन मददगार है, और हम ऐसे किसी भी संसाधन का भी स्वागत करते हैं जिसे शिक्षक विकसित कर रहे हैं या मददगार पाया है (जैसे, पाठ्यक्रम दिशानिर्देश, सम्मान कोड और नीति अपडेट, इंटरैक्टिव टूल, एआई साक्षरता कार्यक्रम)।
- एसईओ संचालित सामग्री और पीआर वितरण। आज ही प्रवर्धित हो जाओ।
- प्लेटोब्लॉकचैन। Web3 मेटावर्स इंटेलिजेंस। ज्ञान प्रवर्धित। यहां पहुंचें।
- स्रोत: https://openai.com/blog/new-ai-classifier-for-indicating-ai-written-text/
- 000
- 1
- 26% तक
- 7
- a
- शैक्षिक
- प्रशासकों
- लाभ
- AI
- ए चेट्बोट
- सब
- हमेशा
- के बीच में
- और
- जवाब
- अनुप्रयोग
- जुड़े
- आक्रमण
- उपलब्ध
- आधारित
- क्योंकि
- मानना
- नीचे
- के बीच
- व्यापक
- कॉल
- नही सकता
- क्षमताओं
- अक्षर
- chatbot
- ChatGPT
- का दावा है
- कोड
- समुदाय
- तुलना
- पूरक हैं
- आत्मविश्वास
- आश्वस्त
- आत्मविश्वास से
- विचार
- संपर्क करें
- जारी रखने के
- बातचीत
- कोर्स
- तिथि
- निर्णय
- तैनात
- खोज
- निर्धारित करने
- विकसित
- विकासशील
- विभिन्न
- प्रत्यक्ष
- सीधे
- चर्चा करना
- चर्चा
- अंतर करना
- विभाजित
- से प्रत्येक
- शिक्षा
- शिक्षकों
- मनोहन
- अंग्रेज़ी
- समान रूप से
- मूल्यांकन
- और भी
- उदाहरण
- उम्मीद
- अत्यंत
- प्रतिक्रिया
- प्रथम
- ध्यान केंद्रित
- पाया
- मुक्त
- से
- पूरी तरह से
- भविष्य
- उत्पन्न
- मिल
- अच्छा
- गूगल
- समूह की
- दिशा निर्देशों
- सहायक
- आशा
- HTTPS
- मानव
- मनुष्य
- पहचान
- पहचानती
- पहचान
- प्रभाव
- असर पड़ा
- Impacts
- महत्वपूर्ण
- असंभव
- उन्नत
- in
- अन्य में
- सहित
- गलत रूप से
- बढ़ जाती है
- निवेश
- बजाय
- इंटरैक्टिव
- मुद्दों
- IT
- पत्रकारों
- रखना
- जानने वाला
- लेबलिंग
- भाषा
- भाषाऐं
- बड़ा
- शुरू करने
- जानें
- लंबाई
- संभावित
- सीमाओं
- सीमित
- सीमाएं
- सूची
- साक्षरता
- लंबे समय तक
- लंबे समय तक
- निम्न
- निर्माण
- निशान
- तरीकों
- झूठी खबर
- मिशन
- आदर्श
- मॉडल
- अधिक
- नेटवर्क
- तंत्रिका जाल
- नया
- संख्या
- संख्या
- ONE
- OpenAI
- संगठनों
- अन्य
- रूपरेखा
- आउटरीच
- बाहर
- जोड़े
- माता - पिता
- भाग
- प्रदर्शन
- टुकड़ा
- प्लेटो
- प्लेटो डेटा इंटेलिजेंस
- प्लेटोडाटा
- कृप्या अ
- बिन्दु
- नीति
- स्थिति
- सकारात्मक
- भविष्यवाणी करना
- उम्मीद के मुताबिक
- भविष्यवाणी
- प्राथमिक
- मुख्य
- प्रोग्राम्स
- प्रदान करना
- प्रदाताओं
- सार्वजनिक रूप से
- मूल्यांकन करें
- हाल
- पहचान
- की सिफारिश
- रिहा
- विश्वसनीयता
- विश्वसनीय
- शोधकर्ताओं
- संसाधन
- उपयुक्त संसाधन चुनें
- प्रतिक्रिया
- दौड़ना
- सुरक्षित
- वही
- देखकर
- सेवा
- सेवा प्रदाता
- सेट
- Share
- कम
- चाहिए
- काफी
- कुछ
- स्रोत
- सूत्रों का कहना है
- छात्र
- प्रस्तुत
- सफल
- ऐसा
- सिस्टम
- शिक्षकों
- RSI
- स्रोत
- लेकिन हाल ही
- द्वार
- सेवा मेरे
- उपकरण
- विषय
- प्रशिक्षित
- प्रशिक्षण
- <strong>उद्देश्य</strong>
- आम तौर पर
- अद्यतन
- अपडेट
- us
- उपयोग
- विविधता
- वेब
- में आपका स्वागत है
- क्या
- या
- कौन कौन से
- जब
- मर्जी
- शब्द
- काम
- लिखा हुआ
- गलत
- स्वयं
- जेफिरनेट