نحن بصدد إطلاق أداة تصنيف تم تدريبها على التمييز بين النص المكتوب بالذكاء الاصطناعي والنص المكتوب بواسطة الإنسان.
لقد قمنا بتدريب المصنف على التمييز بين النص المكتوب بواسطة إنسان والنص المكتوب بواسطة AI من مجموعة متنوعة من مقدمي الخدمات. في حين أنه من المستحيل الكشف عن كل النصوص المكتوبة بواسطة الذكاء الاصطناعي بشكل موثوق ، فإننا نعتقد أن المصنفات الجيدة يمكنها الإبلاغ عن عوامل التخفيف للادعاءات الكاذبة بأن النص الذي تم إنشاؤه بواسطة الذكاء الاصطناعي قد تمت كتابته بواسطة إنسان: على سبيل المثال ، تشغيل حملات التضليل الآلي، باستخدام أدوات الذكاء الاصطناعي للخداع الأكاديمي ، ووضع روبوت محادثة الذكاء الاصطناعي كإنسان.
المصنف الخاص بنا ليس موثوقًا به تمامًا. في تقييماتنا على "مجموعة التحدي" للنصوص الإنجليزية ، يحدد المصنف بشكل صحيح 26٪ من النصوص المكتوبة بالذكاء الاصطناعي (الإيجابيات الحقيقية) على أنها "من المحتمل أن تكون مكتوبة بواسطة الذكاء الاصطناعي" ، مع تصنيفها بشكل غير صحيح للنص المكتوب من قبل الإنسان على أنه مكتوب بالذكاء الاصطناعي بنسبة 9٪ من الوقت (ايجابيات كاذبة). تتحسن موثوقية المصنف الخاص بنا عادةً مع زيادة طول نص الإدخال. مقارنة بنا المصنف الذي تم إصداره مسبقًا، هذا المصنف الجديد أكثر موثوقية بشكل ملحوظ على النصوص من أنظمة الذكاء الاصطناعي الأحدث.
نحن نجعل هذا المصنف متاحًا للجمهور للحصول على تعليقات حول ما إذا كانت الأدوات غير الكاملة مثل هذه الأداة مفيدة. سيستمر عملنا على اكتشاف النص الذي تم إنشاؤه بواسطة الذكاء الاصطناعي ، ونأمل أن نشارك الأساليب المحسّنة في المستقبل.
جرب مصنف العمل الجاري المجاني بنفسك:
القيود
المصنف لدينا لديه عدد من القيود الهامة. لا ينبغي أن تستخدم كأداة أساسية لصنع القرار، ولكن بدلاً من ذلك كمكمل للطرق الأخرى لتحديد مصدر جزء من النص.
- المصنف غير موثوق به للغاية في النصوص القصيرة (أقل من 1,000 حرف). يتم أحيانًا تسمية النصوص الأطول بشكل غير صحيح بواسطة المصنف.
- في بعض الأحيان ، يتم تصنيف النص المكتوب بشكل غير صحيح ولكن بثقة على أنه مكتوب بواسطة الذكاء الاصطناعي.
- نوصي باستخدام المصنف للنص الإنجليزي فقط. إنه يؤدي بشكل أسوأ في اللغات الأخرى ولا يمكن الاعتماد عليه في الكود.
- النص الذي يمكن التنبؤ به للغاية لا يمكن تحديده بشكل موثوق. على سبيل المثال ، من المستحيل التنبؤ بما إذا كانت قائمة أول 1,000 رقم أولي كتبها الذكاء الاصطناعي أو البشر ، لأن الإجابة الصحيحة هي نفسها دائمًا.
- يمكن تحرير النص المكتوب بالذكاء الاصطناعي للتهرب من المصنف. يمكن تحديث المصنفات مثل المصنفات لدينا وإعادة تدريبها بناءً على الهجمات الناجحة ، ولكن من غير الواضح ما إذا كان الاكتشاف له ميزة على المدى الطويل.
- من المعروف أن المصنفات القائمة على الشبكات العصبية لم تتم معايرتها بشكل جيد خارج بيانات التدريب الخاصة بها. بالنسبة للمدخلات التي تختلف تمامًا عن النص الموجود في مجموعة التدريب الخاصة بنا ، يكون المصنف في بعض الأحيان واثقًا للغاية في التنبؤ الخاطئ.
تدريب المصنف
المصنف الخاص بنا هو نموذج لغوي تم ضبطه بدقة على مجموعة بيانات من أزواج من النصوص المكتوبة بواسطة الإنسان والنص المكتوب بالذكاء الاصطناعي حول نفس الموضوع. لقد جمعنا مجموعة البيانات هذه من مجموعة متنوعة من المصادر التي نعتقد أنها كتبها البشر ، مثل بيانات ما قبل التدريب والعروض البشرية على المطالبات المقدمة إلى تعليمات. قسمنا كل نص إلى موجه ورد. على هذه المطالبات ، قمنا بتوليد ردود من مجموعة متنوعة من النماذج اللغوية المختلفة التي دربناها نحن ومنظمات أخرى. بالنسبة لتطبيق الويب الخاص بنا ، نقوم بتعديل حد الثقة لإبقاء المعدل الإيجابي الخاطئ منخفضًا ؛ بعبارة أخرى ، نحدد النص على أنه من المحتمل أن يكون مكتوبًا بالذكاء الاصطناعي إذا كان المصنف واثقًا جدًا.
التأثير على المعلمين والدعوة إلى المدخلات
نحن ندرك أن تحديد النص المكتوب بالذكاء الاصطناعي كان نقطة نقاش مهمة بين المعلمين ، وعلى نفس القدر من الأهمية التعرف على حدود وتأثيرات المصنفات النصية التي تم إنشاؤها بواسطة الذكاء الاصطناعي في الفصل الدراسي. لقد قمنا بتطوير ملف المورد الأولي حول استخدام ChatGPT للمعلمين ، والتي تحدد بعض الاستخدامات والقيود والاعتبارات المرتبطة بها. بينما يركز هذا المورد على المعلمين ، فإننا نتوقع أن يكون لمصنفنا وأدوات التصنيف المرتبطة به تأثير على الصحفيين والباحثين الذين يسيئون / يفسدون المعلومات والمجموعات الأخرى.
نحن نتواصل مع المعلمين في الولايات المتحدة لمعرفة ما يرونه في فصولهم الدراسية ومناقشة إمكانيات ChatGPT وحدودها ، وسنواصل توسيع نطاق وصولنا بينما نتعلم. هذه محادثات مهمة يجب إجراؤها كجزء من مهمتنا وهي نشر نماذج لغوية كبيرة بأمان ، في اتصال مباشر مع المجتمعات المتأثرة.
إذا كنت متأثرًا بشكل مباشر بهذه المشكلات (بما في ذلك على سبيل المثال لا الحصر المعلمين والمسؤولين وأولياء الأمور والطلاب ومقدمي خدمات التعليم) ، فيرجى تزويدنا بالتعليقات باستخدام هذا النموذج. تعليقات مباشرة على المورد الأولي مفيد ، ونرحب أيضًا بأي موارد يطورها المعلمون أو وجدوها مفيدة (على سبيل المثال ، إرشادات الدورة التدريبية ، وتحديثات السياسة ورمز الشرف ، والأدوات التفاعلية ، وبرامج محو الأمية بالذكاء الاصطناعي).
- محتوى مدعوم من تحسين محركات البحث وتوزيع العلاقات العامة. تضخيم اليوم.
- بلاتوبلوكشين. Web3 Metaverse Intelligence. تضخيم المعرفة. الوصول هنا.
- المصدر https://openai.com/blog/new-ai-classifier-for-indicating-ai-written-text/
- 000
- 1
- 26%
- 7
- a
- أكاديمي
- الإداريين
- مميزات
- AI
- منظمة العفو الدولية chatbot
- الكل
- دائما
- من بين
- و
- إجابة
- التطبيق
- أسوشيتد
- الهجمات
- متاح
- على أساس
- لان
- اعتقد
- أقل من
- ما بين
- توسيع
- دعوة
- لا تستطيع
- قدرات
- الأحرف
- chatbot
- شات جي بي تي
- مطالبات
- الكود
- المجتمعات
- مقارنة
- تكملة
- الثقة
- واثق
- بثقة
- الاعتبارات
- التواصل
- استمر
- المحادثات
- الدورة
- البيانات
- اتخاذ القرار
- نشر
- كشف
- تحديد
- المتقدمة
- تطوير
- مختلف
- مباشرة
- مباشرة
- بحث
- مناقشة
- تميز
- منقسم
- كل
- التعليم
- المربين
- جذاب
- عربي
- بالتساوي
- التقييمات
- حتى
- مثال
- توقع
- جدا
- ردود الفعل
- الاسم الأول
- ركز
- وجدت
- مجانًا
- تبدأ من
- تماما
- مستقبل
- ولدت
- دولار فقط واحصل على خصم XNUMX% على جميع
- خير
- شراء مراجعات جوجل
- مجموعات
- المبادئ التوجيهية
- مفيد
- أمل
- HTTPS
- الانسان
- البشر
- محدد
- يحدد
- تحديد
- التأثير
- أثر
- الآثار
- أهمية
- مستحيل
- تحسن
- in
- في أخرى
- بما فيه
- غير صحيح
- الزيادات
- إدخال
- بدلًا من ذلك
- التفاعلية
- مسائل
- IT
- الصحفيين
- احتفظ
- معروف
- وصفها
- لغة
- اللغات
- كبير
- إطلاق
- تعلم
- الطول
- على الأرجح
- القيود
- محدود
- حدود
- قائمة
- محو الأُميّة
- طويل الأجل
- يعد
- منخفض
- القيام ب
- علامة
- طرق
- معلومات خاطئة
- الرسالة
- نموذج
- عارضات ازياء
- الأكثر من ذلك
- الشبكات
- الشبكات العصبية
- جديد
- عدد
- أرقام
- ONE
- OpenAI
- المنظمات
- أخرى
- حدود
- التوعية
- في الخارج
- أزواج
- الآباء
- جزء
- ينفذ
- قطعة
- أفلاطون
- الذكاء افلاطون البيانات
- أفلاطون داتا
- من فضلك
- البوينت
- سياسة
- وضع
- إيجابي
- تنبأ
- قابل للتنبؤ
- تنبؤ
- ابتدائي
- رئيسي
- البرامج
- تزود
- مقدمي
- علانية
- معدل
- الأخيرة
- الاعتراف
- نوصي
- صدر
- الموثوقية
- الخدمة الموثوقة
- الباحثين
- مورد
- الموارد
- استجابة
- تشغيل
- بسلام
- نفسه
- رؤية
- الخدمة
- مقدمي الخدمة
- طقم
- مشاركة
- قصير
- ينبغي
- بشكل ملحوظ
- بعض
- مصدر
- مصادر
- عدد الطلبة
- المقدمة
- ناجح
- هذه
- أنظمة
- المعلمون
- •
- المصدر
- من مشاركة
- عتبة
- إلى
- أدوات
- موضوع
- متدرب
- قادة الإيمان
- صحيح
- عادة
- تحديث
- آخر التحديثات
- us
- تستخدم
- تشكيلة
- الويب
- ترحيب
- ابحث عن
- سواء
- التي
- في حين
- سوف
- كلمات
- للعمل
- مكتوب
- خاطئ
- نفسك
- زفيرنت