ما در حال راهاندازی طبقهبندیکنندهای هستیم که برای تمایز بین متن نوشته شده با هوش مصنوعی و متن نوشته شده توسط انسان آموزش دیده است.
ما یک طبقهبندی برای تمایز بین متن نوشته شده توسط انسان و متن نوشته شده توسط هوش مصنوعی از ارائهدهندگان مختلف آموزش دادهایم. در حالی که تشخیص قابل اعتماد تمام متن های نوشته شده با هوش مصنوعی غیرممکن است، ما معتقدیم که طبقه بندی کننده های خوب می توانند به کاهش ادعاهای نادرست مبنی بر اینکه متن تولید شده توسط هوش مصنوعی توسط یک انسان نوشته شده است، اطلاع رسانی کنند: به عنوان مثال، در حال اجرا کمپین های خودکار اطلاعات غلط، استفاده از ابزارهای هوش مصنوعی برای عدم صداقت دانشگاهی و قرار دادن یک ربات چت هوش مصنوعی به عنوان یک انسان.
طبقه بندی کننده ما کاملا قابل اعتماد نیست. در ارزیابیهای ما روی «مجموعهای چالشی» از متون انگلیسی، طبقهبندیکننده ما به درستی 26 درصد از متنهای نوشتهشده با هوش مصنوعی (موارد مثبت واقعی) را بهعنوان «احتمالاً نوشتهشده با هوش مصنوعی» شناسایی میکند، در حالی که به اشتباه متن نوشتهشده توسط انسان را بهعنوان نوشتهشده با هوش مصنوعی برچسبگذاری میکند. زمان (مثبت کاذب). قابلیت اطمینان طبقهبندیکننده ما معمولاً با افزایش طول متن ورودی بهبود مییابد. در مقایسه با ما طبقه بندی کننده قبلا منتشر شده استاین طبقهبندیکننده جدید به طور قابلتوجهی روی متنهای سیستمهای هوش مصنوعی جدیدتر قابل اعتمادتر است.
ما این طبقهبندیکننده را برای دریافت بازخورد در مورد مفید بودن ابزارهای ناقصی مانند این به صورت عمومی در دسترس قرار میدهیم. کار ما بر روی تشخیص متن تولید شده با هوش مصنوعی ادامه خواهد داشت و امیدواریم در آینده روش های بهبود یافته را به اشتراک بگذاریم.
خودتان طبقهبندیکننده رایگان کار در حال انجام ما را امتحان کنید:
محدودیت ها
طبقه بندی کننده ما تعدادی محدودیت مهم دارد. نباید به عنوان ابزار تصمیم گیری اولیه استفاده شود، اما در عوض به عنوان مکملی برای روش های دیگر برای تعیین منبع یک قطعه متن.
- طبقه بندی کننده در متون کوتاه (زیر 1,000 کاراکتر) بسیار غیر قابل اعتماد است. حتی متون طولانی تر گاهی اوقات توسط طبقه بندی کننده به اشتباه برچسب گذاری می شوند.
- گاهی اوقات متن نوشته شده توسط انسان توسط طبقه بندی کننده ما به اشتباه اما با اطمینان به عنوان AI نوشته می شود.
- توصیه می کنیم از طبقه بندی کننده فقط برای متن انگلیسی استفاده کنید. در زبان های دیگر به طور قابل توجهی بدتر عمل می کند و در کد قابل اعتماد نیست.
- متنی که بسیار قابل پیش بینی است را نمی توان به طور قابل اعتماد شناسایی کرد. به عنوان مثال، نمی توان پیش بینی کرد که آیا لیستی از 1,000 عدد اول اول توسط هوش مصنوعی نوشته شده است یا انسان، زیرا پاسخ صحیح همیشه یکسان است.
- متن نوشته شده با هوش مصنوعی را می توان برای فرار از طبقه بندی کننده ویرایش کرد. طبقهبندیکنندههایی مانند ما را میتوان بر اساس حملات موفقیتآمیز بهروزرسانی و آموزش داد، اما مشخص نیست که آیا تشخیص در درازمدت مزیتی دارد یا خیر.
- طبقهبندیکنندههای مبتنی بر شبکههای عصبی، خارج از دادههای آموزشی خود کالیبرهشده ضعیفی دارند. برای ورودی هایی که بسیار متفاوت از متن در مجموعه آموزشی ما هستند، طبقه بندی کننده گاهی اوقات به یک پیش بینی اشتباه بسیار مطمئن است.
آموزش طبقه بندی کننده
طبقهبندیکننده ما یک مدل زبان است که بر روی مجموعه دادهای از جفت متن نوشته شده توسط انسان و متن نوشته شده با هوش مصنوعی در یک موضوع تنظیم شده است. ما این مجموعه داده را از منابع مختلفی که معتقدیم توسط انسان نوشته شده است، جمع آوری کردیم، مانند داده های قبل از آموزش و نمایش های انسانی در درخواست های ارسال شده به InstructGPT. ما هر متن را به یک اعلان و یک پاسخ تقسیم کردیم. در این درخواستها، ما پاسخهایی را از مدلهای مختلف زبانی که توسط ما و سایر سازمانها آموزش داده شده بود، تولید کردیم. برای برنامه وب خود، آستانه اطمینان را تنظیم می کنیم تا نرخ مثبت کاذب را پایین نگه داریم. به عبارت دیگر، تنها زمانی متن را بهعنوان محتمل AI نوشته شده علامتگذاری میکنیم که طبقهبندی کننده بسیار مطمئن باشد.
تأثیر بر مربیان و درخواست برای ورودی
ما می دانیم که شناسایی متن نوشته شده با هوش مصنوعی موضوع مهمی برای بحث در بین مربیان بوده است، و به همان اندازه مهم تشخیص محدودیت ها و تأثیرات طبقه بندی کننده های متن تولید شده با هوش مصنوعی در کلاس درس است. ما a را توسعه داده ایم منبع اولیه در مورد استفاده از ChatGPT برای مربیان، که برخی از کاربردها و محدودیتها و ملاحظات مرتبط را بیان میکند. در حالی که این منبع بر مربیان متمرکز است، ما انتظار داریم طبقهبندیکننده و ابزارهای طبقهبندی مرتبط با آن بر روزنامهنگاران، محققان اطلاعات نادرست/نادرست و سایر گروهها تأثیر بگذارد.
ما در حال تعامل با مربیان در ایالات متحده هستیم تا آنچه را که در کلاسهای درس خود میبینند بیاموزیم و در مورد تواناییها و محدودیتهای ChatGPT بحث کنیم، و همچنان که یاد میگیریم به گسترش دامنه خود ادامه میدهیم. اینها مکالمات مهمی هستند که باید به عنوان بخشی از ماموریت ما این است که مدل های زبان بزرگ را به صورت ایمن و در تماس مستقیم با جوامع آسیب دیده به کار ببریم.
اگر مستقیماً تحت تأثیر این مسائل هستید (از جمله معلمان، مدیران، والدین، دانشآموزان و ارائهدهندگان خدمات آموزشی، اما نه محدود به آن)، لطفاً با استفاده از بازخورد به ما بازخورد بدهید. این فرم. بازخورد مستقیم در مورد منبع اولیه مفید است، و ما همچنین از هر منبعی که مربیان توسعه می دهند یا مفید یافته اند استقبال می کنیم (به عنوان مثال، دستورالعمل های دوره، کد افتخار و به روز رسانی خط مشی، ابزارهای تعاملی، برنامه های سواد AI).
- محتوای مبتنی بر SEO و توزیع روابط عمومی. امروز تقویت شوید.
- پلاتوبلاک چین. Web3 Metaverse Intelligence. دانش تقویت شده دسترسی به اینجا.
- منبع: https://openai.com/blog/new-ai-classifier-for-indicating-ai-written-text/
- 000
- 1
- ٪۱۰۰
- 7
- a
- دانشگاهی
- مدیران
- مزیت - فایده - سود - منفعت
- AI
- AI chatbot
- معرفی
- همیشه
- در میان
- و
- پاسخ
- نرم افزار
- مرتبط است
- حمله
- در دسترس
- مستقر
- زیرا
- باور
- در زیر
- میان
- گسترده تر
- صدا
- نمی توان
- قابلیت های
- کاراکتر
- chatbot
- GPT چت
- ادعای
- رمز
- جوامع
- مقایسه
- متمم
- اعتماد به نفس
- مطمئن
- با اطمینان
- ملاحظات
- تماس
- ادامه دادن
- گفتگو
- دوره
- داده ها
- تصمیم گیری
- گسترش
- کشف
- تعیین
- توسعه
- در حال توسعه
- مختلف
- مستقیم
- مستقیما
- بحث و تبادل نظر
- گفتگو
- تمیز دادن
- تقسیم شده
- هر
- آموزش
- مربیان
- جذاب
- انگلیسی
- به همان اندازه
- ارزیابی
- حتی
- مثال
- انتظار
- خیلی
- باز خورد
- نام خانوادگی
- متمرکز شده است
- یافت
- رایگان
- از جانب
- کاملا
- آینده
- تولید
- دریافت کنید
- خوب
- گوگل
- گروه ها
- دستورالعمل ها
- مفید
- امید
- HTTPS
- انسان
- انسان
- شناسایی
- شناسایی می کند
- شناسایی
- تأثیر
- نهفته
- اثرات
- مهم
- غیر ممکن
- بهبود یافته
- in
- در دیگر
- از جمله
- نادرست
- افزایش
- ورودی
- در عوض
- تعاملی
- مسائل
- IT
- روزنامه نگاران
- نگاه داشتن
- شناخته شده
- برچسب
- زبان
- زبان ها
- بزرگ
- راه اندازی
- یاد گرفتن
- طول
- احتمالا
- محدودیت
- محدود شده
- محدودیت
- فهرست
- سواد
- دراز مدت
- دیگر
- کم
- ساخت
- علامت
- روش
- اطلاعات غلط
- ماموریت
- مدل
- مدل
- بیش
- شبکه
- شبکه های عصبی
- جدید
- عدد
- تعداد
- ONE
- OpenAI
- سازمان های
- دیگر
- نمای کلی
- توسعه
- خارج از
- جفت
- پدر و مادر
- بخش
- انجام می دهد
- قطعه
- افلاطون
- هوش داده افلاطون
- PlatoData
- لطفا
- نقطه
- سیاست
- تثبیت موقعیت
- مثبت
- پیش بینی
- قابل پیش بینی
- پیش گویی
- اصلی
- نخستین
- برنامه ها
- ارائه
- ارائه دهندگان
- عمومی
- نرخ
- اخیر
- شناختن
- توصیه
- منتشر شد
- قابلیت اطمینان
- قابل اعتماد
- محققان
- منابع
- منابع
- پاسخ
- در حال اجرا
- با خیال راحت
- همان
- مشاهده
- سرویس
- ارائه دهندگان خدمات
- تنظیم
- اشتراک گذاری
- کوتاه
- باید
- به طور قابل توجهی
- برخی از
- منبع
- منابع
- دانشجویان
- ارسال
- موفق
- چنین
- سیستم های
- معلمان
- La
- منبع
- شان
- آستانه
- به
- ابزار
- موضوع
- آموزش دیده
- آموزش
- درست
- به طور معمول
- به روز شده
- به روز رسانی
- us
- استفاده کنید
- تنوع
- وب
- خوش آمد
- چی
- چه
- که
- در حین
- اراده
- کلمات
- مهاجرت کاری
- کتبی
- اشتباه
- خودت
- زفیرنت