אנו משיקים סיווג המאומן להבחין בין טקסט שנכתב על ידי בינה מלאכותית לטקסט שנכתב על ידי אדם.
הכשרנו מסווג להבחין בין טקסט שנכתב על ידי אדם לבין טקסט שנכתב על ידי AIs ממגוון ספקים. למרות שאי אפשר לזהות בצורה מהימנה את כל הטקסט שנכתב בינה מלאכותית, אנו מאמינים שמסווגים טובים יכולים לספק הקלות לטענות שווא שטקסט שנוצר על ידי AI נכתב על ידי אדם: למשל, ריצה מסעות פרסום אוטומטיים של מידע מוטעה, שימוש בכלי בינה מלאכותית לחוסר יושר אקדמי, ומיצוב צ'טבוט של בינה מלאכותית כאדם.
המסווג שלנו אינו אמין לחלוטין. בהערכות שלנו על "סט אתגר" של טקסטים באנגלית, המסווג שלנו מזהה נכון 26% מהטקסט שנכתב בבינה מלאכותית (חיובי אמיתי) כ"סביר שנכתב בבינה מלאכותית", תוך תיוג שגוי של טקסט שנכתב על ידי אדם ככתוב בינה מלאכותית 9% השעה (תוצאות חיוביות כוזבות). המהימנות של המסווג שלנו משתפרת בדרך כלל ככל שאורך טקסט הקלט עולה. לעומת שלנו מסווג שפורסם בעבר, המסווג החדש הזה אמין יותר באופן משמעותי בטקסט ממערכות AI עדכניות יותר.
אנו הופכים את המסווג הזה לזמין לציבור כדי לקבל משוב על האם כלים לא מושלמים כמו זה הם שימושיים. העבודה שלנו על זיהוי טקסט שנוצר בינה מלאכותית תימשך, ואנו מקווים לשתף שיטות משופרות בעתיד.
נסה בעצמך את סיווג העבודה שלנו בחינם:
מגבלות
למסווג שלנו יש מספר מגבלות חשובות. אין להשתמש בו ככלי עיקרי לקבלת החלטות, אך במקום זאת כהשלמה לשיטות אחרות לקביעת המקור של קטע טקסט.
- המסווג מאוד לא אמין בטקסטים קצרים (מתחת ל-1,000 תווים). טקסטים ארוכים אף מסומנים לפעמים בצורה שגויה על ידי המסווג.
- לפעמים טקסט שנכתב על ידי אדם יסומן באופן שגוי אך בביטחון כ-AI שנכתב על ידי המסווג שלנו.
- אנו ממליצים להשתמש במסווג רק עבור טקסט באנגלית. הוא מתפקד בצורה גרועה יותר בשפות אחרות והוא לא אמין בקוד.
- לא ניתן לזהות בצורה מהימנה טקסט שהוא מאוד צפוי. לדוגמה, אי אפשר לחזות אם רשימה של 1,000 המספרים הראשוניים הראשונים נכתבה על ידי AI או בני אדם, כי התשובה הנכונה היא תמיד זהה.
- ניתן לערוך טקסט שנכתב ב-AI כדי להתחמק מהמסווג. ניתן לעדכן ולהכשיר מסווגים כמו שלנו בהתבסס על התקפות מוצלחות, אך לא ברור אם לגילוי יש יתרון בטווח הארוך.
- מסווגים המבוססים על רשתות עצביות ידועים כמכוילים בצורה גרועה מחוץ לנתוני האימון שלהם. עבור קלטות השונות מאוד מטקסט בערכת האימונים שלנו, המסווג לפעמים בטוח מאוד בתחזית שגויה.
הכשרת המסווגן
המסווג שלנו הוא מודל שפה המכוונן היטב על מערך נתונים של זוגות של טקסט שנכתב על ידי אדם וטקסט שנכתב על ידי AI באותו נושא. אספנו מערך נתונים זה ממגוון מקורות שלדעתנו נכתבו על ידי בני אדם, כגון נתוני ההכשרה וההדגמות של בני אדם על הנחיות שנשלחו ל הוראה GPT. חילקנו כל טקסט להנחיה ותגובה. על פי הנחיה אלו יצרנו תגובות ממגוון מודלים שונים של שפה שהוכשרו על ידינו ועל ידי ארגונים אחרים. עבור אפליקציית האינטרנט שלנו, אנו מתאימים את סף הביטחון כדי לשמור על שיעור חיובי השווא נמוך; במילים אחרות, אנו מסמנים טקסט כסביר שנכתב בבינה מלאכותית רק אם המסווג מאוד בטוח.
השפעה על מחנכים וקריאה לקלט
אנו מכירים בכך שזיהוי טקסט שנכתב על ידי בינה מלאכותית היווה נקודת דיון חשובה בין מחנכים, וחשוב לא פחות הוא הכרת הגבולות וההשפעות של מסווגי טקסט שנוצרו בינה מלאכותית בכיתה. פיתחנו א משאב ראשוני על השימוש ב-ChatGPT למחנכים, המתאר חלק מהשימושים והמגבלות והשיקולים הנלווים. בעוד שהמשאב הזה מתמקד במחנכים, אנו מצפים לכלי הסיווג והכלים המשויכים שלנו להשפיע על עיתונאים, חוקרי שגוי/דיס-מידע וקבוצות אחרות.
אנו בקשר עם מחנכים בארה"ב כדי ללמוד מה הם רואים בכיתותיהם ולדון ביכולות ובמגבלות של ChatGPT, ונמשיך להרחיב את היקף ההסברה שלנו ככל שנלמד. אלו שיחות חשובות שיש לקיים כחלק מהמשימה שלנו היא לפרוס מודלים של שפה גדולים בבטחה, במגע ישיר עם קהילות מושפעות.
אם אתה מושפע ישירות מבעיות אלה (כולל אך לא רק מורים, מנהלים, הורים, תלמידים וספקי שירותי חינוך), אנא ספק לנו משוב באמצעות טופס זה. משוב ישיר על משאב ראשוני מועיל, ואנו מברכים גם על כל משאב שמחנכים מפתחים או שמצאו מועילים (למשל, הנחיות קורסים, עדכוני קוד כבוד ועדכוני מדיניות, כלים אינטראקטיביים, תוכניות אוריינות בינה מלאכותית).
- הפצת תוכן ויחסי ציבור מופעל על ידי SEO. קבל הגברה היום.
- Platoblockchain. Web3 Metaverse Intelligence. ידע מוגבר. גישה כאן.
- מקור: https://openai.com/blog/new-ai-classifier-for-indicating-ai-written-text/
- 000
- 1
- 26%
- 7
- a
- אקדמי
- מנהלים
- יתרון
- AI
- צ 'אט AI
- תעשיות
- תמיד
- בין
- ו
- לענות
- האפליקציה
- המשויך
- המתקפות
- זמין
- מבוסס
- כי
- תאמינו
- להלן
- בֵּין
- לְהַרְחִיב
- שיחה
- לא יכול
- יכולות
- תווים
- chatbot
- ChatGPT
- טענות
- קוד
- הקהילות
- לעומת
- השלמה
- אמון
- בטוח
- בביטחון
- שיקולים
- צור קשר
- להמשיך
- שיחות
- קורס
- נתונים
- קבלת החלטות
- לפרוס
- איתור
- קביעה
- מפותח
- מתפתח
- אחר
- ישיר
- ישירות
- לדון
- דיון
- לְהַבחִין
- מחולק
- כל אחד
- חינוך
- מחנכים
- מרתק
- אנגלית
- באותה מידה
- הערכות
- אֲפִילוּ
- דוגמה
- לצפות
- מאוד
- מָשׁוֹב
- ראשון
- מרוכז
- מצא
- חופשי
- החל מ-
- לגמרי
- עתיד
- נוצר
- לקבל
- טוב
- קבוצה
- הנחיות
- מועיל
- לקוות
- HTTPS
- בן אנוש
- בני אדם
- מזוהה
- מזהה
- זיהוי
- פְּגִיעָה
- מושפעים
- השפעות
- חשוב
- בלתי אפשרי
- משופר
- in
- באחר
- כולל
- לא נכון
- עליות
- קלט
- במקום
- אינטראקטיבי
- בעיות
- IT
- עיתונאים
- שמור
- ידוע
- תיוג
- שפה
- שפות
- גָדוֹל
- השקה
- לִלמוֹד
- אורך
- סביר
- מגבלות
- מוגבל
- גבולות
- רשימה
- ידיעת קרוא וכתוב
- לטווח ארוך
- עוד
- נמוך
- עשייה
- סימן
- שיטות
- מידע שגוי
- משימה
- מודל
- מודלים
- יותר
- רשתות
- רשתות עצביות
- חדש
- מספר
- מספרים
- ONE
- OpenAI
- ארגונים
- אחר
- קווי מתאר
- להשיג יותר
- בחוץ
- זוגות
- הורים
- חלק
- מבצע
- לְחַבֵּר
- אפלטון
- מודיעין אפלטון
- אפלטון נתונים
- אנא
- נקודה
- מדיניות
- מיצוב
- חיובי
- לחזות
- צפוי
- נבואה
- יְסוֹדִי
- ראשוני
- תוכניות
- לספק
- ספקים
- בפומבי
- ציון
- לאחרונה
- להכיר
- להמליץ
- שוחרר
- אמינות
- אָמִין
- חוקרים
- משאב
- משאבים
- תגובה
- ריצה
- בבטחה
- אותו
- ראות
- שרות
- ספקי שירות
- סט
- שיתוף
- קצר
- צריך
- באופן משמעותי
- כמה
- מָקוֹר
- מקורות
- סטודנטים
- הוגש
- מוצלח
- כזה
- מערכות
- מורים
- השמיים
- המקור
- שֶׁלָהֶם
- סף
- ל
- כלים
- נושא
- מְאוּמָן
- הדרכה
- נָכוֹן
- בדרך כלל
- מְעוּדכָּן
- עדכונים
- us
- להשתמש
- מגוון
- אינטרנט
- ברוך הבא
- מה
- אם
- אשר
- בזמן
- יצטרך
- מילים
- תיק עבודות
- כתוב
- טעות
- עצמך
- זפירנט