אוניברסיטאות הציעו תוכנה לרחרח חיבורים שנכתבו ב-ChatGPT

מאפיין Turnitin, הידועה בעיקר בזכות תוכנת האנטי-פלאגיאט שלה המשמשת עשרות אלפי אוניברסיטאות ובתי ספר ברחבי העולם, בונה כלי לזיהוי טקסט שנוצר על ידי AI.

דגמי שפה גדולים צברו אחיזה מאז השחרור המסחרי של ה-GPT-3 של OpenAI ב-2020. עכשיו מספר חברות בנו מערכות למידת מכונה מתחרות משלהם, והניעו גל חדש של סטארטאפים המפתחים מוצרים המונעים על ידי AI גנרטיבי. מודלים אלה פועלים כמו צ'אט בוטים לשימוש כללי. המשתמשים מקלידים הוראות, והם יגיבו בקטעים של טקסט קוהרנטי ומשכנע.

תלמידים פונים יותר ויותר לכלי בינה מלאכותית כדי להשלים מטלות, בעוד שהמורים רק מתחילים לשקול את השפעתם ותפקידם בחינוך. הדעות חלוקות. יש המאמינים שהטכנולוגיה יכולה לחדד את כישורי הכתיבה, בעוד שאחרים רואים בכך רמאות. בתי ספר בקליפורניה, ניו יורק, וירג'יניה ואלבמה חסמו מתלמידים את הגישה למודל ChatGPT העדכני ביותר ברשתות ציבוריות, פי לפורבס.

מחלקות החינוך לא ממש בטוחות איזו מדיניות אקדמית יש להציג כדי להסדיר את השימוש במחוללי טקסט בינה מלאכותית. חוץ מזה, יהיה קשה לאכוף את כל הכללים בכל מקרה בהתחשב בכך שאין כרגע דרך יעילה לזהות עבודה שנכתבה במכונה. היכנסו לטורניטין. החברה האמריקאית, שנוסדה ב-1998, מוכרת תוכנה שמחשבת עד כמה חיבור מסוים דומה לתוכן ממסד נתונים גדול של מאמרים, דפי אינטרנט וספרים כדי לחפש סימנים של גניבת דעת.

Turnitin נרכשה על ידי ענקית המדיה Advanced Publications תמורת 1.75 מיליארד דולר ב-2019, והתוכנה שלה כבר מְשׁוּמָשׁ על ידי 15,000 מוסדות ב-140 מדינות. עם למעלה משני עשורים של ניסיון, ל-Turnitin יש טווח רחב בחינוך וצברה מאגר עצום של כתיבה של תלמידים, מה שהופך אותה לחברה האידיאלית לפיתוח גלאי טקסט בינה מלאכותית אקדמית.

טורניטין בונה את התוכנה בשקט במשך שנים מאז יציאתו של GPT-3, אמרה אנני צ'צ'יטלי, מנהלת המוצר הראשית. הקופה. החיפזון לתת למחנכים את היכולת לזהות טקסט שנכתב על ידי בני אדם ומחשבים הפך חזק יותר עם השקת היורש החזק יותר שלה, ChatGPT. ככל שה-AI ממשיכה להתקדם, אוניברסיטאות ובתי ספר צריכים להיות מסוגלים להגן על היושרה האקדמית כעת יותר מתמיד.

"המהירות חשובה. אנחנו שומעים ממורים פשוט נותנים לנו משהו", אמר צ'צ'יטלי. Turnitin מקווה להשיק את התוכנה שלה במחצית הראשונה של השנה. "זה יהיה זיהוי די בסיסי בהתחלה, ואז נזרוק מהדורות מהירות עוקבות שייצרו זרימת עבודה שתהיה יותר מתאימה למורים." התוכנית היא להפוך את אב הטיפוס בחינם ללקוחותיה הקיימים כשהחברה אוספת נתונים ומשוב משתמשים.

"בהתחלה, אנחנו באמת רק רוצים לעזור לתעשייה ולעזור למחנכים לקבל את הרגליים מתחתיהם ולהרגיש בטוחים יותר. וכדי להשיג שימוש רב ככל שנוכל בשלב מוקדם; זה חשוב כדי ליצור כלי מוצלח. בהמשך, אנחנו נקבע איך אנחנו הולכים לייצר את זה", אמרה.

דפוסים בכתיבת AI

למרות שטקסט שנוצר על ידי AI משכנע, ישנם סימנים מעידים שחושפים את עבודת היד של אלגוריתם. הכתיבה בדרך כלל תפלה ולא מקורית; כלים כמו ChatGPT מחזירים רעיונות ונקודות מבט קיימים ואין להם קול מובחן. בני אדם יכולים לפעמים לזהות טקסט שנוצר בינה מלאכותית, אבל מכונות טובות בהרבה בעבודה.

סמנכ"ל הבינה המלאכותית של Turnitin, אריק וואנג, אמר שיש דפוסים ברורים בכתיבת בינה מלאכותית שמחשבים יכולים לזהות. "למרות שזה מרגיש לנו כמו אנושי, [מכונות כותבות באמצעות] מנגנון שונה מהותית. זה לבחור את המילה הסבירה ביותר במיקום הסביר ביותר, וזו דרך שונה מאוד לבנות שפה [בהשוואה] לך ולי", אמר. הקופה.

"אנחנו קוראים על ידי קפיצה קדימה ואחורה בעיניים מבלי לדעת זאת, או ריפרוף קדימה ואחורה בין מילים, בין פסקאות, ולפעמים בין עמודים. נדפדף קדימה ואחורה. אנחנו גם נוטים לכתוב עם מצב נפשי עתידי. יכול להיות שאני כותב, ואני חושב על משהו, פסקה, משפט, פרק; סוף החיבור מקושר במוחי למשפט שאני כותב למרות שהמשפטים מעכשיו ועד אז טרם נכתבו".

ל-ChatGPT, לעומת זאת, אין גמישות מסוג זה והוא יכול ליצור מילים חדשות רק על סמך משפטים קודמים, הוא הסביר. הגלאי של Turnitin פועל על ידי חיזוי אילו מילים AI צפוי ליצור בקטע טקסט נתון. "זה מאוד תפל מבחינה סטטיסטית. בני אדם אינם נוטים להשתמש באופן עקבי במילה בסבירות גבוהה במקומות בעלי סבירות גבוהה, אבל GPT-3 עושה זאת, כך שהגלאי שלנו באמת מצביע על כך", אמר.

וואנג אמר שהגלאי של Turnitin מבוסס על אותה ארכיטקטורה כמו GPT-3 ותיאר אותו כגרסה מיניאטורית של הדגם. "במובנים רבים אנו [אומרים] נלחמים באש באש. יש רכיב גלאי מחובר אליו במקום רכיב יצירת. אז מה שהוא עושה זה שהוא קורא את השפה בדיוק באותו האופן שבו GPT-3 קורא שפה, אבל במקום לירוק עוד שפה, זה נותן לנו תחזית אם אנחנו חושבים שהקטע הזה נראה כמו [הוא מ] GPT-3."

החברה עדיין מחליטה כיצד להציג בצורה הטובה ביותר את תוצאות הגלאי שלה למורים המשתמשים בכלי. "זה אתגר קשה. איך אומרים למדריך בשטח קטן מה הוא רוצה לראות?" אמר צ'צ'יטלי. אולי הם ירצו לראות אחוז שמראה כמה מהמאמר נראה כאילו נכתב בינה מלאכותית, או שהם עשויים לרצות רמות ביטחון שמראות אם בטחון החיזוי של הגלאי נמוך, בינוני או גבוה כדי להעריך את הדיוק.

התוכנה לא תוכננה במטרה לחסום את ChatGPT באקדמיה. למרות שזה יכול להרתיע תלמידים משימוש בכלים מסוג זה, Turnitin מאמין שהגלאי שלו במקום זאת יאפשר למורים ולתלמידים לסמוך זה על זה ובטכנולוגיה. 

"אני חושב שיש שינוי משמעותי באופן שבו אנחנו יוצרים תוכן ובדרך שבה אנחנו עובדים", אמר וואנג. "אין ספק שזה מגיע לדרך שבה אנחנו לומדים. אנחנו צריכים לחשוב לטווח ארוך על איך אנחנו מלמדים. איך לומדים בעולם שבו הטכנולוגיה הזו קיימת? אני חושב שאין להחזיר את השד לבקבוק. כל כלי שנותן נראות לשימוש בטכנולוגיות הללו יהיה בעל ערך כי אלו הם אבני היסוד של אמון ושקיפות." ®

• הפצת תוכן ויחסי ציבור מופעל על ידי SEO. קבל הגברה היום.
• Platoblockchain. Web3 Metaverse Intelligence. ידע מוגבר. גישה כאן.
• מקור: https://go.theregister.com/feed/www.theregister.com/2023/01/23/turnitin_chatgpt_detector/