Університети запропонували програмне забезпечення для розпізнавання есе, написаних за допомогою ChatGPT

особливість Turnitin, найбільш відомий своїм програмним забезпеченням для боротьби з плагіатом, яке використовують десятки тисяч університетів і шкіл по всьому світу, створює інструмент для виявлення тексту, створеного ШІ.

Великі мовні моделі набули популярності після комерційного випуску OpenAI GPT-3 у 2020 році. Зараз кілька компаній створили власні конкуруючі системи машинного навчання, започаткувавши нову хвилю стартапів, що розробляють продукти на основі генеративного ШІ. Ці моделі працюють як чат-боти загального призначення. Користувачі вводять інструкції, і вони відповідатимуть уривками зв’язного, переконливого тексту.

Студенти все частіше звертаються до інструментів штучного інтелекту для виконання завдань, а вчителі лише починають розглядати їхній вплив і роль в освіті. Думки розділилися. Деякі вважають, що ця технологія може відточити навички письма, а інші вважають це обманом. Школи в Каліфорнії, Нью-Йорку, Вірджинії та Алабамі заблокували учням доступ до останньої моделі ChatGPT у загальнодоступних мережах, відповідно до Forbes.

Департаменти освіти не зовсім впевнені, яку академічну політику слід запровадити, щоб регулювати використання текстових генераторів ШІ. Крім того, у будь-якому випадку було б важко забезпечити дотримання всіх правил, враховуючи, що зараз немає ефективного способу виявити машинно написану роботу. Введіть Turnitin. Заснована в 1998 році американська компанія продає програмне забезпечення, яке обчислює, наскільки схоже конкретне есе порівняно з вмістом великої бази даних статей, веб-сторінок і книг, щоб шукати ознаки плагіату.

Turnitin був придбаний медіа-гігантом Advanced Publications за 1.75 мільярда доларів у 2019 році, а його програмне забезпечення було використовуваний 15,000 140 установ у XNUMX країнах. Маючи понад два десятиліття досвіду, Turnitin має широкий охоплення в освіті та накопичив величезне сховище студентських робіт, що робить її ідеальною компанією для розробки академічного детектора тексту ШІ.

Turnitin тихо створював програмне забезпечення протягом багатьох років з моменту випуску GPT-3, сказала Енні Чечітеллі, директор із продуктів. Реєстр. Прагнення дати вчителям можливість розпізнавати текст, написаний людьми та комп’ютерами, стало більш інтенсивним із запуском його потужнішого наступника ChatGPT. Оскільки штучний інтелект продовжує розвиватися, університетам і школам, як ніколи, потрібно мати можливість захищати академічну доброчесність.

«Швидкість має значення. Ми чуємо від учителів, просто дайте нам щось», — сказав Чечітеллі. Turnitin сподівається запустити своє програмне забезпечення в першій половині цього року. «Спочатку це буде досить базове виявлення, а потім ми випустимо наступні швидкі випуски, які створять робочий процес, який стане більш зручним для вчителів». Планується зробити прототип безкоштовним для існуючих клієнтів, оскільки компанія збиратиме дані та відгуки користувачів.

«Спочатку ми справді просто хочемо допомогти індустрії та допомогти викладачам стати на ноги та почуватися впевненіше. І отримати якнайбільше використання на ранній стадії; це важливо для створення успішного інструменту. Пізніше ми визначимо, як ми будемо це виробляти», – сказала вона.

Шаблони в письмі ШІ

Хоча текст, створений штучним інтелектом, є переконливим, є ознаки, які вказують на роботу алгоритму. Письмо зазвичай м’яке й неоригінальне; такі інструменти, як ChatGPT, викидають існуючі ідеї та точки зору та не мають чіткого голосу. Люди іноді можуть помітити текст, згенерований ШІ, але машини набагато краще справляються з цим.

Віце-президент Turnitin з питань штучного інтелекту, Ерік Ванг, сказав, що є очевидні закономірності в написанні ШІ, які комп’ютери можуть виявити. «Хоча нам це здається людським, [машини пишуть за допомогою] принципово іншого механізму. Це вибір найбільш ймовірного слова в найбільш ймовірному місці, і це зовсім інший спосіб побудови мови [порівняно] з вами і мною», — сказав він Реєстр.

«Ми читаємо, стрибаючи очима вперед-назад, навіть не підозрюючи про це, або ковзаючи вперед-назад між словами, між абзацами, а іноді й між сторінками. Ми будемо гортатися туди-сюди. Ми також схильні писати з настроєм на майбутнє. Можливо, я пишу й думаю про щось, абзац, речення, розділ; кінець есе пов’язаний у моїй свідомості з реченням, яке я пишу, хоча речення між тим і тим ще мають бути написані».

ChatGPT, однак, не має такої гнучкості і може генерувати нові слова лише на основі попередніх речень, пояснив він. Детектор Turnitin працює, передбачаючи, які слова штучний інтелект, швидше за все, згенерує у певному фрагменті тексту. «Статистично це дуже м’яко. Люди не схильні постійно використовувати слова з високою ймовірністю в місцях з високою ймовірністю, але GPT-3 робить, тому наш детектор справді враховує це», – сказав він.

Ван сказав, що детектор Turnitin базується на тій же архітектурі, що й GPT-3, і описав його як мініатюрну версію моделі. «Ми багатьма способами, я б [сказав], боремося з вогнем вогнем. Замість генеруючого компонента до нього під’єднано компонент детектора. Отже, він читає мову точно так само, як GPT-3, але замість того, щоб викидати більше мови, він дає нам прогноз щодо того, чи ми думаємо, що цей уривок схожий на [це з] GPT-3».

Компанія все ще вирішує, як найкраще представити результати свого детектора вчителям за допомогою інструменту. «Це складний виклик. Як сказати викладачеві в невеликому просторі, що він хоче побачити?» – сказав Чечітеллі. Вони можуть захотіти побачити відсоток, який показує, наскільки есе, здається, написане штучним інтелектом, або їм можуть знадобитися рівні достовірності, які показують, чи є достовірність прогнозу детектора низькою, середньою чи високою, щоб оцінити точність.

Програмне забезпечення розроблено не з метою заборони ChatGPT в академічних колах. Незважаючи на те, що це може стримувати студентів від використання таких інструментів, Turnitin вважає, що його детектор натомість дозволить викладачам і студентам довіряти один одному та технології. 

«Я вважаю, що відбулися серйозні зміни в тому, як ми створюємо контент і як ми працюємо», — сказав Ван. «Звичайно, це стосується того, як ми навчаємося. Нам потрібно довго думати про те, як ми навчаємо. Як ми навчаємось у світі, де існує ця технологія? Я думаю, що джина не повернути назад у пляшку. Будь-який інструмент, який надає видимість використання цих технологій, буде цінним, оскільки вони є основоположними будівельними блоками довіри та прозорості». ®

• Розповсюдження контенту та PR на основі SEO. Отримайте посилення сьогодні.
• Платоблокчейн. Web3 Metaverse Intelligence. Розширені знання. Доступ тут.
• джерело: https://go.theregister.com/feed/www.theregister.com/2023/01/23/turnitin_chatgpt_detector/