Университеты предложили программное обеспечение для обнаружения эссе, написанных в ChatGPT

Особенность Turnitin, наиболее известная своим программным обеспечением для защиты от плагиата, используемым десятками тысяч университетов и школ по всему миру, создает инструмент для обнаружения текста, сгенерированного искусственным интеллектом.

Большие языковые модели получили распространение после коммерческого выпуска OpenAI GPT-3 в 2020 году. несколько компаний создали свои собственные конкурирующие системы машинного обучения, положив начало новой волне стартапов, разрабатывающих продукты на основе генеративного ИИ. Эти модели работают как чат-боты общего назначения. Пользователи вводят инструкции и отвечают связным, убедительным текстом.

Студенты все чаще обращаются к инструментам ИИ для выполнения заданий, в то время как учителя только начинают задумываться об их влиянии и роли в образовании. Мнения разделились. Некоторые считают, что технология может отточить навыки письма, в то время как другие считают это мошенничеством. Школы в Калифорнии, Нью-Йорке, Вирджинии и Алабаме заблокировали ученикам доступ к новейшей модели ChatGPT в общедоступных сетях. согласно в Форбс.

Департаменты образования не совсем уверены, какую академическую политику следует ввести для регулирования использования текстовых генераторов ИИ. Кроме того, в любом случае будет сложно обеспечить соблюдение всех правил, учитывая, что в настоящее время не существует эффективного способа обнаружения машинописной работы. Войдите в Turnitin. Основанная в 1998 году, эта американская компания продает программное обеспечение, которое вычисляет, насколько конкретное эссе похоже на контент из большой базы данных документов, веб-страниц и книг, чтобы найти признаки плагиата.

Turnitin был приобретен медиа-гигантом Advanced Publications за 1.75 миллиарда долларов в 2019 году, и его программное обеспечение было используемый 15,000 140 учреждений в XNUMX странах. Обладая более чем двадцатилетним опытом, Turnitin имеет широкий охват в сфере образования и накопила огромное количество студенческих работ, что делает ее идеальной компанией для разработки академического детектора текста на основе ИИ.

Turnitin незаметно создавала программное обеспечение в течение многих лет с момента выпуска GPT-3, сказала Энни Чечителли, директор по продукту. Регистр. Спешка дать преподавателям возможность идентифицировать текст, написанный людьми и компьютерами, усилилась с запуском более мощного преемника ChatGPT. Поскольку ИИ продолжает развиваться, университетам и школам сейчас как никогда необходимо иметь возможность защищать академическую честность.

«Скорость имеет значение. Мы слышим от учителей, просто дайте нам что-нибудь», — сказал Чечителли. Turnitin надеется выпустить свое программное обеспечение в первой половине этого года. «Сначала это будет довольно простое обнаружение, а затем мы выпустим последующие быстрые выпуски, которые создадут рабочий процесс, более действенный для учителей». План состоит в том, чтобы сделать прототип бесплатным для существующих клиентов, поскольку компания собирает данные и отзывы пользователей.

«Вначале мы действительно просто хотим помочь отрасли и помочь педагогам встать на ноги и почувствовать себя более уверенно. И получить как можно больше использования на раннем этапе; это важно, чтобы сделать успешный инструмент. Позже мы определим, как мы собираемся это реализовать», — сказала она.

Шаблоны в написании ИИ

Хотя текст, сгенерированный ИИ, убедителен, есть явные признаки, указывающие на работу алгоритма. Письмо обычно мягкое и неоригинальное; такие инструменты, как ChatGPT, повторяют существующие идеи и точки зрения и не имеют четкого голоса. Люди иногда могут распознать текст, сгенерированный ИИ, но машины справляются с этой задачей гораздо лучше.

Вице-президент Turnitin по ИИ Эрик Ван сказал, что в написании ИИ есть очевидные закономерности, которые компьютеры могут обнаружить. «Несмотря на то, что нам это кажется человеческим, [машины пишут, используя] принципиально другой механизм. Это выбор наиболее вероятного слова в наиболее вероятном месте, и это совсем другой способ построения языка [по сравнению с вами и мной», — сказал он. Регистр.

«Мы читаем, прыгая туда-сюда глазами, даже не подозревая об этом, или перескакивая туда-сюда между словами, между абзацами, а иногда и между страницами. Будем прыгать туда-сюда. Мы также склонны писать с мыслями о будущем. Я мог бы писать и думать о чем-то, абзаце, предложении, главе; конец эссе в моем сознании связан с предложением, которое я пишу, хотя предложения между этим и тогда еще не написаны».

Однако ChatGPT не обладает такой гибкостью и может генерировать новые слова только на основе предыдущих предложений, пояснил он. Детектор Turnitin работает, предсказывая, какие слова ИИ с большей вероятностью сгенерирует в данном текстовом фрагменте. «Статистически это очень мягко. Люди не склонны постоянно использовать слово с высокой вероятностью в местах с высокой вероятностью, но GPT-3 делает это, поэтому наш детектор действительно намекает на это», — сказал он.

Ван сказал, что детектор Turnitin основан на той же архитектуре, что и GPT-3, и описал его как миниатюрную версию модели. «Мы во многих отношениях, я бы сказал, боремся с огнём огнём. К нему прикреплен компонент детектора вместо компонента генерации. Так что он читает язык точно так же, как GPT-3 читает язык, но вместо того, чтобы выплевывать больше языка, он дает нам прогноз того, думаем ли мы, что этот отрывок похож на [это из] GPT-3».

Компания все еще решает, как лучше представить результаты своего детектора учителям, использующим этот инструмент. «Это сложная задача. Как сказать инструктору в небольшом пространстве, что он хочет увидеть?» — сказал Чечителли. Они могут захотеть увидеть процент, показывающий, какая часть эссе кажется написанной ИИ, или им могут потребоваться уровни достоверности, показывающие, является ли достоверность прогноза детектора низкой, средней или высокой, чтобы оценить точность.

Программное обеспечение не предназначено для запрета ChatGPT в академических кругах. Хотя это может удержать учащихся от использования инструментов такого типа, Turnitin считает, что его детектор вместо этого позволит учителям и ученикам доверять друг другу и технологии. 

«Я думаю, что произошли серьезные изменения в том, как мы создаем контент и как мы работаем», — сказал Ван. «Конечно, это распространяется и на то, как мы учимся. Нам нужно думать о том, как мы учим, в долгосрочной перспективе. Как мы учимся в мире, где существует эта технология? Я думаю, что джина обратно в бутылку не загнать. Любой инструмент, который дает представление об использовании этих технологий, будет ценным, потому что они являются фундаментальными строительными блоками доверия и прозрачности». ®

• SEO-контент и PR-распределение. Получите усиление сегодня.
• Платоблокчейн. Интеллект метавселенной Web3. Расширение знаний. Доступ здесь.
• Источник: https://go.theregister.com/feed/www.theregister.com/2023/01/23/turnitin_chatgpt_detector/