Некоторые университеты отказываются от использования программного обеспечения Turnitin, предназначенного для определения того, был ли текст в эссе и заданиях, сданных студентами, написан искусственным интеллектом.
Turnitin, для тех, кто не знает, предлагает учителям инструменты для выявления плагиата в школьных работах, а в апреле добавила возможность проверять машинописную прозу. Если оставить этот параметр включенным, он автоматически сканирует документы и обрабатывает текст на фрагменты, анализируя каждое предложение и присваивая оценку 0, если кажется, что оно было составлено людьми, и 1, если кажется, что оно было автоматически сгенерировано с помощью ИИ. Для файла рассчитывается средний балл, чтобы предсказать, какой объем текста будет написан искусственным интеллектом.
Возникает более серьезный вопрос: как Turnitin обнаруживает запись ИИ и возможно ли это вообще?
Однако различные американские университеты, в том числе Университет Вандербильта, Университет штата Мичиган, Северо-Западный университет и Техасский университет в Остине, решили не использовать это программное обеспечение из-за опасений, что оно может привести к ложному обвинению студентов в мошенничестве, поскольку отметил, Блумберг.
Компания Turnitin признала, что ее инструмент обнаружения текста с помощью искусственного интеллекта не идеален, но заявил, что уровень ложноположительных результатов составляет менее одного процента.
В Университете Вандербильта заявили, что даже эта цифра слишком высока и приведет к ошибочной пометке 750 статей в год, учитывая, что в 75,000 году через систему Turnitin было пропущено 2022 XNUMX статей.
«Кроме того, существует более серьезный вопрос: как Turnitin обнаруживает запись ИИ и возможно ли это вообще. На сегодняшний день Turnitin не предоставляет подробной информации о том, как она определяет, создан ли текст с помощью ИИ. Максимум, что они сказали, это то, что инструмент ищет шаблоны, распространенные в написании ИИ, но он не объясняет и не определяет, что это за шаблоны», — консультант учебного заведения по технологиям Майкл Коли. объяснены в прошлом месяце.
«Существуют реальные проблемы конфиденциальности при сборе данных учащихся и вводе их в детектор, которым управляет отдельная компания с неизвестной политикой конфиденциальности и использования данных. По сути, обнаружение ИИ уже является очень сложной задачей для решения технологий (если это вообще возможно), и эта задача будет только усложняться по мере того, как инструменты ИИ станут более распространенными и совершенными. Исходя из этого, мы не считаем, что программное обеспечение для обнаружения ИИ является эффективным инструментом, который следует использовать».
рассказала Энни Чечителли, директор по продукту Turnitin. Регистр что инструмент маркировки AI не должен использоваться для автоматического наказания студентов и что 98 процентов его клиентов используют эту функцию. Тем не менее, он включается автоматически, и учителя, которые не хотят видеть его результаты, должны явно отказаться. Они также могут оставить эту функцию включенной и игнорировать ее.
«В Turnitin мы руководствуемся и всегда считали, что ничто не заменит знание студента, его стиля письма и его образования», — сказал нам Чечителли.
«Технология Turnitin не призвана заменить профессиональную свободу действий преподавателей. Отчеты, указывающие на наличие ИИ-письма, такие как функция обнаружения ИИ-письма Turnitin, просто предоставляют данные и ресурсы для поддержки беседы с учащимися, а не определения неправомерного поведения.
«Это одна часть более широкой головоломки, которая включает в себя множество компонентов».
Отчеты, указывающие на наличие написания ИИ, просто предоставляют данные для поддержки разговора со студентами.
Даже если такое программное обеспечение, как детектор искусственного интеллекта Turnitin, не предназначено для автоматического наказания учащихся, результаты все равно сильно влияют на учителей.
Например, преподаватель Техасского университета A&M-Commerce поднял брови, когда использовал ChatGPT в попытке обнаруживать независимо от того, были ли бумаги, которые он отмечал, написаны с помощью ОД или нет. Оценки учащихся были приостановлены, некоторых из них освободили от списывания, а некоторые повторно сдали свои работы.
Выяснить, был ли текст создан человеком или машиной, сложно. ОпенАИ снял свой классификатор вывода ИИ через шесть месяцев после его выпуска из-за его низкой точности и заявил, что пытается придумать новые методы обнаружения контента, сгенерированного ИИ.
Еще больше усложняет ситуацию то, что программное обеспечение для обнаружения ИИ может легко выйти из строя при анализе текста, написанного людьми, а затем отредактированного с помощью ИИ, и наоборот. Предыдущий Исследование Ученые-компьютерщики из Университета Мэриленда обнаружили, что шансы лучших классификаторов обнаружить текст ИИ не выше, чем при подбрасывании монеты. ®
- SEO-контент и PR-распределение. Получите усиление сегодня.
- PlatoData.Network Вертикальный генеративный ИИ. Расширьте возможности себя. Доступ здесь.
- ПлатонАйСтрим. Интеллект Web3. Расширение знаний. Доступ здесь.
- ПлатонЭСГ. Углерод, чистые технологии, Энергия, Окружающая среда, Солнечная, Управление отходами. Доступ здесь.
- ПлатонЗдоровье. Биотехнологии и клинические исследования. Доступ здесь.
- Источник: https://go.theregister.com/feed/www.theregister.com/2023/09/23/turnitin_ai_detection/
- :имеет
- :является
- :нет
- $UP
- 000
- 1
- 2022
- 7
- 75
- 98
- a
- способность
- О нас
- точность
- обвиняют
- добавленный
- Дополнительно
- признал
- продвинутый
- После
- AI
- уже
- причислены
- всегда
- американские
- an
- анализ
- и
- появляется
- апрель
- МЫ
- AS
- At
- Остин
- автоматически
- в среднем
- фон
- основанный
- BE
- становиться
- было
- не являетесь
- верить
- ЛУЧШЕЕ
- Лучшая
- Bloomberg
- шире
- но
- by
- рассчитанный
- CAN
- шансы
- ChatGPT
- мошенничество
- проверка
- главный
- директор по продукту
- заявил
- CO
- Монета
- как
- Общий
- Компания
- компоненты
- состоящие
- компьютер
- Обеспокоенность
- принимая во внимание
- консультант
- содержание
- Разговор
- может
- создали
- Клиенты
- данным
- точки данных
- Время
- решенный
- определять
- предназначенный
- подробный
- обнаруживать
- обнаружение
- определяет
- трудный
- усмотрение
- do
- Документация
- Дон
- два
- каждый
- легко
- образовательных
- педагогов
- Эффективный
- включен
- входящий
- Даже
- пример
- Объяснять
- ложный
- страх
- Особенность
- фигура
- Файл
- Что касается
- найденный
- принципиально
- далее
- генерируется
- дает
- значительно
- руководство
- Сильнее
- Есть
- he
- High
- держать
- Как
- Однако
- HTTPS
- человек
- Людей
- идентифицирующий
- if
- in
- включает в себя
- В том числе
- повлиять
- информация
- учреждение
- учебный
- в
- мобильной
- IT
- ЕГО
- JPG
- Знать
- знание
- больше
- Фамилия
- вести
- Оставлять
- привело
- оставил
- Меньше
- такое как
- ВЗГЛЯДЫ
- машина
- управляемого
- многих
- маркировка
- Мэриленд
- Вопросы
- означает,
- методы
- Майкл
- Мичиган
- Месяц
- месяцев
- БОЛЕЕ
- самых
- много
- Новые
- нет
- of
- от
- Предложения
- сотрудник
- on
- ONE
- только
- OpenAI
- or
- наши
- внешний
- за
- бумага
- паттеранами
- Люди
- процент
- ИДЕАЛЬНОЕ
- кусок
- Платон
- Платон Интеллектуальные данные
- ПлатонДанные
- пунктов
- сборах
- состояния потока
- положительный
- возможное
- предсказывать
- присутствие
- предыдущий
- политикой конфиденциальности.
- Процессы
- Продукт
- профессиональный
- обеспечивать
- положил
- головоломка
- вопрос
- поднятый
- Обменный курс
- реальные
- выпустил
- замещать
- Отчеты
- Полезные ресурсы
- результат
- Итоги
- s
- Сказал
- Школа
- Ученые
- Гол
- посмотреть
- кажется
- предложение
- отдельный
- должен
- просто
- ШЕСТЬ
- Шесть месяцев
- Software
- РЕШАТЬ
- некоторые
- Область
- По-прежнему
- "Студент"
- Студенты
- стиль
- представленный
- поддержка
- включается
- система
- с
- Сложность задачи
- учителя
- Технологии
- Техас
- текст
- чем
- который
- Ассоциация
- их
- тогда
- Там.
- они
- этой
- те
- Через
- в
- заявил
- слишком
- инструментом
- инструменты
- Бросать
- пытается
- Оказалось
- Университеты
- Университет
- неизвестный
- us
- Применение
- использование
- используемый
- через
- очень
- вице
- хотеть
- законопроект
- Путь..
- we
- были
- Что
- когда
- будь то
- в то время как
- КТО
- будете
- Работа
- бы
- письмо
- письменный
- год
- зефирнет