5 подводных камней в обучении на основе ИИ

Сегодня все говорят о моделях ИИ, таких как ChatGPT и DALL-E, но какое место ИИ занимает в образовании? Может ли это помочь студентам или представляет больше рисков, чем пользы? Какой бы впечатляющей ни была эта технология, в обучении на основе ИИ есть несколько серьезных подводных камней, о которых должны знать родители, учителя и ученики.

1. Распространение дезинформации

Одной из самых больших проблем с ИИ сегодня является дезинформация и «галлюцинирующая» информация. Это особенно заметная проблема с чат-ботами, такими как ChatGPT. Эти модели ИИ отлично справляются с обработкой естественного языка, но не всегда предоставляют правильную или реальную информацию. В результате они могут давать ответы, которые кажутся авторитетными, предоставляя ошибочные или полностью выдуманные факты, ссылки или утверждения.

Модели чата с искусственным интеллектом как ChatGPT и Bing AI регулярно дают неправильные ответы. Это явление известно как «галлюцинирующие» ответы. На самом деле ИИ не способен понять факт так, как это сделал бы человек, — у него нет понятия «истина» или «ложь». Его просто обучают давать ответы, имитирующие вопрос, формат или другой контекст.

Это представляет серьезный риск для учащихся, которые могут быть не в состоянии определить, когда ИИ дает неточную информацию. Известно, что ChatGPT даже создает полностью вымышленные «ссылки» на, казалось бы, фактические ответы, делая дезинформацию еще более убедительной. Это может привести к тому, что учащиеся будут основывать целые эссе и исследовательские проекты на ложной информации.

Риск дезинформации относится как к учителям, так и к ученикам. Они не могут доверять инструментам на основе искусственного интеллекта в предоставлении правильной или надежной информации для таких вещей, как выставление оценок или создание учебных пособий. Если учителя не будут осторожны, ИИ может привести к тому, что они выставят ученику неправильную оценку или предоставят неверную информацию.

«Эти модели ИИ отлично справляются с обработкой естественного языка, но не всегда предоставляют правильную или реальную информацию». 

2. Обман и чрезмерная зависимость от ИИ

Теперь, когда ИИ может быстро генерировать убедительные эссе и учебные пособия, мошенничество вызывает серьезную озабоченность. Возможности обработки естественного языка современных чат-ботов с искусственным интеллектом позволяют учащимся легко обманывать, заниматься плагиатом и слишком сильно полагаться на искусственный интеллект. Это не только угрожает целостности образования, но и ставит под угрозу эффективность курсовой работы.

Учащиеся могут утратить важные навыки критического мышления и не усвоить ценные концепции, когда они могут просто ввести свою домашнюю работу в чат-бот. Поскольку ИИ может создавать такой убедительный контент, учителям может быть очень сложно определить, когда ученик использовал ИИ для выполнения домашнего задания или сочинения. Неспособность учиться и выполнять курсовую работу может быть заметно только после того, как учащиеся сдают тесты или экзамены.

3. Принижение роли учителей

Существует популярное мнение о том, что ИИ может заменить людей на бесчисленных профессиях, но преподавание к ним не относится. Учителя играют неоценимую роль в образовании — часть программного обеспечения не может воспроизвести. ИИ может серьезно подорвать роль учителей, подорвав их обучение, авторитет и наставничество.

Фактически, ИИ может даже поставить под угрозу качество образования и ценность индивидуального образовательного опыта, который могут предоставить школы. Например, ни один ИИ не может по-настоящему воспроизвести опыт посещения школы Монтессори, которая фокусируется на обучение мягким навыкам, таким как эмпатия и независимость благодаря индивидуальным методам обучения.

Обучение на основе ИИ может свести образование к простому обмену фактами или предоставлению пользователям данных на основе алгоритма. В действительности, помимо получения знаний, образование связано с личностным ростом, жизненными навыками, социализацией и творчеством. Только учителя могут обеспечить человеческое руководство, в котором нуждаются ученики.

«Обучение на основе ИИ может свести образование к простому обмену фактами или предоставлению пользователям данных на основе алгоритма». 

4. Конфиденциальность данных учащихся

Обучение на основе ИИ также может создавать технические и юридические проблемы, особенно когда речь идет об обработке данных учащихся. Модели ИИ учатся, отслеживая и анализируя все данные, с которыми они сталкиваются. Это может включать такие вещи, как ответы студентов на тесты, вопросы, введенные в чат-бот, и такие характеристики, как возраст, пол, раса или родной язык.

Черный ящик большинства моделей ИИ затрудняет или даже делает невозможным наблюдение за тем, как ИИ использует собранные данные. В результате возникают настоящие этические проблемы с использованием ИИ в образовании. Родители, учителя и ученики могут захотеть, чтобы их данные были защищены от ИИ из соображений конфиденциальности. Это особенно верно для платформ ИИ, которые персонализируют опыт учащихся посредством наблюдения, например, отслеживания их активности или нажатий клавиш.

Даже в тех случаях, когда обучающая платформа на основе ИИ запрашивает согласие пользователей на использование их данных, конфиденциальность все еще находится под угрозой. Как показывают исследования, студенты часто не способны понять согласие на конфиденциальность данных. Кроме того, если школе требуется платформа на основе ИИ, у учащихся и учителей может не быть иного выбора, кроме как дать согласие на раскрытие своей личной информации.

«Модели ИИ учатся, отслеживая и перерабатывая все данные, с которыми они сталкиваются. Это может включать в себя такие вещи, как ответы студентов на тесты, вопросы, введенные в чат-бот, и такие характеристики, как возраст, пол, раса или родной язык». 

5. Неравномерное образование и предвзятость данных

Хотя ИИ может «персонализировать» образование, он также может привести к неравномерному или неравному опыту. Равные образовательные возможности зависят от наличия некоторого стандартного базового уровня содержания, которое изучают все учащиеся. Персонализированное обучение с помощью ИИ может быть слишком непредсказуемым, чтобы обеспечить справедливый опыт для всех учащихся.

Кроме того, предвзятость данных угрожает расовому и гендерному равенству в сфере образования. В течение многих лет были доказательства предвзятости в ИИ. Например, в 2018 году Amazon подверглась критике за использование ИИ для найма, который дискриминировал соискателей. по гендерным показателям например, слово «женский» или название женского колледжа. ИИ не так объективен, как многие могут подумать, — он так же предвзят, как и обучающие данные, на которых он учится.

В результате лежащие в основе социальные предубеждения могут легко просачиваться в модели ИИ, вплоть до языка, который ИИ использует в определенных контекстах. Например, ИИ может использовать только местоимения мужского пола для описания полицейских или государственных чиновников. Точно так же он может воспроизводить расистский или оскорбительный контент, который он узнал из плохо отфильтрованных обучающих данных.

Предвзятость и неравенство не способствуют безопасному, справедливому и поддерживающему обучению. До тех пор, пока ИИ не станет по-настоящему справедливым, он будет представлять угрозу равным возможностям в сфере образования.

Как следует использовать ИИ в образовании? 

Эти пять существенных ловушек обучения на основе ИИ требуют тщательного рассмотрения, поскольку эта технология становится все более распространенной. Как и любая технология, ИИ должен быть инструментом, а не универсальным решением. Учителя могут использовать ИИ для автоматизации задач с низким уровнем риска и повышения качества предоставляемого ими образования, но ИИ не заменит самих учителей.

Педагоги должны предпринять шаги, чтобы помочь учащимся понять использование и риски ИИ, чтобы они также могли сделать разумный выбор в отношении конфиденциальности своих данных. В конечном счете, обучение на основе ИИ лучше всего в умеренных количествах, а не в качестве замены традиционному обучению.

Читайте также Готовы ли инструменты ИИ доверять и использовать в качестве образовательных ресурсов?

• SEO-контент и PR-распределение. Получите усиление сегодня.
• ПлатонАйСтрим. Анализ данных Web3. Расширение знаний. Доступ здесь.
• Чеканка будущего с Эдриенн Эшли. Доступ здесь.
• Покупайте и продавайте акции компаний PREIPO® с помощью PREIPO®. Доступ здесь.
• Источник: https://www.aiiottalk.com/pitfalls-in-ai-based-learning/