5 підводних каменів у навчанні на основі ШІ

Сьогодні всі говорять про такі моделі ШІ, як ChatGPT і DALL-E, але яке місце ШІ займає в освіті? Чи може це допомогти студентам чи створює більше ризиків, ніж користі? Якою б вражаючою не була ця технологія, є деякі серйозні підводні камені навчання на основі штучного інтелекту, про які повинні знати батьки, вчителі та учні.

1. Поширення дезінформації

Однією з найбільших проблем сучасного штучного інтелекту є дезінформація та «галюцинована» інформація. Це особливо серйозний виклик для таких чат-ботів, як ChatGPT. Ці моделі штучного інтелекту вправно обробляють природну мову, але не завжди надають правильну або реальну інформацію. У результаті вони можуть давати відповіді, які звучать авторитетно, водночас надаючи помилкові або повністю вигадані факти, посилання чи твердження.

Моделі ШІ в чаті наприклад ChatGPT і Bing AI регулярно дають неправильні відповіді. Це явище відоме як «галюцинації» відповідей. Насправді штучний інтелект не здатний зрозуміти факт так, як це зробила б людина — він не має поняття істини чи хибності. Він просто навчений давати відповіді, які імітують запитання, формат чи інший контекст.

Це створює серйозний ризик для студентів, які можуть бути не в змозі визначити, коли ШІ надає неточну інформацію. Насправді ChatGPT навіть відомий тим, що створює цілком вигадані «посилання» для, здавалося б, фактичних відповідей, роблячи дезінформацію ще переконливішою. Це може змусити студентів будувати цілі есе та дослідницькі проекти на неправдивій інформації.

Ризик дезінформації стосується як викладачів, так і студентів. Вони не можуть довіряти інструментам на основі штучного інтелекту для надання правильної чи надійної інформації для таких речей, як оцінювання чи створення навчальних посібників. Якщо вчителі не будуть уважними, штучний інтелект може змусити їх поставити учневі неправильну оцінку або надати неточну інформацію.

«Ці моделі штучного інтелекту вміють обробляти природну мову, але не завжди надають правильну чи реальну інформацію». 

2. Обман і надмірна залежність від ШІ

Тепер, коли ШІ може швидко створювати переконливі есе та навчальні посібники, шахрайство викликає серйозне занепокоєння. Можливості обробки природної мови сучасних чат-ботів штучного інтелекту можуть дозволити студентам без зусиль шахраювати, здійснювати плагіат і занадто сильно покладатися на ШІ. Це не лише загрожує цілісності навчання, але й ставить під загрозу ефективність курсової роботи.

Студенти можуть втратити важливі навички критичного мислення та не засвоїти цінні поняття, коли вони можуть просто вводити домашнє завдання в чат-боті. Оскільки штучний інтелект може створювати такий переконливий контент, вчителям може бути дуже важко визначити, коли учень використовував ШІ для виконання домашнього завдання чи есе. Невміння навчатися та виконувати курсову роботу може бути помітним лише після складання студентами заліків чи іспитів.

3. Приниження ролі вчителів

Існує популярна історія про те, що штучний інтелект може замінити людей на незліченних роботах, але викладання не є однією з них. Вчителі відіграють неоціненну роль у навчанні — жодна частина програмного забезпечення не може відтворити. ШІ має потенціал серйозно знизити роль вчителів, підриваючи їх навчання, авторитет і наставництво.

Насправді штучний інтелект може навіть погіршити якість освіти та цінність персоналізованого освітнього досвіду, який можуть надати школи. Наприклад, жоден штучний інтелект не може справді відтворити досвід відвідування школи Монтессорі, яка зосереджується на навчання м’яких навичок, таких як емпатія і незалежність через індивідуальні методи навчання.

Навчання на основі штучного інтелекту може звести навчання до простого обміну фактами або передачі даних користувачам на основі алгоритму. Насправді освіта полягає в особистісному зростанні, життєвих навичках, соціалізації та творчості, окрім отримання знань. Лише вчителі можуть надати учням необхідне людське керівництво.

«Навчання на основі штучного інтелекту може звести освіту до простого обміну фактами або передачі даних користувачам на основі алгоритму» 

4. Конфіденційність даних студентів

Навчання на основі штучного інтелекту також може спричинити технічні та юридичні проблеми, особливо коли мова йде про обробку даних учнів. Моделі AI навчаються, відстежуючи та перетравлюючи всі дані, з якими вони стикаються. Це може включати такі речі, як тестові відповіді студентів, запитання, введені в чат-бот, і такі характеристики, як вік, стать, раса чи рідна мова.

Природа чорної скриньки більшості моделей штучного інтелекту ускладнює або навіть робить неможливим побачити, як штучний інтелект використовує зібрані ним дані. У результаті виникають реальні етичні проблеми з використанням ШІ в освіті. Батьки, вчителі та учні можуть захотіти, щоб їхні дані були збережені від штучного інтелекту через турботу про їх конфіденційність. Особливо це стосується платформ штучного інтелекту, які персоналізують досвід учнів за допомогою спостереження, наприклад відстеження їх активності або натискання клавіш.

Навіть у випадках, коли навчальна платформа на основі штучного інтелекту запитує згоду користувачів на використання їхніх даних, конфіденційність усе ще знаходиться під загрозою. Як показують дослідження, студенти часто не готові зрозуміти згода на конфіденційність даних. Крім того, якщо школі потрібна платформа на основі штучного інтелекту, учні та вчителі можуть не мати іншого вибору, окрім як погодитися на надання своєї особистої інформації.

«Моделі ШІ навчаються, відстежуючи та перетравлюючи всі дані, з якими вони стикаються. Це може включати такі речі, як тестові відповіді учнів, запитання, введені в чат-бот, і такі характеристики, як вік, стать, раса чи рідна мова». 

5. Нерівна освіта та зміщення даних

Хоча штучний інтелект може «персоналізувати» освіту, він також може призвести до неоднакового або неоднакового досвіду. Рівні освітні можливості залежать від наявності певної стандартної бази для змісту, який вивчають усі учні. Персоналізоване навчання за допомогою штучного інтелекту може бути надто непередбачуваним, щоб забезпечити справедливий досвід для всіх учнів.

Крім того, упередженість даних загрожує расовій і гендерній рівності в освіті. Існують докази упередженості ШІ протягом багатьох років. Наприклад, у 2018 році Amazon зазнав критики за використання штучного інтелекту для найму, який дискримінував заявників на основі гендерних показників наприклад слово «жіночий» або назва жіночого коледжу. Штучний інтелект не такий об’єктивний, як багато хто може вважати — він настільки ж упереджений, як і навчальні дані, на яких він навчається.

Як наслідок, суспільні упередження, що лежать в основі, можуть легко просочитися в моделі ШІ, навіть до мови, яку ШІ використовує в певних контекстах. Наприклад, штучний інтелект може використовувати лише чоловічі займенники для опису поліцейських чи урядовців. Так само він може викидати расистський або образливий вміст, отриманий із погано відфільтрованих навчальних даних.

Упередженість і нерівність не сприяють безпечному, справедливому та сприятливому навчанню. Поки штучний інтелект не буде справді справедливим, він становить загрозу рівним можливостям в освіті.

Як ШІ слід використовувати в освіті? 

Ці п’ять важливих пасток навчання на основі штучного інтелекту вимагають ретельного розгляду, оскільки ця технологія стає все більш поширеною. Як і будь-яка технологія, ШІ має бути інструментом, а не комплексним рішенням. Вчителі можуть використовувати ШІ для автоматизації завдань із низьким рівнем ризику та покращення якості освіти, яку вони надають, але ШІ не замінить самих вчителів.

Педагоги повинні вжити заходів, щоб допомогти учням зрозуміти використання та ризики штучного інтелекту, щоб вони також могли робити розумний вибір щодо конфіденційності своїх даних. Зрештою, навчання на основі штучного інтелекту найкраще в помірних кількостях, а не як заміна традиційного досвіду навчання.

Також читайте Чи можна довіряти інструментам ШІ та використовувати їх як освітні ресурси?

• Розповсюдження контенту та PR на основі SEO. Отримайте посилення сьогодні.
• PlatoAiStream. Web3 Data Intelligence. Розширення знань. Доступ тут.
• Карбування майбутнього з Адріенн Ешлі. Доступ тут.
• Купуйте та продавайте акції компаній, які вийшли на IPO, за допомогою PREIPO®. Доступ тут.
• джерело: https://www.aiiottalk.com/pitfalls-in-ai-based-learning/