5 pułapek uczenia się opartego na sztucznej inteligencji

5 pułapek uczenia się opartego na sztucznej inteligencji

Znacznik czasu: 5 maja 2023 3:15
5 pułapek w uczeniu się opartym na sztucznej inteligencji PlatoBlockchain Data Intelligence. Wyszukiwanie pionowe. AI.

Wszyscy mówią dziś o modelach sztucznej inteligencji, takich jak ChatGPT i DALL-E, ale jakie miejsce zajmuje sztuczna inteligencja w edukacji? Czy może pomóc studentom, czy stwarza więcej zagrożeń niż korzyści? Niezależnie od tego, jak imponująca jest ta technologia, istnieje kilka poważnych pułapek uczenia się opartego na sztucznej inteligencji, o których rodzice, nauczyciele i uczniowie powinni być świadomi.

1. Rozpowszechnianie dezinformacji

Jednym z największych problemów z dzisiejszą sztuczną inteligencją jest dezinformacja i informacje „halucynacyjne”. Jest to szczególnie widoczne wyzwanie w przypadku chatbotów, takich jak ChatGPT. Te modele sztucznej inteligencji są biegłe w przetwarzaniu języka naturalnego, ale nie zawsze dostarczają poprawnych lub prawdziwych informacji. W rezultacie mogą udzielać odpowiedzi, które brzmią autorytatywnie, dostarczając błędnych lub całkowicie zmyślonych faktów, odniesień lub stwierdzeń.

Modele AI na czacie jak ChatGPT i Bing AI regularnie udzielają błędnych odpowiedzi. Zjawisko to znane jest jako „halucynacyjne” odpowiedzi. Sztuczna inteligencja nie jest w rzeczywistości zdolna do zrozumienia faktu w sposób, w jaki mógłby to zrobić człowiek — nie ma pojęcia prawdy ani fałszu. Jest po prostu przeszkolony, aby udzielać odpowiedzi, które naśladują pytanie, format lub inny kontekst.

Stanowi to poważne ryzyko dla uczniów, którzy mogą nie być w stanie stwierdzić, kiedy sztuczna inteligencja podaje niedokładne informacje. W rzeczywistości ChatGPT jest nawet znany z tworzenia całkowicie fikcyjnych „odniesień” do pozornie rzeczowych odpowiedzi, dzięki czemu dezinformacja jest jeszcze bardziej przekonująca. Może to skłonić uczniów do oparcia całych esejów i projektów badawczych na fałszywych informacjach.

Ryzyko dezinformacji dotyczy zarówno nauczycieli, jak i uczniów. Nie mogą ufać narzędziom opartym na sztucznej inteligencji, jeśli chodzi o dostarczanie prawidłowych i wiarygodnych informacji na potrzeby takich rzeczy, jak wystawianie ocen lub generowanie poradników. Jeśli nauczyciele nie będą ostrożni, sztuczna inteligencja może doprowadzić ich do wystawienia uczniowi niewłaściwej oceny lub podania niedokładnych informacji.

„Te modele sztucznej inteligencji są biegłe w przetwarzaniu języka naturalnego, ale nie zawsze dostarczają poprawnych lub prawdziwych informacji”. 

2. Oszukiwanie i nadmierne poleganie na sztucznej inteligencji

Teraz, gdy sztuczna inteligencja może szybko generować przekonujące eseje i poradniki, oszukiwanie jest poważnym problemem. Możliwości przetwarzania języka naturalnego nowoczesnych chatbotów opartych na sztucznej inteligencji pozwalają uczniom bez wysiłku oszukiwać, popełniać plagiaty i zbytnio polegać na sztucznej inteligencji. Nie tylko zagraża to integralności edukacyjnej, ale także zagraża skuteczności zajęć.

Uczniowie mogą stracić ważne umiejętności krytycznego myślenia i nie nauczyć się wartościowych pojęć, kiedy mogą po prostu wpisać swoją pracę domową do chatbota. Ponieważ sztuczna inteligencja może tworzyć tak przekonujące treści, nauczycielom może być bardzo trudno stwierdzić, kiedy uczeń użył sztucznej inteligencji do ukończenia pracy domowej lub eseju. Nieumiejętność uczenia się i ukończenia zajęć może być zauważalna dopiero po przystąpieniu przez uczniów do testów lub egzaminów.

3. Podcinanie roli nauczycieli

Istnieje popularna narracja, że ​​sztuczna inteligencja może zastąpić ludzi w niezliczonych zawodach, ale nauczanie nie jest jedną z nich. Nauczyciele odgrywają nieocenioną rolę w edukacji — takiej, której oprogramowanie nie jest w stanie odtworzyć. Sztuczna inteligencja może poważnie podkopać rolę nauczycieli, podważając ich nauczanie, autorytet i opiekę mentorską.

W rzeczywistości sztuczna inteligencja może nawet zagrozić jakości edukacji i wartości dostosowanych doświadczeń edukacyjnych, które mogą zapewnić szkoły. Na przykład żadna sztuczna inteligencja nie może naprawdę odtworzyć doświadczenia uczęszczania do szkoły Montessori, na której się koncentruje nauczanie umiejętności miękkich, takich jak empatia i niezależność dzięki zindywidualizowanym technikom uczenia się.

Nauka oparta na sztucznej inteligencji może sprowadzić edukację do prostego dzielenia się faktami lub dostarczania użytkownikom danych w oparciu o algorytm. W rzeczywistości edukacja oprócz zdobywania wiedzy dotyczy rozwoju osobistego, umiejętności życiowych, socjalizacji i kreatywności. Tylko nauczyciele mogą zapewnić uczniom ludzkie przewodnictwo, którego potrzebują.

„Nauka oparta na sztucznej inteligencji może sprowadzić edukację do prostego dzielenia się faktami lub dostarczania użytkownikom danych w oparciu o algorytm” 

4. Prywatność danych uczniów

Nauka oparta na sztucznej inteligencji może również wiązać się z wyzwaniami technicznymi i prawnymi — zwłaszcza jeśli chodzi o przetwarzanie danych uczniów. Modele AI uczą się, śledząc i analizując wszystkie napotkane dane. Może to obejmować odpowiedzi uczniów na testy, pytania wpisane do chatbota oraz cechy takie jak wiek, płeć, rasa lub pierwszy język.

Charakter czarnych skrzynek większości modeli sztucznej inteligencji utrudnia lub wręcz uniemożliwia komukolwiek zobaczenie, w jaki sposób sztuczna inteligencja wykorzystuje gromadzone przez siebie dane. W rezultacie istnieją prawdziwe problemy etyczne związane z wykorzystaniem sztucznej inteligencji w edukacji. Rodzice, nauczyciele i uczniowie mogą chcieć, aby ich dane nie były przechowywane przez sztuczną inteligencję w trosce o ich prywatność. Jest to szczególnie prawdziwe w przypadku platform AI, które personalizują doświadczenia uczniów poprzez nadzór, taki jak śledzenie ich aktywności lub naciśnięć klawiszy.

Nawet w przypadkach, gdy platforma edukacyjna oparta na sztucznej inteligencji prosi użytkowników o zgodę na wykorzystanie ich danych, prywatność jest nadal zagrożona. Jak pokazują badania, studenci często nie są przygotowani do zrozumienia zgoda na ochronę danych. Ponadto, jeśli szkoła wymaga platformy opartej na sztucznej inteligencji, uczniowie i nauczyciele mogą nie mieć wyboru i muszą wyrazić zgodę na przekazanie swoich danych osobowych.

„Modele AI uczą się, śledząc i analizując wszystkie napotkane dane. Może to obejmować odpowiedzi uczniów na testy, pytania wpisane do chatbota oraz cechy takie jak wiek, płeć, rasa lub pierwszy język”. 

5. Nierówna edukacja i stronniczość danych

Chociaż sztuczna inteligencja może być w stanie „spersonalizować” edukację, może również prowadzić do nierównych lub nierównych doświadczeń. Równe szanse edukacyjne opierają się na pewnym standardowym poziomie odniesienia dla treści, których uczą się wszyscy uczniowie. Spersonalizowane uczenie się za pośrednictwem sztucznej inteligencji może być zbyt nieprzewidywalne, aby zapewnić sprawiedliwe wrażenia wszystkim uczniom.

Ponadto stronniczość danych zagraża równości rasowej i płciowej w edukacji. Od lat istnieją dowody na stronniczość sztucznej inteligencji. Na przykład w 2018 roku Amazon znalazł się pod ostrzałem za wykorzystywanie sztucznej inteligencji do zatrudniania, która dyskryminowała kandydatów w oparciu o wskaźniki płci takie jak słowo „kobiece” lub nazwa kolegium dla kobiet. Sztuczna inteligencja nie jest tak obiektywna, jak wielu może sądzić — jest tak samo stronnicza, jak dane szkoleniowe, z których się uczy.

W rezultacie podstawowe uprzedzenia społeczne mogą łatwo przedostać się do modeli sztucznej inteligencji, nawet do języka używanego przez sztuczną inteligencję w określonych kontekstach. Na przykład sztuczna inteligencja może używać tylko męskich zaimków do opisywania funkcjonariuszy policji lub urzędników państwowych. Podobnie może zwracać rasistowskie lub obraźliwe treści, których nauczył się ze źle przefiltrowanych danych treningowych.

Uprzedzenia i nierówność nie sprzyjają bezpiecznemu, sprawiedliwemu i wspierającemu uczeniu się. Dopóki nie będzie można zaufać sztucznej inteligencji, że pozostanie ona naprawdę sprawiedliwa, stanowi zagrożenie dla równych szans w edukacji.

Jak sztuczna inteligencja powinna być wykorzystywana w edukacji? 

Tych pięć znaczących pułapek uczenia się opartego na sztucznej inteligencji wymaga starannego rozważenia, ponieważ technologia ta staje się coraz bardziej powszechna. Jak każda technologia, sztuczna inteligencja powinna być narzędziem, a nie uniwersalnym rozwiązaniem. Nauczyciele mogą wykorzystywać sztuczną inteligencję do automatyzacji zadań niskiego ryzyka i poprawy jakości oferowanej przez siebie edukacji, ale sztuczna inteligencja nie zastępuje samych nauczycieli.

Nauczyciele powinni podjąć kroki, aby pomóc uczniom zrozumieć zastosowania i zagrożenia związane ze sztuczną inteligencją, aby mogli również dokonywać inteligentnych wyborów dotyczących prywatności danych. Ostatecznie nauka oparta na sztucznej inteligencji jest najlepsza z umiarem, a nie jako zamiennik konwencjonalnych doświadczeń edukacyjnych.

Przeczytaj także Czy narzędzia sztucznej inteligencji są gotowe do zaufania i wykorzystania ich jako zasobów edukacyjnych?

Znak czasu:

Więcej z Technologia AIOT