5 pasti pri učenju, ki temelji na AI

Danes vsi govorijo o modelih umetne inteligence, kot sta ChatGPT in DALL-E, toda kakšno mesto ima umetna inteligenca v izobraževanju? Ali lahko pomaga študentom ali predstavlja več tveganj kot koristi? Čeprav je ta tehnologija impresivna, obstaja nekaj resnih pasti učenja na osnovi umetne inteligence, ki bi se jih morali starši, učitelji in učenci zavedati.

1. Širjenje napačnih informacij

Ena največjih težav z umetno inteligenco danes so dezinformacije in »halucinirane« informacije. To je še posebej pomemben izziv pri klepetalnih robotih, kot je ChatGPT. Ti modeli AI so spretni pri obdelavi naravnega jezika, vendar ne zagotavljajo vedno pravilnih ali resničnih informacij. Posledično lahko dajo odgovore, ki se slišijo verodostojno, hkrati pa podajajo napačna ali popolnoma izmišljena dejstva, reference ali izjave.

Modeli AI za klepet kot sta ChatGPT in Bing AI redno dajejo napačne odgovore. Ta pojav je znan kot "halucinacijski" odgovori. Umetna inteligenca dejansko ni sposobna razumeti dejstva tako, kot bi ga lahko človek - nima koncepta resničnega ali napačnega. Preprosto je usposobljen za dajanje odgovorov, ki posnemajo vprašanje, obliko ali drug kontekst.

To predstavlja resno tveganje za študente, ki morda ne morejo ugotoviti, kdaj umetna inteligenca daje netočne informacije. Pravzaprav je znano, da ChatGPT ustvarja povsem izmišljene "sklice" za navidez dejanske odgovore, zaradi česar so dezinformacije še bolj prepričljive. To bi lahko študente pripeljalo do tega, da bi celotne eseje in raziskovalne projekte temeljili na napačnih informacijah.

Tveganje napačnih informacij velja tako za učitelje kot za učence. Ne morejo zaupati orodjem, ki temeljijo na umetni inteligenci, da bi zagotovili pravilne ali zanesljive informacije za stvari, kot je ocenjevanje ali ustvarjanje študijskih vodnikov. Če učitelji niso previdni, jih lahko umetna inteligenca pripelje do tega, da učencu dajo napačno oceno ali posredujejo netočne informacije.

"Ti modeli AI so spretni pri obdelavi naravnega jezika, vendar ne zagotavljajo vedno pravilnih ali resničnih informacij." 

2. Goljufanje in pretirano zanašanje na AI

Zdaj, ko lahko AI hitro ustvari prepričljive eseje in študijske vodnike, je goljufanje resna skrb. Zmožnosti sodobne obdelave naravnega jezika klepetalnih botov z umetno inteligenco lahko učencem omogočijo brez težav goljufanje, plagiat in se preveč zanašajo na umetno inteligenco. To ne ogroža le izobraževalne integritete, ampak ogroža tudi učinkovitost učnega dela.

Učenci lahko izgubijo pomembne sposobnosti kritičnega razmišljanja in se ne naučijo dragocenih konceptov, če lahko svojo domačo nalogo preprosto vnesejo v chatbot. Ker lahko umetna inteligenca oblikuje tako prepričljivo vsebino, je lahko učiteljem zelo težko ugotoviti, kdaj je učenec uporabil umetno inteligenco za dokončanje domače naloge ali eseja. Neuspeh pri učenju in dokončanju nalog je lahko opazen šele, ko študenti opravljajo teste ali izpite.

3. Zmanjševanje vloge učiteljev

Obstaja priljubljena pripoved, da lahko umetna inteligenca nadomesti ljudi na neštetih delovnih mestih, vendar poučevanje ni eno od teh. Učitelji igrajo neprecenljivo vlogo pri izobraževanju – tega programska oprema ne more ponoviti. Umetna inteligenca lahko resno zmanjša vlogo učiteljev, spodkopava njihovo poučevanje, avtoriteto in mentorstvo.

Pravzaprav lahko umetna inteligenca celo ogrozi kakovost izobraževanja in vrednost prilagojenih izobraževalnih izkušenj, ki jih lahko zagotovijo šole. Na primer, nobena umetna inteligenca ne more resnično ponoviti izkušnje obiskovanja šole Montessori, ki se osredotoča na poučevanje mehkih veščin, kot je empatija in neodvisnost s pomočjo individualiziranih učnih tehnik.

Učenje, ki temelji na AI, lahko izobraževanje skrči na preprosto izmenjavo dejstev ali dovajanje podatkov uporabnikom na podlagi algoritma. V resnici gre pri izobraževanju za osebno rast, življenjske veščine, socializacijo in ustvarjalnost, poleg pridobivanja znanja. Samo učitelji lahko učencem zagotovijo človeško vodstvo, ki ga potrebujejo.

»Učenje, ki temelji na AI, lahko izobraževanje skrči na preprosto izmenjavo dejstev ali dovajanje podatkov uporabnikom na podlagi algoritma« 

4. Zasebnost podatkov študentov

Učenje na osnovi umetne inteligence lahko predstavlja tudi tehnične in pravne izzive – zlasti ko gre za ravnanje s podatki študentov. Modeli AI se učijo s sledenjem in prebavo vseh podatkov, na katere naletijo. To lahko vključuje stvari, kot so odgovori študentov na teste, vprašanja, vnesena v klepetalni robot, in značilnosti, kot so starost, spol, rasa ali materni jezik.

Zaradi narave črne skrinjice večine modelov umetne inteligence je komu težko ali celo onemogočeno videti, kako umetna inteligenca uporablja podatke, ki jih zbira. Posledično obstajajo resnična etična vprašanja pri uporabi umetne inteligence v izobraževanju. Starši, učitelji in učenci bodo morda želeli, da se njihovi podatki obdržijo pred AI zaradi skrbi za njihovo zasebnost. To še posebej velja za platforme umetne inteligence, ki personalizirajo izkušnje učencev z nadzorom, kot je sledenje njihovi dejavnosti ali pritiskom tipk.

Tudi v primerih, ko učna platforma, ki temelji na umetni inteligenci, od uporabnikov zahteva soglasje za uporabo njihovih podatkov, je zasebnost še vedno ogrožena. Kot kažejo študije, študenti pogosto niso opremljeni za razumevanje soglasje za varovanje podatkov. Poleg tega, če šola zahteva platformo, ki temelji na AI, učenci in učitelji morda ne bodo imeli druge izbire, kot da privolijo v razkritje svojih osebnih podatkov.

»Modeli AI se učijo tako, da sledijo in prebavljajo vse podatke, na katere naletijo. To lahko vključuje stvari, kot so odgovori učencev na teste, vprašanja, vnesena v klepetalni robot, in značilnosti, kot so starost, spol, rasa ali prvi jezik.« 

5. Neenakomerna izobrazba in pristranskost podatkov

Čeprav bi umetna inteligenca morda lahko "personalizirala" izobraževanje, lahko vodi tudi do neenakih ali neenakih izkušenj. Enake izobraževalne možnosti so odvisne od neke standardne osnove za vsebino, ki se je učijo vsi učenci. Prilagojeno učenje z umetno inteligenco je lahko preveč nepredvidljivo, da bi zagotovilo pošteno izkušnjo za vse učence.

Poleg tega pristranskost podatkov ogroža rasno enakost in enakost spolov v izobraževanju. Že leta obstajajo dokazi o pristranskosti umetne inteligence. Na primer, leta 2018 je bil Amazon na udaru kritik zaradi uporabe umetne inteligence za zaposlovanje, ki je diskriminirala prosilce na podlagi kazalnikov spola kot je beseda »ženski« ali ime ženske fakultete. Umetna inteligenca ni tako objektivna, kot mnogi verjamejo – je prav tako pristranska kot podatki o usposabljanju, iz katerih se uči.

Posledično lahko osnovne družbene pristranskosti zlahka pricurljajo v modele umetne inteligence, celo do jezika, ki ga umetna inteligenca uporablja v določenih kontekstih. Na primer, AI lahko uporablja samo moške zaimke za opis policistov ali vladnih uradnikov. Podobno lahko vrne rasistične ali žaljive vsebine, ki se jih je naučil iz slabo filtriranih podatkov o usposabljanju.

Pristranskost in neenakost ne vodita k varnemu, poštenemu in podpornemu učenju. Dokler ne moremo verjeti, da bo umetna inteligenca ostala resnično pravična, ogroža enake možnosti v izobraževanju.

Kako naj se umetna inteligenca uporablja v izobraževanju? 

Teh pet pomembnih pasti učenja, ki temelji na AI, zahteva skrbno preučitev, saj ta tehnologija postaja vse bolj običajna. Kot katera koli tehnologija mora biti tudi AI orodje, ne rešitev, ki vse popravi. Učitelji lahko uporabljajo umetno inteligenco za avtomatizacijo opravil z nizkim tveganjem in izboljšanje kakovosti izobraževanja, ki ga zagotavljajo, vendar umetna inteligenca ni nadomestilo za učitelje same.

Izobraževalci bi morali ukrepati, da bi učencem pomagali razumeti uporabo in tveganja umetne inteligence, da bi se lahko pametno odločali tudi glede zasebnosti svojih podatkov. Navsezadnje je učenje, ki temelji na AI, najboljše v zmernih količinah, ne kot nadomestilo za običajne učne izkušnje.

Preberite tudi Ali so orodja AI pripravljena za zaupanje in uporabo kot izobraževalne vire?

• Distribucija vsebine in PR s pomočjo SEO. Okrepite se še danes.
• PlatoAiStream. Podatkovna inteligenca Web3. Razširjeno znanje. Dostopite tukaj.
• Kovanje prihodnosti z Adryenn Ashley. Dostopite tukaj.
• Kupujte in prodajajte delnice podjetij pred IPO s PREIPO®. Dostopite tukaj.
• vir: https://www.aiiottalk.com/pitfalls-in-ai-based-learning/