5 valkuilen bij op AI gebaseerd leren

Iedereen heeft het tegenwoordig over AI-modellen als ChatGPT en DALL-E, maar welke plaats heeft AI in het onderwijs? Kan het studenten helpen of brengt het meer risico's dan voordelen met zich mee? Hoe indrukwekkend deze technologie ook is, er zijn enkele ernstige valkuilen van op AI gebaseerd leren waarvan ouders, leraren en leerlingen zich bewust moeten zijn.

1. De verspreiding van verkeerde informatie

Een van de grootste problemen met AI vandaag de dag is desinformatie en "gehallucineerde" informatie. Dit is een bijzonder prominente uitdaging met chatbots zoals ChatGPT. Deze AI-modellen zijn bedreven in natuurlijke taalverwerking, maar geven niet altijd correcte of echte informatie. Als gevolg hiervan kunnen ze antwoorden geven die gezaghebbend klinken, terwijl ze gebrekkige of volledig verzonnen feiten, referenties of verklaringen verstrekken.

Chat AI-modellen zoals ChatGPT en Bing AI regelmatig foute antwoorden geven. Dit fenomeen staat bekend als "hallucinerende" antwoorden. De AI is eigenlijk niet in staat om een ​​feit te begrijpen zoals een mens dat zou kunnen - het heeft geen idee van waar of onwaar. Het is gewoon getraind om antwoorden te geven die een vraag, format of andere context nabootsen.

Dit vormt een serieus risico voor studenten, die misschien niet kunnen zien wanneer een AI onnauwkeurige informatie geeft. Het is zelfs bekend dat ChatGPT volledig fictieve "referenties" creëert voor ogenschijnlijk feitelijke antwoorden, waardoor verkeerde informatie nog overtuigender wordt. Dit zou ertoe kunnen leiden dat studenten hele essays en onderzoeksprojecten baseren op valse informatie.

Het risico van desinformatie geldt zowel voor docenten als voor studenten. Ze kunnen niet vertrouwen op op AI gebaseerde tools om correcte of betrouwbare informatie te verstrekken voor zaken als cijfers of het genereren van studiegidsen. Als docenten niet oppassen, kan AI ertoe leiden dat ze een leerling een verkeerd cijfer geven of onjuiste informatie verstrekken.

"Deze AI-modellen zijn bedreven in natuurlijke taalverwerking, maar bieden niet altijd correcte of echte informatie." 

2. Valsspelen en overmatig vertrouwen op AI

Nu AI snel overtuigende essays en studiegidsen kan genereren, is valsspelen een serieus probleem. Dankzij de natuurlijke taalverwerkingsmogelijkheden van moderne AI-chatbots kunnen studenten moeiteloos vals spelen, plagiaat plegen en te veel vertrouwen op AI. Dit bedreigt niet alleen de onderwijsintegriteit, maar brengt ook de effectiviteit van cursussen in gevaar.

Studenten kunnen belangrijke kritische denkvaardigheden verliezen en waardevolle concepten niet leren wanneer ze eenvoudig hun huiswerk in een chatbot kunnen typen. Omdat AI zulke overtuigende inhoud kan maken, kan het voor docenten erg moeilijk zijn om te bepalen wanneer een leerling een AI heeft gebruikt om zijn huiswerk of essay af te maken. Het niet leren en voltooien van cursussen kan pas merkbaar zijn als studenten toetsen of examens afleggen.

3. Ondermijning van de rol van leraren

Er is een populair verhaal dat AI mensen in talloze banen kan vervangen, maar lesgeven is daar niet een van. Docenten spelen een rol van onschatbare waarde in het onderwijs - een rol die een stuk software niet kan repliceren. AI heeft het potentieel om de rol van leraren ernstig te ondermijnen en hun instructie, autoriteit en mentorschap te ondermijnen.

AI kan zelfs de kwaliteit van het onderwijs en de waarde van op maat gemaakte onderwijservaringen die scholen kunnen bieden in gevaar brengen. Geen enkele AI kan bijvoorbeeld echt de ervaring repliceren van het bijwonen van een Montessorischool, die zich richt op het aanleren van zachte vaardigheden zoals empathie en onafhankelijkheid door geïndividualiseerde leertechnieken.

Op AI-gebaseerd leren kan onderwijs neerkomen op het simpelweg delen van feiten of het voeden van gebruikersgegevens op basis van een algoritme. In werkelijkheid gaat onderwijs, naast het opdoen van kennis, over persoonlijke groei, levensvaardigheden, socialisatie en creativiteit. Alleen docenten kunnen de menselijke begeleiding bieden die studenten nodig hebben.

“AI-gebaseerd leren kan onderwijs neerkomen op simpelweg het delen van feiten of het voeden van gebruikersgegevens op basis van een algoritme” 

4. Privacy van studentengegevens

AI-gebaseerd leren kan ook technische en juridische uitdagingen opleveren, vooral als het gaat om de omgang met de gegevens van studenten. AI-modellen leren door alle gegevens die ze tegenkomen te volgen en te verwerken. Dit kunnen zaken zijn als de toetsantwoorden van studenten, vragen die in een chatbot zijn getypt en kenmerken zoals leeftijd, geslacht, ras of moedertaal.

Het black-box karakter van de meeste AI-modellen maakt het voor iedereen moeilijk of zelfs onmogelijk om te zien hoe de AI de verzamelde gegevens gebruikt. Als gevolg hiervan zijn er echte ethische problemen met het gebruik van AI in het onderwijs. Ouders, docenten en leerlingen willen mogelijk dat hun gegevens voor een AI worden bewaard uit bezorgdheid over hun privacy. Dit geldt met name voor AI-platforms die de ervaringen van studenten personaliseren door middel van toezicht, zoals het volgen van hun activiteit of toetsaanslagen.

Zelfs in gevallen waarin een op AI gebaseerd leerplatform om toestemming van gebruikers vraagt ​​om hun gegevens te gebruiken, loopt de privacy nog steeds gevaar. Zoals studies aangeven, studenten zijn vaak niet toegerust om te begrijpen toestemming voor gegevensprivacy. Bovendien, als een school een op AI gebaseerd platform nodig heeft, hebben studenten en docenten mogelijk geen andere keuze dan toestemming te geven om hun persoonlijke gegevens af te staan.

“AI-modellen leren door alle gegevens die ze tegenkomen te volgen en te verwerken. Denk aan zaken als toetsantwoorden van studenten, vragen die in een chatbot worden getypt en kenmerken als leeftijd, geslacht, ras of moedertaal.” 

5. Ongelijke opleiding en databias

Hoewel AI in staat zou kunnen zijn om onderwijs te 'personaliseren', kan het ook leiden tot ongelijke of ongelijke ervaringen. Gelijke onderwijskansen zijn afhankelijk van het hebben van een standaard basislijn voor de inhoud die alle leerlingen leren. Gepersonaliseerd leren door middel van AI kan te onvoorspelbaar zijn om een ​​eerlijke ervaring voor alle studenten te garanderen.

Bovendien vormt databias een bedreiging voor raciale en gendergelijkheid in het onderwijs. Er zijn al jaren aanwijzingen voor bias in AI. In 2018 kwam Amazon bijvoorbeeld onder vuur te liggen vanwege het gebruik van een wervings-AI die sollicitanten discrimineerde op basis van genderindicatoren zoals het woord 'vrouwen' of de naam van een vrouwencollege. AI is niet zo objectief als velen misschien denken - het is net zo bevooroordeeld als de trainingsgegevens waarvan het leert.

Als gevolg hiervan kunnen onderliggende maatschappelijke vooroordelen gemakkelijk in AI-modellen lekken, zelfs tot aan de taal die de AI in bepaalde contexten gebruikt. Een AI kan bijvoorbeeld alleen mannelijke voornaamwoorden gebruiken om politieagenten of overheidsfunctionarissen te beschrijven. Evenzo kan het racistische of aanstootgevende inhoud uitbraken die het heeft geleerd van slecht gefilterde trainingsgegevens.

Vooringenomenheid en ongelijkheid zijn niet bevorderlijk voor veilig, eerlijk en ondersteunend leren. Zolang er niet op kan worden vertrouwd dat AI echt eerlijk blijft, vormt het een bedreiging voor gelijke kansen in het onderwijs.

Hoe moet AI worden gebruikt in het onderwijs? 

Deze vijf belangrijke valkuilen van op AI gebaseerd leren vereisen zorgvuldige overweging naarmate deze technologie steeds gewoner wordt. Net als elke andere technologie moet AI een hulpmiddel zijn, geen alles-in-een-oplossing. Leraren kunnen AI gebruiken om taken met een laag risico te automatiseren en de kwaliteit van het onderwijs dat ze geven te verbeteren, maar AI is geen vervanging voor leraren zelf.

Docenten moeten stappen ondernemen om studenten te helpen het gebruik en de risico's van AI te begrijpen, zodat ze ook intelligente keuzes kunnen maken over hun gegevensprivacy. Uiteindelijk is AI-gebaseerd leren het beste met mate, niet als vervanging voor conventionele leerervaringen.

Lees ook Zijn AI-tools klaar om te worden vertrouwd en gebruikt als leermiddelen?

• Door SEO aangedreven content en PR-distributie. Word vandaag nog versterkt.
• PlatoAiStream. Web3 gegevensintelligentie. Kennis versterkt. Toegang hier.
• De toekomst slaan met Adryenn Ashley. Toegang hier.
• Koop en verkoop aandelen in PRE-IPO-bedrijven met PREIPO®. Toegang hier.
• Bron: https://www.aiiottalk.com/pitfalls-in-ai-based-learning/