Tehisintellekti küberturvalisuse haavatavused, millest õpetajad teadlikud peavad olema

Tehisintellekt võib olla väärtuslik tööriist hariduses, kuid see kujutab endast ka peamisi küberturvalisuse haavatavusi, mida õpetajad peaksid teadma. Häkkerid saavad AI nõrkusi ära kasutada ja tehisintellekti turvasüsteemidest mööda hiilida üha rohkem. Siin on ülevaade tänapäeval levivatest tehisintellekti turvanõrkustest ja sellest, kuidas need võivad haridust mõjutada.

Ohustatud AI koolitusandmed

AI-algoritmid võivad olla hariduses äärmiselt kasulikud, kuid enamiku tehisintellektide musta kasti olemus kujutab endast tõsist küberturvalisuse haavatavust. Algoritme treenitakse koolitusandmete komplektide abil, mis õpetavad tehisintellekti midagi mõistma või ära tundma. Näiteks võib tehisintellekt olla koolitatud mõistma 8. klassi algebra probleeme, et ta saaks kodutöid hinnata.

Kuid viis, kuidas AI-algoritmid teavet töötlevad, on peidetud musta kasti, mis tähendab, et tõrked ja eelarvamused võivad jääda märkamatuks. AI võib kogemata õppida midagi valesti või luua treeningandmetest valesid seoseid. AI musta kasti olemus tähendab ka seda, et mürgitatud treeninguandmed võivad jääda märkamatuks.

Häkkerid võivad treeningandmeid rikkuda, et lisada a AI-sse peidetud tagauks loogika. Kui häkker soovib juurdepääsu süsteemile, kus AI-d kasutatakse, saab ta lihtsalt sisestada tagaukse võtme ja tehisintellekt tunneb selle koolitusandmete põhjal ära. Selliseid tagauksi võib olla väga raske tuvastada, kuna arendajad ja kasutajad ei näe kõiki tehisintellekti mustas kastis toimuvaid ühendusi.

"Tehtimisalgoritmide teabe töötlemise viis on peidetud musta kasti, mis tähendab, et tõrked ja eelarvamused võivad jääda märkamatuks." 

Häkkerid kohanevad

Tehisintellekti koolitusandmetes tagaukse loomine on keeruline ja aeganõudev protsess ning milleks suudaksid peamiselt vaid kõrgelt kvalifitseeritud häkkerid. Kahjuks kohandavad häkkerid oma rünnakustrateegiaid tehisintellekti ohtude otsimise võimetest mööda hiilimiseks. Tegelikult loovad häkkerid isegi oma AI-algoritme, mis võivad teisi algoritme üle kavaldada.

Näiteks on häkkerid välja töötanud AI-d, mis suudavad paroolid iseseisvalt murda juurdepääsuhaldussüsteemidest mööda hiilida. Veelgi hullem on see, et häkkerid kasutavad AI-d, et muuta oma lunavara ja pahavara piisavalt nutikaks, et AI-toega turvaprotokollidest mööda saada.

See on tõsine oht haridusele, sest koolid peavad tingimata koguma suures koguses isiklikku teavet õpilaste ja perede kohta. Koolide andmed on häkkerite jaoks väga ahvatlev sihtmärk, kes teavad, et nende andmete ohustamine põhjustaks paanikat, mis võib viia ohvrite suure lunavara väljamakseni.

Kuna tehisintellekti turvasüsteemid on ohus, võivad õpetajad olla mures selle pärast, mida nad saavad oma õpilaste kaitsmiseks teha. Siiski on lahendusi. Näiteks võivad pilvepõhised AI-süsteemid olla ohutumad kui tavapärastel andmekeskustel põhinevad süsteemid. Lisaks pilvepõhised intelligentsed andmekaitsesüsteemid, mis on ehitatud spetsiaalselt pilvepõhiste süsteemide jaoks, võib pakkuda tehisintellekti küberrünnaku korral koolide andmetele täiendava turvakihi.

Sügavad võltsingud ja vigase pildituvastus

Lisaks tagaustele saavad häkkerid ära kasutada ka tahtmatuid tõrkeid AI-algoritmides. Näiteks võib häkker fotosid rikkuda, et petta tehisintellekti pilti valesti tuvastama.

Deepfake-tehnoloogiat saab kasutada ka selleks, et maskeerida video-, foto- või helifaile millekski, mis need ei ole. Seda saab kasutada näiteks petuvideo loomiseks õpetajast või administraatorist. Deepfake'id võimaldavad häkkeritel siseneda süsteemidesse, mis tuginevad juurdepääsu kontrollimiseks heli- või pildituvastusele.

Häkkerid saavad AI-d ise kasutada, et luua ülimalt realistlikke süvavõltsinguid, millest saab seejärel ründeviis. Näiteks 2021. aasta petuskeemi kasutatud tehisintellekti süvavõltsinguid varastada Hongkongi pangast 35 miljonit dollarit.

Häkkerid saavad tehisintellekti relvastada samal viisil, et luua vanemate, õpetajate või administraatorite hääle võltsinguid. Nad alustavad rünnakut, helistades kellelegi telefoni teel ja pettes neid häälepõhise süvavõltsinguga. Seda võidakse kasutada raha või isikliku teabe varastamiseks koolidelt, õpilastelt, õpetajatelt ja peredelt.

"Koolide andmed on häkkerite jaoks väga ahvatlev sihtmärk, kes teavad, et nende andmete kahjustamine põhjustaks paanikat, mis võib viia ohvrite suure lunavara väljamakseni." 

Tuginemine AI-le testimisel ja juhendamisel

AI on suurepärane hariduse erinevate aspektide automatiseerimiseks ja võib isegi parandada õpilaste hariduse kvaliteeti. Näiteks populaarne keeleõpetuste veebisait Duolingo kasutab masinõppe AI-d aidata õpilastel õppida omas tempos. Paljud teised koolid ja haridusressursid kasutavad tänapäeval sarnast tehnoloogiat. Seda tuntakse kui adaptiivne AI õpe, ja see aitab isegi oluliste ülesannete puhul, nagu testide hindamine.

Kahjuks on see tehisintellektile tuginemine küberturvalisuse haavatavus. Häkkerid kipuvad sihikule võtma süsteeme, mis on võtmesüsteemide toimimiseks üliolulised. Seega, kui õpetajad toetuvad õpilastele kursuste edukaks sooritamiseks teatud tehisintellekti juhendamise tööriistadele, võib häkker seda AI-le tuginemist ära kasutada. Nad võivad käivitada lunavararünnaku kriitiliste hariduslike tehisintellekti algoritmide vastu või isegi manipuleerida tehisintellekti ennast.

See konkreetne haavatavus on kombinatsioon mitmest ülalmainitud ohust. Häkkerid võivad luua AI-s tagaukse, mis võimaldab neil algoritmi rikkuda, nii et see hindab valesti või õpetab õpilastele ebaõiget teavet.

"Kui õpetajad toetuvad õpilastele kursuste edukaks sooritamiseks teatud tehisintellekti juhendamise tööriistadele, võib häkker seda AI-le tuginemist ära kasutada." 

Olge kursis hariduse küberohtudega

Pole kahtlust, et tehisintellekt võib olla õpetajate jaoks väga väärtuslik tööriist. Tehisintellekti kasutamine nõuab aga ettevaatust ja ennetavat lähenemist küberturvalisusele, et kaitsta tehisintellekti haavatavusi häkkerite poolt ärakasutamise eest.

Kuna tehisintellekt muutub hariduses ja igapäevaelus üldlevinud, töötavad häkkerid välja uut tüüpi küberrünnakuid, mis on loodud intelligentsete turvasüsteemide nurjamiseks. Olles teadlik nendest esilekerkivatest küberohtudest, saavad õpetajad võtta meetmeid oma süsteemide ja õpilaste kaitsmiseks.

Samuti loe 5 viisi, kuidas robootika aitab teil äri teha