DHS testib USA immigratsiooniametnike koolitamiseks GenAI-d

Taasavaldanud Platon

järgijaid: 0

DHS testib genAI-d, et koolitada USA immigratsiooniametnikke PlatoBlockchain Data Intelligence. Vertikaalne otsing. Ai.

USA sisejulgeolekuministeeriumil (DHS) on tehnoloogia kasutuselevõtuks tehisintellekti tegevuskava ja kolm katseprojekti, millest ühe eesmärk on koolitada immigratsiooniametnikke generatiivse AI abil. Mis võib valesti minna?

Aruandes ei nimetatud ühtegi tehisintellekti müüjat, mis väitis, et tehnoloogia kasutamine oli mõeldud selleks, et aidata praktikantidel paremini mõista ja säilitada "olulist teavet", samuti "suurendada nende otsustusprotsessi täpsust".

See on ütles, et OpenAI, Anthropic ja Meta, aga ka pilvehiiglased Microsoft, Google ja Amazon on pakkunud Homeland Securityle tehisintellekti tehnoloogiat ja võrguteenuseid, millega koolituse ja otsuste tegemise osas katsetada.

"USA kodakondsus- ja immigratsiooniteenistus (USCIS) katsetab LLM-ide kasutamist, et aidata koolitada pagulaste, varjupaiga ja rahvusvaheliste operatsioonide ametnikke, kuidas korraldada intervjuusid seadusliku sisserände taotlejatega," ütles Uncle Sam's. tegevuskava Eile õhtul välja antud [PDF] selgitab.

Vaatamata hiljutine töö tehisintellektimudelite ebatäpsuste leevendamise kohta on teada, et LLM-id genereerivad ebatäpset teavet sellise enesekindlusega, mis võib noore praktikandi segada.

Häired, mida nimetatakse hallutsinatsioonideks, muudavad tehisintellekti väljundi usaldamise raskeks jututoad, pildi genereerimine ja isegi juristi abitöö, kusjuures rohkem kui üks advokaat sattuda raskustesse ChatGPT poolt tühjalt loodud võltsjuhtumite viitamisel.

Samuti on teada, et LLM-idel on kasutuselevõtul nii rassiline kui ka sooline eelarvamus tööriistade rentimine, rassiline ja sooline eelarvamus, kui seda kasutatakse näo tuvastamine süsteemid ja võivad isegi ilmutada rassistlikke eelarvamusi sõnade töötlemisel, nagu näidatud punktis a viimastel paber kus erinevad LLM-id teevad tekstiviipade alusel inimese kohta otsuse. Teadlased teatasid oma märtsikuu artiklis, et LLM-i otsused Aafrika-Ameerika dialekti kasutavate inimeste kohta peegeldavad rassistlikke stereotüüpe.

Sellegipoolest väidab DHS, et on pühendunud tagama, et tehisintellekti kasutamine on vastutustundlik ja usaldusväärne; kaitseb eraelu puutumatust, kodanikuõigusi ja kodanikuvabadusi; väldib sobimatuid eelarvamusi; ning see on töötajatele ja töödeldavatele inimestele läbipaistev ja arusaadav. See aga ei ütle, millised kaitsemeetmed on paigas.

Agentuur väidab, et generatiivse tehisintellekti kasutamine võimaldab DHS-il immigratsiooniametniku tööd täiustada, kusjuures arendamisel on interaktiivne rakendus, mis kasutab generatiivset AI-d, et aidata ohvitseride koolitust. Eesmärk hõlmab ümberõppe vajaduse piiramist aja jooksul.

Suuremas DHS-i aruandes kirjeldatakse osakonna plaane tehnoloogia vallas üldisemalt ja USA sisejulgeolekuministeeriumi sekretäri Alejandro N Mayorkase sõnul on see kõige üksikasjalikum tehisintellekti plaan, mille föderaalagentuur on siiani esitanud.

Teised kaks pilootprojekti hõlmavad LLM-põhiste süsteemide kasutamist uuringutes ja generatiivse tehisintellekti rakendamist kohalike omavalitsuste ohtude vähendamise protsessis.

Ajalugu kordub

DHS on kasutanud tehisintellekti rohkem kui kümme aastat, sealhulgas masinõppetehnoloogiat identiteedi kontrollimiseks. Selle lähenemisviisi saab kõige paremini kirjeldada kui vastuolulist, kuna agentuur on vastuvõtvas lõpus juriidilised kirjad üle näotuvastustehnoloogia kasutamise. Siiski on USA sellest hoolimata edasi liikunud rahutu mõnest kandist.

Tõepoolest, DHS nimetab tehisintellekti kui midagi, mida ta kasutab reisimise "ohutumaks ja lihtsamaks" muutmiseks – kes võiks olla vastu foto tegemisele, mis aitaks lennujaamades liiga levinud turvasaalis navigeerida? Lõppude lõpuks on see ikkagi vabatahtlik.

Muud näited tehisintellekti kasutamisest, mille on andnud DHS, hõlmavad vanemate piltide traalimist, et tuvastada varasemad tundmatud ärakasutamise ohvrid, katastroofijärgse kahju hindamine ja salakaubavedajate pealevõtmine kahtlase käitumise tuvastamise abil.

DHS märkis oma tegevuskavas väljakutseid, mis eksisteerivad kõrvuti võimalustega. Tehisintellekti tööriistad on samaväärselt ligipääsetavad nii ohus osalejatele kui ka ametiasutustele ning DHS muretseb, et suuremahulised rünnakud on küberkurjategijate käeulatuses, aga ka rünnakud kriitilise infrastruktuuri vastu. Ja siis on oht AI loodud sisust.

Aastaks 2024 on seatud mitmeid eesmärke. Nende hulka kuulub AI liivakasti loomine, milles DHS-i kasutajad saavad tehnoloogiaga mängida, ja 50 AI-eksperdi palkamine. Samuti kavandab ta HackDHS-i harjutust, mille käigus kontrollitud teadlaste ülesandeks on leida oma süsteemides haavatavused. ®