DHS testaa genAI:ta yhdysvaltalaisten maahanmuuttovirkailijoiden kouluttamiseksi

Yhdysvaltain sisäisen turvallisuuden ministeriöllä (DHS) on tekoälysuunnitelma ja kolme testiprojektia tekniikan käyttöönottamiseksi, joista yhden tarkoituksena on kouluttaa maahanmuuttoviranomaisia ​​käyttämällä generatiivista tekoälyä. Mikä voisi mennä pieleen?

Raportissa ei nimetty tekoälytoimittajia, jotka väittivät, että tekniikan käytön tarkoituksena oli auttaa harjoittelijoita ymmärtämään ja säilyttämään "tärkeää tietoa" sekä "lisäämään heidän päätöksentekoprosessinsa tarkkuutta".

Se on sanoa, että OpenAI, Anthropic ja Meta sekä pilvijättiläiset Microsoft, Google ja Amazon ovat tarjonneet Homeland Securitylle tekoälyteknologiaa ja verkkopalveluita kokeiltavaksi koulutuksen ja päätöksenteon osalta.

"Yhdysvaltain kansalaisuus- ja maahanmuuttovirasto (USCIS) kokeilee LLM:ien käyttöä auttaakseen kouluttamaan pakolais-, turvapaikka- ja kansainvälisten operaatioiden virkamiehiä haastattelemaan laillisen maahanmuuton hakijoita", Uncle Sam's roadmap Eilen illalla julkaistu [PDF] selittää.

Huolimatta viimeaikaisia ​​töitä Tekoälymallien epätarkkuuksien lieventämiseksi LLM:iden tiedetään tuottavan epätarkkoja tietoja sellaisella itsevarmuudella, joka saattaa hämätä nuoren harjoittelijan.

Flubit – joita kutsutaan ”hallusinaatioiksi” – tekevät tekoälyn tuotosta vaikeaksi luottaa chatbots, kuvan sukupolvi ja jopa lakimiehen työ, jossa on enemmän kuin yksi lakimies joutua vaikeuksiin vedotessaan ChatGPT:n tyhjästä luomiin väärennettyihin tapauksiin.

LLM:ien on myös tiedetty osoittavan sekä rotu- että sukupuoliharhaa, kun ne otetaan käyttöön työkalujen vuokraaminen, rotu- ja sukupuoliharha, kun sitä käytetään kasvot järjestelmät ja voivat jopa esitellä rasistisia ennakkoluuloja käsiteltäessä sanoja, kuten kohdassa a viime paperi jossa erilaiset LLM:t tekevät päätöksen henkilöstä useiden tekstikehotteiden perusteella. Tutkijat raportoivat maaliskuussa julkaistussa artikkelissaan, että LLM:n päätökset afroamerikkalaisia ​​murretta käyttävistä ihmisistä heijastavat rasistisia stereotypioita.

Siitä huolimatta DHS väittää olevansa sitoutunut varmistamaan, että sen tekoälyn käyttö on vastuullista ja luotettavaa; turvaa yksityisyyden, kansalaisoikeudet ja kansalaisvapaudet; välttää sopimattomia harhoja; ja se on läpinäkyvä ja selitettävissä työntekijöille ja käsiteltäville henkilöille. Se ei kuitenkaan kerro, mitä suojatoimia on olemassa.

Virasto väittää, että generatiivisen tekoälyn käyttö antaa DHS:lle mahdollisuuden "tehostaa" maahanmuuttovirkailijoiden työtä, ja kehitteillä on interaktiivinen sovellus, joka käyttää generatiivista tekoälyä avustamaan upseerikoulutuksessa. Tavoitteena on rajoittaa uudelleenkoulutuksen tarvetta ajan mittaan.

Laajempi DHS:n raportti hahmottelee ministeriön tekniikkaa koskevat suunnitelmat yleisemmin, ja Yhdysvaltain sisäisen turvallisuuden ministeriön sihteerin Alejandro N Mayorkasin mukaan "on yksityiskohtaisin liittovaltion viraston tähän mennessä esittämä tekoälysuunnitelma".

Kaksi muuta pilottiprojektia koskevat LLM-pohjaisten järjestelmien käyttöä tutkimuksissa ja generatiivisen tekoälyn soveltamista paikallishallinnon vaarojen lieventämisprosessiin.

Historia toistaa

DHS on käyttänyt tekoälyä yli vuosikymmenen ajan, mukaan lukien koneoppimistekniikka (ML) henkilöllisyyden vahvistamiseen. Sen lähestymistapaa voidaan parhaiten kuvata kiistanalaisena, ja virasto on vastaanottavassa päässä laillisia kirjeitä yli käyttää kasvojentunnistustekniikkaa. Siitä huolimatta Yhdysvallat on mennyt eteenpäin levoton joiltakin tahoilta.

Itse asiassa DHS mainitsee tekoälyn keinona tehdä matkustamisesta "turvallisempaa ja helpompaa" – kuka voisi vastustaa valokuvan ottamista, joka auttaa navigoimaan lentokentillä aivan liian yleisellä turvateatterilla? Se on loppujen lopuksi edelleen valinnaista.

Muita DHS:n antamia esimerkkejä tekoälyn käytöstä ovat vanhojen kuvien troolaus aiempien tuntemattomien hyväksikäytön uhrien tunnistamiseksi, vahinkojen arvioiminen katastrofin jälkeen ja salakuljettajien poimiminen epäilyttävän käytöksen tunnistamisen avulla.

DHS huomioi etenemissuunnitelmassaan mahdollisuuksien rinnalla olevat haasteet. Tekoälytyökalut ovat yhtä lailla uhkatoimijoiden kuin viranomaistenkin saatavilla, ja DHS on huolissaan siitä, että laajemmat hyökkäykset ovat kyberrikollisten ulottuvilla, samoin kuin hyökkäykset kriittiseen infrastruktuuriin. Ja sitten on tekoälyn tuottaman sisällön uhka.

Vuodelle 2024 on asetettu useita tavoitteita. Näitä ovat tekoälyhiekkalaatikon luominen, jossa DHS-käyttäjät voivat leikkiä tekniikalla, ja 50 tekoälyasiantuntijan palkkaaminen. Se suunnittelee myös HackDHS-harjoitusta, jossa tarkastettujen tutkijoiden tehtävänä on löytää haavoittuvuuksia sen järjestelmistä. ®

• SEO-pohjainen sisällön ja PR-jakelu. Vahvista jo tänään.
• PlatoData.Network Vertical Generatiivinen Ai. Vahvista itseäsi. Pääsy tästä.
• PlatoAiStream. Web3 Intelligence. Tietoa laajennettu. Pääsy tästä.
• PlatoESG. hiili, CleanTech, energia, ympäristö, Aurinko, Jätehuolto. Pääsy tästä.
• PlatonHealth. Biotekniikan ja kliinisten kokeiden älykkyys. Pääsy tästä.
• Lähde: https://go.theregister.com/feed/www.theregister.com/2024/03/19/us_department_of_security_talks/