A DHS a genAI segítségével teszteli az amerikai bevándorlási tisztek képzését

Az Egyesült Államok Belbiztonsági Minisztériuma (DHS) rendelkezik mesterséges intelligencia ütemtervvel és három tesztprojekttel a technológia bevezetésére, amelyek közül az egyik célja a bevándorlási tisztek generatív mesterséges intelligencia használatával történő képzése. Mi lehet a baj?

A jelentésben nem neveztek meg mesterséges intelligencia-szállítót, amely azt állította, hogy a technológia használatának az volt a célja, hogy elősegítse a gyakornokok jobb megértését és megőrzését a „döntő fontosságú információk”, valamint „döntéshozatali folyamataik pontosságának növelésében”.

Ez azt mondta, hogy Az OpenAI, az Anthropic és a Meta, valamint a felhőóriások, a Microsoft, a Google és az Amazon mesterséges intelligencia technológiát és online szolgáltatásokat biztosítottak a Homeland Security számára, amelyekkel kísérletezni lehet a képzés és a döntéshozatal terén.

„Az Egyesült Államok Állampolgársági és Bevándorlási Szolgálata (USCIS) LLM-eket próbál majd kidolgozni, hogy segítsen kiképezni a menekültügyi, menekültügyi és nemzetközi műveleti tiszteket arról, hogyan kell interjúkat készíteni a törvényes bevándorlásért kérelmezőkkel” – mondta Uncle Sam's. ütemterv A tegnap este megjelent [PDF] – magyarázza.

Ellenére legutóbbi munka A mesterséges intelligencia modellek pontatlanságainak mérséklésével kapcsolatban az LLM-ekről ismert, hogy pontatlan információkat generálnak olyan bizalommal, amely megzavarhatja a fiatal gyakornokokat.

A „hallucinációknak” nevezett zsibbadások megnehezítik az AI kimenetében való megbízást chatbots, képalkotás és még jogi asszisztensi munka is, több mint egy ügyvéd bajba került, mert a ChatGPT által légből kapott hamis esetekre hivatkozott.

Az LLM-ekről is ismert volt, hogy mind faji, mind nemi elfogultságot mutatnak, amikor bevetésre kerülnek eszközök bérbeadása, faji és nemi elfogultság, ha használják arcfelismerő rendszerek, sőt rasszista elfogultságot tanúsítanak a szavak feldolgozásakor, ahogy az a friss papír ahol a különböző LLM-ek szöveges felszólítások alapján hoznak döntést egy személyről. A kutatók márciusi tanulmányukban arról számoltak be, hogy az afro-amerikai dialektust használó emberekkel kapcsolatos LLM-határozatok rasszista sztereotípiákat tükröznek.

Ennek ellenére a DHS azt állítja, hogy elkötelezett amellett, hogy a mesterséges intelligencia használata „felelősségteljes és megbízható legyen; védi a magánéletet, az állampolgári jogokat és a polgári szabadságjogokat; elkerüli a nem megfelelő torzításokat; átlátható és elmagyarázható a dolgozók és a feldolgozás alatt álló személyek számára. Azt azonban nem írja le, hogy milyen biztosítékok vannak érvényben.

Az ügynökség azt állítja, hogy a generatív mesterséges intelligencia használata lehetővé teszi a DHS-nek, hogy „feljavítsa” a bevándorlási tisztek munkáját, és a fejlesztés alatt álló interaktív alkalmazás generatív mesterséges intelligencia segíti a tisztek képzését. A cél az átképzési igény időbeli korlátozása.

A DHS átfogó jelentése általánosabban körvonalazza a minisztérium technológiával kapcsolatos terveit, és Alejandro N Mayorkas, az Egyesült Államok Belbiztonsági Minisztériumának titkára szerint „a szövetségi ügynökség által előterjesztett legrészletesebb mesterségesintelligencia-terv a mai napig”.

Egy másik két kísérleti projekt az LLM-alapú rendszerek vizsgálatokat, valamint a generatív mesterséges intelligencia alkalmazását foglalja magában a helyi önkormányzatok veszélycsökkentési folyamatában.

A történelem ismétlése

A DHS több mint egy évtizede használt mesterséges intelligencia, beleértve a gépi tanulási (ML) technológiát a személyazonosság-ellenőrzéshez. Megközelítése leginkább ellentmondásosnak mondható, és az ügynökség a fogadó végén van jogi levelek az arcfelismerő technológia használatával. Az USA azonban ennek ellenére előretört nyugtalanság egyes negyedekről.

Valójában a DHS az MI-t úgy említi, mint amivel az utazást „biztonságosabbá és egyszerűbbé” teszi – ki tiltakozhatna az ellen, hogy egy fényképet készítsenek a repülőtereken túlságosan elterjedt biztonsági színházban? Végül is ez továbbra is választható.

A DHS további példái a mesterséges intelligencia használatára: a régebbi képeken való áthaladás a kizsákmányolás korábbi ismeretlen áldozatainak azonosítására, a katasztrófa utáni károk felmérése, valamint a csempészek felszedése a gyanús viselkedés azonosításával.

Útitervében a DHS felhívta a figyelmet a lehetőségek mellett fennálló kihívásokra. A mesterséges intelligencia eszközökhöz ugyanúgy hozzáférhetnek a fenyegetés szereplői és a hatóságok is, és a DHS aggódik amiatt, hogy a nagyobb léptékű támadások a kiberbűnözők számára elérhetőek, valamint a kritikus infrastruktúra elleni támadások is. És akkor ott van a mesterséges intelligencia által generált tartalom veszélye.

Számos célt tűztek ki 2024-re. Ezek közé tartozik egy mesterséges intelligencia homokozó létrehozása, amelyben a DHS-felhasználók játszhatnak a technológiával, valamint 50 AI-szakértő alkalmazása. Tervez egy HackDHS-gyakorlatot is, amelyben az ellenőrzött kutatók feladata lesz, hogy sebezhető pontokat találjanak rendszereiben. ®

• SEO által támogatott tartalom és PR terjesztés. Erősödjön még ma.
• PlatoData.Network Vertical Generative Ai. Erősítse meg magát. Hozzáférés itt.
• PlatoAiStream. Web3 Intelligence. Felerősített tudás. Hozzáférés itt.
• PlatoESG. Carbon, CleanTech, Energia, Környezet, Nap, Hulladékgazdálkodás. Hozzáférés itt.
• PlatoHealth. Biotechnológiai és klinikai vizsgálatok intelligencia. Hozzáférés itt.
• Forrás: https://go.theregister.com/feed/www.theregister.com/2024/03/19/us_department_of_security_talks/