Ta umetna inteligenca napove kriminal teden dni vnaprej – in izpostavi pristranskost policije

Prizadevanja za uporabo umetne inteligence za napovedovanje kriminala so polna polemik zaradi možnosti posnemanja obstoječih pristranskosti v policijskem delu. Toda nov sistem, ki ga poganja strojno učenje, obljublja ne le boljše napovedi, temveč tudi poudarjanje teh pristranskosti.

Če obstaja ena stvar, v kateri je sodobno strojno učenje dobro, je to odkrivanje vzorcev in napovedovanje. Zato morda ni presenetljivo, da si mnogi v političnem svetu in svetu kazenskega pregona želijo uporabiti te veščine. Zagovorniki želijo trenirati AI modeli z zgodovinskimi evidencami kaznivih dejanj in drugimi ustreznimi podatki za napovedovanje, kdaj in kje se bodo kazniva dejanja verjetno zgodila, in uporabo rezultatov za usmerjanje policijskih prizadevanj.

Težava je v tem, da se tovrstni podatki pogosto skrijejo vse vrste pristranskosti ki jih je mogoče prelahko ponoviti, če jih uporabljamo za nepremišljeno urjenje algoritmov. Prejšnji pristopi so včasih vključevali lažne spremenljivke, kot je prisotnost grafitov ali demografskih podatkov, ki lahko zlahka vodijo modele do napačnih povezav na podlagi rasnih ali socialno-ekonomskih meril.

Tudi osnovni policijski podatki o prijavljenih kaznivih dejanjih ali številu aretacij lahko vsebujejo skrite pristranskosti. Močno policijsko delovanje na določenih območjih, za katera se domneva, da je zaradi že obstoječih predsodkov veliko kriminala, bo skoraj neizogibno povzročilo več aretacij. In na območjih z velikim nezaupanjem do policije lahko zločini pogosto ostanejo neprijavljeni.

Kljub temu bi zmožnost vnaprejšnjega predvidevanja trendov kriminalnih dejavnosti lahko koristila družbi. Tako je skupina z Univerze v Chicagu razvila nov sistem strojnega učenja, ki lahko bolje kot prejšnji sistemi predvidi, kdaj in kje se bodo zločini verjetno zgodili, in se uporablja tudi za preiskovanje sistemskih pristranskosti v policijskem delu.

Raziskovalci so najprej zbrali večletne podatke čikaške policije o nasilnih in lastninskih zločinih ter število aretacij, ki so bile posledica vsakega incidenta. Te podatke so uporabili za usposabljanje nabora modelov AI, ki prikazujejo, kako spremembe vsake od teh spremenljivk vplivajo na druge.

To je ekipi omogočilo napovedovanje ravni kriminala na 1,000 čevljev širokih območjih mesta do enega tedna vnaprej z 90-odstotno natančnostjo, kot je poročalo nedavno papir v Narava človeško vedenje. Raziskovalci so tudi pokazali, da je njihov pristop dosegel podobno natančnost, ko so bili usposobljeni na podatkih iz sedmih drugih mest v ZDA. In ko so ga testirali na naboru podatkov iz prediktivnega policijskega izziva, ki ga vodi Nacionalni inštitut za pravosodje, so presegli najboljši pristop v 119 od 120 kategorij testiranja.

Raziskovalci so svoj uspeh pripisali opuščanju pristopov, ki nalagajo prostorske omejitve modelu s predpostavko, da se kriminal pojavi na žariščih, preden se razširi na okoliška območja. Namesto tega je njihov model lahko zajel bolj zapletene povezave, ki bi jih lahko posredovali prometne povezave, komunikacijska omrežja ali demografske podobnosti med različnimi regijami mesta.

Vendar pa so raziskovalci ob priznanju, da so bili podatki, uporabljeni za študijo, verjetno omadeževani z obstoječimi pristranskostmi v policijskih praksah, raziskali tudi, kako bi lahko njihov model uporabili za odkrivanje, kako bi lahko takšni predsodki izkrivljali način, kako organi kazenskega pregona uporabljajo svoje vire.

Ko je ekipa umetno zvišala stopnje tako nasilnega kot premoženjskega kriminala v bogatejših soseskah, je število aretacij poskočilo, medtem ko se je število aretacij v revnejših območjih zmanjšalo. Nasprotno, ko se je stopnja kriminala povečala v revnih območjih, ni prišlo do povečanja aretacij. Posledica, pravijo raziskovalci, je, da policija daje prednost bogatejšim soseskam in lahko črpa sredstva stran od revnejših.

Da bi potrdili svoje ugotovitve, so raziskovalci analizirali tudi neobdelane policijske podatke, pri čemer so uporabili sezonsko povečanje kriminala v poletnih mesecih, da bi raziskali učinek povišanih stopenj kriminala na različnih območjih. Rezultati so odražali trende, ki jih je opredelil njihov model.

Kljub njegovi natančnosti je vodja študije Ishanu Chattopadhyay dejal v a sporočilo za javnost da se orodje ne bi smelo uporabljati za neposredno določanje dodeljevanja policijskih virov, temveč kot orodje za raziskovanje boljših policijskih strategij. Sistem opisuje kot "digitalnega dvojčka urbanih okolij", ki lahko pomaga policiji razumeti učinke različnih stopenj kriminala ali pregona v različnih delih mesta.

Ali lahko raziskava pomaga usmerjati področje prediktivnega policijskega delovanja v bolj vestno in odgovorno smer, bomo še videli, vendar je kakršno koli prizadevanje za uravnoteženje potenciala javne varnosti tehnologije in njenih znatnih tveganj korak v pravo smer.

Kreditno slike: David von Diemar / Unsplash