Denne AI forutsier kriminalitet en uke i forveien – og fremhever politiskjevhet

Arbeidet med å bruke AI til å forutsi kriminalitet har vært full av kontroverser på grunn av potensialet til å gjenskape eksisterende skjevheter i politiarbeid. Men et nytt system drevet av maskinlæring har løftet om ikke bare å gjøre bedre spådommer, men også fremheve disse skjevhetene.

Hvis det er én ting moderne maskinlæring er gode på, så er det å oppdage mønstre og lage spådommer. Så det er kanskje ikke overraskende at mange i politikk- og rettshåndhevelsesverdenen er opptatt av å bruke disse ferdighetene. Tilhengere ønsker å trene AI-modeller med historiske kriminalitetsregistre og andre relevante data for å forutsi når og hvor det er sannsynlig at forbrytelser vil skje, og bruke resultatene til å styre politiets innsats.

Problemet er at denne typen data ofte skjuler seg alle slags skjevheter som kan replikeres for lett når det brukes til å trene algoritmer uten omtanke. Tidligere tilnærminger har noen ganger inkludert falske variabler som tilstedeværelsen av graffiti eller demografiske data, noe som lett kan føre til at modeller lager feilaktige assosiasjoner basert på rasemessige eller sosioøkonomiske kriterier.

Selv grunnleggende politidata om rapporterte forbrytelser eller antall arrestasjoner kan inneholde skjulte skjevheter. Tungt politiarbeid av visse områder som antas å være høy i kriminalitet på grunn av forhåndseksisterende fordommer, vil nesten uunngåelig føre til flere arrestasjoner. Og i områder med høy mistillit til politiet kan forbrytelser ofte forbli urapportert.

Likevel vil det å kunne forutse trender innen kriminell aktivitet på forhånd være til nytte for samfunnet. Så en gruppe fra University of Chicago har utviklet et nytt maskinlæringssystem som kan forutsi når og hvor kriminalitet sannsynligvis vil skje bedre enn tidligere systemer og også brukes til å undersøke systemiske skjevheter i politiarbeid.

Forskerne samlet først flere års data fra Chicago-politiet om volds- og eiendomsforbrytelser, samt antall arrestasjoner som følge av hver hendelse. De brukte disse dataene til å trene en serie AI-modeller som viser hvordan endringer i hver av disse variablene påvirker de andre.

Dette tillot teamet å forutsi kriminalitetsnivåer i 1,000 fot brede områder av byen opptil en uke i forveien med 90 prosent nøyaktighet, som rapportert i en nylig papir inn Natur menneskelig adferd. Forskerne viste også at deres tilnærming oppnådde lignende nøyaktighet når de ble trent på data fra syv andre amerikanske byer. Og da de testet det på et datasett fra en prediktiv politiutfordring drevet av National Institute of Justice, overgikk de den beste tilnærmingen i 119 av 120 testkategorier.

Forskerne legger sin suksess ned på å forlate tilnærminger som legger romlige begrensninger på modellen ved å anta at kriminalitet dukker opp i hotspots før den sprer seg til omkringliggende områder. I stedet var modellen deres i stand til å fange opp mer komplekse forbindelser som kunne formidles av transportforbindelser, kommunikasjonsnettverk eller demografiske likheter mellom forskjellige regioner i byen.

Men i erkjennelse av at dataene som ble brukt til studien sannsynligvis var tilsmusset av eksisterende skjevheter i politipraksis, undersøkte forskerne også hvordan modellen deres kunne brukes til å avdekke hvordan slike fordommer kan forvrenge måten rettshåndhevelse bruker ressursene sine på.

Da teamet kunstig økte nivåene av både voldelig og eiendomskriminalitet i rikere nabolag, økte arrestasjonene, ettersom de i fattigere områder falt. Derimot, da kriminalitetsnivået ble økt i fattige områder, var det ingen økning i arrestasjoner. Implikasjonen, sier forskerne, er at rikere nabolag blir prioritert av politiet og kan trekke ressurser bort fra de fattigere.

For å validere funnene deres, analyserte forskerne også de rå politidataene, ved å bruke den sesongmessige økningen i kriminalitet i sommermånedene for å undersøke effekten av forhøyede kriminalitetstall i forskjellige områder. Resultatene speilet trendene identifisert av modellen deres.

Til tross for nøyaktigheten, sa studieleder Ishanu Chattopadhyay i en pressemelding at verktøyet ikke skal brukes til direkte å fastsette tildeling av politiressurser, men i stedet som et verktøy for å etterforske bedre politistrategier. Han beskriver systemet som en "digital tvilling av urbane miljøer" som kan hjelpe politiet med å forstå effekten av varierende kriminalitet eller håndhevingsnivåer på tvers av forskjellige deler av byen.

Hvorvidt forskningen kan bidra til å rette feltet for prediktivt politiarbeid i en mer samvittighetsfull og ansvarlig retning gjenstår å se, men ethvert forsøk på å balansere teknologiens offentlige sikkerhetspotensial mot dens betydelige risiko er et skritt i riktig retning.

Bilde Credit: David von Diemar / Unsplash