Sydkoreansk polis använder Deepfake-detektionsverktyget före valet

Sydkoreansk polis använder Deepfake-detektionsverktyget före valet

Tidsstämpel: 8 mars 2024 3:06
Sydkoreansk polis använder Deepfake Detection Tool före valet PlatoBlockchain Data Intelligence. Vertikal sökning. Ai.

Mitt i en brant ökning av politiskt motiverade deepfakes har Sydkoreas nationella polismyndighet (KNPA) utvecklat och distribuerat ett verktyg för att upptäcka AI-genererat innehåll för användning i potentiella brottsutredningar.

Enligt KNPA:s National Office of Investigation (NOI) tränades programmet för djupinlärning på cirka 5.2 miljoner data från 5,400 10 koreanska medborgare. Den kan avgöra om en video (som den inte har förtränat på) är verklig eller inte på bara fem till 80 minuter, med en noggrannhet på cirka XNUMX %. Verktyget genererar automatiskt ett resultatblad som polisen kan använda i brottsutredningar.

Som rapporterats av koreanska medier, kommer dessa resultat att användas för att informera utredningar men kommer inte att användas som direkt bevis i brottmål. Polisen kommer också att skapa utrymme för samarbete med AI-experter inom akademi och näringsliv.

AI-säkerhetsexperter har efterlyst användningen av AI för gott, inklusive att upptäcka felaktig information och deepfakes.

"Detta är poängen: AI kan hjälpa oss att analysera [falskt innehåll] i vilken skala som helst," sa Gil Shwed, vd för Check Point, till Dark Reading i en intervju denna vecka. Även om AI är sjukdomen, sa han, är det också botemedlet: "[Att upptäcka bedrägeri] brukade kräva mycket komplex teknik, men med AI kan du göra samma sak med en minimal mängd information - inte bara bra och stora mängder information."

Koreas Deepfake-problem

Medan resten av världen väntar i väntan på deepfakes invaderande valsäsonger, har koreaner redan hanterat problemet på nära håll.

Kanariefågeln i kolgruvan inträffade under provinsvalet 2022, när en video spreds på sociala medier som visade sig visa president Yoon Suk Yeol stödja en lokal kandidat för det styrande partiet.

Denna typ av bedrägeri har på senare tid blivit allt vanligare. Förra månaden avslöjade landets nationella valkommission att det mellan 29 januari och 16 februari upptäckte 129 deepfakes i strid med vallagarna – en siffra som bara förväntas stiga när valdagen den 10 april närmar sig. Allt detta trots en reviderad lag som trädde i kraft den 29 januari, som säger att användning av deepfake videor, foton eller ljud i samband med val kan ge en medborgare upp till sju års fängelse och böter på upp till 50 miljoner won. (cirka $37,500 XNUMX). 

Inte bara desinformation

Check Points Shwed varnade för att, precis som all ny teknik, har AI sina risker. "Så ja, det finns dåliga saker som kan hända och vi måste försvara oss mot dem," sa han.

Falsk information är inte lika mycket problemet, tillade han. "Den största frågan i mänsklig konflikt i allmänhet är att vi inte ser hela bilden - vi väljer de element [i nyheterna] som vi vill se, och sedan baserat på dem fattar vi ett beslut," sa han.

"Det handlar inte om desinformation, det handlar om vad du tror på. Och baserat på vad du tror på väljer du vilken information du vill se. Inte tvärt om."

Tidsstämpel:

Mer från Mörk läsning