Sørkoreansk politi implementerer Deepfake-deteksjonsverktøy før valget

Publisert av Platon

Følgere: 0

Sørkoreansk politi implementerer Deepfake-deteksjonsverktøy før valget PlatoBlockchain Data Intelligence. Vertikalt søk. Ai.

Midt i en kraftig økning i politisk motiverte deepfakes, har Sør-Koreas nasjonale politibyrå (KNPA) utviklet og distribuert et verktøy for å oppdage AI-generert innhold for bruk i potensielle kriminelle etterforskninger.

I følge KNPAs nasjonale etterforskningskontor (NOI) ble dyplæringsprogrammet trent på omtrent 5.2 millioner stykker data hentet fra 5,400 koreanske borgere. Den kan avgjøre om en video (som den ikke har blitt forhåndstrenet på) er ekte eller ikke på bare fem til 10 minutter, med en nøyaktighet på rundt 80 %. Verktøyet genererer automatisk et resultatark som politiet kan bruke i kriminelle etterforskninger.

Som rapportert av koreanske medier, vil disse resultatene bli brukt til å informere etterforskningen, men vil ikke bli brukt som direkte bevis i straffesaker. Politiet vil også gjøre rom for samarbeid med AI-eksperter innen akademia og næringsliv.

AI-sikkerhetseksperter har bedt om bruk av AI for godt, inkludert å oppdage feilinformasjon og dype forfalskninger.

"Dette er poenget: AI kan hjelpe oss med å analysere [falsk innhold] i alle skalaer," sa Gil Shwed, administrerende direktør i Check Point, til Dark Reading i et intervju denne uken. Selv om AI er sykdommen, sa han, er det også kuren: «[Å oppdage svindel] krevde tidligere svært komplekse teknologier, men med AI kan du gjøre det samme med et minimum av informasjon – ikke bare gode og store mengder informasjon."

Koreas Deepfake-problem

Mens resten av verden venter i påvente av deepfakes invaderer valgsesonger, har koreanere allerede taklet problemet på nært hold.

Kanarifuglen i kullgruven skjedde under provinsvalget i 2022, da en video spredte seg på sosiale medier som ser ut til å vise president Yoon Suk Yeol som støtter en lokal kandidat for regjeringspartiet.

Denne typen bedrag har i det siste blitt mer utbredt. I forrige måned avslørte landets nasjonale valgkommisjon at det mellom 29. januar og 16. februar oppdaget 129 deepfakes i strid med valglovene – et tall som bare forventes å stige når valgdagen 10. april nærmer seg. Alt dette til tross for en revidert lov som trådte i kraft 29. januar, som sier at bruk av dypfalske videoer, bilder eller lyd i forbindelse med valg kan gi en borger opptil syv års fengsel, og bøter på opptil 50 millioner won. (rundt $37,500).

Ikke bare desinformasjon

Check Points Shwed advarte om at, som all ny teknologi, har AI sine risikoer. "Så ja, det er dårlige ting som kan skje, og vi må forsvare oss mot dem," sa han.

Falsk informasjon er ikke så mye problemet, la han til. "Det største problemet i menneskelig konflikt generelt er at vi ikke ser hele bildet - vi velger elementene [i nyhetene] som vi ønsker å se, og tar deretter en avgjørelse basert på dem," sa han.

«Det handler ikke om desinformasjon, det handler om hva du tror på. Og basert på hva du tror på, velger du hvilken informasjon du vil se. Ikke omvendt."