Zuid-Koreaanse politie zet voorafgaand aan verkiezingen een deepfake-detectietool in

Zuid-Koreaanse politie zet voorafgaand aan verkiezingen een deepfake-detectietool in

Tijdstempel: 8 maart 2024 3:06 uur
Zuid-Koreaanse politie zet deepfake-detectietool in voorafgaand aan verkiezingen PlatoBlockchain Data Intelligence. Verticaal zoeken. Ai.

Te midden van een sterke toename van politiek gemotiveerde deepfakes heeft de Nationale Politiedienst van Zuid-Korea (KNPA) een tool ontwikkeld en ingezet voor het detecteren van door AI gegenereerde inhoud voor gebruik in mogelijke strafrechtelijke onderzoeken.

Volgens het National Office of Investigation (NOI) van de KNPA is het deep learning-programma getraind op ongeveer 5.2 miljoen stukjes data afkomstig van 5,400 Koreaanse burgers. Het kan in slechts vijf tot tien minuten bepalen of een video (waarop het niet vooraf is getraind) echt is of niet, met een nauwkeurigheidspercentage van ongeveer 10%. De tool genereert automatisch een resultatenblad dat de politie kan gebruiken bij strafrechtelijk onderzoek.

Dat melden Koreaanse mediazullen deze resultaten worden gebruikt ter informatie bij onderzoeken, maar niet als direct bewijsmateriaal in strafzaken. De politie zal ook ruimte maken voor samenwerking met AI-experts uit de academische wereld en het bedrijfsleven.

AI-beveiligingsexperts hebben opgeroepen tot het gebruik van AI voor het goede, inclusief het opsporen van verkeerde informatie en deepfakes.

“Dit is het punt: AI kan ons helpen [valse inhoud] op elke schaal te analyseren”, vertelde Gil Shwed, CEO van Check Point, deze week in een interview aan Dark Reading. Hoewel AI de ziekte is, zei hij, is het ook de remedie: “Voor het opsporen van fraude waren vroeger zeer complexe technologieën nodig, maar met AI kun je hetzelfde doen met een minimale hoeveelheid informatie – niet alleen met goede en grote hoeveelheden informatie. informatie."

Korea's deepfake-probleem

Terwijl de rest van de wereld wacht in afwachting van deepfakes binnenvallende verkiezingsseizoenenhebben de Koreanen het probleem al van dichtbij en persoonlijk aangepakt.

De kanarie in de kolenmijn vond plaats tijdens de provinciale verkiezingen in 2022, toen een video op sociale media werd verspreid waarin president Yoon Suk Yeol een lokale kandidaat voor de regerende partij steunde.

Dit soort bedrog komt de laatste tijd steeds vaker voor. Vorige maand maakte de Nationale Verkiezingscommissie van het land bekend dat er tussen 29 januari en 16 februari 129 deepfakes gedetecteerd in strijd met de kieswetten – een cijfer dat naar verwachting alleen maar zal stijgen naarmate de verkiezingsdag van 10 april nadert. Dit alles ondanks een herziene wet die op 29 januari van kracht werd en stelt dat het gebruik van deepfake-video's, -foto's of -audio in verband met verkiezingen een burger tot zeven jaar gevangenisstraf en boetes tot 50 miljoen won kan opleveren. (ongeveer $ 37,500). 

Niet alleen desinformatie

Shwed van Check Point waarschuwde dat AI, net als elke nieuwe technologie, risico's met zich meebrengt. “Dus ja, er zijn slechte dingen die kunnen gebeuren en we moeten ons daartegen verdedigen”, zei hij.

Valse informatie is niet zozeer het probleem, voegde hij eraan toe. “Het grootste probleem bij menselijke conflicten in het algemeen is dat we niet het hele plaatje zien – we kiezen de elementen [in het nieuws] die we willen zien, en nemen op basis daarvan een beslissing,” zei hij.

“Het gaat niet om desinformatie, het gaat om waar je in gelooft. En op basis van waar je in gelooft, kies je welke informatie je wilt zien. Niet andersom."

Tijdstempel:

Meer van Donkere lezing