EU-kommisjonen tar sikte på AI-generert desinformasjon foran valg

I et proaktivt grep for å sikre integriteten til det kommende europeiske valget, har EU-kommisjonen gitt teknologigiganter som TikTok, X (tidligere Twitter) og Facebook mandat til å øke innsatsen for å oppdage AI-generert innhold. Dette initiativet er en del av en bredere strategi for å bekjempe feilinformasjon og beskytte demokratiske prosesser mot potensielle trusler fra generativ AI og dype forfalskninger.

Avbøtende tiltak og offentlig høring

Kommisjonen har lagt utkast til retningslinjer for valgsikkerhet under Digital Services Act (DSA), som understreker viktigheten av tydelig og vedvarende merking av AI-generert innhold som i betydelig grad kan ligne eller feilrepresentere virkelige personer, objekter, steder, enheter eller hendelser. Disse retningslinjene understreker også nødvendigheten av at plattformer gir brukerne verktøy for å merke AI-generert innhold, noe som øker åpenhet og ansvarlighet på tvers av digitale rom.

En offentlig høringsperiode er i gang, slik at interessenter kan bidra med tilbakemeldinger på disse utkastene til retningslinjer frem til 7. mars. Fokuset er på å implementere «rimelige, forholdsmessige og effektive» avbøtende tiltak for å forhindre opprettelse og spredning av AI-generert feilinformasjon. Nøkkelanbefalinger inkluderer vannmerking av AI-generert innhold for enkel gjenkjennelse og å sikre at plattformer tilpasser innholdsmodereringssystemene sine for å oppdage og administrere slikt innhold effektivt.

Vekt på åpenhet og brukerstyrking

De foreslåtte retningslinjene tar til orde for åpenhet, og oppfordrer plattformer til å avsløre informasjonskildene som brukes til å generere AI-innhold. Denne tilnærmingen tar sikte på å gi brukerne mulighet til å skille mellom autentisk og villedende innhold. Videre oppfordres teknologigiganter til å integrere sikkerhetstiltak for å forhindre generering av falskt innhold som kan påvirke brukeratferd, spesielt i valgsammenheng.

EUs lovgivningsramme og industrirespons

Disse retningslinjene er inspirert av EUs nylig godkjente AI-lov og den ikke-bindende AI-pakten, som fremhever EUs forpliktelse til å regulere bruken av generative AI-verktøy, inkludert de som OpenAIs ChatGPT. Meta, morselskapet til Facebook og Instagram, har svart med å kunngjøre sin intensjon om å merke AI-genererte innlegg, i tråd med EUs press for større åpenhet og brukerbeskyttelse mot falske nyheter.

Lov om digitale tjenesters rolle

DSA spiller en kritisk rolle i dette initiativet, og gjelder for et bredt spekter av digitale virksomheter og pålegger ytterligere forpliktelser på svært store nettplattformer (VLOPs) for å redusere systemrisiko på områder som demokratiske prosesser. DSAs bestemmelser tar sikte på å sikre at informasjon gitt ved bruk av generativ AI er avhengig av pålitelige kilder, spesielt i valgsammenheng, og at plattformer tar proaktive tiltak for å begrense effekten av AI-genererte «hallusinasjoner»​​.

konklusjonen

Når EU-kommisjonen forbereder seg til valget i juni, betyr disse retningslinjene et betydelig skritt mot å sikre at nettøkosystemet forblir et rom for rettferdig og informert demokratisk engasjement. Ved å møte utfordringene med AI-generert innhold, har EU som mål å styrke sine valgprosesser mot desinformasjon, og opprettholde integriteten og sikkerheten til sine demokratiske institusjoner​​

Bildekilde: Shutterstock