Europa-Kommissionen tager sigte på AI-genereret desinformation forud for valg

I et proaktivt skridt for at sikre integriteten af ​​det kommende europæiske valg har Europa-Kommissionen givet teknologigiganter som TikTok, X (tidligere Twitter) og Facebook mandat til at øge deres indsats for at opdage AI-genereret indhold. Dette initiativ er en del af en bredere strategi til at bekæmpe misinformation og beskytte demokratiske processer mod de potentielle trusler fra generativ kunstig intelligens og deepfakes.

Afbødende foranstaltninger og offentlig høring

Kommissionen har udarbejdet udkast til retningslinjer for valgsikkerhed i henhold til Digital Services Act (DSA), som understreger vigtigheden af ​​klar og vedvarende mærkning af AI-genereret indhold, der i væsentlig grad kan ligne eller misrepræsentere virkelige personer, objekter, steder, entiteter eller begivenheder. Disse retningslinjer understreger også nødvendigheden af, at platforme giver brugerne værktøjer til at mærke AI-genereret indhold, hvilket øger gennemsigtighed og ansvarlighed på tværs af digitale rum.

En offentlig høringsperiode er i gang, hvilket giver interessenter mulighed for at bidrage med feedback på disse udkast til retningslinjer indtil den 7. marts. Fokus er på at implementere "rimelige, forholdsmæssige og effektive" afbødende foranstaltninger for at forhindre oprettelsen og spredningen af ​​AI-genereret misinformation. Nøgleanbefalinger omfatter vandmærkning af AI-genereret indhold for nem genkendelse og sikring af, at platforme tilpasser deres indholdsmodereringssystemer til at opdage og administrere sådant indhold effektivt.

Vægt på gennemsigtighed og brugerindflydelse

De foreslåede retningslinjer slår til lyd for gennemsigtighed og opfordrer platforme til at afsløre de informationskilder, der bruges til at generere AI-indhold. Denne tilgang har til formål at give brugerne mulighed for at skelne mellem autentisk og vildledende indhold. Desuden opfordres teknologigiganter til at integrere sikkerhedsforanstaltninger for at forhindre generering af falsk indhold, der kan påvirke brugeradfærd, især i valgsammenhæng.

EU's lovgivningsmæssige rammer og industrisvar

Disse retningslinjer er inspireret af EU's nyligt godkendte AI-lov og den ikke-bindende AI-pagt, der fremhæver EU's forpligtelse til at regulere brugen af ​​generative AI-værktøjer, herunder dem som OpenAI's ChatGPT. Meta, moderselskabet til Facebook og Instagram, har reageret ved at annoncere sin hensigt om at mærke AI-genererede opslag, i overensstemmelse med EU's indsats for større gennemsigtighed og brugerbeskyttelse mod falske nyheder.

Lov om digitale tjenesters rolle

DSA spiller en afgørende rolle i dette initiativ, idet det gælder for en bred vifte af digitale virksomheder og pålægger yderligere forpligtelser på meget store online platforme (VLOP'er) for at afbøde systemiske risici på områder som demokratiske processer. DSA's bestemmelser har til formål at sikre, at information leveret ved hjælp af generativ AI er afhængig af pålidelige kilder, især i valgsammenhæng, og at platforme træffer proaktive foranstaltninger for at begrænse virkningerne af AI-genererede "hallucinationer".

Konklusion

Mens Europa-Kommissionen gør klar til valget i juni, betyder disse retningslinjer et væsentligt skridt hen imod at sikre, at online-økosystemet forbliver et rum for retfærdigt og informeret demokratisk engagement. Ved at imødegå de udfordringer, som AI-genereret indhold udgør, sigter EU mod at styrke sine valgprocesser mod desinformation og opretholde integriteten og sikkerheden af ​​sine demokratiske institutioner​​

Billedkilde: Shutterstock