Europese Commissie richt zich op door AI gegenereerde desinformatie voorafgaand aan verkiezingen

In een proactieve stap om de integriteit van de komende Europese verkiezingen te waarborgen, heeft de Europese Commissie technologiegiganten als TikTok, X (voorheen Twitter) en Facebook de opdracht gegeven om hun inspanningen op het gebied van het detecteren van door AI gegenereerde inhoud op te voeren. Dit initiatief maakt deel uit van een bredere strategie om desinformatie te bestrijden en democratische processen te beschermen tegen de potentiële bedreigingen van generatieve AI en deepfakes.

Mitigerende maatregelen en publieke raadpleging

De Commissie heeft in het kader van de Digital Services Act (DSA) ontwerprichtlijnen voor verkiezingsbeveiliging opgesteld, die het belang onderstrepen van duidelijke en aanhoudende etikettering van door AI gegenereerde inhoud die in aanzienlijke mate kan lijken op echte personen, voorwerpen, plaatsen, entiteiten of gebeurtenissen of deze verkeerd kan voorstellen. Deze richtlijnen benadrukken ook de noodzaak voor platforms om gebruikers te voorzien van hulpmiddelen om door AI gegenereerde inhoud te labelen, waardoor de transparantie en verantwoordelijkheid in de digitale ruimte worden vergroot.

Er is een openbare consultatieperiode aan de gang, waardoor belanghebbenden tot 7 maart feedback kunnen geven op deze ontwerprichtlijnen. De nadruk ligt op het implementeren van “redelijke, evenredige en effectieve” mitigatiemaatregelen om de creatie en verspreiding van door AI gegenereerde desinformatie te voorkomen. De belangrijkste aanbevelingen zijn onder meer het watermerken van door AI gegenereerde inhoud voor gemakkelijke herkenning en ervoor zorgen dat platforms hun inhoudsmoderatiesystemen aanpassen om dergelijke inhoud efficiënt te detecteren en te beheren.

Nadruk op transparantie en empowerment van gebruikers

De voorgestelde richtlijnen pleiten voor transparantie en dringen er bij platforms op aan om de informatiebronnen bekend te maken die worden gebruikt bij het genereren van AI-inhoud. Deze aanpak is bedoeld om gebruikers in staat te stellen onderscheid te maken tussen authentieke en misleidende inhoud. Bovendien worden technologiegiganten aangemoedigd om waarborgen te integreren om het genereren van valse inhoud te voorkomen die het gedrag van gebruikers zou kunnen beïnvloeden, vooral in de electorale context.

Het wetgevingskader van de EU en de reactie van de industrie

Deze richtlijnen zijn geïnspireerd op de onlangs goedgekeurde AI-wet van de EU en het niet-bindende AI-pact, en benadrukken de inzet van de EU om het gebruik van generatieve AI-tools te reguleren, waaronder tools zoals ChatGPT van OpenAI. Meta, het moederbedrijf van Facebook en Instagram, heeft gereageerd door haar voornemen bekend te maken om door AI gegenereerde berichten te labelen, in lijn met het streven van de EU naar meer transparantie en gebruikersbescherming tegen nepnieuws.

De rol van de wet op digitale diensten

De DSA speelt een cruciale rol in dit initiatief, is van toepassing op een breed scala aan digitale bedrijven en legt aanvullende verplichtingen op aan zeer grote onlineplatforms (VLOP's) om systeemrisico's op gebieden als democratische processen te beperken. De bepalingen van de DSA zijn bedoeld om ervoor te zorgen dat de informatie die wordt verstrekt met behulp van generatieve AI afhankelijk is van betrouwbare bronnen, vooral in de electorale context, en dat platforms proactieve maatregelen nemen om de effecten van door AI gegenereerde “hallucinaties” te beperken.

Conclusie

Nu de Europese Commissie zich opmaakt voor de verkiezingen in juni, betekenen deze richtlijnen een belangrijke stap in de richting van het waarborgen dat het online-ecosysteem een ​​ruimte blijft voor eerlijke en geïnformeerde democratische betrokkenheid. Door de uitdagingen van door AI gegenereerde inhoud aan te pakken, wil de EU haar verkiezingsprocessen versterken tegen desinformatie, en de integriteit en veiligheid van haar democratische instellingen hooghouden.

Afbeeldingsbron: Shutterstock