La Commission européenne s’attaque à la désinformation générée par l’IA à l’approche des élections

Dans une démarche proactive visant à préserver l’intégrité des prochaines élections européennes, la Commission européenne a mandaté des géants de la technologie comme TikTok, X (anciennement Twitter) et Facebook pour intensifier leurs efforts de détection des contenus générés par l’IA. Cette initiative fait partie d’une stratégie plus large visant à lutter contre la désinformation et à protéger les processus démocratiques contre les menaces potentielles posées par l’IA générative et les deepfakes.

Mesures d’atténuation et consultation publique

La Commission a présenté un projet de lignes directrices en matière de sécurité électorale dans le cadre de la loi sur les services numériques (DSA), qui soulignent l'importance d'un étiquetage clair et persistant du contenu généré par l'IA qui pourrait ressembler de manière significative ou donner une fausse représentation de personnes, d'objets, de lieux, d'entités ou d'événements réels. Ces lignes directrices soulignent également la nécessité pour les plateformes de fournir aux utilisateurs des outils permettant d’étiqueter le contenu généré par l’IA, améliorant ainsi la transparence et la responsabilité dans les espaces numériques​​​​​​.

Une période de consultation publique est en cours, permettant aux parties prenantes de faire part de leurs commentaires sur ce projet de lignes directrices jusqu'au 7 mars. L'accent est mis sur la mise en œuvre de mesures d'atténuation « raisonnables, proportionnées et efficaces » pour empêcher la création et la diffusion de désinformations générées par l'IA. Les principales recommandations incluent le filigrane du contenu généré par l'IA pour une reconnaissance facile et la garantie que les plateformes adaptent leurs systèmes de modération de contenu pour détecter et gérer efficacement ce contenu.

Accent sur la transparence et l'autonomisation des utilisateurs

Les lignes directrices proposées prônent la transparence, exhortant les plateformes à divulguer les sources d’informations utilisées pour générer du contenu d’IA. Cette approche vise à permettre aux utilisateurs de faire la distinction entre le contenu authentique et trompeur. Par ailleurs, les géants de la technologie sont encouragés à intégrer des garde-fous pour empêcher la génération de faux contenus susceptibles d’influencer le comportement des utilisateurs, notamment dans le contexte électoral.

Cadre législatif de l'UE et réponse de l'industrie

Ces lignes directrices s'inspirent de la loi sur l'IA récemment approuvée par l'UE et du Pacte non contraignant sur l'IA, soulignant l'engagement de l'UE à réglementer l'utilisation des outils d'IA générative, y compris ceux comme ChatGPT d'OpenAI. Meta, la société mère de Facebook et Instagram, a répondu en annonçant son intention d'étiqueter les publications générées par l'IA, s'alignant ainsi sur les efforts de l'UE en faveur d'une plus grande transparence et d'une plus grande protection des utilisateurs contre les fausses nouvelles.

Le rôle de la loi sur les services numériques

Le DSA joue un rôle essentiel dans cette initiative, s’appliquant à un large éventail d’entreprises numériques et imposant des obligations supplémentaires aux très grandes plateformes en ligne (VLOP) afin d’atténuer les risques systémiques dans des domaines tels que les processus démocratiques. Les dispositions du DSA visent à garantir que les informations fournies à l'aide de l'IA générative reposent sur des sources fiables, notamment dans le contexte électoral, et que les plateformes prennent des mesures proactives pour limiter les effets des « hallucinations » générées par l'IA.

Conclusion

Alors que la Commission européenne se prépare pour les élections de juin, ces lignes directrices représentent une étape importante pour garantir que l'écosystème en ligne reste un espace d'engagement démocratique juste et éclairé. En relevant les défis posés par les contenus générés par l'IA, l'UE vise à renforcer ses processus électoraux contre la désinformation, en préservant l'intégrité et la sécurité de ses institutions démocratiques.​​​

Source de l'image: Shutterstock