유럽연합 집행위원회, 선거를 앞두고 AI가 생성한 허위 정보를 목표로 삼다

다가오는 유럽 선거의 무결성을 보호하기 위한 사전 조치로 유럽 위원회는 TikTok, X(이전의 Twitter) 및 Facebook과 같은 거대 기술 기업에 AI 생성 콘텐츠 탐지 노력을 강화하도록 명령했습니다. 이 이니셔티브는 잘못된 정보에 맞서 싸우고 생성 AI 및 딥페이크에 의한 잠재적 위협으로부터 민주적 프로세스를 보호하기 위한 광범위한 전략의 일부입니다.

완화 조치 및 공개 협의

위원회는 디지털 서비스법(DSA)에 따라 선거 보안 지침 초안을 마련했습니다. 이 지침은 실제 사람, 사물, 장소, 단체 또는 사건을 상당히 유사하거나 허위로 표현할 수 있는 AI 생성 콘텐츠에 대한 명확하고 지속적인 라벨링의 중요성을 강조합니다. 또한 이러한 지침은 플랫폼이 사용자에게 AI 생성 콘텐츠에 라벨을 지정하는 도구를 제공하여 디지털 공간 전반에 걸쳐 투명성과 책임성을 강화해야 할 필요성을 강조합니다.​​​​​

이해관계자들이 7월 XNUMX일까지 이러한 초안 지침에 대한 피드백을 제공할 수 있도록 공개 협의 기간이 진행 중입니다. AI로 인해 생성된 잘못된 정보의 생성 및 전파를 방지하기 위해 "합리적이고 비례적이며 효과적인" 완화 조치를 구현하는 데 중점을 두고 있습니다. 주요 권장 사항에는 쉽게 인식할 수 있도록 AI 생성 콘텐츠에 워터마킹을 하고 플랫폼이 해당 콘텐츠를 효율적으로 감지하고 관리할 수 있도록 콘텐츠 조정 시스템을 적용하는 것이 포함됩니다.​​​

투명성과 사용자 권한 부여 강조

제안된 지침은 투명성을 옹호하며 플랫폼이 AI 콘텐츠 생성에 사용되는 정보의 출처를 공개하도록 촉구합니다. 이 접근 방식은 사용자가 진짜 콘텐츠와 오해의 소지가 있는 콘텐츠를 구별할 수 있도록 하는 것을 목표로 합니다. 또한 거대 기술 기업은 특히 선거 상황에서 사용자 행동에 영향을 미칠 수 있는 허위 콘텐츠의 생성을 방지하기 위한 보호 장치를 통합하는 것이 좋습니다.

EU의 입법 체계 및 업계 대응

이 지침은 EU가 최근 승인한 AI법과 구속력이 없는 AI Pact에서 영감을 받아 OpenAI의 ChatGPT와 같은 생성 AI 도구의 사용을 규제하려는 EU의 약속을 강조합니다. 페이스북과 인스타그램의 모회사인 메타(Meta)는 가짜 뉴스에 대한 투명성과 사용자 보호를 강화하려는 EU의 요구에 맞춰 AI가 생성한 게시물에 라벨을 붙이겠다는 의사를 밝혔습니다.

디지털 서비스법의 역할

DSA는 이 이니셔티브에서 중요한 역할을 하며, 광범위한 디지털 비즈니스에 적용하고 VLOP(초대형 온라인 플랫폼)에 추가 의무를 부과하여 민주적 프로세스와 같은 영역에서 시스템적 위험을 완화합니다. DSA의 조항은 생성 AI를 사용하여 제공되는 정보가 특히 선거 상황에서 신뢰할 수 있는 소스에 의존하도록 보장하고 플랫폼이 AI 생성 "환각"의 영향을 제한하기 위해 사전 조치를 취하도록 하는 것을 목표로 합니다.​​​​

결론

유럽연합 집행위원회가 6월 선거를 준비하는 동안 이러한 지침은 온라인 생태계가 공정하고 정보에 입각한 민주적 참여를 위한 공간으로 유지되도록 보장하기 위한 중요한 단계를 의미합니다. EU는 AI 생성 콘텐츠로 인한 문제를 해결함으로써 허위 정보에 맞서 선거 과정을 강화하고 민주주의 제도의 무결성과 보안을 유지하는 것을 목표로 합니다.​​​

이미지 출처 : Shutterstock