Meta의 감독위원회는 가짜 Biden 비디오 이후 규칙을 검토합니다.

Meta의 감독위원회는 가짜 Biden 비디오 이후 규칙을 검토합니다.

타임 스탬프 : 10 년 2023 월 11 일 오후 29:XNUMX
Meta의 감독위원회는 가짜 Biden 비디오 PlatoBlockchain Data Intelligence 이후 규칙을 검토합니다. 수직 검색. 일체 포함.

Meta의 감독위원회는 Facebook이 조 바이든 미국 대통령을 소아성애자로 잘못 분류한 가짜 동영상을 게시하지 않기로 결정한 후 딥페이크 콘텐츠에 대한 Meta의 정책을 조사하고 있습니다.

해당 가짜 영상은 바이든이 2022년 미국 중간선거에서 손녀 나탈리 바이든의 가슴 위에 '투표했습니다' 스티커를 붙이는 장면을 각색한 것입니다.

올해 XNUMX월 공유된 XNUMX초짜리 영상은 마치 대통령이 자신의 손녀를 부적절하게 만진 것처럼 보이도록 조작되고 반복되었으며, 래퍼 Pharoahe Monch의 노래 'Simon Says'의 NSFW 가사가 배경에서 재생되었습니다. 영상 속 캡션은 바이든이 '병든 소아성애자'라고 잘못 주장했고, 선거에서 그에게 투표한 사람들은 '정신적으로 건강이 좋지 않았다'고 주장했다.

사용자의 불만에도 불구하고 Meta의 중재자는 클립을 삭제하지 않았습니다. 감독위원회에 따르면 신고한 페이스북 사용자는 동영상 보관 결정에 대해 항소했다고 합니다.

메타는 지난달 기준으로 조회수가 30회 미만인 것으로 인정된 가짜 동영상을 삭제하지 않기로 다시 결정했습니다. 왜냐하면 이 동영상은 AI를 사용하여 생성되지 않았고 진짜인 것처럼 전달되었으며 Biden의 연설을 조작하여 그를 마치 바이든처럼 보이도록 조작한 내용도 없었기 때문입니다. 그가 한 번도 말하지 않은 말을 했다.

신고자는 결국 콘텐츠 조정 정책을 검토하기 위해 Meta가 고용한 독립적인 전문가 패널인 감독 위원회에 문제를 제기했습니다.

“이사회는 사람들이 정치인들이 표현이 아닌 행동을 취했지만 자신들이 하지 않은 행동을 했다고 믿게 만들 수 있는 변경된 비디오를 메타의 정책이 적절하게 다루고 있는지 평가하기 위해 이 사례를 선택했습니다.” 쓴 문한다.

"이 사건은 이사회의 선거와 시민 공간, 자동화된 정책 시행 및 콘텐츠 우선순위 큐레이션에 속합니다."

페이스 북의 조작 된 미디어 정책에 따르면 사용자는 딥 러닝 기술(예: 기술적 딥페이크)을 포함하여 인공 지능 또는 기계 학습을 사용하여 생성된 합성 비디오를 게시해서는 안 됩니다. 진짜” 콘텐츠도 아니고 “일반인이 동영상의 대상이 자신이 말하지 않은 말을 했다고 믿도록 오해할 가능성이 있는” 콘텐츠도 아닙니다.

고려 중인 가짜 바이든 영상은 어느 쪽의 규칙도 위반하지 않았기 때문에 온라인에 남아 있는 것이 허용됐다. 기계로 만든 것도 아니고 대통령 입에 넣은 말도 아니었습니다.

그러나 정치적인 잘못된 정보를 다루고 줄이기 위한 Meta의 명시된 노력은 그러한 콘텐츠가 확산되도록 허용되면 희석될 수 있습니다. 위 영상을 그대로 방치한다면 규정에 불균형이 있을 수 있습니다. 이는 모두 사람이 서투르게 편집한 영상이고, 딥페이크에 대한 단속이 있기 때문입니다. AI가 조작된 영상을 만들었다면 내려갔을까요? 하지만 인간이 만든 것이라면 꼭 그럴 필요는 없겠죠?

따라서 이사회는 이 사건을 고려하여 다음 분야에 대한 대중의 의견과 아이디어를 요청합니다.

  • 특히 미국에서 정치인의 인식에 영향을 미치기 위해 변경되거나 조작된 비디오 콘텐츠를 사용하는 온라인 경향에 대한 연구입니다.
  • 조작된 미디어를 포함한 Meta의 잘못된 정보 정책이 이 분야, 특히 선거 맥락에서 현재와 미래의 과제에 대응하기 위한 적합성입니다.
  • 공인에 대한 오해의 소지가 있는 인상을 주기 위해 변조된 영상 콘텐츠에 대한 메타의 인권 책임과 이를 생성 인공지능의 발전을 염두에 두고 어떻게 이해해야 하는지.
  • 자동화 사용을 포함하여 대규모 비디오 콘텐츠 인증에 대한 과제와 모범 사례.
  • 콘텐츠 삭제를 넘어 사실 확인 프로그램이나 표시('정보 처리'라고도 함)와 같은 정치적 허위 정보 또는 잘못된 정보에 대한 대체 대응의 효율성에 대한 연구입니다. 또한 그러한 응답에서 편견을 피하는 방법에 대한 연구.

이러한 의견을 바탕으로 패널은 정책을 검토하고 Meta에 제안을 할 것으로 예상됩니다. 하지만 그 결과 많은 것이 나올 수는 없습니다.

“결정의 일환으로 이사회는 Meta에 정책 권고안을 발행할 수 있습니다. 권장 사항은 구속력이 없지만 Meta는 60일 이내에 이에 응답해야 합니다.”라고 패널은 인정했습니다. "따라서 이사회는 이 사건과 관련된 권장 사항을 제안하는 공개 의견을 환영합니다."

한편 전문가와 국회의원들은 다가오는 2024년 미국 대통령 선거를 앞두고 정치적 담론을 조작하는 딥페이크에 대해 점점 더 우려하고 있습니다.

지난주 미국 상원 의원 Amy Klobuchar(D-MN)와 하원 의원 Yvette Clarke(D-NY)는 ​​정치적 딥페이크에 관한 콘텐츠 정책을 명확히 하기 위해 Meta CEO Mark Zuckerberg와 X CEO Linda Yaccarino에게 편지를 보냈습니다.

"2024년 선거가 빠르게 다가오고 있는 상황에서 정치 광고에 포함된 이러한 유형의 콘텐츠에 대한 투명성이 부족하면 유권자들이 후보와 문제에 대해 알아보기 위해 자주 찾는 플랫폼 전반에 걸쳐 선거 관련 잘못된 정보와 허위 정보가 위험한 홍수로 이어질 수 있습니다." 명시된 편지, AP 신고.

등록 님이 메타에 의견을 요청했습니다. ®

타임 스탬프 :

더보기 등록