게임을 해보자: Deepfake 뉴스 앵커인가 아니면 실제 사람인가?

플라톤에 의해 재발행

팔로워 : 0

AI가 생성한 뉴스 앵커가 친중국 정부 선전을 내뱉는 온라인 딥페이크 비디오는 Spamouflage라고 불리는 다작의 허위 정보 크루가 만든 것 같습니다.

소셜 미디어 분석 회사의 연구원은 보고서에서 Spamouflage 딥페이크에 대해 자세히 설명하면서 "이 비디오는 Graphika가 AI로 생성된 가상의 사람들의 비디오 영상을 사용하여 국가와 연계된 IO [영향력 작전] 행위자를 처음으로 관찰한 것"을 나타냅니다.PDF] 이번 주.

비디오는 남성 및 여성 방송인을 보여 주며 둘 다 Wolf News라는 미디어 회사에 대해 보도한다고 주장합니다. 하나는 뉴스 앵커가 총기 폭력을 막지 못한 미국을 비난하는 내용입니다. 다른 하나는 세계 경제 회복 노력에 대한 중미 협력의 필요성을 강조합니다.

Graphika는 "언뜻 보기에 Wolf News 앵커는 실제 사람으로 표시됩니다."라고 말했습니다. "우리의 초기 가설은 그들이 비디오에 출연하기 위해 모집된 유료 배우라는 것이었습니다."

Graphika와 다른 연구자들 악당을 Dragonbridge로 추적하고 초기 허위 정보 캠페인에서 실제 사람들을 카메라에 사용하는 것을 문서화한 Google을 포함합니다.

승무원의 다른 영향 작전 중 일부에는 다음과 같은 시도가 포함되었습니다. 간섭하다 2022년 미국 중간선거와 조업 수천 개의 가짜 소셜 미디어 계정을 사용하여 희토류 광산 회사를 공격하여 펜타곤의 엄격한 손가락 흔들기를 촉구했습니다.

Graphika 연구원은 "그러나 추가 조사에서 Wolf News 발표자는 Synthesia라는 영국 AI 비디오 회사가 제공한 기술을 사용하여 거의 확실하게 만들어졌다는 사실이 밝혀졌습니다."라고 주장했습니다.

리버스 이미지 검색에서는 Spamouflage Wolf News 방송에 등장하는 동일한 남성과 여성 "뉴스 앵커"를 보여주는 관련 없는 수많은 동영상을 발견했습니다. AI로 생성된 사람들은 아랍어, 루마니아어, 스페인어 및 영어를 포함하여 이러한 비디오에서 여러 언어로 말합니다. 이것 화물 중개 서비스 홍보.

그 안에서 남자 앵커는 “안녕하세요, 제 이름은 미스터 크루즈입니다. 그리고 나는 아바타입니다.”

크루즈는 다음 중 하나입니다. Synthesia의 "100+" 아바타, 그리고 그의 이름은 Jason이라는 것이 밝혀졌습니다. Wolf News 비디오의 여성 앵커는 Anna입니다.

신테시아의 윤리 페이지 "공개적으로 사용하기 위해 [자사] 소프트웨어를 제공하지 않을 것입니다. 모든 콘텐츠는 신뢰할 수 있는 고객에게 공개되기 전에 명시적인 내부 심사 과정을 거칩니다.”

또한 아바타 FAQ 페이지 아바타가 말할 수 있는 것과 할 수 없는 것에는 한계가 있다고 말합니다.

Spamouflage의 가짜 뉴스 기사는 두 정책을 모두 위반합니다. 논평을 위해 Synthesia에 도달할 수 없습니다. Synthesia의 공동 창립자이자 CEO인 Victor Riparbelli는 이야기 이번 주 초 New York Times는 Spamouflage가 이 기술을 사용하여 동영상을 제작함으로써 Synthesia의 서비스 약관을 위반했습니다.

즉, Spamouflage는 Synthesia의 규칙에 반하여 어떻게든 Synthesia의 기술을 사용하여 콘텐츠를 생산했습니다. Synthesia의 잘못에 대한 제안은 없습니다.

DaVinci에는 정부 기관 및 보안 연구원 Graphika에 따르면 지금까지 AI로 생성된 미디어는 완전히 가짜 사람이 아니라 가짜 얼굴로 크게 제한되었습니다.

그러나 아바타를 사용했음에도 불구하고 Spamouflage 비디오의 나머지 부분은 "저급 정치 스팸"으로 보입니다. 구글의 평가 승무원의 YouTube 동영상 중 83%는 조회수가 100회 미만이었습니다.

또한 뉴스 캐스트의 딥 페이크 요소는 사내 기능이 아닌 "상업 서비스를 사용하여 거의 확실하게 생성"되었다고 보고서는 결론지었습니다. 이것은 Spamouflage와 다른 사람들이 고도로 정교한 딥페이크를 수행할 수 있는 전문 기술이 없으며 사용 가능한 상용 도구를 계속 사용할 것임을 시사합니다.

그러나 Graphika는 "이러한 제품 및 서비스의 사용을 효과적으로 조정하는 방법에 대한 질문도 제기합니다."라고 말합니다. ®