By 케나 휴즈-캐슬베리 02년 2022월 XNUMX일 게시됨
기술의 발전 덕분에 무엇이 진짜이고 무엇이 가짜인지 구분하기가 점점 더 어려워지고 있습니다. 이 문제는 딥페이크 기술을 사용하면 더욱 악화됩니다.오디오 및 비디오 AI를 사용하여 개인이나 목소리를 대체합니다. 많은 딥페이크가 오락용으로 성공적으로 사용되었지만(예: 니콜라스 케이지 에 있었다. 잃어버린 방주의 해적) 또는 게임(예: FIFA 선수), 그들 중 많은 비율이 더 많은 것을 위해 만들어졌습니다. 불길한 이유. 이렇게 편집된 비디오를 만드는 것이 더 쉬워짐에 따라 많은 전문가들은 양자 컴퓨팅이 이 떠오르는 기술의 잠재적인 위협을 극복하는 데 도움이 될 수 있기를 바라고 있습니다.
Deepfake 기술은 어떻게 작동합니까?
성공적인 딥 페이크 비디오를 만들려면 다음이 필요합니다. 기계 학습 알고리즘. "딥 러닝 알고리즘은 대규모 데이터 세트에서 문제를 해결하는 방법을 스스로 학습한 다음 비디오 및 기타 디지털 콘텐츠에서 얼굴을 교환하는 데 사용됩니다."라고 설명했습니다. 포스트 퀀텀 대표이사 안데르센 쳉. Post-Quantum은 다음에 초점을 맞춘 선도적인 사이버 보안 회사입니다. 양자 저항 딥페이크를 포함한 보안. Cheng은 "이러한 딥페이크를 생성하는 방법에는 여러 가지가 있지만 가장 인기 있는 방법은 오토인코더를 포함하는 심층 신경망을 사용하는 것입니다. 안 오토 인코더 영상을 학습해 사람의 모습을 다각도와 주변 환경을 파악한 뒤 공통적인 특징을 찾아 해당 인물을 매핑하는 딥러닝 AI 프로그램”이라고 설명했다.
딥페이크 기술 설정(PC Wikimedia Commons)
오토인코더가 성공적으로 작동하도록 하려면 대상 얼굴의 여러 비디오 클립을 분석하여 더 큰 데이터 풀을 제공해야 합니다. 그런 다음 자동 인코더는 원래 개인을 새 주제로 교체하여 합성 비디오를 만드는 데 도움을 줄 수 있습니다. GAN(General Adversarial Network)이라고 하는 두 번째 기계 학습 유형은 새로운 합성 비디오의 결함을 감지하고 개선합니다. 에 따르면 2022 기사: "GAN은 소스 이미지의 잠재적 표현에서 새로운 이미지를 생성하는 '생성기'와 생성된 자료의 사실성을 평가하는 '판별기'를 훈련시킵니다." 이 프로세스는 discriminator가 비디오가 조작되었는지 여부와 딥페이크가 완료되었는지 알 수 없을 때까지 여러 번 발생합니다.
딥페이크 기술의 위협
현재 개인이 딥페이크를 만드는 데 사용할 수 있는 오픈 소스 소프트웨어 또는 무료 앱이 많이 있습니다. 이것은 많은 사람들, 특히 연예계에 종사하는 사람들에게 유익한 것처럼 보일 수 있지만, 일부 심각하고 심지어 범죄적인 문제로 이어졌습니다. 에 따르면 Deeptrace 보고서, 96년 온라인 딥페이크 동영상의 2019%는 당연히 포르노였습니다. 이러한 불법 동영상 중 다수는 전 애인에 대한 복수를 위해 제작되었지만 다른 동영상은 여성 유명인과 심지어 정치인을 위한 스캔들을 만드는 데 사용되었습니다. 2018년 딥페이크 영상이 유출됐다. 벨기에의 정당 당시 트럼프 대통령이 파리 기후 협정에 대해 논의하는 모습을 보여줍니다. 가짜 뉴스가 이미 일반 대중의 문제가 되고 있는 상황에서 딥페이크 비디오는 낙타의 등을 부러뜨리는 지푸라기가 될 수 있습니다. 조차 딥 페이크 오디오 하나의 조작된 오디오 파일로 대혼란을 일으키고 있습니다. 대표이사 기술 회사의 한 사람이 사기 행위를 저지르는 데 도움을 주었습니다. Cheng에게 이러한 유형의 미디어는 대중의 신뢰를 다소 빨리 닳게 할 수 있습니다. "우리는 사회적 신뢰라는 더 광범위한 문제를 안고 있습니다. 대중이 무엇이 진짜인지 딥페이크인지 어떻게 구분할 수 있느냐는 것입니다."라고 Cheng은 덧붙였습니다. "우리가 본 것처럼 딥페이크가 생체 인증과 같은 보호 조치를 우회하는 데 사용되고 있다는 증거도 있습니다." 이러한 우려가 커지면서 Post-Quantum의 Cheng과 그의 팀은 다음과 같은 형태의 솔루션이 있다고 믿습니다. 노미디오, 전문 울트라 보안 소프트웨어.
DeepFake 기술 위협에 대비
양자 컴퓨팅과 딥페이크로 인한 여러 가지 위협을 살펴보며 Cheng과 이 팀은 로그인 ID와 생체 인증까지 안전하게 유지하기 위해 Nomidio를 만들었습니다. "Nomidio는 간단하고 직관적인 사용자 경험으로 안전한 인증을 가능하게 하는 암호가 필요 없는 생체 인식 다중 요소 생체 인식(MFB) 서비스입니다."라고 Cheng은 말했습니다. "사용자 이름/비밀번호 기반 로그인 및 싱글 사인온을 대체하며, 백그라운드에서 멀티 팩터 인증(MFA)을 사용하여 생체 프로필에 대해 사용자를 인증합니다." Cheng은 수년 동안 사이버 보안 전문가였기 때문에 Nomidio가 딥페이크로부터 안전할 수 있도록 했습니다. “이를 생성할 때 우리의 핵심 철학은 가능한 한 많은 추가 입력과 진정한 다단계 인증(즉, 두 개 이상의 요소 포함)을 사용하는 것이었기 때문에 딥페이크 기술의 향후 개발에 대처하기 위한 이상적인 솔루션입니다. 이것은 궁극적으로 전통적인 MFA가 불충분하지만 MFB는 실시간 공격을 사실상 불가능하게 만들 수 있다는 사실에 귀결됩니다. 즉, 예를 들어 음성, 얼굴 및 PIN 코드의 조합은 단일 요소가 위조될 수 있다는 점에서 매우 안전하지만, 동일한 인스턴스에서 세 가지 모두를 위조하는 것은 사실상 불가능합니다. Nomidio를 사용하면 음성 및 얼굴 생체 인식, 음성 인식, 상황에 따른 데이터, 심지어 행동 분석까지 조합하여 단일 인증 시스템으로 결합할 수 있습니다. ”
Nomidio 자체는 딥페이크 위협을 극복하기 위해 양자 컴퓨팅을 활용하지 않지만 양자 컴퓨터는 잠재적으로 이러한 가짜 미디어 파일에 대해 작동할 수 있습니다. 처럼 양자 컴퓨터 더 빠르고 효율적으로 작업하기 위해 기계 학습 알고리즘을 활용하는 경우가 많습니다. 가짜 비디오 또는 더 빠른 속도로 오디오 파일. 기술이 아직 개발 중이고 딥페이크를 양자 컴퓨터의 잠재적 사용 사례로 보는 사람은 거의 없지만, 이러한 차세대 기계는 미래에 미디어를 더 진실하고 정확하게 만드는 데 사용될 수 있습니다.
딥페이크 기술의 위협이 점점 더 명백해짐에 따라 많은 정부와 기업은 이미 이를 퇴치하는 데 도움이 되는 방법을 찾기 위해 노력하고 있습니다. 2021년 페이스북은 딥 페이크 감지 챌린지, 딥페이크를 감지하는 새로운 기술을 만드는 사람들에게 $500,000의 상금이 있습니다. 미국에서는 캘리포니아, 텍사스, 버지니아와 같은 주에 음란물과 정치에 대한 딥페이크 사용을 금지하는 법이 있습니다. 그만큼 유럽 의회 또한 딥페이크에 대한 더 많은 규정을 제정하여 딥페이크 비디오에 레이블 사용을 부과하도록 디지털 서비스법을 수정했습니다. 이 법안은 2024년까지는 유효하지 않지만 딥페이크 기술 위협의 심각성을 보여줍니다.
Kenna Hughes-Castleberry는 Inside Quantum Technology의 전속 작가이자 JILA(University of Colorado Boulder와 NIST 간의 파트너십)의 과학 커뮤니케이터입니다. 그녀의 글쓰기 비트에는 심층 기술, 메타버스 및 양자 기술이 포함됩니다.
