딥페이크 기술 사용과 관련된 악의적인 캠페인은 많은 사람들이 생각하는 것보다 훨씬 더 가깝습니다. 또한, 완화 및 탐지가 어렵습니다.
사이버 범죄자의 딥페이크 사용 및 남용에 대한 새로운 연구에 따르면 기술의 광범위한 사용에 필요한 모든 요소가 제자리에 있으며 지하 시장과 공개 포럼에서 쉽게 사용할 수 있습니다. Trend Micro의 연구에 따르면 많은 딥페이크 지원 피싱, 비즈니스 이메일 손상(BEC) 및 판촉 사기가 이미 발생하고 있으며 위협 환경을 빠르게 재구성.
더 이상 가상의 위협이 아닙니다.
Trend Micro의 보안 연구원이자 이번 주 보안 공급업체가 발표한 주제에 대한 보고서입니다.
'우리는 이미 딥페이크가 금융 기관에 대한 공격, 사기, 정치인을 사칭하려는 시도에 통합되는 방식을 보고 있습니다.'라고 덧붙이며 이러한 공격 중 상당수가 소셜에 게시하는 콘텐츠에서 스크랩한 실제 사람의 신원을 사용한다는 것이 무서운 것이라고 덧붙였습니다. 미디어 네트워크.
Trend Micro의 연구에서 얻을 수 있는 주요 정보 중 하나는 딥페이크 생성을 위한 도구, 이미지 및 비디오를 즉시 사용할 수 있다는 것입니다. 예를 들어 보안 공급업체는 GitHub를 비롯한 여러 포럼에서 딥페이크를 원하는 모든 사람에게 딥페이크 개발을 위한 소스 코드를 제공한다는 사실을 발견했습니다. 마찬가지로 악의적인 행위자가 수백만 명의 가짜 신원을 만들거나 정치인, 비즈니스 리더 및 기타 유명 인사를 사칭할 수 있을 만큼 충분한 고품질 이미지와 비디오가 일반 개인 및 공인에 대해 제공됩니다.
딥페이크 서비스와 해당 주제에 대한 전문 지식을 갖춘 사람들에 대한 수요도 지하 포럼에서 증가하고 있습니다. Trend Micro는 개인 금융 계정을 대상으로 암호화폐 사기 및 사기를 수행하기 위해 이러한 기술을 검색하는 범죄자의 광고를 발견했습니다.
트렌드마이크로는 보고서에서 “배우들은 이미 정치인, 고위 경영진, 유명인의 신원을 가장하고 도용할 수 있다”고 말했다. "이는 금융 사기, 단기 허위 정보 캠페인, 여론 조작 및 갈취와 같은 특정 공격의 성공률을 크게 높일 수 있습니다."
과다한 위험
일반 사람들의 신원을 도용하거나 재생성하여 사칭 피해자를 속이거나 그들의 신원으로 악의적인 활동을 수행하는 데 사용될 위험도 증가하고 있습니다.
Trend Micro는 많은 토론 그룹에서 사용자가 딥페이크를 사용하여 은행 및 기타 계정 확인 제어를 우회하는 방법, 특히 비디오 및 대면 확인 방법과 관련된 방법에 대해 적극적으로 토론하는 것을 발견했습니다.
예를 들어, 범죄자는 피해자의 신원을 사용하고 딥페이크 비디오를 사용하여 은행 계좌를 개설하고 나중에 자금 세탁 활동에 사용할 수 있습니다. 트렌드마이크로는 유사하게 계정을 탈취하거나 조직의 최고 경영진을 사칭하여 사기성 자금 이체를 시작하거나 가짜 증거를 심어 개인을 갈취할 수 있다고 말했습니다.
음성 또는 얼굴 인식을 사용하는 Amazon의 Alexa 및 iPhone과 같은 장치는 곧 딥페이크 기반 공격의 대상 장치 목록에 포함될 수 있다고 보안 공급업체는 말했습니다.
"많은 기업이 여전히 원격 또는 혼합 모드에서 작업하고 있기 때문에 전화 회의에서 직원 사칭 이는 내부 및 외부 비즈니스 커뮤니케이션과 민감한 비즈니스 프로세스 및 재무 흐름에 영향을 미칠 수 있습니다."라고 Kropotov는 말합니다.
Trend Micro만이 딥페이크에 대한 경보를 울리는 것은 아닙니다. VMware가 125명의 사이버 보안 및 사고 대응 전문가를 대상으로 실시한 최근 온라인 설문 조사에서도 딥페이크 기반 위협이 단순히 다가오는 것이 아니라는 사실을 발견했습니다. 그들은 이미 여기에 있습니다. 응답자의 66%(13년 대비 2021% 증가)는 지난 12개월 동안 딥페이크 사용과 관련된 보안 사고를 경험했다고 말했습니다.
“[이미] 목격된 딥페이크 공격의 예에는 CFO에 대한 CEO의 음성 통화가 포함됩니다. 전신 송금으로 이어지는, 암호 재설정을 시작하기 위해 직원이 IT 부서에 전화를 겁니다.”라고 VMware의 주요 사이버 보안 전략가인 Rick McElroy는 말합니다.
Deepfake 공격 및 탐지에 대한 몇 가지 완화 방법은 어렵습니다.
일반적으로 말해서 이러한 유형의 공격은 효과적일 수 있다고 McElroy는 말합니다.
그는 “딥페이크를 만드는 데 점점 더 많이 사용되고 정교해짐을 감안할 때 이것이 앞으로 나아가는 사기 및 사기 관점에서 조직에 가장 큰 위협 중 하나라고 생각합니다.”라고 경고합니다.
가장 효과적인 방법 현재 위협 완화 이러한 사회 공학적 공격의 주요 대상인 재무, 경영진 및 IT 팀의 문제에 대한 인식을 높이는 것입니다.
“조직은 사이클을 깨기 위해 로우테크 방법을 고려할 수 있습니다. 여기에는 조직 외부로 돈을 송금하거나 XNUMX단계의 검증된 승인 프로세스를 가질 때 임원들 사이에서 챌린지와 암호를 사용하는 것이 포함될 수 있습니다.”라고 그는 말합니다.
Piaano의 공동 설립자이자 CEO인 Gil Dabah도 완화 조치로 엄격한 액세스 제어를 권장합니다. 어떤 사용자도 많은 양의 개인 데이터에 액세스할 수 없어야 하며 조직은 속도 제한과 변칙 탐지를 설정해야 합니다.
Dabah는 "빅 데이터 분석이 필요한 비즈니스 인텔리전스와 같은 시스템도 마스킹된 데이터에만 액세스해야 합니다."라고 지적하면서 민감한 개인 데이터를 일반 텍스트로 보관해서는 안 되며 PII와 같은 데이터를 토큰화하고 보호해야 한다고 덧붙였습니다.
한편, 탐지 분야에서는 AI 기반 기술과 같은 기술의 발전 생성 적 적대 네트워크 (GAN)은 딥페이크 탐지를 더 어렵게 만들었습니다. CTM Insights의 공동 설립자이자 관리 파트너인 Lou Steinberg는 "즉, 변경이 있었다는 '아티팩트' 단서를 포함하는 콘텐츠에 의존할 수 없습니다.
그는 조작된 콘텐츠를 감지하기 위해 조직에서 무언가가 변경되지 않았음을 증명하는 지문이나 서명이 필요하다고 덧붙였습니다.
"더 나은 것은 콘텐츠의 일부에 대해 미세 지문을 사용하여 변경된 사항과 변경되지 않은 사항을 식별할 수 있다는 것입니다."라고 그는 말합니다. "이미지가 편집되었을 때 매우 중요하지만 누군가가 이미지를 감지하지 못하도록 숨기려는 경우에는 더욱 그렇습니다."
세 가지 광범위한 위협 범주
Steinberg는 딥페이크 위협이 크게 세 가지 범주로 분류된다고 말합니다. 첫 번째는 의미를 변경하기 위해 합법적인 콘텐츠를 편집하는 것과 관련된 허위 정보 캠페인입니다. 예를 들어 Steinberg는 소셜 미디어에서 가짜 뉴스 이미지와 비디오를 사용하거나 원래 존재하지 않는 사진에 누군가를 삽입하는 국민 국가 배우를 지적합니다.
또 다른 범주에는 가짜 제품 로고, 피싱 캠페인에 사용되는 이미지 또는 아동 포르노를 감지하는 도구와 같은 자동 감지 도구를 우회하기 위해 이미지, 로고 및 기타 콘텐츠에 대한 미묘한 변경이 포함됩니다.
세 번째 범주에는 완전히 새로운 것을 만들기 위해 원본 컬렉션에서 파생된 합성 또는 합성 딥페이크가 포함됩니다.
"우리는 몇 년 전에 컴퓨터 합성 음성을 사용하여 금융 서비스 콜 센터에서 성문을 물리치는 오디오로 이것을 보기 시작했습니다."라고 그는 말합니다. “비디오는 현재 최신 버전의 비즈니스 이메일 손상과 같은 일에 사용되거나 누군가가 한 번도 말하지 않은 것을 '말'하게 하여 평판을 손상시키는 데 사용되고 있습니다.”
