AI 딥페이크는 기업에도 위협이 됩니다. 그 이유는 다음과 같습니다.

AI 딥페이크는 기업에도 위협이 됩니다. 그 이유는 다음과 같습니다 – Decrypt

타임 스탬프 : 25 년 2023 월 3 일 오후 50:XNUMX
AI 딥페이크는 기업에도 위협이 됩니다. 그 이유는 다음과 같습니다. PlatoBlockchain 데이터 인텔리전스를 해독합니다. 수직 검색. 일체 포함.

거대 기술 기업들이 인공 지능을 대중에게 제공하고 급성장하는 시장을 장악하기 위해 경쟁함에 따라 AI 군비 경쟁은 종종 설득력 있게 합법적인 것처럼 보이거나 들리지만 실제로는 사기성 허위 진술인 콘텐츠인 "딥페이크" 비디오 및 오디오의 증가를 촉진하고 있습니다. 새로운 보고서에 따르면 이는 비즈니스에도 영향을 미치고 있습니다.

딥페이크는 사람을 속이기 위해 조작된 이미지, 비디오, 오디오와 같은 AI 생성 창작물입니다. 사기꾼들은 사기를 위해 딥페이크를 사용합니다. 강요, 또는 명예를 훼손하는 행위. 확산 생성 적 AI 도구를 사용하면 사기꾼이 가짜 콘텐츠를 만드는 것이 그 어느 때보다 쉬워졌습니다.

유명인과 기타 공인이 동의 없이 인위적이고 때로는 노골적인 영상에 삽입되어 때로는 입소문이 퍼지거나 소셜 미디어에서 패닉을 유발할 수 있습니다. 에게 제공된 보고서에서 해독, 글로벌 회계법인 KPMG 비즈니스 부문도 딥페이크 위협으로부터 자유롭지 않다고 썼습니다.

KPMG는 딥페이크 콘텐츠가 사회 공학 공격과 기업을 겨냥한 기타 유형의 사이버 공격에 사용될 수 있다고 밝혔으며, 이러한 콘텐츠는 기업과 리더의 평판에도 영향을 미칠 수 있다고 밝혔습니다. 회사 대표의 허위 진술은 고객에게 사기를 치거나 직원이 불법 행위자에게 정보를 제공하거나 돈을 송금하도록 설득하는 데 사용될 수도 있습니다.

KPMG 2020년 사례 인용 자신의 상사가 통화 중이라고 믿고 사기꾼들에게 35만 달러 상당의 회사 자금을 송금하도록 속인 홍콩 회사 지점장의 이야기입니다. 대신 그것은 감독자의 목소리를 AI로 복제한 것이었습니다. 모두 회사에서 돈을 훔치기 위한 정교한 계획의 일부였습니다.

“악의적인 목적으로 생성되거나 조작된 디지털 콘텐츠인 합성 콘텐츠를 활용하는 사이버 공격의 결과는 광범위하고 비용이 많이 들 수 있으며 무엇보다도 재정적, 평판, 서비스, 지정학적 등 다양한 사회경제적 영향을 미칠 수 있습니다.” 보고서는 읽습니다.

도널드 트럼프의 딥페이크 영상 체포 된 올해 초, 교황 프랜시스 발렌시아가 럭셔리 의류를 입고, 엘론 머스크 진화하는 AI 도구 덕분에 딥페이크 기술이 향상됨에 따라 암호화폐 사기를 홍보하는 것이 작년에 입소문을 냈습니다.

KPMG는 “값싼 가짜든 딥페이크든 생성 AI 모델로 인해 경제 모델이 크게 바뀌었다”고 썼습니다.

위에서 언급한 공인 외에도, 초상을 훔쳐 가짜 영상을 적용한 유명 연예인으로는 배우 엠마 왓슨, 음악가 테일러 스위프트 등이 있습니다. 그러나 KPMG가 경고하고 있는 것은 기업과 때로는 저명한 리더들에게 미칠 잠재적인 영향입니다.

KPMG는 "위험 요소인 딥페이크 콘텐츠는 단순히 소셜 미디어, 데이트 사이트, 엔터테인먼트 산업의 문제가 아니라 이제 이사회의 문제가 됐다"고 말했습니다. "예를 들어, 최근 여러 산업과 지역에 걸쳐 92명의 임원을 대상으로 실시한 KPMG 생성 AI 설문 조사에 참여한 거의 모든 응답자(300%)는 생성 AI 구현에 따른 위험에 대한 우려가 중간에서 매우 중요하다고 답했습니다."

인터넷상의 딥페이크 동영상의 품질과 개수 증가에 대처하는 것은 기업과 유명인만이 아닙니다. 정부와 규제 기관도 사회와 선거에 미칠 잠재적인 영향을 고려하고 있는 반면, 이러한 AI 도구의 제작자는 잠재적인 부정적인 영향을 저울질하고 있습니다.

지난주 미국 연방선거관리위원회는 2024년 선거에서 딥페이크가 사용될 것으로 예상하고 다음과 같은 조치를 취했습니다. 청원 캠페인 광고에 인공지능을 사용하는 것을 금지합니다.

승인되면 기관은 '캠페인 권한'에 대한 사기성 허위 표시에 관한 현행 규정을 개정하고 고의적으로 사기성 AI 캠페인 광고에 금지 사항이 적용된다는 점을 명확히 할 것입니다.

KPMG 사이버 보안 서비스 책임자인 Matthew Miller는 "규제 기관은 진화하는 위협이 기존 규정에 미치는 영향을 계속해서 이해하고 고려해야 합니다."라고 말했습니다. 해독. “AI 생성 콘텐츠에 라벨링 및 워터마킹을 위한 제안된 요구 사항은 긍정적인 영향을 미칠 수 있습니다.”

지난 XNUMX월 MIT 연구진은 제안 된 딥페이크의 위험을 완화하기 위해 대규모 확산 모델에 코드 변경 사항을 추가합니다. 보기는 어렵지만 궁극적으로 모델 작동 방식을 변경하여 실제처럼 보이지 않는 이미지를 생성하는 작은 변경 사항을 추가합니다. 한편 메타는 최근 AI 도구를 막다 딥페이크 가능성 때문에요.

생성 AI 도구의 창의적 잠재력에 대한 흥분은 악성 콘텐츠에 대한 기회를 유사하게 만들 수 있다는 인식으로 인해 누그러졌습니다. 궁극적으로 이러한 도구가 급속히 발전하는 가운데 Miller는 모든 사람에게 가짜 콘텐츠의 가능성에 대해 경계할 것을 촉구했습니다.

“대중은 디지털 채널을 통해 상호작용할 때 지속적인 경계를 유지해야 합니다.”라고 그는 말했습니다. 해독하십시오. “상황 인식과 상식은 사고 발생을 예방하는 데 큰 도움이 됩니다. 무언가 '옳지 않다'고 느껴진다면 악의적인 활동일 가능성이 높습니다.”

암호화 뉴스를 최신 상태로 유지하고 받은 편지함에서 매일 업데이트를 받으십시오.

타임 스탬프 :

더보기 해독