현지 언론 보도에 따르면 한 중국 사업가가 사기꾼이 딥페이크 AI 기술을 사용하여 친구를 사칭한 후 4.3만 위안[~$612,000]의 손실을 입었습니다.
구오(Guo)라는 성을 가진 피해자는 지난 달 위챗을 통해 친한 친구로 보이는 사람으로부터 영상 통화를 받았습니다.
사기꾼으로 밝혀진 발신자는 Guo에게 다른 도시의 공공 프로젝트 입찰에 도움을 요청했고 Guo는 즉시 그에게 자금을 송금했습니다.
경찰은 사기꾼이 사용한 AI 기반 "(Guo의) 좋은 친구로 가장하고 사기를 저지르는 동안" 가짜 페르소나를 만드는 얼굴 교환 기술, China Daily 신고.
또한 읽기 : 중국, 정치적 선전을 퍼뜨리기 위해 딥페이크 앵커 사용
진짜 무슨 일이야?
Guo는 Fujian 지방 Fuzhou에 본사를 둔 기술 회사의 법적 대리인입니다. 사기꾼은 20월 4.3일 친구인 척 영상통화를 걸었다. 가짜 친구는 공개 입찰에 XNUMX만 위안 입찰을 제출하기 위해 Guo의 회사 계정을 사용하고 싶다고 말했습니다.
그러한 사기의 경우가 종종 그렇듯이 가해자는 Guo에게 즉시 갚겠다고 약속했습니다. Guo는 범인이 가짜 결제 기록의 스크린샷을 보낸 후 이체하도록 설득되었습니다. 실제로 돈을 받았는지 확인하지 않고 Guo는 회사 계좌에서 총 4.3만 위안[~$612,000]을 두 번 지불했습니다.
Guo가 이체를 완료한 후 확인을 위해 실제 친구에게 전화를 걸었을 때 친구는 화상 통화를 한 사실을 부인하거나 송금을 요청했습니다. Guo는 즉시 이 문제를 경찰에 신고했습니다.
“상대방은 채팅 중에 나에게 돈을 빌려달라고 요청하지 않았습니다. 그는 먼저 돈을 이체하겠다고 말했고, 그 다음에 내가 해야 할 일은 그의 돈을 그의 회사 계좌로 이체하는 것이었습니다.”라고 Guo가 말했습니다.
“영상 통화로 저와 대화를 나눴고 영상에서 얼굴과 목소리도 확인했습니다. 그래서 경계를 늦췄다"고 덧붙였다.
푸저우 경찰은 지금까지 훔친 돈 중 3.4만 위안을 되찾았다. Guo가 이 문제를 보고하자 그들은 다른 도시의 은행에 송금을 진행하지 말라고 알렸습니다. 경찰은 나머지 돈을 회수하기 위해 노력하고 있지만 아직 범인을 특정하지 못했습니다.
AI 보안 위험
전문가에 따르면 AI가 더욱 발전함에 따라 실제 신원과 위조 신원을 구별하는 것이 점점 더 어려워질 것이라고 합니다. AI는 디지털 ID의 보안 및 개인 정보 보호를 약화시킬 가능성이 있습니다.
예를 들어 음성을 포함하여 다른 사람을 사칭하는 데 사용되는 딥페이크, 사실적이지만 가짜 이미지 또는 동영상을 만드는 데 사용할 수 있습니다. 사이버 범죄자가 사기를 저지르기 위해 활용할 수 있는 가짜 디지털 ID를 생성하기 위해 딥페이크를 배포할 수 있습니다.
Guo의 사례는 딥페이크 기술이 선과 악을 위해 사용될 수 있는 강력한 도구임을 상기시켜 줍니다. 규제 당국은 OpenAI가 인기 있는 챗봇을 출시한 이후 AI의 위험에 더 많은 관심을 기울이기 시작했습니다. ChatGPT XNUMX월, 글로벌 AI 군비 경쟁을 촉발합니다.
이전에 MetaNews로 신고, 전문가들은 위조 ID 사용을 감지하고 방지할 수 있는 새로운 기술 개발을 제안합니다. 여기에는 사용자의 신원을 확인하기 위해 안면 인식이나 지문 스캔과 같은 생체 데이터를 사용하는 것이 포함될 수 있습니다.
중국에서는 정부가 딥페이크 문제를 심각하게 받아들이고 있습니다. XNUMX월에 국가 사이버 공간 관리국(Cyberspace Administration)은 새로운 규정 AI가 생성한 콘텐츠를 사용하여 "가짜 뉴스"를 퍼뜨리는 것을 금지합니다. 이 규정은 또한 딥페이크 기술 제공업체가 제품을 합성으로 명확하게 표시하도록 요구합니다.
- SEO 기반 콘텐츠 및 PR 배포. 오늘 증폭하십시오.
- PlatoAiStream. Web3 데이터 인텔리전스. 지식 증폭. 여기에서 액세스하십시오.
- 미래 만들기 w Adryenn Ashley. 여기에서 액세스하십시오.
- PREIPO®로 PRE-IPO 회사의 주식을 사고 팔 수 있습니다. 여기에서 액세스하십시오.
- 출처: https://metanews.com/white-house-takes-steps-to-study-ai-risks-assess-impact-on-workers/
- :있다
- :이다
- :아니
- 000
- 20
- 8
- a
- 에 따르면
- 계정
- 실제로
- 추가
- 관리
- 많은
- 후
- AI
- 또한
- 및
- 다른
- 어떤
- Apr
- 있군요
- 무기
- AS
- 주의
- 뒤로
- 반
- 은행
- 기반으로
- BE
- 가
- 된다
- 사이에
- 입찰
- 생체 인식
- 두
- 실업가
- 비자 면제 프로그램에 해당하는 국가의 시민권을 가지고 있지만
- by
- 전화
- 라는
- 방문객
- CAN
- 케이스
- 채팅 봇
- 확인
- 중국
- 중국말
- City
- 명확하게
- 닫기
- COM
- 범하다
- 회사
- 회사
- 완료
- 확인 됨
- 함유량
- 수
- 국가의
- 만들
- 사이버 범죄자
- 사이버 공간
- 매일
- 위험
- 데이터
- 딥 페이크
- 배포
- 개발
- 어려운
- 디지털
- 드러내다
- do
- 아래 (down)
- ...동안
- 그렇지 않으면
- 예
- 전문가
- 페이스메이크업
- 얼굴 마사지
- 얼굴 인식
- 모조품
- 그릇된
- 멀리
- 지문
- 먼저,
- 럭셔리
- 사기
- 친구
- 에
- 자금
- 글로벌
- 좋은
- Government
- 스테이블 가드
- 했다
- 일이
- 있다
- he
- 도움
- 그를
- 그의
- 집
- HTML
- HTTPS
- i
- 확인
- 확인
- 정체성
- 통합 인증
- 형상
- 바로
- in
- 포함
- 포함
- 더욱 더
- 발행물
- 발행
- IT
- 그
- 일월
- 라벨
- 성
- 시작
- 이용약관
- 빌려주 다
- 하자
- 이점
- 처럼
- 지방의
- 보고
- 잃어버린
- 만든
- 확인
- 관리
- 문제
- 미디어
- 메타뉴스
- 백만
- 돈
- 달
- 배우기
- 필요
- 신제품
- 새로운 기술
- news
- 십일월
- of
- 자주
- on
- 일단
- 만
- OpenAI
- or
- 기타
- 우리의
- 아웃
- 지불
- 지불
- 결제
- 사람
- 설득 한
- 플라톤
- 플라톤 데이터 인텔리전스
- 플라토데이터
- 경찰
- 정치
- 인기 문서
- 가능성
- 강한
- 예방
- 이전에
- 개인 정보 보호
- 제품
- 프로젝트
- 약속 한
- 제공
- 공개
- 경주
- 읽기
- 현실
- 현실적인
- 정말
- 접수
- 인식
- 기록
- 복구
- 규정
- 레귤레이터
- 보고
- 보고서
- 대리인
- 필요
- REST
- 위험
- 말했다
- 라고
- 사기
- 스캐닝
- 보안
- 전송
- 측면
- 이후
- So
- 지금까지
- 어떤 사람
- 무언가
- 소리를 냈다
- 전파
- 시작
- 단계
- 훔친
- 훔친 돈
- 교육과정
- 제출
- 이러한
- 제안
- 인조
- 소요
- 복용
- 기술
- 기술
- Technology
- 부드러운
- 그
- XNUMXD덴탈의
- 그들의
- 그때
- 그들
- 이
- 에
- 수단
- 이전
- 전송
- 돌린
- 두
- 약하다.
- 사용
- 익숙한
- 사용자
- 확인
- 확인
- 를 통해
- 희생자
- Video
- 동영상
- 목소리
- 원
- 였다
- we
- 뭐
- 동안
- 화이트
- 백악관
- 누구
- why
- 의지
- 과
- 없이
- 일하는
- 겠지
- 아직
- 원
- 제퍼 넷