디지털 보안
AI 기반 음성 복제는 사기꾼이 일을 너무 쉽게 만들 수 있습니다. 위험에 대해 어렵게 배울 필요가 없도록 제가 테스트해 봤기 때문에 잘 알고 있습니다.
22 11월 2023 • , 6 분. 읽다
최근 내 목소리 도용 AI가 이미 사회적 혼란을 일으킬 수 있는 잠재력을 갖고 있다는 점에서 저를 새로운 갈림길로 데려왔습니다. 나는 복제된 음성의 품질(그리고 내 동료 중 한 사람의 매우 영리하면서도 코믹한 스타일)에 너무 놀랐기 때문에 동일한 소프트웨어를 "사악한" 목적으로 사용하고 어디까지 갈 수 있는지 알아보기로 결정했습니다. 물론 허가를 받아 소규모 사업체로부터 물건을 훔치라고 명령합니다! 스포일러 경고: 놀라울 정도로 실행하기 쉬웠고 시간도 거의 걸리지 않았습니다.
“AI는 인류에게 일어날 수 있는 최고의 일이거나 최악의 일이 될 가능성이 높습니다.” - 스티븐 호킹
실제로 AI 개념이 블레이드 러너(Blade Runner)나 터미네이터(The Terminator)와 같은 가상 영화에서 더욱 주류가 된 이후 사람들은 이 기술이 계속해서 무엇을 만들어낼 수 있는지에 대한 끊임없는 가능성에 의문을 제기해 왔습니다. 그러나 이제 강력한 데이터베이스, 증가하는 컴퓨터 성능 및 언론의 관심을 통해 AI가 무섭기도 하고 흥미진진한 방식으로 전 세계 청중을 사로잡는 것을 볼 수 있습니다. AI와 같은 기술이 우리 주변을 맴돌면서 창의적이고 정교한 공격이 발생하여 해로운 결과를 가져올 가능성이 매우 높습니다.
음성 복제 탈출
내 이전 경찰에서의 역할 범죄자처럼 생각하려고 노력하는 마음가짐을 심어주었습니다. 이 접근 방식에는 매우 명백하지만 아직 과소평가된 이점이 있습니다. 행위 범죄자처럼(실제로 범죄가 되지는 않지만) 더 잘 보호받을 수 있습니다. 이는 최신 위협에 대한 최신 정보를 유지하고 향후 추세를 예측하는 데 절대적으로 중요합니다.
따라서 AI의 현재 능력 중 일부를 테스트하기 위해 다시 한 번 디지털 범죄자의 사고방식을 취하고 기업을 윤리적으로 공격해야 했습니다!
나는 최근에 내 연락처(해리라고 부르자)에게 그의 목소리를 복제하여 그의 회사를 공격하는 데 사용할 수 있는지 물었습니다. Harry는 동의했고 쉽게 사용할 수 있는 소프트웨어를 사용하여 자신의 목소리를 복제하여 실험을 시작하도록 허락했습니다. 운 좋게도 Harry의 목소리를 파악하는 것은 상대적으로 간단했습니다. 그는 종종 자신의 YouTube 채널에 자신의 사업을 홍보하는 짧은 동영상을 녹화하므로 좋은 오디오 테스트 베드를 만들기 위해 이러한 동영상 중 몇 개를 함께 연결할 수 있었습니다. 몇 분 안에 나는 해리의 목소리와 똑같은 복제물을 생성했고, 그다음에는 무엇이든 쓸 수 있었고 그의 목소리로 재생할 수 있었습니다.
추가로 공격에 진정성을 더하기로 결정했습니다. 해리의 WhatsApp 계정을 훔쳤습니다. 의 도움으로 SIM 스왑 공격 – 다시 한 번 허락을 받아. 그런 다음 나는 그의 WhatsApp 계정에서 그의 회사 재무 이사에게 음성 메시지를 보냈습니다. Sally라고 부르겠습니다. “새 계약자”에게 250파운드를 지불해 달라고 요청했습니다. 공격 당시 나는 그가 인근 섬에서 비즈니스 점심을 먹고 있다는 것을 알았고, 이는 나에게 완벽한 이야기와 공격 기회를 제공했습니다.
음성 메시지에는 그가 어디에 있는지, '평면도 담당자'가 돈을 지불해야 한다는 내용이 포함되어 있으며, 곧바로 은행 정보를 별도로 보내겠다고 말했습니다. 이를 통해 Sally의 WhatsApp 스레드에 추가된 음성 메시지 외에 그의 목소리를 통해 확인이 추가되었으며, 이는 Sally의 요청이 진짜임을 확신하기에 충분했습니다. 첫 메시지를 받은 지 16분 이내에 내 개인 계좌로 £250가 전송되었습니다.
- SEO 기반 콘텐츠 및 PR 배포. 오늘 증폭하십시오.
- PlatoData.Network 수직 생성 Ai. 자신에게 권한을 부여하십시오. 여기에서 액세스하십시오.
- PlatoAiStream. 웹3 인텔리전스. 지식 증폭. 여기에서 액세스하십시오.
- 플라톤ESG. 탄소, 클린테크, 에너지, 환경, 태양광, 폐기물 관리. 여기에서 액세스하십시오.
- PlatoHealth. 생명 공학 및 임상 시험 인텔리전스. 여기에서 액세스하십시오.
- 출처: https://www.welivesecurity.com/en/cybersecurity/your-voice-is-my-password/
- :있다
- :이다
- :아니
- :어디
- $UP
- 118
- 16
- 2FA
- 7
- a
- 능력
- 할 수 있는
- 소개
- 절대적으로
- 계정
- 계정
- 실제로
- Ad
- 더하다
- 추가
- 첨가
- 추가
- 주소
- 들이다
- 후
- 다시
- 나이
- 동의
- AI
- 겨냥
- 경보
- All
- 주장한 바에 의하면
- 수
- 이미
- 또한
- 이기는하지만
- am
- 중
- 우리 가운데
- an
- 및
- 어떤
- 아무것도
- 앱
- Apple
- 애플 카드
- 접근
- 있군요
- 도착
- 인조의
- 인공 지능
- AS
- 꾸민
- At
- 공격
- 공격
- 시도
- 시도
- 주의
- 청중
- 오디오
- 인증
- 정품
- 가능
- 피하기
- 인식
- 뒤로
- 은행
- 기본
- BE
- 되었다
- 때문에
- 되고
- 된
- 전에
- 존재
- 혜택
- BEST
- 더 나은
- 잎
- 보스
- 범위
- 가져
- 사업
- 자영업
- 비자 면제 프로그램에 해당하는 국가의 시민권을 가지고 있지만
- by
- 전화
- 온
- CAN
- 카드
- 카드
- 나르다
- 범주
- 일으키는
- 채널
- 암호
- 동료
- 왔다
- 일반적으로
- 회사
- 강요하는
- 컴퓨터
- 컴퓨터 전원
- 개념
- 자신감
- 연결
- CONTACT
- 콘택트 렌즈
- 납득시키다
- 수
- 코스
- 만들기
- 창조적 인
- 범죄자
- 범죄자
- Current
- 사이버 범죄자
- 손상
- 데이터
- 데이터베이스
- 날짜
- 브리핑
- 결정된
- 방어적인
- 세부 묘사
- 세부설명
- DID
- 디지털
- 책임자
- 붕괴
- 말라
- 동적
- e
- 쉽게
- 효율적으로
- 중
- 이메일
- 가능
- 수
- 충분히
- 입력 된
- 같은
- 이벤트
- EVER
- 예
- 흥미 진진한
- 행정부
- 현존하는
- 실험
- 실험
- 매우
- 페이스메이크업
- 요인
- 모조품
- 떨어지다
- 전도
- 멀리
- 오류
- 를
- 꾸며낸
- 그림
- 영화
- 재정
- 금융
- 럭셔리
- 예견
- 포크
- 형태
- 친구
- 에
- 했다
- 생성
- 세대
- 정품
- 점점
- 글로벌
- 전 세계 시청자
- Go
- 좋은
- 했다
- 발생
- 발생
- 하드
- 하드웨어
- 있다
- 데
- he
- 도움
- 그녀의
- 여기에서 지금 확인해 보세요.
- 그를
- 그의
- 히트
- 보유
- 방법
- 그러나
- HTTPS
- 인간성
- i
- 정체성
- if
- 영상
- 바로
- 중요성
- 개선
- in
- 포함
- 포함
- 증가
- 더욱 더
- 정보
- 처음에는
- 를 받아야 하는 미국 여행자
- 인텔리전스
- 관심
- 흥미있는
- 으로
- 섬
- IT
- JPG
- 다만
- 유지
- 유지
- 알아
- 최근
- 리드
- 도약
- 배우다
- 배우기
- 레벨
- 레버리지
- 처럼
- 아마도
- 연결
- 명부
- 보기
- 보고
- 점심
- 기계
- 기계 학습
- 주류
- 확인
- 유튜브 영상을 만드는 것은
- 시장 조작
- .
- 많은 사람
- 대중
- 일치하는
- 자료
- 최대 폭
- me
- 측정
- 조치들
- 미디어
- 메시지
- 수도
- 분
- 사고 (思考)
- 회의록
- 모바일
- 돈
- 배우기
- 움직이는
- 다층
- 절대로 필요한 것
- my
- name
- 필요
- 불필요한
- 신제품
- 다음 것
- 11월
- 지금
- 번호
- of
- 오프
- 제공
- 제공
- 자주
- on
- 일단
- ONE
- 온라인
- 만
- 기회
- or
- 주문
- 기타
- 우리의
- 아웃
- 결과
- 소유자
- 지급
- 비밀번호
- 지불
- 사람들
- 완전한
- 허가
- 사람
- 확인
- 개인 정보
- 피싱
- 피싱 공격
- 전화
- 사진
- 장소
- 계획
- 플라톤
- 플라톤 데이터 인텔리전스
- 플라토데이터
- 경기
- 경찰
- 가능성
- 가능한
- 게시물
- 가능성
- 힘
- 강한
- 선불 한
- 프로세스
- 생산
- 진행 중
- 홍보
- 보호
- 보호
- 공급자
- 제공
- 목적
- 품질
- 질문
- 빨리
- 차라리
- 손쉽게
- 현실
- 최근에
- 기록
- 반사
- 상대적으로
- 공개
- 잔인한
- 의뢰
- 요청
- 결과
- 위험
- 도로
- 러너
- 가장 안전한 따뜻함
- 보호
- 말했다
- 같은
- 저장
- 라고
- 사기
- 사기꾼
- 보안
- 참조
- 본
- 보내다
- 민감한
- 전송
- 별도의
- 공유
- 그녀
- 충격
- 짧은
- 영상을
- 표시
- 서명
- YES
- SIM 스왑
- 단순, 간단, 편리
- 간단히
- 이후
- 작은
- 중소 기업
- So
- 사회적
- 소프트웨어
- 일부
- 어떤 사람
- 정교한
- 소리
- 소리를 냈다
- 특별한
- 구체적으로
- 스타트
- 시작 중
- 정해진
- 숙박
- 스티븐
- 아직도
- 이야기
- 직진
- 하다
- 스타일
- 이러한
- 확인
- 교환
- 받아
- 촬영
- 명백한
- 대상
- Technology
- 조건
- 겁주고
- test
- 테스트
- 보다
- 그
- XNUMXD덴탈의
- 그들의
- 그때
- Bowman의
- 그들
- 맡은 일
- 일
- 생각
- 생각
- 이
- 위협
- 시간
- 도움말
- Title
- 에
- 함께
- 너무
- 했다
- 검색을
- 상단
- 트레이닝
- 거래 내역
- 전송
- 트렌드
- 두
- 궁극적으로
- 업데이트
- 업데이트
- us
- 사용
- 익숙한
- 사용
- 확인
- 확인
- 확인하는
- 대단히
- 를 통해
- 희생자
- 동영상
- 필수
- 목소리
- 필요
- 였다
- 방법..
- 방법
- we
- 잘
- 뭐
- WhatsApp에
- 어느
- 누구
- 폭
- 과
- 이내
- 없이
- 일
- 가장 나쁜
- 겠지
- 쓰다
- 아직
- 자신의
- 너의
- 유튜브
- 제퍼 넷