IBM Security의 연구원들은 인공 지능의 놀라운 새로운 위협, 즉 "오디오 재킹"이라는 기술을 통해 실시간 대화를 조작하는 능력을 밝혔습니다.
생성적 AI와 딥페이크 오디오 기술을 활용하는 이 방법은 음성을 실시간으로 가로채고 변경할 수 있어 디지털 커뮤니케이션에 전례 없는 위험을 초래할 수 있습니다.
또한 읽기 : AI 딥페이크 탐지는 점점 커지는 속임수 문제에 대비해 발전하고 있습니다.
오디오 재킹 위협 노출
오디오 재킹은 전화 통화 등 양방향 통신의 실시간 오디오를 처리하고 특정 키워드나 문구를 찾는 방식으로 작동합니다. 이러한 트리거가 감지되면 AI가 개입하여 목적지에 도달하기 전에 실제 오디오를 조작된 딥페이크 버전으로 대체합니다. 놀라운 삽화 이 기술은 대화 중에 말한 은행 계좌 정보를 탐지되지 않고 변경한 IBM 연구원이 제공합니다.
오디오 재킹: 생성 AI를 사용하여 라이브 오디오 트랜잭션 왜곡: 텍스트-이미지 변환, 텍스트-음성 변환, 대규모 언어 모델(LLM)을 포함한 생성 AI의 등장은 우리의 업무와 개인 생활을 크게 변화시켰습니다. 이러한 발전이 진행되는 동안… https://t.co/GR6AyVACZX pic.twitter.com/Ucw7tNeQCE
— 샤 셰이크 (@shah_sheikh) 2024년 2월 1일
이 공격에 대한 개념 증명이 쉽게 고안될 수 있다는 점은 당황스럽습니다. 연구원들은 가장 어려운 부분은 AI를 만드는 것이 아니라 라이브 오디오 녹음 및 처리의 기술이라고 지적했습니다. 이러한 개발 용이성은 여러 컴퓨터 과학 분야에 걸쳐 상당한 전문 지식이 필요했던 전통적인 기대에서 크게 벗어난 것을 의미합니다.
“이 PoC를 구축하는 것은 놀라울 정도로 쉬웠습니다. 우리는 마이크에서 오디오를 캡처하고 생성 AI에 오디오를 공급하는 방법을 찾는 데 대부분의 시간을 보냈습니다.”
이 계획에서 역할은 제너레이티브 AI 중요합니다. 이 기술은 사람의 목소리 중 단 3초만 사용하여 요구에 따라 합법적인 딥페이크를 생성할 수 있는 설득력 있는 복제품을 제작할 수 있습니다. API를 통해 사용할 수 있는 이 기능은 고급 조작 도구의 민주화 프로세스에 혼란스러운 추세가 있음을 나타냅니다.
"요즘에는 개인의 목소리를 3초만 복제하면 텍스트 음성 변환 API를 사용해 진짜 가짜 목소리를 생성할 수 있습니다."
의미 및 잠재적인 오용
그러나 오디오재킹의 영향은 단순한 금융 사기 그 이상입니다. 이러한 기술은 실시간 검열이 가능하고 뉴스, 정치 연설 등 생방송을 탐지 없이 변경할 수 있습니다. 이러한 기능은 정보의 무결성을 손상시키며 민주주의와 대중의 신뢰에 심각한 영향을 미칩니다.
오디오 재킹 공격에 대한 장벽이 낮아짐에 따라 정교한 사회 공학이나 피싱이 크게 감소되었습니다. 이러한 용이함은 공격이 확산되는 문제를 발생시켜 현재 보안 조치에 문제를 일으키고 새로운 방어 메커니즘을 요구하게 됩니다.
"이 PoC가 성숙해지면 무엇보다도 소비자에게 상당한 위험이 있다는 신호가 될 것입니다. 이 공격이 더 정교해질수록 피해를 입힐 수 있는 피해자의 범위가 더 넓어집니다."
오디오 재킹 현상은 AI 개발 내에서 더 광범위한 문제를 강조합니다. 생성 기술. 한편으로는 혁신과 창의성을 위한 무한한 가능성의 원천입니다. 다른 한편으로, 그들의 오용된 잠재력을 무시해서는 안 됩니다. 이 사건은 사회가 AI의 더 어두운 애플리케이션으로부터 보호하면서 AI의 이점을 어떻게 활용할 수 있는가라는 중요한 질문을 촉발합니다.
AI 보안의 미래 탐색
디지털 위협 환경이 변화함에 따라 IBM Security의 오디오 재킹 식별은 경계심을 늦추지 않고 사이버 보안을 현대화하라는 필수적인 경고입니다. 이러한 정교한 위협에 맞서기 위해서는 혁신적인 탐지 알고리즘과 보다 강력한 암호화 기술을 포함한 대응책의 발전이 매우 중요합니다.
게다가, 이 공개는 윤리적 문제가 다음 사항에 필수적이라는 것을 보여줍니다. AI 연구 그리고 개발. AI 책임 사용에 대한 규칙과 벤치마크를 설정하는 것은 이러한 강력한 기술의 위험을 해결하는 데 필수적입니다.
- SEO 기반 콘텐츠 및 PR 배포. 오늘 증폭하십시오.
- PlatoData.Network 수직 생성 Ai. 자신에게 권한을 부여하십시오. 여기에서 액세스하십시오.
- PlatoAiStream. 웹3 인텔리전스. 지식 증폭. 여기에서 액세스하십시오.
- 플라톤ESG. 탄소, 클린테크, 에너지, 환경, 태양광, 폐기물 관리. 여기에서 액세스하십시오.
- PlatoHealth. 생명 공학 및 임상 시험 인텔리전스. 여기에서 액세스하십시오.
- 출처: https://metanews.com/deepfake-ai-audio-takes-over-live-discussions/
- :있다
- :이다
- :아니
- $UP
- 1
- 11
- 7
- 8
- a
- 능력
- 계정
- 가로질러
- 주소 지정
- 많은
- 반대
- AI
- 알고리즘
- 변경
- an
- 및
- API를
- API
- 어플리케이션
- 있군요
- 인조의
- 인공 지능
- AS
- At
- 공격
- 공격
- 오디오
- 진정한
- 가능
- 은행
- 은행 계좌
- 장벽
- BE
- 된
- 전에
- 존재
- 벤치 마크
- 혜택
- 그 너머
- 더 넓은
- 비자 면제 프로그램에 해당하는 국가의 시민권을 가지고 있지만
- by
- 통화
- CAN
- 기능
- 수
- 포착
- 검열
- 과제
- 도전
- 변경
- 싸우는
- 의사 소통
- 커뮤니케이션
- 타협
- 컴퓨터
- 컴퓨터 과학
- 많은
- 소비자
- 대화
- 대화
- 수
- 만들기
- 창의력
- 임계
- Current
- 사이버 보안
- 위험
- 더 어두운
- 기만
- 딥 페이크
- 방위산업
- 수요
- 민주주의
- 민주화
- 출발
- 목적지
- 탐지 된
- Detection System
- 개발
- 디지털
- 폭로
- 토론
- 듀얼
- ...동안
- 완화
- 쉽게
- 효과
- 노력
- 암호화
- 엔지니어링
- 필수
- 윤리적인
- 진화
- 기대
- 전문적 지식
- 전문가
- 모조품
- Fields
- 금융
- 금융 사기
- Find
- 럭셔리
- 사기
- 에
- 미래
- 생성
- 생성적인
- 제너레이티브 AI
- Go
- 성장하는
- 손
- 마구
- 있다
- 방법
- How To
- 그러나
- HTTPS
- IBM
- 식별
- 의미
- in
- 사건
- 포함
- 정보
- 혁신
- 혁신적인
- 완전한
- 보전
- 인텔리전스
- 발행물
- 문제
- IT
- 그
- 다만
- 키워드
- 알려진
- 경치
- 언어
- 넓은
- 합법적 인
- 살고있다
- 삶
- 찾고
- 낮은
- 낮은 장벽
- 조작
- 시장 조작
- 만기
- 조치들
- 메커니즘
- 방법
- 마이크로폰
- 모델
- 현대화
- 배우기
- 가장
- 자연
- 필요
- 그물
- 신제품
- news
- 유명한
- of
- on
- ONE
- 만
- or
- 기타
- 우리의
- 아웃
- 위에
- 부품
- 확인
- 현상
- 피싱
- 전화
- 전화
- 구문
- 추축의
- 플라톤
- 플라톤 데이터 인텔리전스
- 플라토데이터
- PoC
- 전철기
- 정치
- 가능성
- 가능성
- 강한
- 방법
- 처리
- 생산
- 깊은
- 프롬프트
- 제공
- 공개
- 공공 신탁
- 문제
- 제기
- 차라리
- 도달하다
- 읽기
- 현실
- 실시간
- 방송
- 감소
- 세련된
- 대표
- 연구원
- 공개
- 계시
- 상승
- 위험
- 위험
- 직위별
- 규칙
- 보호
- 계획
- 과학
- 초
- 보안
- 보안 조치
- 설정
- 몇몇의
- 셰이크
- 이동
- 영상을
- 신호
- 상당한
- 크게
- 사회적
- 사회 공학
- 사회
- 정교한
- 출처
- 구체적인
- 연설
- 지출
- 이야기
- 복음
- 놀라운
- 단계
- 기절시키는
- 이러한
- 놀랍게도
- 소요
- 기술
- 기법
- 기술
- Technology
- 텍스트 음성 변환
- 그
- XNUMXD덴탈의
- 미래
- 그들의
- 그때
- Bowman의
- 그들
- 이
- 위협
- 위협
- 세
- 을 통하여
- 그러므로
- 시간
- 에
- 검색을
- 전통적인
- 거래 내역
- 경향
- 참된
- 믿어
- 트위터
- 밑줄
- 무제한
- 전례가없는
- 용법
- 사용
- 사용
- 버전
- 를 통해
- 피해자
- 목소리
- 음성
- 경고
- 였다
- we
- 언제
- 어느
- 동안
- 누구
- 넓은
- 과
- 이내
- 없이
- 말
- 작업
- 일
- 겠지
- 제퍼 넷