연방거래위원회(FTC)는 점점 커지는 AI 음성 복제 위협에 맞서기 위한 최고의 솔루션에 대해 25,000달러의 보상을 약속했습니다.
오디오 딥페이크라고도 불리는 생성 AI가 주류로 자리잡은 이후 사용하기 쉬운 음성 복제 기능을 제공하는 온라인 서비스가 급증하면서 사이버 공격에서 남용될 가능성에 대한 우려가 커지고 있습니다.
예를 들어, 광범위한 위협에는 CEO의 목소리를 스푸핑하여 CEO를 사칭하고 재무 부서에 공격자의 계좌로 돈을 송금하도록 지시하는 것이 포함될 수 있습니다. 친구와 가족도 속아서 사랑하는 사람에게 돈을 보낼 수 있으며, 공연 예술가 기술이 계속 발전하면 생계가 위협받을 수 있습니다.
관심 있는 당사자들은 AI 기반 음성복제 사기를 해결하기 위한 아이디어를 12월 XNUMX일까지 제출해야 하며, 주로 기술의 예방, 모니터링 및 평가에 중점을 두고 있습니다.
"이러한 노력은 위험 업스트림을 완화하기 위한 아이디어를 추진하는 데 도움이 될 수 있습니다. 즉, 피해가 소비자에게 도달하기 전에 음성 복제의 피해로부터 소비자, 창의적 전문가 및 중소기업을 보호할 수 있습니다."라고 FTC는 말했습니다. 말했다.
“또한 소비자 수준에서 위험을 완화하기 위한 아이디어를 발전시키는 데 도움이 될 수 있습니다. 그리고 실행 가능한 아이디어가 나오지 않으면 정책 입안자들에게 시장에서 유해한 애플리케이션 개발을 방지하는 데 어려움이 있으므로 이 기술의 사용에 대해 더 엄격한 제한을 고려해야 한다는 중요하고 조기 경고를 보낼 것입니다.”
제출물은 실행 및 관리가 얼마나 가능한지, 기술 변화에 얼마나 탄력적인지, 다른 조치 중에서 기업에 책임이 부여되는 방식을 얼마나 신중하게 고려하는지에 따라 평가됩니다.
제공되는 최고 상금은 25,000달러입니다. 독창적인 솔루션이 가질 수 있는 광범위한 응용 분야를 고려할 때 금광처럼 들리지는 않습니다.
준우승자 4,000명도 2,000달러를 받고, 우수 가작 10명에게는 문제에 대해 각각 XNUMX달러가 수여되며, XNUMX명 이상의 조직은 현금 없는 표창 상을 받게 됩니다.
AI 음성 남용 사례
AI 음성복제의 효과는 지난 1년간 여러 사례에서 입증됐다. 슬로바키아 보안샵 ESET의 전문가 보여 앞서 언급한 스푸핑된 CEO의 사례를 어떻게 해낼 수 있는지.
실제로 생성 AI가 일반인의 손에 들어오기 전부터 수년 동안 문제가 되어 왔습니다. 영국의 한 에너지 회사는 $243,000가 소진되었습니다. 2019년에는 CEO가 헝가리 공급업체에 거액을 보내라는 지시를 받은 후였습니다.
뉴욕 타임즈 신고, 다시 한 번 지난 12개월에 걸쳐 금융 부문을 성공적으로 표적으로 삼아 은행을 속여 진짜 고객이라고 생각하는 사람에게서 자금을 이동시키는 다양한 사례를 자세히 설명했습니다. 그는 Reg 비슷한 내용도 보고했습니다. UAE에서 테러 발생 2021년으로 거슬러 올라갑니다.
로맨스 사기도 만연해 있는데, 한 영국인은 스푸핑된 케빈 코스트너, 범죄자들은 또한 자신들이 범죄를 저지를 수 없다는 사실을 보여주었습니다. "가족 긴급 상황" 사기 – 예를 들어, 보석금을 내기 위해 돈을 요구하는 자녀의 복제된 목소리로 부모를 표적으로 삼는 것.
더 보기 불길한 예 엄청난 몸값을 요구하는 “납치범”에게 인질로 잡혀 있는 딸의 전화를 어머니들이 받는 것을 본 적이 있습니다.
음성 복제는 개인 목소리의 소리, 톤, 속도, 억양 및 기타 뉘앙스를 이해하는 데 충분한 훈련 데이터를 AI 모델에 제공함으로써 가능해집니다. 유명인과 기타 공인은 온라인에 존재하는 음성 녹음의 수를 고려할 때 이러한 공격의 위험이 매우 높은 것으로 생각됩니다.
소셜 미디어와 비디오 콘텐츠 제작 문화가 성장하면서 많은 비연예인, 심지어 어린이들도 모델을 효과적으로 교육할 수 있는 충분한 온라인 자료를 갖게 되었습니다.
Kaspersky 연구진은 지난해 AI 음성 복제의 증가를 조사한 결과 AI 기술을 사용하여 복제된 음성을 생성할 수 있는 무료로 제공되는 다양한 오픈 소스 도구를 발견했습니다. 그러나 그들은 설득력 있는 복제본을 만들어 실행하려면 약간의 Python 노하우와 복제업체 측의 약간의 수정 작업이 필요하다고 주장했습니다.
그러나 유료 제품이 훨씬 더 효과적인 경향이 있습니다. 연구진은 다음과 같이 지적했다. Microsoft의 VALL-E 모델 훈련 데이터로 사용되는 단 3초의 음성 오디오만으로 괜찮은 복제본을 생성할 수 있을 것으로 추정됩니다.
무료 솔루션보다 더 잘 작동하는 다른 유료 솔루션도 있지만 아직은 초기 개발 단계에 불과하므로 시간이 지남에 따라 이러한 모델의 정확성과 효율성이 향상될 것으로 예상할 수 있습니다. ®
- SEO 기반 콘텐츠 및 PR 배포. 오늘 증폭하십시오.
- PlatoData.Network 수직 생성 Ai. 자신에게 권한을 부여하십시오. 여기에서 액세스하십시오.
- PlatoAiStream. 웹3 인텔리전스. 지식 증폭. 여기에서 액세스하십시오.
- 플라톤ESG. 탄소, 클린테크, 에너지, 환경, 태양광, 폐기물 관리. 여기에서 액세스하십시오.
- PlatoHealth. 생명 공학 및 임상 시험 인텔리전스. 여기에서 액세스하십시오.
- 출처: https://go.theregister.com/feed/www.theregister.com/2024/01/05/ftc_voice_cloning_solution/
- :있다
- :이다
- :아니
- $UP
- 000
- 10
- 12
- 12 개월
- 2019
- 2021
- 7
- a
- 위의
- 남용
- 계정
- 주소
- 관리
- 전진
- 후
- 다시
- 반대
- AI
- 또한
- 중
- an
- 및
- 어플리케이션
- 있군요
- AS
- 질문
- 평가
- At
- 공격
- 오디오
- 가능
- 평균
- 수상
- 뒤로
- 보석
- 은행
- 기반으로
- BE
- 된
- 전에
- 믿고
- BEST
- 더 나은
- 비트
- 넓은
- 사업
- 비자 면제 프로그램에 해당하는 국가의 시민권을 가지고 있지만
- by
- 통화
- 온
- CAN
- 적재
- 가지 경우
- 현금
- 현금없는
- 유명 인사
- 대표 이사
- 경영자
- 도전
- 변경
- 어린이
- 클라이언트
- 현지 시간
- CO
- 싸우기
- 위원회
- 기업
- 회사
- 우려 사항
- 고려
- 치고는
- 소비자
- 소비자
- 함유량
- 콘텐츠 제작
- 계속
- 수
- 창조
- 창조적 인
- 범죄자
- 임계
- 문화
- 사이버 공격
- 데이터
- 딥 페이크
- 수요
- 학과
- 상세한
- 개발
- 발견
- do
- 들린
- 마다
- 초기의
- 사용하기 쉬운
- 유효한
- 효과적으로
- 유효성
- 노력
- 벗어나 다
- 비상 사태
- 에너지
- 충분히
- 평가
- 조차
- 예
- 실행
- 있다
- 기대
- 전문가
- 시설
- 사실
- 전도
- 가족
- 가족
- 멀리
- 실행할 수 있는
- 연방
- 연방 거래위원회
- 먹이
- 도
- 재원
- 초점
- 럭셔리
- 앞으로
- 사기
- 무료
- 자유로이
- 친구
- 에
- FTC
- 생성
- 생성적인
- 제너레이티브 AI
- 정품
- 얻을
- 주어진
- 성장하는
- 손
- 해가
- 해로운
- 초래할 수
- 있다
- 개최
- 도움
- 방법
- 그러나
- HTML
- HTTPS
- 거대한
- 헝가리 인
- 아이디어
- if
- 개선
- in
- 독립
- 개인
- 굴절
- 으로
- 감다
- 발행물
- IT
- 그
- 일월
- JPG
- 다만
- 넓은
- 성
- 작년
- 레벨
- 책임
- 처럼
- 제한
- 보고
- 사랑
- 만든
- 주로
- 주류
- .
- 시장
- 자료
- 성숙한
- XNUMX월..
- 조치들
- 미디어
- 언급하다
- 완화
- 모델
- 모델
- 돈
- 모니터링
- 개월
- 배우기
- 움직이는
- 많은
- 신제품
- 뉴욕
- 뉴욕 타임스
- 뉘앙스
- 번호
- of
- 오프
- 제공
- 제공
- 오퍼링
- 제공
- on
- ONE
- 사람
- 온라인
- 만
- 열 수
- 오픈 소스
- or
- 조직
- 기타
- 아웃
- 위에
- 지급
- 부모님
- 부품
- 파티
- 과거
- 사람들
- 사람
- 장소
- 플라톤
- 플라톤 데이터 인텔리전스
- 플라토데이터
- 정책 입안자
- 가능한
- 게시하다
- 가능성
- 방지
- 예방
- 너무 이른
- 상
- 전문가
- 장래가 촉망되는
- 증명 된
- 공개
- 푸시
- Python
- 인상
- 범위
- 도달하다
- 받다
- 인식
- 참조
- 반복
- 보고
- 필수
- 연구원
- 탄력
- 책임
- 보상
- 상승
- 위험
- 위험
- 달리는
- s
- 사기
- 초
- 부문
- 보안
- 본
- 보내다
- 전송
- 서비스
- 가게
- 영상을
- 표시
- 비슷한
- 이후
- 작은
- 중소기업
- So
- 사회적
- 소셜 미디어
- 해결책
- 솔루션
- 일부
- 소리
- 출처
- 단계
- 아직도
- 더 엄격한
- 제출
- 성공적으로
- 공급 업체
- 받아
- 복용
- 목표
- 대상
- 기술
- 기술
- Technology
- 경향
- 보다
- 그
- XNUMXD덴탈의
- 그들의
- 그들
- 그곳에.
- Bowman의
- 그들
- 이
- 생각
- 위협
- 세
- 시간
- 시대
- 에
- TONE
- 너무
- 검색을
- 상단
- 교환
- Train
- 트레이닝
- Uk
- 이해
- 까지
- 사용
- 익숙한
- 사용
- 종류
- 존립 할 수있는
- Video
- 목소리
- 음성
- 경고
- 였다
- we
- 갔다
- 어느
- 누구
- 넓은
- 펼친
- 의지
- 철사
- 과
- 작업
- 겠지
- WSJ
- year
- 년
- 요크
- 제퍼 넷