Các nhà nghiên cứu tại IBM Security đã tiết lộ một mối đe dọa mới đáng kinh ngạc trong trí tuệ nhân tạo: khả năng điều khiển các cuộc hội thoại trực tiếp thông qua một kỹ thuật được gọi là “âm thanh nghe lén”.
Sử dụng AI tổng hợp và công nghệ âm thanh deepfake, phương pháp này có thể chặn và thay đổi lời nói trong thời gian thực, gây ra những rủi ro chưa từng có trong giao tiếp kỹ thuật số.
Ngoài ra đọc: Phát hiện Deepfake AI tiến bộ trước những thách thức lừa dối ngày càng tăng
Phơi bày mối đe dọa của jack cắm âm thanh
Jack âm thanh hoạt động bằng cách xử lý âm thanh trực tiếp từ giao tiếp hai chiều, chẳng hạn như cuộc gọi điện thoại và tìm kiếm các từ khóa hoặc cụm từ cụ thể. Khi phát hiện ra những trình kích hoạt này, AI sẽ can thiệp và thay thế âm thanh đích thực bằng phiên bản deepfake đã bị thao túng trước khi đến đích. Một cảnh quan tuyệt đẹp minh họa Kỹ thuật này được cung cấp bởi các nhà nghiên cứu của IBM, những người đã thay đổi thông tin tài khoản ngân hàng được nói trong cuộc trò chuyện mà không bị phát hiện.
Jack âm thanh: Sử dụng AI tổng quát để bóp méo các giao dịch âm thanh trực tiếp: Sự nổi lên của AI tổng quát, bao gồm các mô hình chuyển văn bản thành hình ảnh, văn bản thành giọng nói và ngôn ngữ lớn (LLM), đã thay đổi đáng kể công việc và cuộc sống cá nhân của chúng ta. Trong khi những tiến bộ này… https://t.co/GR6AyVACZX pic.twitter.com/Ucw7tNeQCE
– Shah Sheikh (@shah_sheikh) 1 Tháng hai, 2024
Việc dễ dàng tạo ra bằng chứng về khái niệm cho cuộc tấn công này là điều đáng lo ngại. Các nhà nghiên cứu lưu ý rằng phần thách thức nhất không phải là tạo ra AI mà là các kỹ thuật ghi và xử lý âm thanh trực tiếp. Sự dễ dàng phát triển này thể hiện sự khác biệt đáng kể so với những kỳ vọng truyền thống, trong đó nỗ lực như vậy sẽ đòi hỏi phải có kiến thức chuyên môn đáng kể trên một số lĩnh vực khoa học máy tính.
“Việc xây dựng PoC này dễ dàng một cách đáng ngạc nhiên và đáng sợ. Chúng tôi đã dành phần lớn thời gian để tìm ra cách thu âm thanh từ micrô và cung cấp âm thanh đó cho AI.”
Trong sơ đồ này, vai trò của Trí tuệ nhân tạo là rất quan trọng. Chỉ sử dụng ba giây giọng nói của một người, công nghệ này có thể tạo ra một bản sao thuyết phục để tạo ra các bản deepfake hợp pháp theo yêu cầu. Khả năng này, có sẵn thông qua API, chỉ ra một xu hướng đáng lo ngại trong quá trình dân chủ hóa đối với các công cụ thao túng tiên tiến.
“Ngày nay, chúng tôi chỉ cần ba giây giọng nói của một cá nhân để sao chép nó và sử dụng API chuyển văn bản thành giọng nói để tạo ra giọng nói giả xác thực.”
Ý nghĩa và khả năng sử dụng sai mục đích
Tuy nhiên, tác động của việc nghe lén không chỉ dừng lại ở việc gian lận tài chính. Công nghệ như vậy có khả năng kiểm duyệt theo thời gian thực, thay đổi các chương trình phát sóng trực tiếp như tin tức và bài phát biểu chính trị mà không bị phát hiện. Những khả năng này làm tổn hại đến tính toàn vẹn của thông tin, có tác động sâu sắc đến nền dân chủ và niềm tin của công chúng.
Với rào cản thấp đối với một cuộc tấn công đánh cắp âm thanh, kỹ thuật lừa đảo hoặc kỹ thuật xã hội phức tạp đã giảm đáng kể. Sự dễ dàng này sau đó đặt ra các vấn đề về việc các cuộc tấn công như vậy có thể lan rộng, do đó đặt ra thách thức đối với các biện pháp an ninh hiện tại và đòi hỏi các cơ chế phòng thủ mới.
“Trước hết, sự trưởng thành của PoC này sẽ báo hiệu một rủi ro đáng kể đối với người tiêu dùng… Cuộc tấn công này càng được tinh chỉnh, mạng lưới nạn nhân mà nó có thể tạo ra càng rộng hơn.”
Hiện tượng cắm âm thanh nhấn mạnh một vấn đề rộng lớn hơn trong quá trình phát triển AI: bản chất kép của công nghệ sáng tạo. Một mặt, chúng là nguồn gốc của những khả năng đổi mới và sáng tạo không giới hạn; mặt khác, không nên bỏ qua tiềm năng bị lạm dụng của chúng. Vụ việc đặt ra một câu hỏi quan trọng: làm thế nào xã hội có thể khai thác lợi ích của AI trong khi vẫn bảo vệ khỏi các ứng dụng đen tối của nó?
Định hướng tương lai của bảo mật AI
Với bối cảnh các mối đe dọa kỹ thuật số đang thay đổi, việc xác định ổ cắm âm thanh của IBM Security là một cảnh báo cần thiết để cảnh giác và hiện đại hóa an ninh mạng. Sự phát triển của các biện pháp đối phó, bao gồm các thuật toán phát hiện cải tiến và các kỹ thuật mã hóa mạnh mẽ hơn, là rất quan trọng để chống lại các mối đe dọa tinh vi như vậy.
Ngoài ra, tiết lộ này còn tiết lộ rằng các vấn đề đạo đức là không thể thiếu đối với Nghiên cứu AI và phát triển. Việc thiết lập các quy tắc và tiêu chuẩn cho việc sử dụng AI có trách nhiệm là điều cần thiết để giải quyết mối nguy hiểm của những công nghệ mạnh mẽ như vậy.
- Phân phối nội dung và PR được hỗ trợ bởi SEO. Được khuếch đại ngay hôm nay.
- PlatoData.Network Vertical Generative Ai. Trao quyền cho chính mình. Truy cập Tại đây.
- PlatoAiStream. Thông minh Web3. Kiến thức khuếch đại. Truy cập Tại đây.
- Trung tâmESG. Than đá, công nghệ sạch, Năng lượng, Môi trường Hệ mặt trời, Quản lý chất thải. Truy cập Tại đây.
- PlatoSức khỏe. Tình báo thử nghiệm lâm sàng và công nghệ sinh học. Truy cập Tại đây.
- nguồn: https://metanews.com/deepfake-ai-audio-takes-over-live-discussions/
- : có
- :là
- :không phải
- $ LÊN
- 1
- 11
- 7
- 8
- a
- có khả năng
- Tài khoản
- ngang qua
- giải quyết
- tiên tiến
- chống lại
- AI
- thuật toán
- thay đổi
- an
- và
- api
- API
- các ứng dụng
- LÀ
- nhân tạo
- trí tuệ nhân tạo
- AS
- At
- tấn công
- Các cuộc tấn công
- âm thanh
- Authentic
- có sẵn
- Ngân hàng
- tài khoản ngân hàng
- rào cản
- BE
- được
- trước
- được
- Điểm chuẩn
- Lợi ích
- Ngoài
- rộng hơn
- nhưng
- by
- Cuộc gọi
- CAN
- khả năng
- có khả năng
- nắm bắt
- Sự kiểm duyệt
- thách thức
- thách thức
- thay đổi
- chống lại
- Giao tiếp
- Truyền thông
- thỏa hiệp
- máy tính
- Khoa học Máy tính
- đáng kể
- Người tiêu dùng
- Conversation
- cuộc hội thoại
- có thể
- Tạo
- sáng tạo
- quan trọng
- Current
- An ninh mạng
- nguy hiểm
- tối hơn
- lừa dối
- deepfakes
- Phòng thủ
- Nhu cầu
- Dân chủ
- dân chủ hóa
- khởi hành
- điểm đến
- phát hiện
- Phát hiện
- Phát triển
- kỹ thuật số
- công bố thông tin
- thảo luận
- hai
- suốt trong
- dễ dàng
- dễ dàng
- hiệu ứng
- nỗ lực
- mã hóa
- Kỹ Sư
- thiết yếu
- đạo đức
- sự tiến hóa
- mong đợi
- chuyên môn
- các chuyên gia
- giả mạo
- Lĩnh vực
- tài chính
- gian lận tài chính
- Tìm kiếm
- Trong
- gian lận
- từ
- tương lai
- tạo ra
- thế hệ
- Trí tuệ nhân tạo
- Go
- Phát triển
- tay
- khai thác
- Có
- Độ đáng tin của
- Hướng dẫn
- Tuy nhiên
- HTTPS
- IBM
- Xác định
- hàm ý
- in
- sự cố
- Bao gồm
- thông tin
- sự đổi mới
- sáng tạo
- thiếu
- tính toàn vẹn
- Sự thông minh
- vấn đề
- các vấn đề
- IT
- ITS
- chỉ
- từ khóa
- nổi tiếng
- cảnh quan
- Ngôn ngữ
- lớn
- hợp pháp
- sống
- cuộc sống
- tìm kiếm
- Thấp
- rào cản thấp
- thao tác
- Thao tác
- trưởng thành
- các biện pháp
- cơ chế
- phương pháp
- microphone
- mô hình
- hiện đại hóa
- chi tiết
- hầu hết
- Thiên nhiên
- Cần
- net
- Mới
- tin tức
- lưu ý
- of
- on
- ONE
- có thể
- or
- Nền tảng khác
- vfoXNUMXfipXNUMXhfpiXNUMXufhpiXNUMXuf
- ra
- kết thúc
- một phần
- riêng
- hiện tượng
- Lừa đảo
- điện thoại
- gọi điện thoại
- cụm từ
- quan trọng
- plato
- Thông tin dữ liệu Plato
- PlatoDữ liệu
- PoC
- điểm
- chính trị
- khả năng
- tiềm năng
- mạnh mẽ
- quá trình
- xử lý
- sản xuất
- thâm thúy
- nhắc nhở
- cung cấp
- công khai
- lòng tin của công
- câu hỏi
- tăng giá
- hơn
- Đạt
- Đọc
- thực
- thời gian thực
- ghi âm
- Giảm
- tinh chế
- đại diện cho
- nhà nghiên cứu
- Tiết lộ
- Tiết lộ
- Tăng lên
- Nguy cơ
- rủi ro
- Vai trò
- quy tắc
- bảo vệ
- Đề án
- Khoa học
- giây
- an ninh
- Các biện pháp an ninh
- thiết lập
- một số
- shaykh
- VẬN CHUYỂN
- nên
- Tín hiệu
- có ý nghĩa
- đáng kể
- Mạng xã hội
- Kỹ thuật xã hội
- Xã hội
- tinh vi
- nguồn
- riêng
- bài phát biểu
- tiêu
- nói
- lan rộng
- giật mình
- Các bước
- Stunning
- như vậy
- đáng ngạc nhiên
- mất
- kỹ thuật
- kỹ thuật
- Công nghệ
- Công nghệ
- Text-to-Speech
- việc này
- Sản phẩm
- Tương lai
- cung cấp their dịch
- sau đó
- Kia là
- họ
- điều này
- mối đe dọa
- các mối đe dọa
- số ba
- Thông qua
- Như vậy
- thời gian
- đến
- công cụ
- truyền thống
- Giao dịch
- khuynh hướng
- đúng
- NIỀM TIN
- gạch
- vô hạn
- chưa từng có
- Sử dụng
- sử dụng
- sử dụng
- phiên bản
- thông qua
- nạn nhân
- Giọng nói
- VOICE
- cảnh báo
- là
- we
- khi nào
- cái nào
- trong khi
- CHÚNG TÔI LÀ
- rộng hơn
- với
- ở trong
- không có
- từ
- Công việc
- công trinh
- sẽ
- zephyrnet