Bảo mật kỹ thuật số
Khi hình ảnh, video và clip âm thanh bịa đặt của người thật trở nên phổ biến, khả năng xảy ra một loạt thông tin sai lệch do AI cung cấp là nguyên nhân gây ra mối lo ngại ngày càng tăng.
Tháng Hai 13 2024 • , 5 phút đọc
Tin tức giả đã thống trị các tiêu đề bầu cử kể từ đó đã trở thành một câu chuyện lớn trong cuộc đua vào Nhà Trắng năm 2016. Nhưng XNUMX năm sau, có một mối đe dọa lớn hơn được cho là: sự kết hợp giữa làm mất thông tin và deepfakes điều đó có thể đánh lừa ngay cả các chuyên gia. Khả năng cao là gần đây ví dụ nội dung do AI tạo ra theo chủ đề bầu cử – bao gồm hàng loạt hình ảnh và video được lưu hành trong thời gian chuẩn bị cho cuộc bầu cử hiện tại ở Argentina và âm thanh được chỉnh sửa của Tổng thống Mỹ Joe Biden – là những điềm báo về những gì có thể xảy ra trên quy mô lớn hơn.
Với khoảng một một phần tư dân số thế giới Hướng tới các cuộc thăm dò vào năm 2024, mối lo ngại đang gia tăng rằng thông tin sai lệch và thủ thuật do AI cung cấp có thể được những kẻ bất chính sử dụng để tác động đến kết quả, khiến nhiều chuyên gia lo ngại hậu quả của việc deepfake sẽ trở thành xu hướng phổ biến.
Mối đe dọa thông tin sai lệch deepfake
Như đã đề cập, năm nay không dưới hai tỷ người sắp đến các điểm bỏ phiếu ở địa phương của họ để bỏ phiếu cho các đại diện và lãnh đạo nhà nước mà họ yêu thích. Khi các cuộc bầu cử lớn sắp diễn ra ở nhiều quốc gia, bao gồm Mỹ, Anh và Ấn Độ (cũng như Nghị viện châu Âu), điều này có khả năng thay đổi bối cảnh chính trị và định hướng địa chính trị trong vài năm tới - và vượt ra.
Tuy nhiên, đồng thời, thông tin sai lệch và thông tin sai lệch gần đây đã xuất hiện xếp hạng được Diễn đàn Kinh tế Thế giới (WEF) coi là rủi ro toàn cầu số một trong hai năm tới.
Thách thức với deepfake là công nghệ hỗ trợ AI hiện ngày càng rẻ, dễ tiếp cận và đủ mạnh để gây hại trên quy mô lớn. Nó dân chủ hóa khả năng của tội phạm mạng, các tác nhân nhà nước và những kẻ tấn công để khởi động các chiến dịch thông tin sai lệch thuyết phục và hơn thế nữa đặc biệt, lừa đảo một lần. Đó là một phần lý do tại sao WEF gần đây xếp thông tin sai lệch/thông tin sai lệch là rủi ro toàn cầu lớn nhất trong hai năm tới và là rủi ro số hai hiện nay, sau thời tiết khắc nghiệt. Đó là ý kiến của 1,490 chuyên gia từ các học viện, doanh nghiệp, chính phủ, cộng đồng quốc tế và xã hội dân sự mà WEF đã tham khảo ý kiến.
Báo cáo cảnh báo:“Nội dung tổng hợp sẽ thao túng các cá nhân, gây thiệt hại cho nền kinh tế và làm rạn nứt xã hội theo nhiều cách trong hai năm tới… có nguy cơ là một số chính phủ sẽ hành động quá chậm, phải đối mặt với sự đánh đổi giữa việc ngăn chặn thông tin sai lệch và bảo vệ quyền tự do ngôn luận.”
(Sâu)giả vờ nó
Thách thức là các công cụ như ChatGPT và AI tổng hợp (GenAI) có thể truy cập miễn phí đã giúp nhiều cá nhân hơn có thể tham gia vào việc tạo ra các chiến dịch thông tin sai lệch được thúc đẩy bởi công nghệ deepfake. Với tất cả những công việc khó khăn đã được thực hiện, những kẻ độc hại có nhiều thời gian hơn để xử lý các thông điệp của chúng và nỗ lực khuếch đại để đảm bảo nội dung giả mạo của chúng được nhìn thấy và nghe thấy.
Trong bối cảnh bầu cử, deepfake rõ ràng có thể được sử dụng để làm xói mòn lòng tin của cử tri đối với một ứng cử viên cụ thể. Suy cho cùng, việc thuyết phục ai đó không làm điều gì đó sẽ dễ dàng hơn là làm ngược lại. Nếu những người ủng hộ một đảng phái chính trị hoặc ứng cử viên có thể bị ảnh hưởng một cách thích hợp bởi âm thanh hoặc video giả mạo thì đó sẽ là một chiến thắng chắc chắn cho các nhóm đối thủ. Trong một số tình huống, các quốc gia bất hảo có thể tìm cách làm suy yếu niềm tin vào toàn bộ quá trình dân chủ, do đó, bất cứ ai thắng sẽ gặp khó khăn trong việc cai trị một cách hợp pháp.
Trọng tâm của thách thức nằm ở một sự thật đơn giản: khi con người xử lý thông tin, họ có xu hướng coi trọng số lượng và tính dễ hiểu. Điều đó có nghĩa là chúng ta càng xem nhiều nội dung có thông điệp tương tự và càng dễ hiểu thì khả năng chúng ta tin vào nội dung đó càng cao. Đó là lý do tại sao các chiến dịch tiếp thị có xu hướng bao gồm các thông điệp ngắn và được lặp lại liên tục. Thêm vào đó là thực tế rằng các nội dung giả mạo ngày càng khó phân biệt với nội dung thực và bạn có nguy cơ dẫn đến thảm họa dân chủ.
Từ lý thuyết đến thực hành
Điều đáng lo ngại là deepfake có thể sẽ tác động đến tâm lý cử tri. Lấy ví dụ mới này: Vào tháng 2024 năm XNUMX, một đoạn âm thanh deepfake của Tổng thống Mỹ Joe Biden đã được lưu hành thông qua cuộc gọi tự động tới một số lượng cử tri sơ bộ không xác định ở New Hampshire. Trong tin nhắn, rõ ràng anh ấy đã nói với họ rằng đừng tham gia mà thay vào đó hãy “để dành phiếu bầu của bạn cho cuộc bầu cử vào tháng 11”. Số ID người gọi hiển thị cũng bị làm giả để có vẻ như tin nhắn tự động được gửi từ số cá nhân của Kathy Sullivan, cựu chủ tịch Đảng Dân chủ của bang hiện đang điều hành super-PAC ủng hộ Biden.
Không khó để thấy những lời kêu gọi như vậy có thể được sử dụng như thế nào để thuyết phục cử tri bỏ phiếu cho ứng cử viên ưa thích của họ trước cuộc bầu cử tổng thống vào tháng 11. Rủi ro sẽ đặc biệt nghiêm trọng trong các cuộc bầu cử có tính cạnh tranh chặt chẽ, trong đó sự chuyển dịch của một số lượng nhỏ cử tri từ bên này sang bên kia sẽ quyết định kết quả. Với chỉ hàng chục nghìn cử tri ở một số bang xung đột có khả năng quyết định kết quả cuộc bầu cử, một chiến dịch có chủ đích như thế này có thể gây ra thiệt hại không thể kể xiết. Và thêm sự xúc phạm đến thương tích, như trong trường hợp trên, nó lan truyền qua các cuộc gọi tự động thay vì mạng xã hội, việc theo dõi hoặc đo lường tác động thậm chí còn khó hơn.
Các công ty công nghệ đang làm gì về nó?
Cả YouTube và Facebook đều nói là đã chậm để đáp trả một số hành vi giả mạo nhằm mục đích ảnh hưởng đến cuộc bầu cử gần đây. Điều đó bất chấp luật mới của EU (Đạo luật dịch vụ kỹ thuật số) yêu cầu các công ty truyền thông xã hội phải kiểm soát các nỗ lực thao túng bầu cử.
Về phần mình, OpenAI cho biết họ sẽ triển khai thông tin xác thực kỹ thuật số của Liên minh chứng minh và xác thực nội dung (C2PA) cho các hình ảnh được tạo bởi DALL-E3. Công nghệ tạo hình mờ bằng mật mã – cũng đang được Meta và Google thử nghiệm – được thiết kế để khiến việc tạo ra hình ảnh giả mạo trở nên khó khăn hơn.
Tuy nhiên, đây vẫn chỉ là những bước đi nhỏ và còn có mối quan tâm chính đáng rằng phản ứng công nghệ đối với mối đe dọa sẽ là quá ít, quá muộn khi cơn sốt bầu cử đang bao trùm toàn cầu. Đặc biệt là khi lan truyền trong các mạng tương đối khép kín như nhóm WhatsApp hoặc cuộc gọi tự động, sẽ rất khó để nhanh chóng theo dõi và vạch trần bất kỳ âm thanh hoặc video giả mạo nào.
Lý thuyết về “thiên vị neo” gợi ý rằng thông tin đầu tiên con người nghe được sẽ in sâu vào tâm trí chúng ta, ngay cả khi nó hóa ra là sai sự thật. Nếu những người làm sâu sắc có thể thu hút được người bỏ phiếu trước, thì tất cả các cuộc đặt cược sẽ không xảy ra xem ai là người chiến thắng cuối cùng. Trong thời đại truyền thông xã hội và thông tin sai lệch được hỗ trợ bởi AI, câu ngạn ngữ của Jonathan Swift “sự giả dối bay đi và sự thật sẽ khập khiễng theo sau nó” mang một ý nghĩa hoàn toàn mới.
- Phân phối nội dung và PR được hỗ trợ bởi SEO. Được khuếch đại ngay hôm nay.
- PlatoData.Network Vertical Generative Ai. Trao quyền cho chính mình. Truy cập Tại đây.
- PlatoAiStream. Thông minh Web3. Kiến thức khuếch đại. Truy cập Tại đây.
- Trung tâmESG. Than đá, công nghệ sạch, Năng lượng, Môi trường Hệ mặt trời, Quản lý chất thải. Truy cập Tại đây.
- PlatoSức khỏe. Tình báo thử nghiệm lâm sàng và công nghệ sinh học. Truy cập Tại đây.
- nguồn: https://www.welivesecurity.com/en/cybersecurity/deepfakes-election-year-2024-weapon-mass-deception/
- : có
- :là
- :không phải
- :Ở đâu
- 1
- 2016
- 2024
- 36
- a
- có khả năng
- Giới thiệu
- về nó
- ở trên
- Học viện
- có thể truy cập
- Theo
- Hành động
- diễn viên
- thêm vào
- thêm
- Sau
- tuổi
- trước
- AI
- Hỗ trợ AI
- Tất cả
- Ngoài ra
- Khuếch đại
- an
- và
- Một
- bất kì
- xuất hiện
- LÀ
- được cho là
- xung quanh
- AS
- Nỗ lực
- âm thanh
- tính xác thực
- Tự động
- Đứa bé
- trở lại
- BE
- trở thành
- được
- được
- Tin
- Đặt cược
- giữa
- Ngoài
- Biden
- lớn
- lớn hơn
- lớn nhất
- Tỷ
- rộng hơn
- kinh doanh
- nhưng
- by
- Caller
- Người gọi ID
- Cuộc gọi
- Chiến dịch
- Chiến dịch
- CAN
- ứng cử viên
- trường hợp
- Phân loại
- Nguyên nhân
- Ghế
- thách thức
- cơ hội
- tỷ lệ cược
- thay đổi
- ChatGPT
- giá rẻ
- lưu hành
- dân sự
- cái kẹp
- clip
- đóng cửa
- CO
- liên minh
- kết hợp
- Đến
- đến
- đến
- cộng đồng
- sáng tác
- Mối quan tâm
- Hậu quả
- nội dung
- bối cảnh
- liên tục
- thuyết phục
- có thể
- nước
- tạo
- Credentials
- mật mã
- Current
- tội phạm mạng
- hư hại
- lừa dối
- quyết định
- sâu
- deepfakes
- dân chủ
- đảng dân chủ
- dân chủ hóa
- thiết kế
- Mặc dù
- xác định
- khó khăn
- kỹ thuật số
- dịch vụ kỹ thuật số
- hướng
- thiên tai
- làm mất thông tin
- hiển thị
- khuyên can
- do
- làm
- thống trị
- thực hiện
- xuống
- điều khiển
- suốt trong
- dễ dàng
- dễ dàng hơn
- Kinh tế
- Diễn đàn kinh tế
- nền kinh tế
- những nỗ lực
- tám
- Bầu cử
- Bầu cử
- thuê
- đủ
- đảm bảo
- Toàn bộ
- đặc biệt
- EU
- Châu Âu
- Nghị viện châu Âu
- Ngay cả
- BAO GIỜ
- ví dụ
- các chuyên gia
- cực
- phải đối mặt với
- thực tế
- đức tin
- giả mạo
- sai
- Tháng Hai
- vài
- ít hơn
- hãng
- Tên
- Trong
- Cựu
- Diễn đàn
- gãy
- Miễn phí
- Tự do ngôn luận
- tự do
- tươi
- từ
- genai
- tạo ra
- thế hệ
- Trí tuệ nhân tạo
- Địa chính trị
- được
- được
- nhận được
- Toàn cầu
- toàn cầu
- Go
- đi
- cai quản
- Chính phủ
- Chính phủ
- nắm
- Các nhóm
- Hampshire
- số ít
- Cứng
- công việc khó khăn
- khó hơn
- làm hại
- Có
- he
- cái đầu
- Nhóm
- Tiêu đề
- Nghe
- nghe
- Trái Tim
- Cao
- cao hơn
- House
- Độ đáng tin của
- Tuy nhiên
- HTML
- HTTPS
- Con người
- ID
- if
- hình ảnh
- Va chạm
- thực hiện
- in
- Bao gồm
- lên
- Ấn Độ
- các cá nhân
- ảnh hưởng
- thông tin
- chấn thương
- thay vì
- Xúc phạm
- Quốc Tế
- IT
- ITS
- Tháng một
- JOE
- Joe Biden
- jonathan
- jpg
- chỉ
- cảnh quan
- lớn
- lớn hơn
- Trễ, muộn
- một lát sau
- phóng
- Luật
- các nhà lãnh đạo
- hợp pháp
- nằm
- Lượt thích
- Có khả năng
- ít
- địa phương
- Xem
- thực hiện
- Mainstream
- chính
- làm cho
- độc hại
- Thao tác
- nhiều
- Marketing
- Thánh Lễ
- max-width
- Có thể..
- có nghĩa là
- có nghĩa
- có nghĩa là
- đo
- Phương tiện truyền thông
- đề cập
- tin nhắn
- tin nhắn
- tin nhắn
- Siêu dữ liệu
- phút
- tâm trí
- Thông tin sai
- chi tiết
- Thiên nhiên
- mạng
- Mới
- tin tức
- tiếp theo
- Không
- Tháng mười một
- tại
- con số
- nhiều
- of
- off
- on
- ONE
- OpenAI
- or
- Nền tảng khác
- vfoXNUMXfipXNUMXhfpiXNUMXufhpiXNUMXuf
- ra
- Kết quả
- kết thúc
- Quốc hội
- một phần
- riêng
- đặc biệt
- bên
- người
- riêng
- PHIL
- mảnh
- Nơi
- plato
- Thông tin dữ liệu Plato
- PlatoDữ liệu
- chính trị
- cuộc thăm dò
- có thể
- tiềm năng
- mạnh mẽ
- ưa thích
- Chủ tịch
- chủ tịch joe biden
- tổng thống
- bầu cử tổng thống
- ngăn chặn
- chính
- quá trình
- sản xuất
- tương lai
- bảo vệ
- nguồn gốc
- số lượng, lượng
- Cuộc đua
- phạm vi
- xếp hạng
- hơn
- thực
- lý do
- gần đây
- gần đây
- công thức
- tương đối
- lặp đi lặp lại
- báo cáo
- Đại diện
- đòi hỏi
- đáp ứng
- phản ứng
- kết quả
- Kết quả
- tăng
- Nguy cơ
- Đua tranh
- áo choàng
- chạy
- s
- Nói
- tương tự
- Quy mô
- xem
- đã xem
- gởi
- tình cảm
- DỊCH VỤ
- định
- thay đổi
- ngắn
- bên
- tương tự
- Đơn giản
- kể từ khi
- tình huống
- chậm rãi
- nhỏ
- So
- Mạng xã hội
- truyền thông xã hội
- Xã hội
- một số
- Một người nào đó
- một cái gì đó
- phát biểu
- lan tràn
- Tiểu bang
- Bang
- Trạm
- Các bước
- Vẫn còn
- như vậy
- Sullivan
- ủng hộ
- nhanh chóng
- Lung lay
- Hãy
- mất
- nhắm mục tiêu
- công nghệ cao
- công nghệ
- Công nghệ
- nói
- có xu hướng
- hàng chục
- hơn
- việc này
- Sản phẩm
- thế giới
- cung cấp their dịch
- Them
- lý thuyết
- Đó
- Kia là
- họ
- điều này
- năm nay
- hàng ngàn
- mối đe dọa
- chặt lấy
- thời gian
- Yêu sách
- đến
- nói với
- quá
- công cụ
- theo dõi
- NIỀM TIN
- Sự thật
- XOAY
- biến
- hai
- Uk
- cuối cùng
- Phá hoại
- hiểu
- sự hiểu biết
- không xác định
- Chưa kể
- us
- Tổng thống chúng tôi
- đã sử dụng
- giá trị
- thông qua
- Video
- Video
- Xem
- Bỏ phiếu
- bỏ phiếu
- Cử tri
- Cảnh báo
- là
- Làm dấu
- Đường..
- cách
- we
- Thời tiết
- WEF
- TỐT
- là
- khi nào
- cái nào
- trắng
- Nhà Trắng
- CHÚNG TÔI LÀ
- bất cứ ai
- toàn bộ
- tại sao
- chiều rộng
- sẽ
- giành chiến thắng
- Thắng
- với
- Công việc
- thế giới
- Diễn đàn Kinh tế Thế giới
- thế giới
- sẽ
- năm
- năm
- Bạn
- trên màn hình
- youtube
- zephyrnet