Các nhà nghiên cứu tiết lộ, khi các nhà phát triển AI tiếp tục tinh chỉnh các mô hình của họ đến mức tinh vi, việc phân biệt giữa hình ảnh thật và sáng tạo AI cũng ngày càng trở nên khó khăn.
Một nghiên cứu của các nhà nghiên cứu tại trường đại học Waterloo chứng minh rằng mọi người đang gặp khó khăn trong việc tìm ra hình ảnh của người thật và của người do AI tạo ra.
Dưới ngưỡng dự kiến
Khi thực hiện nghiên cứu, các nhà nghiên cứu tại Đại học Waterloo đã cung cấp 20 bức ảnh không nhãn cho 260 người tham gia. Một nửa số ảnh là người thật được chụp từ Google Images trong khi nửa còn lại là do AI tạo ra bằng các công cụ như Dall-E và Khuếch tán ổn định.
Sau đó, những người tham gia được yêu cầu dán nhãn cho các hình ảnh, nếu chúng là thật hoặc do AI tạo ra, để giải thích cho câu trả lời của họ.
Mặc dù 61% người tham gia có thể nhận ra sự khác biệt giữa hình ảnh thật và hình ảnh do AI tạo ra, nhưng tỷ lệ này vẫn thấp hơn nhiều so với ngưỡng 85% dự kiến.
Trong khi xem xét kỹ lưỡng các hình ảnh, những người tham gia chú ý đến các chi tiết như mắt, ngón tay, răng và các chỉ số khác cho thấy khi tìm kiếm hình ảnh do AI tạo ra, nhưng “đánh giá của họ không phải lúc nào cũng chính xác”.
“Mọi người không giỏi trong việc tạo ra sự khác biệt như họ nghĩ,” nói tác giả chính của nghiên cứu Andrea Pocol, người cũng là nghiên cứu sinh tiến sĩ về Khoa học máy tính tại trường đại học.
Mặc dù người dùng Internet có thể xem các hình ảnh lướt qua nhưng các nhà nghiên cứu của Waterloo cho biết họ cho phép người tham gia dành thời gian để phân tích các hình ảnh.
Pocol cho biết: “Những người chỉ lướt qua hoặc không có thời gian sẽ không nhận ra những tín hiệu này.
Ngoài ra đọc: Giám đốc điều hành Leonardo nhấn mạnh sự ngu ngốc của người dùng trước các mối đe dọa AI tại Davos
Lạm dụng công nghệ
Của họ nghiên cứu, có tiêu đề “Không còn tin tưởng nữa: Một cuộc khảo sát về tình trạng của Deepfakes, Con người do AI tạo ra và các phương tiện phi thực tế khác,” xuất hiện trên tạp chí Những tiến bộ trong đồ họa máy tính, cũng nêu bật những rủi ro liên quan đến những tiến bộ trong công nghệ AI tạo ra .
Các nhà nghiên cứu cũng lo ngại về tốc độ công nghệ AI tổng hợp đang thay đổi nhanh chóng, ngày càng tinh vi hơn mỗi ngày. Nghiên cứu học thuật và pháp luật không theo kịp sự phát triển của ngành công nghiệp sáng tạo.
Pocol cho biết hình ảnh AI ngày càng trở nên chân thực hơn khiến một số người khó có thể dễ dàng phân biệt giữa hình ảnh thật và hình ảnh do AI tạo ra. Pocol cho biết, điều này đang tạo ra mảnh đất màu mỡ cho những kẻ xấu lợi dụng công nghệ để truyền bá ác ý và duy trì thông tin sai lệch hoặc lừa gạt mọi người.
Pocol nói: “Thông tin sai lệch không phải là mới, nhưng các công cụ đưa thông tin sai lệch đã liên tục thay đổi và phát triển.
“Có thể đến mức mọi người, dù được đào tạo đến đâu, vẫn sẽ gặp khó khăn trong việc phân biệt hình ảnh thật và giả. Đó là lý do tại sao chúng ta cần phát triển các công cụ để xác định và chống lại điều này. Nó giống như một cuộc chạy đua vũ trang AI mới.”
Các nhà nghiên cứu cũng thừa nhận những thách thức mà công nghệ đặt ra, đặc biệt là khi nói đến sự lan truyền của deepfake.
Công nghệ rơi vào tay kẻ xấu
Với những khó khăn mà người bình thường gặp phải trong việc phân biệt giữa hình ảnh thật và hình ảnh giả, ngày càng có nhiều lo ngại về sự gia tăng lan truyền của các tác phẩm deepfake. Các chuyên gia đã cảnh báo những kẻ xấu sẽ lợi dụng công nghệ AI tiên tiến để truyền bá những thông tin sai lệch về bầu cử nhằm đánh lừa cử tri.
Sản phẩm Trung tâm chống lại sự căm ghét kỹ thuật số (CCDH), một tổ chức phi lợi nhuận giám sát lời nói căm thù trực tuyến đã cảnh báo trong báo cáo của họ rằng các trình tạo hình ảnh được hỗ trợ bởi AI đang làm trầm trọng thêm thông tin sai lệch về cuộc bầu cử năm 2024.
Các nhà nghiên cứu của CCDH cho biết trong báo cáo của họ: “Khả năng những hình ảnh do AI tạo ra như vậy đóng vai trò là 'bằng chứng hình ảnh' có thể làm trầm trọng thêm sự lan truyền của các tuyên bố sai sự thật, đặt ra thách thức đáng kể trong việc duy trì tính toàn vẹn của các cuộc bầu cử”.
Tuy nhiên, điều này được đưa ra trong bối cảnh có thông báo rằng khoảng 20 công ty công nghệ lớn bao gồm OpenAI, Microsoft và AI ổn định đã ký một thỏa thuận cùng nhau hợp tác để ngăn chặn nội dung lừa đảo AI “can thiệp vào cuộc bầu cử diễn ra trên toàn cầu trong năm nay.
- Phân phối nội dung và PR được hỗ trợ bởi SEO. Được khuếch đại ngay hôm nay.
- PlatoData.Network Vertical Generative Ai. Trao quyền cho chính mình. Truy cập Tại đây.
- PlatoAiStream. Thông minh Web3. Kiến thức khuếch đại. Truy cập Tại đây.
- Trung tâmESG. Than đá, công nghệ sạch, Năng lượng, Môi trường Hệ mặt trời, Quản lý chất thải. Truy cập Tại đây.
- PlatoSức khỏe. Tình báo thử nghiệm lâm sàng và công nghệ sinh học. Truy cập Tại đây.
- nguồn: https://metanews.com/the-line-between-real-and-fake-gets-too-thin-for-the-ordinary-eye/
- :là
- :không phải
- :Ở đâu
- $ LÊN
- 20
- 2024
- 7
- 9
- a
- Giới thiệu
- học tập
- nghiên cứu học thuật
- thừa nhận
- diễn viên
- lão luyện
- tiến bộ
- Lợi thế
- AI
- Hỗ trợ AI
- cho phép
- Đã
- Ngoài ra
- luôn luôn
- Giữa
- an
- phân tích
- và
- Thông báo
- câu trả lời
- xuất hiện
- LÀ
- cánh tay
- AS
- đánh giá
- liên kết
- At
- Nỗ lực
- sự chú ý
- tác giả
- Bad
- BE
- trở thành
- được
- tin tưởng
- phía dưới
- giữa
- lớn
- công nghệ lớn
- nhưng
- by
- ứng cử viên
- thực
- giám đốc điều hành
- thách thức
- thách thức
- thay đổi
- tuyên bố
- đến
- Các công ty
- máy tính
- Khoa học Máy tính
- Liên quan
- liên tục
- nội dung
- tiếp tục
- sửa chữa
- có thể
- Counter
- phản công
- tạo ra
- Tạo
- tạo
- sáng tạo
- dall's
- ngày
- deepfakes
- chi tiết
- phát triển
- phát triển
- phát triển
- sự khác biệt
- phân biệt
- khó khăn
- khó khăn
- kỹ thuật số
- làm mất thông tin
- phân biệt
- phân biệt
- dont
- mỗi
- dễ dàng
- Bầu cử
- Bầu cử
- đặc biệt
- thành lập
- phát triển
- làm trầm trọng thêm
- dự kiến
- kinh nghiệm
- các chuyên gia
- mắt
- Mắt
- không
- giả mạo
- sai
- sự giả dối
- nỗi sợ hãi
- màu mỡ
- Trong
- từ
- tạo ra
- thế hệ
- Trí tuệ nhân tạo
- máy phát điện
- được
- nhận được
- Toàn cầu
- đồ họa
- Mặt đất
- Phát triển
- Một nửa
- Cứng
- ghét
- Có
- có
- nổi bật
- Độ đáng tin của
- Tuy nhiên
- HTTPS
- Con người
- xác định
- if
- hình ảnh
- hình ảnh
- in
- Bao gồm
- Tăng lên
- lên
- Các chỉ số
- ngành công nghiệp
- tính toàn vẹn
- Internet
- IT
- tạp chí
- chỉ
- Giữ
- nhãn
- dẫn
- Pháp luật
- Lượt thích
- Dòng
- còn
- Xem
- tìm kiếm
- Làm
- chất
- Có thể..
- Phương tiện truyền thông
- microsoft
- Thông tin sai
- mô hình
- màn hình
- chi tiết
- Cần
- Mới
- Không
- Phi lợi nhuận
- lưu ý
- of
- on
- Trực tuyến
- or
- bình thường
- Nền tảng khác
- ra
- kết thúc
- Hòa bình
- thanh toán
- tham gia
- Đi qua
- người
- làm cho lâu dài
- người
- Bằng tiến sĩ
- chọn
- hình ảnh
- Những bức ảnh
- Nơi
- plato
- Thông tin dữ liệu Plato
- PlatoDữ liệu
- Điểm
- đặt ra
- tiềm năng
- bảo quản
- ngăn chặn
- cung cấp
- Cuộc đua
- nhanh chóng
- Tỷ lệ
- Đọc
- thực
- báo cáo
- nghiên cứu
- nhà nghiên cứu
- Reuters
- tiết lộ
- rủi ro
- Nói
- Khoa học
- phục vụ
- VẬN CHUYỂN
- có ý nghĩa
- một số
- tinh vi
- sự tinh tế
- phát biểu
- lan tràn
- Tính ổn định
- Tiểu bang
- Vẫn còn
- Đấu tranh
- Học tập
- như vậy
- Khảo sát
- Hãy
- Lấy
- dùng
- công nghệ cao
- công ty công nghệ cao
- Công nghệ
- nói
- việc này
- Sản phẩm
- Nhà nước
- cung cấp their dịch
- sau đó
- Đó
- Kia là
- họ
- mong
- nghĩ
- điều này
- năm nay
- các mối đe dọa
- ngưỡng
- thời gian
- có tiêu đề
- đến
- bên nhau
- quá
- công cụ
- đào tạo
- trường đại học
- người sử dang
- Người sử dụng
- sử dụng
- Cử tri
- cảnh báo
- là
- Đường..
- we
- là
- khi nào
- cái nào
- trong khi
- CHÚNG TÔI LÀ
- tại sao
- sẽ
- với
- Công việc
- làm việc cùng nhau
- Sai
- năm
- zephyrnet