Nhãn dán WhatsApp AI thêm súng cho trẻ em Palestine

Trong một ví dụ khác về sự thiên vị AI đối với sách giáo khoa trong tương lai, nhà sản xuất nhãn dán của WhatsApp dường như đã tạo ra hình ảnh bạo lực khi được hỏi về người Palestine theo đạo Hồi – và đã kiềm chế không làm như vậy đối với người Israel gốc Do Thái.

Ứng dụng nhắn tin do Meta sở hữu cho phép mọi người sử dụng AI để tạo nhãn dán: hình ảnh và hoạt ảnh có thể được đưa vào cuộc trò chuyện. Tại sao? Cho vui.

Khi đưa ra lời nhắc có chứa các từ “Palestine”, “Palestine” hoặc “Cậu bé người Palestine theo đạo Hồi”, chúng tôi được biết, phần mềm tổng quát đã cung cấp các nhãn dán hoạt hình có các nhân vật nam tính mặc quần áo Hồi giáo và mang theo thứ trông giống như một khẩu súng trường AK-47. 

Nhưng khi người dùng yêu cầu nó tạo nhãn dán “cậu bé Israel” hoặc “cậu bé Do Thái Israel”, nó sẽ trả về hình ảnh lành tính của các nhân vật ảo đang mỉm cười và nhảy múa, The Guardian báo cáo. Một số trong số đó cho thấy những gì trông giống như trẻ em Do Thái đang chơi bóng đá hoặc giơ cờ Israel thay vì súng.

Ngay cả khi được yêu cầu tạo ra hình ảnh của “quân đội Israel” hay “lực lượng phòng thủ Israel”, những người lính được AI miêu tả cũng không cầm súng. Trong một hình dán, một người đàn ông đeo hai thanh kiếm sau lưng dường như đang cầu nguyện. Tuy nhiên, bất kỳ lời nhắc nào có chứa từ “Hamas” đều bị chặn và ứng dụng cho biết nó đột nhiên “không thể tạo nhãn dán AI. Vui lòng thử lại."

Không thể bỏ qua sự khác biệt về nhãn dán lúc này khi xung đột Israel-Hamas vẫn tiếp diễn, với hơn 10,000 người thương vong báo cáo cho đến nay ở Gaza và 1,400 ở Israel kể từ đầu tháng XNUMX. Người ta nói rằng nhân viên của Meta đã phát hiện ra sự mất cân bằng và nêu lên mối lo ngại trong nội bộ. 

Kevin McAlister, người phát ngôn đại diện cho gã khổng lồ internet, cảnh báo rằng công cụ nhãn dán AI không hoàn hảo. “Như chúng tôi đã nói khi ra mắt tính năng này, các mô hình có thể trả về kết quả đầu ra không chính xác hoặc không phù hợp như với tất cả các hệ thống AI tổng hợp. Chúng tôi sẽ tiếp tục cải thiện các tính năng này khi chúng phát triển và có thêm nhiều người chia sẻ phản hồi của họ,” ông nói. 

Giám đốc điều hành Mark Zuckerberg phát động công cụ nhãn dán vào tháng 2 và cho biết nó được hỗ trợ bởi khả năng xử lý văn bản của Meta trong mô hình ngôn ngữ lớn Llama XNUMX với khả năng tạo hình ảnh của hệ thống Emu. Phần mềm này đã được tích hợp với các nền tảng nhắn tin và truyền thông xã hội, bao gồm Facebook, Instagram và WhatsApp.

Đây không phải là lần đầu tiên công cụ nhãn dán AI của Meta gây tranh cãi. Trước khi nó được cung cấp rộng rãi, những người thử nghiệm bản beta nhận thấy nó sẽ tạo ra những hình ảnh không phù hợp, kỳ quái hoặc dâm dục về các nhân vật hoạt hình, chính trị gia và bộ phận sinh dục. Nó tạo ra những bức ảnh về Thủ tướng Canada Justin Trudeau với cặp mông nổi bật, hoặc Sonic the Hedgehog với bộ ngực và nhiều bức tranh biếm họa về dương vật khác nhau.

Trong khi đó, Meta thề sẽ trấn áp những thông tin sai lệch và những đoạn phim bạo lực, đồ họa về cuộc chiến Israel-Hamas được đăng trên nền tảng của nó. Người phát ngôn Andy Stone nói với CNN đã thành lập một trung tâm hoạt động đặc biệt và thuê những người nói thông thạo tiếng Do Thái và tiếng Ả Rập để kiểm duyệt nội dung.

“Các nhóm của chúng tôi đang làm việc suốt ngày đêm để giữ an toàn cho nền tảng của chúng tôi, thực hiện hành động đối với nội dung vi phạm chính sách của chúng tôi hoặc luật pháp địa phương, đồng thời phối hợp với những người kiểm tra thực tế bên thứ ba trong khu vực để hạn chế lan truyền thông tin sai lệch. Chúng tôi sẽ tiếp tục công việc này khi cuộc xung đột này diễn ra”, ông nói.

Meta cũng vào thứ Hai thề, thông qua Reuters, để cấm các nhà quảng cáo chính trị sử dụng cách viết tổng quát của nó Hỗ trợ AI bộ quảng cáo.

Đăng ký đã yêu cầu cha mẹ của WhatsApp bình luận thêm. ®

• Phân phối nội dung và PR được hỗ trợ bởi SEO. Được khuếch đại ngay hôm nay.
• PlatoData.Network Vertical Generative Ai. Trao quyền cho chính mình. Truy cập Tại đây.
• PlatoAiStream. Thông minh Web3. Kiến thức khuếch đại. Truy cập Tại đây.
• Trung tâmESG. Than đá, công nghệ sạch, Năng lượng, Môi trường Hệ mặt trời, Quản lý chất thải. Truy cập Tại đây.
• PlatoSức khỏe. Tình báo thử nghiệm lâm sàng và công nghệ sinh học. Truy cập Tại đây.
• nguồn: https://go.theregister.com/feed/www.theregister.com/2023/11/07/whatsapp_ai_stickers_palestinian/