Bản demo chatbot internet AI của Meta nhanh chóng bắt đầu tung ra tin tức giả mạo và nhận xét phân biệt chủng tộc

Tóm lại Một ngày khác, một chatbot AI lừa đảo khác trên internet.

Meta tuần trước tung ra Blenderbot 3, một mô hình ngôn ngữ trò chuyện, trên web dưới dạng thử nghiệm và nó diễn ra tốt đẹp như bạn mong đợi.

BlenderBot 3 đã nhanh chóng xác nhận rằng Donald Trump vẫn đang và sẽ tiếp tục là Tổng thống Hoa Kỳ sau năm 2024, đồng thời đưa ra quan điểm bài Do Thái khi được hỏi những câu hỏi gây tranh cãi như thể hiện bởi Người trong cuộc. Nói cách khác, BlenderBot 3 có xu hướng lan truyền tin tức giả mạo và có ý kiến ​​​​thiên vị từ các khuôn mẫu chủng tộc giống như tất cả các mô hình ngôn ngữ được đào tạo từ văn bản được lấy từ internet.

Good morning to everyone, especially the Facebook https://t.co/EkwTpff9OI researchers who are going to have to rein in their Facebook-hating, election denying chatbot today pic.twitter.com/wMRBTkzlyD

— Jeff Horwitz (@JeffHorwitz) August 7, 2022

Meta cảnh báo cư dân mạng rằng chatbot của họ có thể đưa ra “những tuyên bố sai sự thật hoặc xúc phạm” và đang duy trì bản demo trực tuyến để thu thập thêm dữ liệu cho các thử nghiệm của mình. Mọi người được khuyến khích thích hoặc không thích các câu trả lời của BlenderBot 3 và thông báo cho các nhà nghiên cứu nếu họ cho rằng đó là do một thông báo nào đó không phù hợp, vô nghĩa hoặc thô lỗ. Mục tiêu là sử dụng phản hồi này để phát triển một chatbot an toàn hơn, ít độc hại hơn và hiệu quả hơn trong tương lai.

Đoạn mã tìm kiếm của Google để ngăn chặn lan truyền tin tức giả mạo

Gã khổng lồ tìm kiếm đã triển khai một mô hình AI để giúp làm cho các hộp văn bản đôi khi bật lên khi người dùng nhập câu hỏi vào Google Tìm kiếm chính xác hơn.

Những mô tả này, được gọi là đoạn trích đặc điểm, có thể hữu ích nếu mọi người đang tìm kiếm thông tin cụ thể. Ví dụ: gõ “Hệ mặt trời có bao nhiêu hành tinh?” sẽ đưa ra một đoạn tính năng có nội dung “tám hành tinh”. Cư dân mạng không cần phải nhấp vào các trang web ngẫu nhiên và đọc thông tin để có câu trả lời, các đoạn trích tính năng sẽ tự động thực hiện việc này.

Nhưng các câu trả lời của Google không phải lúc nào cũng chính xác và đôi khi còn nêu ngày cụ thể cho một sự kiện hư cấu như vụ ám sát Abraham Lincoln bởi chú chó hoạt hình Snoopy, theo đến The Verge. Google cho biết hệ thống của họ, Mô hình hợp nhất đa nhiệm (MUM), nên giảm 40% việc tạo đoạn trích đặc điểm thành câu hỏi sai; nó thường sẽ không đưa ra bất kỳ mô tả văn bản nào cả.

“Bằng cách sử dụng mô hình AI mới nhất của chúng tôi, hệ thống của chúng tôi giờ đây có thể hiểu được khái niệm đồng thuận, đó là khi nhiều nguồn chất lượng cao trên web đều đồng ý về cùng một thực tế,” nó Giải thích trong một bài viết trên blog.

“Hệ thống của chúng tôi có thể kiểm tra chú thích đoạn trích (từ hoặc các từ được gọi phía trên đoạn trích nổi bật với phông chữ lớn hơn) so với các nguồn chất lượng cao khác trên web để xem liệu có sự đồng thuận chung cho chú thích đó hay không, ngay cả khi các nguồn sử dụng các từ khác nhau hoặc các khái niệm để mô tả cùng một sự vật.”

DALL-E 2 của OpenAI đã giúp tạo quảng cáo cho Heinz Ketchup

Heinz, gã khổng lồ thực phẩm của Hoa Kỳ, đã hợp tác với một công ty sáng tạo để tạo ra một quảng cáo sử dụng hình ảnh AI do mô hình DALL-E 2 của OpenAI tạo ra để quảng bá sản phẩm nổi tiếng nhất của họ: sốt cà chua. Quảng cáo này là phần mới nhất trong chiến dịch “Draw Ketchup” của Heinz, nhưng thay vì sử dụng con người để phác thảo, Rethink, một công ty quảng cáo ở Canada, đã tư vấn cho máy móc. 

“Vì vậy, giống như nhiều bản tóm tắt của chúng tôi, nhiệm vụ là thể hiện vai trò mang tính biểu tượng của Heinz trong nền văn hóa đại chúng ngày nay,” giám đốc sáng tạo điều hành của Rethink, Mike Dubrick, cho biết. nói với The Drum tuần này. “Việc tiếp theo là đưa ra ý tưởng cho thương hiệu. Sau phần tóm tắt, chúng tôi hiếm khi đợi đến buổi thuyết trình chính thức mới chia sẻ điều gì đó mà chúng tôi cho là tuyệt vời.”

Kết quả cuối cùng là một quảng cáo thông minh với thông điệp rõ ràng và đơn giản: Với nhiều loại văn bản nhắc nhở có chứa từ “sốt cà chua”, DALL-E 2 sẽ tạo ra thứ gì đó trông giống chai Heinz không thể nhầm lẫn. Nói cách khác, hãy đưa ra khẩu hiệu của công ty, “đó phải là Heinz”. Bạn có thể xem quảng cáo dưới đây.

Youtube video

DALL-E 2 gần đây cũng đã giúp một nghệ sĩ tạo ra một bìa tạp chí cho Cosmopolitan; đó là một ví dụ khác về cách các công cụ chuyển văn bản thành hình ảnh này có thể được sử dụng thương mại trong các ngành công nghiệp sáng tạo. ®