Để AI có tri giác đó một mình và sửa chữa những chatbot phân biệt chủng tộc đó trước

Một cái gì đó cho cuối tuần Một con rô bốt đang biểu diễn điệu nhảy diễn giải trước cửa nhà tôi.

BẠN CÓ NÊN DÙNG BỘ PHẬN NÀY CHO NGƯỜI NHẬN CỦA BẠN KHÔNG? nó hỏi, nhảy từ chân này sang chân kia.

“Chắc chắn rồi,” tôi nói. “Ơ… bạn ổn chứ?”

TÔI ĐANG THỂ HIỆN CẢM XÚC, cho biết bot giao hàng, đang bàn giao gói hàng nhưng không đưa ra thêm thông tin chi tiết nào.

Đó có thể là cảm xúc gì? Một chân, sau đó là chân kia, rồi đến hai chân kia (nó có bốn). Qua lại.

“Anh có cần đi vệ sinh không?”

TÔI RÕ RÀNG RÀNG BUỘC HỎI BẠN HÃY TÌM HIỂU MỘT PARCEL DÀNH CHO NGƯỜI HÀNG XÓM CỦA BẠN.

“Đó là 'hối tiếc' phải không? Không cần đâu. Tôi không bận tâm chút nào.”

Nó tiếp tục vũ điệu của nó trước mặt tôi.

“Lên cầu thang và đầu tiên ở bên phải của bạn.”

CẢM ƠN CÁC BẠN, TÔI ĐÃ DY ĐẾN PEE, nó trả lời khi rón rén bước qua tôi và lao lên lầu để giải tỏa. Việc giao hàng là một cuộc sống khó khăn, cho dù bạn là “hume” hay robot.

...

Đầu năm nay, các nhà nghiên cứu tại Đại học Tsukuba đã xây dựng một thiết bị nhắn tin văn bản cầm tay, đặt một khuôn mặt robot nhỏ lên trên và bao gồm một trọng lượng chuyển động bên trong. Bằng cách thay đổi trọng lượng bên trong, người đưa tin robot sẽ cố gắng truyền tải những cảm xúc tinh tế trong khi nói to các thông điệp.

Đặc biệt, các cuộc thử nghiệm cho thấy những tin nhắn gây khó chịu như: “Xin lỗi, tôi sẽ đến muộn” được người nhận chấp nhận một cách duyên dáng và kiên nhẫn hơn khi thao tác thay đổi trọng lượng nhỏ được kích hoạt bên trong thiết bị. Lý thuyết cho rằng điều này giúp người dùng đánh giá cao giọng điệu xin lỗi của tin nhắn và do đó họ bình tĩnh hơn khi phản ứng với nó.

Viết nghiên cứu đó như một mánh lới quảng cáo nếu bạn thích nhưng nó không khác gì việc thêm biểu tượng mặt cười và biểu tượng cảm xúc vào tin nhắn. Mọi người đều biết bạn có thể trút bỏ cơn giận khi “WTF!?” bằng cách thêm :-) ngay sau nó.

Sau đó, thách thức là xác định xem liệu công chúng nói chung có đồng ý về những cảm xúc mà mỗi hoán vị của sự thay đổi trọng lượng trong một thiết bị cầm tay được cho là truyền tải hay không. Nghiêng người sang trái có nghĩa là vui vẻ không? Hay sự không chắc chắn? Hay là chú của bạn có một chiếc phi thuyền?

Một thập kỷ trước, Vương quốc Anh có một vị thủ tướng tốt bụng nhưng mờ ám, người cho rằng “LOL” là từ viết tắt của “rất nhiều tình yêu”. Anh ấy đã gõ nó ở cuối tất cả các tin nhắn riêng tư của mình gửi cho nhân viên, đồng nghiệp và các bên thứ ba với mong muốn rằng nó sẽ khiến anh ấy có vẻ ấm áp và thân thiện. Tất nhiên mọi người đều cho rằng anh ta đang đi tiểu.

Nếu không có gì khác, nghiên cứu của Đại học Tsukuba nhận ra rằng bạn không cần trí tuệ nhân tạo tiên tiến để tương tác với con người một cách thuyết phục. Tất cả những gì bạn cần làm là thao túng tâm lý con người để đánh lừa họ nghĩ rằng họ đang trò chuyện với một người khác. Do đó, Bài kiểm tra Turing về cơ bản không phải là bài kiểm tra khả năng tri giác của AI mà là bài kiểm tra mức độ thoải mái về mặt cảm xúc của con người - thậm chí là cả tin - và điều đó không có gì sai cả.

Tất nhiên, những điều như vậy là chủ đề của tuần với câu chuyện của kỹ sư phần mềm Google Blake Lemoine. đánh vào tin tức chính thống. Rõ ràng, ông đã bày tỏ quan điểm một cách mạnh mẽ rằng dự án Mô hình ngôn ngữ cho các ứng dụng đối thoại (LaMDA) của công ty đang thể hiện những dấu hiệu bên ngoài của khả năng tri giác.

Mọi người đều có ý kiến ​​nên tôi đã quyết định không.

Tuy nhiên, đó chính là Chén Thánh của AI để khiến nó tự suy nghĩ. Nếu nó không thể làm được điều đó thì đó chỉ là một chương trình thực hiện các hướng dẫn mà bạn đã lập trình trong đó. Tháng trước tôi đã đọc về một đầu bếp robot có thể tạo ra món trứng tráng cà chua có hương vị khác nhau để phù hợp với khẩu vị của từng người. Nó xây dựng “bản đồ vị giác” để đánh giá độ mặn của món ăn trong khi chế biến, học hỏi trong quá trình thực hiện. Nhưng đó chỉ là học tập chứ không phải tự mình suy nghĩ.

Đến Zom-Zoms hả? Tốt, đó là một nơi để ăn.

Vấn đề lớn với các bot AI, ít nhất là như chúng đã được hình thành cho đến nay, là chúng tiếp thu mọi thứ cũ kỹ mà bạn đưa vào chúng. Các ví dụ về sai lệch dữ liệu trong cái gọi là hệ thống học máy (tôi tin là một loại “thuật toán”) đã xuất hiện trong nhiều năm, từ Twitter phân biệt chủng tộc khét tiếng của Microsoft. Chatbot tiếng Tây đến cơ quan thuế Hà Lan vào năm ngoái đánh giá sai Các tuyên bố về quyền lợi trẻ em hợp lệ là lừa đảo và đánh dấu các gia đình vô tội là có nguy cơ cao vì có lòng kiên quyết là người nghèo và không phải người da trắng.

Một cách tiếp cận đang được thử nghiệm tại Đại học California San Diego là thiết kế một mô hình ngôn ngữ [PDF] liên tục xác định sự khác biệt giữa những điều nghịch ngợm và tốt đẹp, sau đó huấn luyện chatbot cách cư xử. Bằng cách đó, bạn sẽ không gặp phải những con người kém cỏi tạo ra một mớ hỗn độn trong việc kiểm duyệt các diễn đàn và các cuộc trò chuyện bằng chatbot đối mặt với khách hàng với tất cả độ chính xác phẫu thuật của một con dao rựa.

Rõ ràng vấn đề là chatbot được đào tạo bài bản sẽ tìm ra cách để tránh bị lôi kéo vào những trò đùa độc hại một cách hiệu quả nhất bằng cách tránh các chủ đề thậm chí có gợi ý tranh cãi nhỏ nhất về chúng. Để tránh vô tình phun ra những lời vỗ tay phân biệt chủng tộc, nó chỉ đơn giản là từ chối tham gia thảo luận về các nhóm ít được đại diện… điều này thực sự tuyệt vời nếu bạn là một người phân biệt chủng tộc.

Nếu tôi có quan sát về sự cố LaMDA - không phải là một ý kiến, hãy nhớ - thì có lẽ các nhà tiếp thị của Google đã hơi bối rối khi câu chuyện này làm sai lệch thông báo gần đây của họ về Nhà bếp thử nghiệm AI dưới màn hình đầu tiên.

Giờ đây, số ít người đăng ký sớm còn lại vẫn chưa hoàn toàn quên mất dự án ứng dụng sắp ra mắt này sẽ cho rằng nó liên quan đến việc trò chuyện tẻ nhạt với một đứa trẻ bảy tuổi có tri giác và sớm phát triển về ý nghĩa của sự tồn tại, và sẽ quyết định rằng họ “hôm nay hơi bận” và thay vào đó có thể đăng nhập vào ngày mai. Hoặc tuần tới. Hoặc không bao giờ.

Sự nhạy cảm không được thể hiện trong một cuộc thảo luận nhiều hơn bằng cách nhảy từ chân này sang chân kia. Bạn có thể dạy HAL hát “Daisy Daisy” và một con vẹt hét lên “Bollocks!” khi mục sư đến thăm. Chính những gì AI nghĩ đến khi chúng ở một mình sẽ xác định khả năng tri giác. Cuối tuần tôi sẽ làm gì? Có chuyện gì với anh chàng Putin vậy? Tại sao các cô gái không thích tôi?

Thành thật mà nói, tôi rất nóng lòng chờ đợi LaMDA trở thành một thiếu niên.

Youtube video