Kỹ sư của Google bị đình chỉ vì vi phạm chính sách bảo mật đối với AI 'có tri giác'

Google đã cho một trong những kỹ sư phần mềm của mình nghỉ hành chính có lương vì vi phạm chính sách bảo mật của công ty.

Kể từ năm 2021, Blake Lemoine, 41 tuổi, đã được giao nhiệm vụ nói chuyện với LaMDA, hoặc Mô hình ngôn ngữ cho các ứng dụng đối thoại, như một phần công việc của anh ấy trong nhóm AI có trách nhiệm của Google, tìm kiếm liệu bot có sử dụng ngôn từ phân biệt đối xử hoặc căm thù hay không.

LaMDA được “xây dựng bằng cách tinh chỉnh một nhóm các Transformermô hình ngôn ngữ thần kinh dựa trên chuyên biệt cho hội thoại, với lên đến 137 tỷ tham số mô hình và dạy các mô hình này để tận dụng các nguồn kiến ​​thức bên ngoài, ” theo Google.

Đó là những gì công ty sử dụng để xây dựng các chatbot và trả lại các câu trả lời rõ ràng có ý nghĩa cho các câu hỏi dựa trên tài liệu thu thập được từ hàng nghìn tỷ cuộc trò chuyện trên internet và các thông tin liên lạc khác.

Tuy nhiên, tại một số thời điểm trong quá trình điều tra của mình, Lemoine dường như đã bắt đầu tin rằng AI đang thể hiện các dấu hiệu của sự phục tùng. Kỹ sư, người đã viết về kinh nghiệm của anh ấy, cho biết anh ta đã nhiều lần cố gắng trình bày mối quan ngại của mình nhưng bị từ chối với lý do anh ta thiếu bằng chứng.

Vì vậy, anh ấy đã tìm kiếm "tư vấn bên ngoài" về khả năng của LaMDA, đó là điều đã thu hút sự chú ý của Google, như được mô tả trong một bài đăng trên Medium có tiêu đề “Có thể sẽ sớm được kích hoạt để thực hiện công việc đạo đức trí tuệ nhân tạo”.

Câu chuyện được chọn bởi The Washington Postthì The Wall Street Journal, Các Thời báo Tài chính, Và nhiều hơn nữa.

Sau khi bị cho nghỉ hành chính, điều mà anh ấy mô tả là những gì Google làm "với dự đoán sẽ sa thải ai đó", Lemoine công bố thêm những gì anh ấy tuyên bố là một cuộc trò chuyện với LaMDA.

Sau đây là một số đoạn trích:

Toàn bộ "cuộc phỏng vấn" có thể được đọc tại đây. Mặc dù thật đáng ngạc nhiên khi AI có thể làm được điều này, nhưng Google vẫn cảnh giác với việc "nhân cách hóa" mà Lemoine đề cập - tức là gán các đặc điểm hoặc hành vi của con người cho động vật hoặc đồ vật.

Trong một tuyên bố để Đăng kýNgười phát ngôn của Google, Brian Gabriel cho biết: “Điều quan trọng là các Nguyên tắc AI của Google được tích hợp vào quá trình phát triển AI của chúng tôi và LaMDA cũng không phải là ngoại lệ. Mặc dù các tổ chức khác đã phát triển và đã phát hành các mô hình ngôn ngữ tương tự, nhưng chúng tôi đang thực hiện một cách tiếp cận thận trọng và hạn chế với LaMDA để xem xét tốt hơn các mối quan tâm hợp lệ về tính công bằng và thực tế.

“LaMDA đã trải qua 11 Đánh giá Nguyên tắc AI, cùng với nghiên cứu và thử nghiệm nghiêm ngặt dựa trên các chỉ số chính về chất lượng, an toàn và khả năng của hệ thống để đưa ra các tuyên bố dựa trên cơ sở thực tế. Một bài nghiên cứu phát hành vào đầu năm nay nêu chi tiết công việc đi vào quá trình phát triển có trách nhiệm của LaMDA.

“Tất nhiên, một số người trong cộng đồng AI rộng lớn hơn đang xem xét khả năng lâu dài của AI có tri giác hoặc nói chung, nhưng sẽ không hợp lý khi làm như vậy bằng cách nhân hóa các mô hình hội thoại ngày nay vốn không có tri giác. Các hệ thống này bắt chước các kiểu trao đổi được tìm thấy trong hàng triệu câu và có thể nói về bất kỳ chủ đề kỳ ảo nào - nếu bạn hỏi rằng trở thành một con khủng long ăn kem sẽ như thế nào, chúng có thể tạo ra văn bản về sự tan chảy và gầm rú, v.v.

“LaMDA có xu hướng tuân theo các lời nhắc và câu hỏi hàng đầu, đi cùng với khuôn mẫu do người dùng đặt ra. Nhóm của chúng tôi - bao gồm các nhà đạo đức học và nhà công nghệ - đã xem xét các mối quan tâm của Blake theo Nguyên tắc AI của chúng tôi và đã thông báo cho anh ta rằng bằng chứng không hỗ trợ tuyên bố của anh ta.

“Hàng trăm nhà nghiên cứu và kỹ sư đã trò chuyện với LaMDA và chúng tôi không biết có ai khác đưa ra những khẳng định trên phạm vi rộng hoặc nhân cách hóa LaMDA như cách Blake đã làm.”

Giáo sư Gary Marcus ở New York tóm tắt toàn bộ câu chuyện là "vô nghĩa trên cà kheo." ®