Tôi đã bị sa thải, nói rằng kỹ sư tuyên bố chatbot của Google là có tri giác

Tóm lại Google được cho là đã sa thải Blake Lemoine, kỹ sư bị cho nghỉ hành chính sau khi khẳng định chatbot LaMDA của gã khổng lồ web là có tình cảm.

Lemoine đã không gặp rắc rối khi giữ ý kiến ​​gây tranh cãi, nhướn mày của mình về người mẫu. Thay vào đó, anh ta bị trừng phạt vì vi phạm các chính sách bảo mật của Google. Anh ta báo cáo đã mời một luật sư để đánh giá các quyền hợp pháp tiềm năng cho LaMDA và nói chuyện với một Hạ nghị sĩ khẳng định rằng Google đang phi đạo đức.

Người phát ngôn của Google nói với bản tin Big Technology đã quyết định chấm dứt công việc của anh ấy vì Lemoine tiếp tục vi phạm “chính sách việc làm và bảo mật dữ liệu” gây nguy hiểm cho bí mật thương mại.

“Nếu một nhân viên chia sẻ những lo lắng về công việc của chúng tôi, như Blake đã làm, chúng tôi sẽ xem xét họ một cách toàn diện. Chúng tôi nhận thấy tuyên bố của Blake rằng LaMDA là hoàn toàn vô căn cứ và đã làm việc để làm rõ điều đó với anh ấy trong nhiều tháng. Những cuộc thảo luận này là một phần của văn hóa cởi mở giúp chúng tôi đổi mới một cách có trách nhiệm, ”người phát ngôn cho biết.

“Vì vậy, thật đáng tiếc là mặc dù đã tham gia lâu dài về chủ đề này, Blake vẫn cố chấp vi phạm các chính sách về việc làm và bảo mật dữ liệu rõ ràng bao gồm yêu cầu bảo vệ thông tin sản phẩm. Chúng tôi sẽ tiếp tục phát triển cẩn thận các mô hình ngôn ngữ, và chúng tôi cầu chúc cho Blake tốt đẹp. ”

Nhiều chuyên gia tại Google cũng như trong giới học thuật và công nghiệp đã đặt ra nghi ngờ về việc liệu LaMDA hoặc bất kỳ chatbot AI hiện có nào là có tri giác hay không. Các mô hình ngôn ngữ học các mối quan hệ toán học giữa các từ và rất giỏi trong việc bắt chước ngôn ngữ của con người mà không cần hiểu biết thực sự. Không ai trong số họ thực sự thông minh, chứ đừng nói là có ý thức.

Tại sao các nhà phát triển không thể chạy mã AI nguồn mở

Mục đích của việc phát hành mã cho các mô hình học máy là gì nếu các nhà phát triển không có đủ tài nguyên cần thiết để chạy nó?

Phần mềm AI nổi tiếng là khó tạo ra và tự thử nghiệm ngay cả khi nó là mã nguồn mở. Các bit và phần của nguồn bị bỏ sót hoặc không có bộ dữ liệu cần thiết để đào tạo mô hình. Đôi khi những phần này có thể truy cập được, nhưng các nhà phát triển không có khả năng tính toán để sử dụng các hệ thống lớn như vậy.

Lấy của Meta Mở máy biến áp định sẵn, Ví dụ. Phiên bản lớn nhất của mô hình ngôn ngữ chứa 175 tỷ thông số. Mặc dù gã khổng lồ quảng cáo đã phát hành mã của mình, nhưng sẽ không nhiều người có đủ chip để đào tạo và sử dụng mô hình từ đầu, Matt Asay, người điều hành tiếp thị đối tác tại MongoDB, lưu ý với tư cách cá nhân.

“Chìa khóa là cung cấp đủ quyền truy cập cho các nhà nghiên cứu để có thể tái tạo những thành công và thất bại về cách thức hoạt động của một mô hình AI cụ thể… Với tư cách là các công ty và cá nhân, mục tiêu của chúng tôi là mở quyền truy cập vào phần mềm theo những cách có lợi cho khách hàng và thứ ba- các nhà phát triển bên để thúc đẩy khả năng tiếp cận và hiểu biết thay vì cố gắng trang bị thêm một khái niệm mã nguồn mở hàng thập kỷ cho đám mây, ”ông lập luận.

OpenAI's Dall-E vào chế độ beta

Mô hình tạo văn bản thành hình ảnh thương mại của OpenAI DALL · E 2 đang được mở rộng cho một triệu người nữa đã tham gia vào danh sách chờ của nó.

Quyền truy cập trước đây chỉ giới hạn ở những người là nghệ sĩ, nhà nghiên cứu và nhà phát triển được chọn lọc vì OpenAI muốn kiểm tra hệ thống của mình trước khi phát hành thương mại đầy đủ. Mọi người đã và đang sử dụng công cụ này để tạo ra tất cả các loại hình ảnh để làm meme trên internet, truyện tranh hoặc nghệ thuật kỹ thuật số. 

Người dùng sẽ nhận được 50 tín dụng miễn phí trong tháng đầu tiên sử dụng và 15 tín dụng miễn phí mỗi tháng sau đó. Mỗi tín dụng có thể được sử dụng để tạo một lần tạo dấu nhắc Dall-E ban đầu và chúng sẽ nhận được bốn hình ảnh làm đầu ra thay vì sáu hình trước đó. Chỉnh sửa lời nhắc văn bản hiện có sẽ trả về ba hình ảnh. Nếu họ muốn tạo ra nhiều hơn, họ sẽ phải trả 15 đô la để nhận thêm 115 khoản tín dụng cho 460 hình ảnh bổ sung. 

Họ cũng sẽ thương mại hóa bất kỳ hình ảnh nào họ tạo ra bằng cách sử dụng mô hình, có nghĩa là người sáng tạo có quyền bán và in hình ảnh của họ để làm hàng hóa và những thứ tương tự. “Chúng tôi rất vui khi thấy những gì mọi người tạo ra với DALL · E và mong nhận được phản hồi của người dùng trong giai đoạn beta này”, phòng nghiên cứu nói trong tuần này. 

Ngó vào trẻ em bằng tính năng nhận dạng khuôn mặt

Dịch vụ nhận dạng khuôn mặt thương mại trực tuyến gây tranh cãi PimEyes có thể được sử dụng để tìm kiếm những bức ảnh “có khả năng phản cảm” về trẻ em.

PimEyes cho phép bất kỳ ai tải lên ảnh, nó tìm kiếm các kết quả phù hợp tiềm năng và trả về các hình ảnh cũng như URL tương ứng của chúng. Được tiếp thị như một công cụ tiết kiệm quyền riêng tư, nơi người dùng có thể xem nơi ảnh của họ đã được đăng trên internet, dịch vụ cho biết nó đã giúp chống lại các vấn đề như khiêu dâm trả thù.

Nhưng cũng có một mặt tối. Bất kỳ ai cũng có thể sử dụng trang web để tìm kiếm ảnh của bất kỳ ai họ thích, ngay cả trẻ em. Một điều tra bởi The Intercept cho thấy rất dễ dàng để tìm thấy ảnh của những người trẻ tuổi và một số trong số những hình ảnh này thậm chí còn được dán nhãn là "có khả năng phản cảm." Những bức ảnh giả mạo do AI tạo ra về trẻ em đã được sử dụng trong thí nghiệm và PimEyes vẫn trả lại các kết quả trùng khớp, điều này cho thấy phần mềm của nó có thể không chính xác lắm.

“Thực tế là PimEyes không có các biện pháp bảo vệ dành cho trẻ em và dường như không chắc chắn về cách cung cấp các biện pháp bảo vệ cho trẻ em chỉ nhấn mạnh những rủi ro của loại dịch vụ nhận dạng khuôn mặt này,” Jeramie Scott, giám đốc Dự án Giám sát Giám sát tại Electronic Trung tâm Thông tin Quyền riêng tư, đã được trích dẫn cho biết. “Tham gia công khai, cho dù trực tuyến hay ngoại tuyến, không có nghĩa là tự phục tùng mình trước các dịch vụ xâm phạm quyền riêng tư như PimEyes.”

Các công cụ viết được hỗ trợ bởi AI giúp các tác giả độc lập xuất bản nhiều sách hơn

Sáng tạo nội dung thường là một công việc khó khăn. Bạn phải thường xuyên đưa ra tài liệu mới để giữ chân và phát triển khán giả.

Một nhà văn viễn tưởng độc lập, người đã xuất bản tác phẩm của mình trên nền tảng Kindle của Amazon với bút danh Leanne Leeds, đã mô tả quyền hạn và hạn chế của việc sử dụng công cụ tạo văn bản hỗ trợ GPT-3 như một đối tác viết.

Bằng cách đưa các câu vào phần mềm có tên Sudowrite, các nhà văn như Leeds có thể lấy lại các đoạn văn bản được tạo tự động; nó hoạt động giống như một tự động hoàn thành thông minh hơn. Leeds nói với The Verge, năng suất của cô ấy đã tăng hơn 20% khi sử dụng điều này để tạo ra văn xuôi của mình. Cô ấy chỉnh sửa kết quả đầu ra của phần mềm và sắp xếp các đoạn văn vào sách của mình. Sudowrite đang giúp cô ấy viết sách với tốc độ nhanh hơn để thu hút người đọc hơn. 

Tuy nhiên, các nhà văn đang bị giằng xé về việc sử dụng AI. Một số người tin rằng nó đi ngược lại sự sáng tạo và kỳ diệu của văn học, trong khi những người khác lại nhìn thấy tiềm năng kể chuyện của nó. Các tác giả có nên tiết lộ rằng sách của họ đã được viết với sự trợ giúp của các thuật toán không? Và quan trọng hơn, nghệ thuật viết nguệch ngoạc được tạo tự động này có tốt không?

Hiện tại, máy móc không đủ tốt và yêu cầu chỉnh sửa để giữ cho các câu chuyện và cốt truyện không đi chệch hướng. Leeds tin rằng một ngày nào đó những công cụ như Sudowrite sẽ đủ tốt để viết tiểu thuyết chung chung. “Tôi nghĩ đó là mối nguy hiểm thực sự, rằng bạn có thể làm điều đó và sau đó không còn gì là nguyên bản nữa. Mọi thứ chỉ là bản sao của thứ khác, ”cô nói. "Vấn đề là, đó là những gì người đọc thích." ®