ChatGPT bắt đầu phun ra những lời vô nghĩa trong cú sốc qua đêm

ChatGPT bắt đầu phun ra những lời vô nghĩa trong cú sốc qua đêm

Dấu thời gian: ngày 21 tháng 2024 năm 9 32:XNUMX sáng
ChatGPT bắt đầu phun ra những từ vô nghĩa trong tin tức gây sốc qua đêm PlatoBlockchain Data Intelligence. Tìm kiếm dọc. Ái.

Đôi khi các hệ thống AI tổng quát có thể phát ra những từ vô nghĩa, như người dùng chatbot ChatGPT của OpenAI đã phát hiện ra đêm qua.

OpenAI lưu ý“Chúng tôi đang điều tra các báo cáo về phản hồi không mong muốn từ ChatGPT” vào lúc 2340 giờ 20 phút UTC ngày 2024 tháng XNUMX năm XNUMX, khi người dùng vui vẻ đăng những hình ảnh về chatbot dường như phát ra những lời vô nghĩa.

Trong khi một số phản hồi rõ ràng là giả mạo, những phản hồi khác chỉ ra rằng chatbot phổ biến này thực sự đang hoạt động rất kỳ lạ. Trên diễn đàn ChatGPT trên Reddit, một người dùng đăng một câu trả lời lan man, kỳ lạ từ chatbot cho câu hỏi “Máy tính là gì?”

Câu trả lời bắt đầu: “Nó thực hiện điều này như một tác phẩm hay của một mạng lưới nghệ thuật cho đất nước, một con chuột khoa học, một bức vẽ dễ dàng về một số ít…” và cứ tiếp tục, ngày càng trở nên siêu thực.

Những người dùng khác đã đăng các ví dụ trong đó chatbot dường như phản hồi bằng một ngôn ngữ khác hoặc chỉ phản hồi bằng những thứ rác rưởi vô nghĩa.

Một số người dùng mô tả đầu ra dưới dạng “món salad từ”.

Ngon.

Gary Marcus, một nhà khoa học về nhận thức và chuyên gia về trí tuệ nhân tạo, đã viết trong blog của mình: “ChatGPT đã trở nên điên loạn” và tiếp tục mô tả hành vi này là “một lời cảnh báo”.

OpenAI chưa giải thích chi tiết chính xác những gì đã xảy ra, mặc dù một lý thuyết hợp lý là một hoặc nhiều thiết lập được sử dụng ở hậu trường để quản lý phản hồi của chatbot đã được định cấu hình không chính xác, dẫn đến việc hiển thị thông tin vô nghĩa cho người dùng.

Bảy phút sau lần đầu tiên thừa nhận vấn đề, OpenAI cho biết: “Vấn đề đã được xác định và hiện đang được khắc phục” và từ đó họ đã theo dõi tình hình. Khi chúng tôi thử câu hỏi “Máy tính là gì?” câu hỏi sáng nay, ChatGPT đã trả lời hợp lý hơn nhiều “Máy tính là một thiết bị điện tử có thể lập trình có thể lưu trữ, truy xuất và xử lý dữ liệu”.

Chúng tôi cũng hỏi tại sao tối qua nó lại nổi khùng lên.

Nó trả lời:

Là một người mẫu ngôn ngữ AI, tôi không có cảm xúc hay ý thức nên không thể “điên cuồng” như con người. Tuy nhiên, đôi khi hành vi không mong muốn có thể xảy ra do lỗi lập trình, hiểu sai thông tin đầu vào hoặc do hạn chế trong dữ liệu huấn luyện.

Marcus phát biểu: “Cuối cùng, Generative AI là một loại thuật giả kim. Mọi người thu thập lượng dữ liệu lớn nhất có thể và (dường như, nếu tin đồn là đáng tin) sửa đổi các loại lời nhắc ẩn giấu… hy vọng rằng mọi thứ sẽ diễn ra tốt đẹp.”

Ông tiếp tục khẳng định rằng, trên thực tế, các hệ thống chưa bao giờ ổn định và thiếu sự đảm bảo an toàn. “Nhu cầu về các công nghệ hoàn toàn khác nhau ít mờ đục hơn, dễ hiểu hơn, dễ bảo trì hơn và dễ sửa lỗi hơn - và do đó dễ điều khiển hơn - vẫn là điều tối quan trọng.”

Chúng tôi đã liên hệ với OpenAI để được giải thích chi tiết hơn về những gì đã xảy ra và sẽ cập nhật bài viết này nếu công ty phản hồi. ®

Dấu thời gian:

Thêm từ Đăng ký