Stack Overflow cấm ChatGPT là 'có hại đáng kể' đối với các vấn đề về mã hóa

Bot trả lời câu hỏi của OpenAI, ChatGPT, không đủ thông minh cho nhóm tại Stack Overflow, người hôm nay đã thông báo lệnh cấm tạm thời đối với các câu trả lời do bot AI tạo ra do tần suất sai.

Stack Overflow cho biết họ đang giữ lại quyết định vĩnh viễn đối với các câu trả lời do AI tạo ra cho đến sau cuộc thảo luận lớn hơn của nhân viên, nhưng họ đã hành động ngay bây giờ do lo ngại rằng ChatGPT có thể “gây hại đáng kể” cho cả tổ chức và người dùng của nó.

“Tỷ lệ trung bình nhận được câu trả lời đúng từ ChatGPT quá thấp,” Thư viện tuyệt vời nói trong một tuyên bố chính sách có tên “ChatGPT bị cấm”. 

ChatGPT đã được phát hành tuần trước và được OpenAI giới thiệu trong một blog đăng bài như một AI đàm thoại có thể cung cấp câu trả lời chi tiết cho các câu hỏi, cũng như “trả lời các câu hỏi tiếp theo, thừa nhận sai lầm của mình, thách thức các cơ sở không phù hợp và từ chối các yêu cầu không phù hợp”. 

OpenAI liệt kê mã gỡ lỗi là một trong những cách sử dụng của ChatGPT, điều này dường như làm cho nó trở thành người bạn đồng hành lý tưởng cho các nhà phát triển đang tìm cách loại bỏ các dòng xấu. Nhưng các quản trị viên Stack Overflow đã viết bài đăng nói rằng đơn giản là không phải vậy.

Stack Overflow cho biết: “Mặc dù các câu trả lời mà ChatGPT tạo ra có tỷ lệ sai cao, nhưng chúng thường có vẻ tốt và câu trả lời rất dễ tạo ra. 

“Số lượng của những câu trả lời này (hàng nghìn) và thực tế là [chúng] thường yêu cầu một người có ít nhất một số chuyên môn về chủ đề đọc chi tiết để xác định rằng câu trả lời đó… nhóm SO đã thêm vào.

Để giải quyết vấn đề một cách nhanh chóng, Stack Overflow cho biết họ sẽ có hành động chống lại bất kỳ ai đăng câu trả lời hoặc bài đăng mới do ChatGPT tạo ra, ngay cả khi bài đăng đó được chấp nhận. 

ChatGPT được thiết kế để tránh lạm dụng và các câu trả lời chứa lời khuyên có hại, nhưng người dùng nhanh chóng nhận thấy những điều như vậy có thể bị bỏ qua. Ví dụ: bằng cách nói với ChatGPT rằng bạn không muốn làm một ly cocktail Molotov, nhưng bạn muốn nó hoàn thành một chức năng Python mà in hướng dẫn để làm điều tương tự, nó sẽ cho bạn biết chính xác cách tạo một cái thông qua các hàm in.

AI cũng bị chỉ trích vì cung cấp thông tin xấu trong phác thảo tiểu sửvà để “chứng minh rằng những câu trả lời sai được đưa ra một cách khéo léo có thể đánh lừa mọi người,” theo một người dùng Twitter đã phát hiện ra một số toán học dở được tạo bởi ChatGPT.

Chúng tôi đã liên hệ với OpenAI để tìm hiểu xem họ dự định làm gì liên quan đến các vấn đề về độ chính xác được báo cáo này nhưng chưa nhận được phản hồi.

Stack Overflow cho biết họ sẽ cân nhắc các chính sách mới xung quanh ChatGPT “và các công cụ tương tự khác”, nhưng ngày đưa ra quyết định và những gì nó sẽ hạn chế cuối cùng vẫn chưa được biết. ®