ChatGPT: Giúp mọi thứ an toàn hơn (Simon Thompson)

In phần một của blog này Tôi đã kiểm tra công nghệ mới và mạnh mẽ đó là ChatGPT. Trong phần thứ hai và cũng là phần cuối cùng này, tôi khám phá những biện pháp thực hành tốt nhất cần thiết để sử dụng nó an toàn và bảo mật nhất có thể.

Khá rõ ràng là chúng tôi sẽ không đưa ChatGPT trở lại chai. Các kỹ thuật được sử dụng để tạo ra nó đã được biết đến rộng rãi và mặc dù lượng tính toán cần thiết hiện nay có vẻ rất lớn nhưng trong tương lai tương đối gần, nó sẽ có thể truy cập rộng rãi hơn nhiều. Ngay cả khi giá điện toán không giảm hoàn toàn trong tương lai gần, loại tính toán cần thiết để tạo GPT3.5 đã có sẵn cho nhiều chủ thể nhà nước và nhiều chủ thể phi nhà nước.

Google đã công bố 'Bard' dựa trên công nghệ LAMDA của họ, công nghệ này hấp dẫn đến mức một kỹ sư nội bộ đã tin rằng nó có linh hồn và Deepmind đã phát triển một chatbot có tên là 'Sparrow' được 'một số người cho rằng' là vượt trội về mặt kỹ thuật so với ChatGPT.

Những mối nguy hiểm lớn khó có thể đến từ những siêu công ty phức tạp như Alphabet. Các công ty nhỏ hơn với quan điểm 'di chuyển nhanh và phá vỡ mọi thứ' có thể sẽ sáng tạo và mạo hiểm với các ý tưởng ứng dụng của họ. Nhưng loại hệ thống này có thể gây ra những tác hại rất thực tế đối với những người rất thực tế và những tác hại này có thể được thực hiện dễ dàng và nhanh chóng bởi các nhóm nhỏ không có chuyên môn.

Năm mẹo hàng đầu giúp ChatGPT an toàn hơn

Mặc dù có nhiều con đường dẫn đến 'không' và chỉ một con đường dẫn đến 'có', nhưng vẫn sẽ có rất nhiều đơn đăng ký được đánh giá là hợp lý. Nhưng điều này sẽ không làm cho họ an toàn. Để có niềm tin vào ứng dụng hỗ trợ ChatGPT, chúng tôi cũng đề xuất thực hiện các bước sau.

1. Không nên có sự lừa dối về những gì người dùng đang tương tác. Bạn không thể đưa ra sự đồng ý nếu bạn không được thông báo. Saleema Amershi và cộng sự [1] đã xuất bản những hướng dẫn tuyệt vời về tương tác cho các hệ thống AI. Điều quan trọng là những điều này cung cấp cấu trúc để xem xét tương tác trong suốt vòng đời tương tác của người dùng. Các nguyên tắc này bao gồm cách làm rõ cho người dùng những gì họ đang tương tác và cách hướng dẫn họ về những gì được mong đợi ở họ. Hướng dẫn của Amershi mở rộng trong suốt quá trình tương tác, quản lý lỗi và thời gian làm thêm khi hệ thống trở thành 'hoạt động như bình thường'.
2. Người dùng nên có tùy chọn không tương tác với hệ thống. Một lựa chọn thực sự – ví dụ như một kênh liên hệ thay thế.
3. Cần có một đánh giá tác động kèm theo mỗi ứng dụng. Đặt nó trên trang web giống như cách bạn làm với tệp robots.txt hoặc như cách bạn thêm giấy phép vào mã nguồn của mình. Quy trình AIA của Canada đưa ra một mô hình cho loại vấn đề này, nhưng một số câu hỏi cơ bản là một khởi đầu tốt. Ai sẽ bị tổn thương nếu nó hoạt động như dự định? Ai sẽ bị tổn thương nếu chatbot gặp trục trặc? Có ai có thể biết liệu chatbot có đang gặp trục trặc hay không và liệu họ có thể dừng nó lại và khắc phục tình trạng nếu xảy ra không?
4. Nếu hệ thống của bạn có thể gây ảnh hưởng xấu đến người khác thì cần phải giám sát và ghi lại những gì hệ thống đang làm và cách thức hoạt động của nó. Những điều này phải được duy trì theo cách cho phép điều tra pháp lý về hành vi của hệ thống, nếu cần.
5. Nếu bạn không chịu trách nhiệm cá nhân và trực tiếp về hệ thống thì cần phát triển và duy trì một quy trình quản trị được ghi chép rõ ràng. Một phần của điều này sẽ mô tả cách người dùng có thể gọi trợ giúp và cách họ có thể khiếu nại về hệ thống. Nó cũng nên mô tả các quy trình xung quanh việc giải quyết những khó khăn và khiếu nại của người dùng.

Tiềm năng mang lại giá trị lớn trong nhiều trường hợp sử dụng

Với các quy trình và điều khiển chính xác, các mô hình ngôn ngữ lớn mới như ChatGPT sẽ mang lại giá trị lớn trong nhiều trường hợp sử dụng, mặc dù có sẵn các biện pháp kiểm soát và kiểm tra cần thiết để đảm bảo người dùng và người dùng cuối được bảo vệ khỏi mọi hiểu lầm.

1. Amershi, Saleema. 'Hướng dẫn tương tác giữa con người và AI.' Hội nghị CHI về yếu tố con người trong hệ thống máy tính. CHI, 2019. 1–13.

• Phân phối nội dung và PR được hỗ trợ bởi SEO. Được khuếch đại ngay hôm nay.
• Platoblockchain. Web3 Metaverse Intelligence. Khuếch đại kiến ​​thức. Truy cập Tại đây.
• Đúc kết tương lai với Adryenn Ashley. Truy cập Tại đây.
• nguồn: https://www.finextra.com/blogposting/24082/chatgpt-making-things-safer?utm_medium=rssfinextra&utm_source=finextrablogs