OpenAI thông báo kêu gọi các chuyên gia tham gia Mạng lưới hợp tác đỏ của mình

OpenAI thông báo kêu gọi các chuyên gia tham gia Mạng lưới hợp tác đỏ của mình

Dấu thời gian: Ngày 22 tháng 2023 năm 5 33:XNUMX AM
OpenAI Announces Call for Experts to Join its Red Teaming Network PlatoBlockchain Data Intelligence. Vertical Search. Ai.

OpenAI đã bắt đầu một cuộc gọi mở cho Mạng lưới hợp tác đỏ, đang tìm kiếm các chuyên gia về miền để tăng cường các biện pháp an toàn cho các mô hình AI của mình. Tổ chức này mong muốn hợp tác với các chuyên gia từ nhiều lĩnh vực khác nhau để đánh giá tỉ mỉ và “đội đỏ” của mình. AI hệ thống.

Tìm hiểu về Mạng lưới hợp tác OpenAI Red

Thuật ngữ “đội đỏ” bao gồm một loạt các kỹ thuật đánh giá rủi ro cho hệ thống AI. Các phương pháp này bao gồm từ khám phá khả năng định tính đến kiểm tra sức chịu đựng và cung cấp phản hồi về thang rủi ro của các lỗ hổng cụ thể. OpenAI đã làm rõ việc sử dụng thuật ngữ “đội đỏ” để tránh nhầm lẫn và đảm bảo sự phù hợp với ngôn ngữ được sử dụng với các cộng tác viên của mình.

Trong những năm qua, các sáng kiến ​​đội đỏ của OpenAI đã phát triển từ thử nghiệm đối thủ nội bộ sang hợp tác với các chuyên gia bên ngoài. Các chuyên gia này hỗ trợ phát triển các nguyên tắc phân loại rủi ro theo miền cụ thể và đánh giá các khả năng gây hại tiềm ẩn trong các hệ thống mới. Các mô hình đáng chú ý đã trải qua quá trình đánh giá như vậy bao gồm DALL·E 2 và GPT-4.

Mạng lưới nhóm OpenAI Red mới ra mắt nhằm mục đích thiết lập một cộng đồng gồm các chuyên gia đáng tin cậy. Các chuyên gia này sẽ cung cấp những hiểu biết sâu sắc về đánh giá và giảm thiểu rủi ro trên quy mô rộng hơn, thay vì tham gia lẻ tẻ trước khi phát hành mô hình quan trọng. Các thành viên sẽ được lựa chọn dựa trên chuyên môn của họ và sẽ đóng góp lượng thời gian khác nhau, có thể chỉ khoảng 5-10 giờ mỗi năm.

Lợi ích của việc tham gia mạng lưới

Khi tham gia mạng lưới, các chuyên gia sẽ có cơ hội tác động đến sự phát triển của các chính sách và công nghệ AI an toàn hơn. Họ sẽ đóng một vai trò quan trọng trong việc đánh giá các mô hình và hệ thống của OpenAI trong suốt các giai đoạn triển khai của họ.

OpenAI nhấn mạnh tầm quan trọng của chuyên môn đa dạng trong việc đánh giá các hệ thống AI. Tổ chức này đang tích cực tìm kiếm đơn đăng ký từ các chuyên gia trên toàn thế giới, ưu tiên cả sự đa dạng về địa lý và miền. Một số lĩnh vực được quan tâm bao gồm Khoa học nhận thức, Khoa học máy tính, Khoa học chính trị, Chăm sóc sức khỏe, An ninh mạng, v.v. Làm quen với các hệ thống AI không phải là điều kiện tiên quyết, nhưng cách tiếp cận chủ động và quan điểm độc đáo về đánh giá tác động của AI được đánh giá cao.

Bồi thường và bảo mật

Những người tham gia Mạng lưới nhóm đỏ OpenAI sẽ nhận được tiền thưởng cho những đóng góp của họ cho các dự án nhóm đỏ. Tuy nhiên, họ nên lưu ý rằng việc tham gia vào các dự án như vậy có thể phải tuân theo Thỏa thuận không tiết lộ (NDA) hoặc được giữ bí mật trong thời gian không xác định.

Quy trình nhập học

Những người quan tâm đến việc tham gia sứ mệnh phát triển AGI an toàn vì lợi ích của nhân loại có thể đăng ký tham gia Mạng lưới hợp tác đỏ OpenAI. 

Tuyên bố miễn trừ trách nhiệm & Thông báo bản quyền: Nội dung của bài viết này chỉ nhằm mục đích cung cấp thông tin và không nhằm mục đích tư vấn tài chính. Luôn tham khảo ý kiến ​​​​của chuyên gia trước khi đưa ra bất kỳ quyết định tài chính nào. Tài liệu này là tài sản độc quyền của Blockchain. Tin tức mới. Việc sử dụng, sao chép hoặc phân phối trái phép mà không có sự cho phép rõ ràng đều bị cấm. Cần phải có ghi công phù hợp và hướng dẫn nội dung gốc cho bất kỳ việc sử dụng được phép nào.

Nguồn hình ảnh: Shutterstock

Dấu thời gian:

Thêm từ Tin tức Blockchain