TOKYO, ngày 21 tháng 2022 năm 21 – (JCN Newswire) – Fujitsu hôm nay đã công bố phát triển bộ công cụ tài nguyên cung cấp hướng dẫn cho các nhà phát triển để đánh giá tác động đạo đức và rủi ro của hệ thống AI dựa trên các nguyên tắc đạo đức AI quốc tế. Fujitsu sẽ cung cấp miễn phí các tài nguyên này bắt đầu từ ngày 2022 tháng XNUMX năm XNUMX để thúc đẩy việc triển khai an toàn và bảo mật các hệ thống AI trong xã hội.
Bộ công cụ bao gồm nhiều nghiên cứu điển hình và tài liệu tham khảo, bao gồm một phương pháp mới được phát triển để làm rõ các yêu cầu đạo đức trong các hướng dẫn về đạo đức AI được viết bằng ngôn ngữ tự nhiên, cũng như để áp dụng các yêu cầu đạo đức vào các hệ thống AI thực tế. Các tài nguyên bằng tiếng Nhật có thể được tải xuống tại đây, có sẵn bằng tiếng Anh để theo dõi trong tương lai gần.
Với hướng dẫn này, Fujitsu nhằm mục đích ngăn chặn những hiểu lầm và rủi ro tiềm ẩn do sự khác biệt trong việc giải thích các mô tả trong hướng dẫn, cung cấp cho các nhà phát triển và vận hành hệ thống AI các công cụ mới để xác định kỹ lưỡng và ngăn chặn sớm các vấn đề đạo đức có thể xảy ra trong quá trình phát triển theo các thông lệ quốc tế tốt nhất .
Tiến sĩ Christoph Lutge của Đại học Kỹ thuật Munich, cơ quan hàng đầu trong việc nghiên cứu về AI có trách nhiệm và đạo đức kinh doanh, nhận xét, "Ở châu Âu, ngày càng có nhiều tranh luận về các quy định AI và một trong những vấn đề quan trọng là làm thế nào để đóng khoảng cách giữa các nguyên tắc và thực hành, hoặc "cái gì" và "bằng cách nào". Tôi tin rằng kết quả của nghiên cứu này rất có ý nghĩa ở chỗ chúng cho phép chúng tôi thực hành dựa trên các nguyên tắc. Tôi cũng muốn bày tỏ sự cảm kích sâu sắc đối với quyết định mở ra các kết quả nghiên cứu và kích thích thảo luận trên toàn thế giới. "
Trong thời gian tới, Fujitsu sẽ tích cực hợp tác với các cơ quan chính phủ, các công ty tư nhân và các nhà nghiên cứu hàng đầu để hoàn thiện hơn nữa và thúc đẩy phương pháp luận mới được phát triển của mình và nhằm phát hành phiên bản mở rộng của bộ công cụ tài nguyên vào năm tài chính 2022.
Tiểu sử
Vào tháng 2021 năm XNUMX, Ủy ban Châu Âu đã ban hành dự thảo khung quy định kêu gọi phản ứng đạo đức toàn diện cho các nhà phát triển hệ thống AI, người dùng và các bên liên quan để đối phó với những lo ngại ngày càng tăng xung quanh sự thiên vị thuật toán và ra quyết định phân biệt đối xử trong các ứng dụng AI và học máy.
Để cam kết hoàn toàn về việc sử dụng công nghệ có trách nhiệm và giành được sự tin tưởng của xã hội đối với các hệ thống AI cũng như các công ty và tổ chức liên quan đến lĩnh vực này, Fujitsu đã xây dựng Cam kết về AI của riêng mình vào năm 2019, cũng như Văn phòng Quản trị và Đạo đức AI mới để phát triển và thực thi các chính sách mạnh mẽ về đạo đức AI, thúc đẩy quản trị đạo đức AI của tổ chức để đảm bảo tính hiệu quả của chúng. Giờ đây, Fujitsu sẽ chuyển từ nguyên tắc sang thực tiễn bằng cách triển khai đều đặn các phương pháp hay nhất trong thế giới thực để đảm bảo hiện thực hóa các công nghệ máy học và AI có đạo đức, an toàn và minh bạch.
Hiện tại, thông lệ phổ biến trong phát triển hệ thống AI là xác định các rủi ro đạo đức có thể xảy ra trong các hệ thống AI dựa trên các hướng dẫn đạo đức AI do các cơ quan chính phủ và các công ty ban hành. Tuy nhiên, những hướng dẫn này được viết bằng ngôn ngữ tự nhiên, góp phần vào sự khác biệt có thể có trong cách diễn giải và hiểu lầm giữa các nhà thiết kế và nhà phát triển, có thể dẫn đến các biện pháp không phù hợp hoặc không đủ. Theo phương pháp này, rất khó để đánh giá liệu nội dung của các hướng dẫn đã được xem xét kỹ lưỡng và phù hợp hay chưa.
Tuy nhiên, vẫn còn nhiều thách thức và việc hiểu sai các hướng dẫn trong giai đoạn thiết kế công nghệ mới có thể dẫn đến các biện pháp không đủ hoặc không phù hợp để đối phó với rủi ro.
Phương pháp đánh giá mới và các nguồn lực để giúp làm rõ các hướng dẫn và rủi ro đạo đức
Để chuẩn bị bộ công cụ mới này và hướng dẫn cho các nhà phát triển, Fujitsu đã thực hiện phân tích các sự cố liên quan đến AI trong quá khứ được thu thập trong Cơ sở dữ liệu về sự cố AI của hiệp hội đối tác quốc tế về AI (1). Quá trình này dẫn đến kết luận rằng các vấn đề đạo đức liên quan đến hệ thống AI có thể được ngữ cảnh hóa bằng việc trao đổi thông tin ("tương tác") giữa các yếu tố kín đáo trong hệ thống AI và giữa hệ thống AI với người dùng và các bên liên quan khác.
Dựa trên những phát hiện này, Fujitsu đã phát triển thành công một phương pháp đánh giá để xác định một cách có hệ thống các vấn đề đạo đức liên quan đến hệ thống AI, cho phép tạo ra các mô hình đạo đức AI (2) có thể làm rõ việc giải thích các nguyên tắc đạo đức AI.
Fujitsu đã áp dụng phương pháp đánh giá mới của mình cho 15 trường hợp đại diện trong Sự cố AI
Cơ sở dữ liệu (164 trường hợp toàn cầu được đăng ký tính đến ngày 21 tháng 2022 năm XNUMX, ví dụ bao gồm các trường hợp từ các lĩnh vực như lĩnh vực tài chính và nhân sự). Áp dụng phương pháp mới, tất cả các vấn đề đạo đức xảy ra trong các trường hợp sử dụng trong thế giới thực đã được xác định thành công trước rủi ro trong quá trình thử nghiệm xác minh, kết quả của chúng đã được công bố.
Fujitsu sẽ cung cấp bộ công cụ tài nguyên sau bao gồm nhiều tài nguyên và hướng dẫn khác nhau để các nhà phát triển tham khảo trong công việc của họ:
Trang web tải xuống (bằng tiếng Nhật, tiếng Anh có sẵn vào ngày tương lai)
1. Sách trắng: Tổng quan chung về phương pháp luận
2. Hướng dẫn thủ tục đánh giá tác động đạo đức AI: Sơ đồ hệ thống AI, quy trình chuẩn bị mô hình đạo đức AI và giải thích phương pháp tương ứng vấn đề
3. Mô hình đạo đức AI: Một mô hình đạo đức AI dựa trên các hướng dẫn đạo đức AI do Ủy ban Châu Âu xuất bản (do Fujitsu tạo ra)
4. Nghiên cứu trường hợp phân tích đạo đức AI: Kết quả phân tích các vấn đề đạo đức chính của AI từ Cơ sở dữ liệu về sự cố AI của quan hệ đối tác về AI (Tính đến ngày 21 tháng XNUMX, đã có sáu trường hợp được bổ sung tuần tự).
Trường hợp sử dụng: rủi ro khi sử dụng AI để đánh giá các cá nhân cho các khoản vay ngân hàng, tuyển dụng
Hình 1 cho thấy một ví dụ về quá trình đánh giá của một cá nhân điển hình trong các tình huống sử dụng như tuyển dụng nhân sự hoặc phê duyệt các khoản vay ngân hàng. Bảng tương ứng trong mô hình đạo đức AI đã xác định "tính hợp lệ của quá trình đánh giá" (việc đánh giá có được tiến hành một cách có trách nhiệm hay không với tham chiếu đến kết quả đầu ra từ hệ thống AI) như một mục kiểm tra cho sự tương tác (mối quan hệ) giữa người dùng Hệ thống AI và đối tượng mục tiêu được đánh giá, trong khi "sự phụ thuộc quá mức vào kết quả AI", "diễn giải và đánh giá có chọn lọc kết quả đầu ra" và "không hiểu biết về kết quả đầu ra" được liệt kê là những rủi ro có thể xảy ra.
Trong ví dụ này, các nhà phát triển hệ thống AI có thể xác định rủi ro "sự phụ thuộc quá mức của người dùng vào kết quả đầu ra từ hệ thống AI có thể chứa thành kiến và dẫn đến các quyết định không công bằng" là rủi ro có thể xảy ra trong hệ thống AI và điều chỉnh hệ thống một cách thích hợp để ngăn ngừa rủi ro này .
(1) Hợp tác về AI:
Một tổ chức phi lợi nhuận được thành lập vào năm 2016 nhằm giải quyết những thách thức về đạo đức của AI, vì một tương lai nơi AI và con người làm việc cùng nhau.
(2) Các mô hình đạo đức AI:
Các mô hình đạo đức AI bao gồm một bảng tương ứng gồm "các mục kiểm tra" và "các tương tác", một công cụ để đánh giá từng bước các yêu cầu đạo đức đối với hệ thống AI. Các mô hình đạo đức AI được tạo thủ công dựa trên một hướng dẫn cụ thể, nhưng sau khi được tạo, một mô hình có thể được sử dụng chung để đánh giá các hệ thống AI khác nhau. Sử dụng phương pháp này, các nhà phát triển và vận hành hệ thống AI có thể tự động truy xuất tất cả các mục kiểm tra liên quan từ mô hình đạo đức AI đã tạo trước đó để đánh giá toàn diện và có hệ thống về các rủi ro có thể có liên quan dựa trên loại tương tác trong hệ thống AI.
Về Fujitsu
Fujitsu là công ty công nghệ thông tin và truyền thông (ICT) hàng đầu của Nhật Bản cung cấp đầy đủ các sản phẩm, giải pháp và dịch vụ công nghệ. Khoảng 126,000 người Fujitsu hỗ trợ khách hàng tại hơn 100 quốc gia. Chúng tôi sử dụng kinh nghiệm của mình và sức mạnh của CNTT-TT để cùng khách hàng định hình tương lai của xã hội. Fujitsu Limited (TSE: 6702) đã báo cáo doanh thu hợp nhất là 3.6 nghìn tỷ yên (34 tỷ đô la Mỹ) cho năm tài chính kết thúc vào ngày 31 tháng 2021 năm XNUMX. Để biết thêm thông tin, vui lòng xem www.fujitsu.com.
Bản quyền 2022 JCN Newswire. Đã đăng ký Bản quyền. www.jcnnewswire.comFujitsu hôm nay đã công bố phát triển bộ công cụ tài nguyên cung cấp hướng dẫn cho các nhà phát triển để đánh giá tác động đạo đức và rủi ro của các hệ thống AI dựa trên các nguyên tắc đạo đức AI quốc tế.
- 000
- 100
- 2016
- 2019
- 2021
- 2022
- Giới thiệu
- địa chỉ
- AI
- thuật toán
- Tất cả
- Cho phép
- phân tích
- công bố
- các ứng dụng
- Nộp đơn
- Tháng Tư
- ủy quyền
- sẵn có
- có sẵn
- Ngân hàng
- BEST
- thực hành tốt nhất
- Tỷ
- kinh doanh
- trường hợp
- gây ra
- thách thức
- phí
- Bình luận
- hoa hồng
- cam kết
- Chung
- Giao tiếp
- Các công ty
- công ty
- nội dung
- quyền tác giả
- nước
- khách hàng
- Cơ sở dữ liệu
- tranh luận
- triển khai
- Thiết kế
- phát triển
- phát triển
- phát triển
- Phát triển
- Đầu
- Tiếng Anh
- thành lập
- đạo đức
- Châu Âu
- Châu Âu
- Ủy ban châu Âu
- ví dụ
- Sàn giao dịch
- kinh nghiệm
- tài chính
- theo
- tiếp theo
- Forward
- Khung
- Miễn phí
- Full
- tương lai
- khoảng cách
- Tổng Quát
- Toàn cầu
- quản trị
- Chính phủ
- Phát triển
- hướng dẫn
- giúp đỡ
- tại đây
- Độ đáng tin của
- Hướng dẫn
- HTTPS
- Nhân sự
- Con người
- xác định
- Va chạm
- bao gồm
- Bao gồm
- hệ thống riêng biệt,
- thông tin
- tương tác
- Quốc Tế
- tham gia
- các vấn đề
- IT
- giữ
- Key
- Ngôn ngữ
- dẫn
- hàng đầu
- học tập
- Led
- Hạn chế
- Liệt kê
- Các khoản cho vay
- Logo
- học máy
- chính
- nhãn hiệu
- Tháng Ba
- nguyên vật liệu
- kiểu mẫu
- mô hình
- di chuyển
- Gần
- phi lợi nhuận
- cung cấp
- cung cấp
- mở
- cơ quan
- tổ chức
- Nền tảng khác
- đối tác
- Công ty
- người
- Nhân viên
- giai đoạn
- Chính sách
- có thể
- quyền lực
- trình bày
- ngăn chặn
- riêng
- Vấn đề
- quá trình
- Sản phẩm
- thúc đẩy
- phạm vi
- thế giới thực
- tuyển dụng
- đăng ký
- quy định
- nhà quản lý
- mối quan hệ
- Yêu cầu
- nghiên cứu
- tài nguyên
- Thông tin
- phản ứng
- chịu trách nhiệm
- Kết quả
- Nguy cơ
- an toàn
- ngành
- an toàn
- DỊCH VỤ
- có ý nghĩa
- Six
- Xã hội
- Giải pháp
- Không gian
- nghiên cứu
- Thành công
- hỗ trợ
- hệ thống
- hệ thống
- Mục tiêu
- Kỹ thuật
- Công nghệ
- Công nghệ
- bây giờ
- bên nhau
- công cụ
- minh bạch
- NIỀM TIN
- trường đại học
- us
- Người sử dụng
- Xác minh
- liệu
- Bản cáo bạch
- ở trong
- Công việc
- thế giới
- khắp thế giới
- năm
- yên