Hậu quả đắt giá của AI thì thầm phi đạo đức (Padma Chukka)

                         

Vâng.. Tôi đang nói về các ứng dụng AI – vô số ứng dụng AI của chúng tôi và những ứng dụng sắp tới đang thì thầm với con người về những việc cần làm…. cách thực hiện…nhưng không phải về những người thì thầm tương tác với các chatbot AI.

Theo IDC dự đoán, thị trường AI toàn cầu có thể đạt hơn 500 tỷ đô la vào năm 2024 – tăng hơn 50% so với năm 2021. Điều này cho thấy rằng chúng tôi đã chuyển từ thử nghiệm kinh doanh sang chấp nhận rằng nó là một phần không thể thiếu trong chiến lược doanh nghiệp cho mọi quy mô. Nó là một công cụ cần thiết để biến dữ liệu thành thông tin chi tiết để thúc đẩy hành động dựa trên các quyết định tốt hơn. Không ai tranh luận về lợi ích của AI trong việc giảm rủi ro kinh doanh và tăng ROI bằng sự đổi mới. Nhưng, như mọi khi, có một…NHƯNG… AI không thiên vị nói thì dễ hơn làm.

Điều quan trọng đối với doanh nghiệp là các mô hình AI này cần hoạt động đáng tin cậy với khả năng hiển thị và trách nhiệm giải trình. Mặt khác, thất bại, trong trường hợp này, có những hậu quả nghiêm trọng ảnh hưởng đến dòng tiền của bất kỳ công ty nào và thậm chí có thể dẫn đến các vấn đề pháp lý. Cách duy nhất để tránh điều này là tự động hóa và minh bạch để trả lời một câu hỏi “Bạn có thể chứng minh ứng dụng/khối lượng công việc AI này được xây dựng một cách có đạo đức không”. Aka…làm thế nào để bạn quản lý? Và bạn có thể chứng minh rằng nó đang bị chi phối liên tục không?

Đây là nơi các công ty như IBM đã đầu tư vào quản trị AI để sắp xếp toàn bộ quy trình chỉ đạo, quản lý và giám sát các hoạt động AI của tổ chức. Công việc chính là đảm bảo tất cả các đơn vị kinh doanh luôn chủ động và đưa khuôn khổ quản trị vào các sáng kiến ​​nhằm tăng cường khả năng đáp ứng các nguyên tắc và quy định đạo đức. Đặc biệt, các ngành được quản lý như Ngân hàng và dịch vụ tài chính được yêu cầu hợp pháp để cung cấp bằng chứng để đáp ứng các cơ quan quản lý.

Ảnh hưởng của AI đang tăng lên theo cấp số nhân trong lĩnh vực Dịch vụ tài chính do áp lực to lớn của quá trình chuyển đổi kỹ thuật số. Như đã nói, nói dễ hơn làm vì:

1. Tự tin vận hành các ứng dụng AI:

Trong một số trường hợp, các mô hình được xây dựng không rõ ràng và không có danh mục; không cần phải nói, việc giám sát biến mất giữa mọi thứ để theo dõi vòng đời từ đầu đến cuối. Trong khi các ngân hàng đang vật lộn với các ứng dụng cũ, thì việc tự động hóa các quy trình để tạo ra sự minh bạch và khả năng giải thích trở nên khó khăn hơn và do đó, trở thành một hộp đen. Không ai biết tại sao/làm thế nào các quyết định được đưa ra. Các ứng dụng mới bị rối với các ứng dụng cũ không bao giờ nhìn thấy ánh sáng ban ngày mặc dù ROI khổng lồ có liên quan đến nó do chất lượng và rủi ro khó lường.

Điều đó đưa chúng ta đến điểm thứ hai – quản lý rủi ro danh tiếng

2. Quản lý rủi ro danh tiếng cùng với rủi ro tổng thể

Tôi đã hỏi #chatGPT và #Thi nhân – Padma Chukka là ai. #ChatGPT từ chối trả lời ngay cả khi tôi đã thay đổi câu hỏi theo nhiều cách. Tuy nhiên, Bard đã cho tôi câu trả lời chi tiết, bao gồm cả hồ sơ LinkedIn của tôi… nhưng dữ liệu đến từ nhiều trang khác nhau mà hồ sơ cũ của tôi vẫn tồn tại như một phần của tiểu sử diễn giả. Kể từ thời điểm đó, tôi vẫn chưa mở Bard. Điều đó nhanh chóng, tôi đã bị tắt, hay còn gọi là – Rủi ro danh tiếng. Giả sử tôi có thể tắt một chatbot đơn giản khi nhận thấy dữ liệu có thể không nhất quán. Làm sao tôi có thể không chắc chắn trước khi quyết định mua một ứng dụng tích hợp AI để tiến hành kinh doanh quan trọng? Rủi ro danh tiếng là một yếu tố thiết yếu mà đôi khi các công ty bỏ quên. Nếu bạn định lượng rủi ro danh tiếng, người ta có thể thấy tác động to lớn đối với doanh nghiệp nếu không chủ động.

Để thêm phần phức tạp, cái thứ ba là…

3. Làm thế nào một công ty có thể ứng phó với việc thay đổi các quy định về AI?

Để tránh rủi ro về uy tín, một nhóm AI thành công và có trách nhiệm nên biết về mọi quy định của địa phương và toàn cầu, giống như một video tích tắc có thông báo trong giây lát. Và việc không tuân thủ cuối cùng có thể khiến tổ chức phải trả hàng triệu đô la tiền phạt xung quanh công việc giống như Đạo luật AI của EU được đề xuất. Nó có thể lên tới 30 triệu Euro hoặc 6% doanh thu toàn cầu của công ty – OUCH.

Chà, không phải mọi thứ đều có màu hồng khi bắt đầu… miễn là chúng ta biết cách chuyển từ một tình huống đáng sợ sang một tình huống màu hồng.

Không có gì ngạc nhiên… đó luôn là con người, quy trình và công nghệ. Vì vậy, trước tiên, hãy tạo ra một cơ quan quản lý đa chức năng để giáo dục, chỉ đạo và giám sát các sáng kiến ​​dựa trên các mục tiêu. Sau đó, đánh giá các quy trình và công nghệ AI hiện tại, tìm hiểu các lỗ hổng, sau đó khắc phục bằng chứng trong tương lai. Sau đó, quay trở lại tập hợp các quy trình quản trị tự động phù hợp với các yêu cầu tuân thủ. Cuối cùng, hãy thiết lập một hệ thống giám sát để cảnh báo chủ sở hữu nếu ngưỡng chấp nhận được đang đến gần. Về mặt Công nghệ, một AI được kiến ​​trúc tốt, thực thi tốt và được kết nối tốt yêu cầu nhiều khối xây dựng. Và đảm bảo rằng nó có một số hoặc tất cả các khả năng:

· Toàn vẹn dữ liệu trên các triển khai đa dạng

· Sử dụng các công cụ mở, linh hoạt hiện có tuân thủ Quản trị AI

· Đảm bảo cung cấp quyền truy cập tự phục vụ với các kiểm soát quyền riêng tư – một cách để theo dõi

· Lưu ý đến thiết kế tự động hóa và quản trị AI

· Có thể kết nối và tùy chỉnh cho nhiều bên liên quan thông qua quy trình làm việc có thể tùy chỉnh

Sau khi chúng tôi chuyển đổi ứng dụng từ đáng sợ sang Rosy…thì câu hỏi tiếp theo là cách bạn chứng minh…

Đầu tiên, hãy tuân thủ các nguyên tắc AI của công ty – xây dựng với chúng, nhưng bạn vẫn cần “chứng tỏ” rằng mình tuân thủ, đặc biệt là trong các môi trường được quản lý như Dịch vụ tài chính. Vì các dịch vụ tài chính phải khiếu nại với NIST 800-53, họ có thể xem xét Khung quản lý rủi ro NIST AI (AI RMF). NIST đã đề xuất các biện pháp kiểm soát trong bốn nhóm – Govern, Map, Measure và Manage. Sử dụng điều đó làm yếu tố hướng dẫn và kiểm tra căng thẳng các ứng dụng để xác định các lỗ hổng cần khắc phục và giám sát.

IBM có thể xác thực các mô hình của bạn trước khi bạn đưa chúng vào sản xuất và có thể được giám sát về tính công bằng, chất lượng và độ trôi. Nó cũng có thể cung cấp tài liệu giải thích hành vi và dự đoán của mô hình để đáp ứng các yêu cầu của cơ quan quản lý và kiểm toán viên. Những giải thích này có thể cung cấp khả năng hiển thị và giảm bớt khó khăn kiểm toán, đồng thời tăng tính minh bạch và khả năng xác định các rủi ro có thể xảy ra.

 Hãy tự tin lắng nghe những lời thì thầm của AI!

#Các dịch vụ tài chính #tráchnhiệmai #đạo đức #NISTAIRMF

• Phân phối nội dung và PR được hỗ trợ bởi SEO. Được khuếch đại ngay hôm nay.
• Platoblockchain. Web3 Metaverse Intelligence. Khuếch đại kiến ​​thức. Truy cập Tại đây.
• Đúc kết tương lai với Adryenn Ashley. Truy cập Tại đây.
• nguồn: https://www.finextra.com/blogposting/24053/the-costly-consequences-of-unethical-ai-whisperer?utm_medium=rssfinextra&utm_source=finextrablogs