GuardRail OSS, Dự án nguồn mở, cung cấp các biện pháp bảo vệ để phát triển AI có trách nhiệm

Cựu chiến binh trong ngành phát triển khuôn khổ để giúp doanh nghiệp xây dựng các giải pháp AI có đạo đức

Dự án nguồn mở cung cấp các rào chắn cho sự phát triển AI có trách nhiệm

SAN FRANCISCO–(BUSINESS WIRE)–Hôm nay, một nhóm cựu chiến binh phần mềm doanh nghiệp đã ra mắt GuardRail OSS, một dự án nguồn mở cung cấp các biện pháp bảo vệ thực tế để đảm bảo phát triển và triển khai trí tuệ nhân tạo (AI) có trách nhiệm. Được tạo bởi các nhà công nghệ bao gồm doanh nhân nối tiếp Reuven Cohen, Giám đốc điều hành Peripety Labs Mark Hinkle, và Giám đốc điều hành kỳ cựu và hiện tại của ServiceNow Aaron Fulkerson, GuardRail OSS cung cấp một khuôn khổ dựa trên API để phân tích dữ liệu nâng cao, giảm thiểu sai lệch, phân tích cảm tính, phân loại nội dung và giám sát phù hợp với nhu cầu AI cụ thể của tổ chức.

Khi năng lực trí tuệ nhân tạo phát triển nhanh chóng, nhu cầu về trách nhiệm giải trình và giám sát để giảm thiểu rủi ro cũng tăng theo. GuardRail OSS cung cấp cho các công ty đang tìm cách tận dụng AI các công cụ để đảm bảo hệ thống của họ hoạt động có trách nhiệm và có đạo đức bằng cách phân tích dữ liệu đầu vào, giám sát đầu ra và hướng dẫn đóng góp của AI. Tính khả dụng của nguồn mở của nó thúc đẩy tính minh bạch đồng thời cho phép tùy chỉnh các ứng dụng ngành khác nhau trong học viện, chăm sóc sức khỏe, phần mềm doanh nghiệp, v.v.

Reuven Cohen, nhà phát triển AI đằng sau GuardRail OSS, nhận xét: “AI mang đến một cơ hội quan trọng để định hình lại cả cảnh quan kinh doanh và xã hội, đồng thời tiềm năng của nó chỉ được phát huy đầy đủ khi gắn liền với sự phát triển có trách nhiệm”. “Với khuôn khổ này, doanh nghiệp không chỉ có được các công cụ giám sát và phân tích mà còn có phương tiện để tích hợp các chức năng nâng cao như trí tuệ cảm xúc và ra quyết định có đạo đức vào hệ thống AI của họ. Đó là về việc nâng cao khả năng của AI đồng thời đảm bảo tính minh bạch và trách nhiệm giải trình, thiết lập một chuẩn mực mới cho sự phát triển tiến bộ và có trách nhiệm của AI.”

Được hỗ trợ bởi Opaque Systems và một nhóm các chuyên gia kỳ cựu trong ngành, GuardRail OSS được định vị để trở thành một giải pháp được sử dụng rộng rãi nhằm nâng cao trách nhiệm giải trình trong quá trình phát triển AI. Khi AI phát triển mạnh mẽ trong các ngành công nghiệp, các rào chắn và hoạt động giám sát được xây dựng có mục đích sẽ đảm bảo an toàn, giảm sự thiên vị và phát triển niềm tin vào hệ thống AI. Là một giải pháp nguồn mở có sẵn miễn phí, GuardRail OSS dẫn đầu trong việc cung cấp các công cụ và khuôn khổ thực tế để mở đường cho sự tiến bộ có trách nhiệm của AI.

“Khi các công ty chuyển đổi Mô hình ngôn ngữ lớn từ giai đoạn thử nghiệm sang sản xuất quy mô lớn, chúng tôi đang chứng kiến ​​nhu cầu doanh nghiệp ngày càng tăng về một cổng dữ liệu mạnh mẽ, an toàn và có khả năng thích ứng. Raluca Ada Popa, một AI nổi tiếng cho biết, một cổng như vậy không chỉ quan trọng để đảm bảo quyền riêng tư và đạo đức trong AI mà còn là chìa khóa để khai thác những hiểu biết sâu sắc tiềm ẩn trong việc xả dữ liệu, khi được phân tích một cách có trách nhiệm, có thể mở khóa trí thông minh chưa từng có”. và chuyên gia bảo mật, Phó Giáo sư tại UC Berkeley, đồng sáng lập RISELab và Skylab đổi mới tại UC Berkeley, đồng thời là đồng sáng lập của Opaque Systems và Preveil. “Trong bối cảnh này, sự ra đời của GuardRail OSS như một khuôn khổ an toàn để triển khai AI không chỉ kịp thời mà còn mang tính then chốt. Đó là một công cụ đáp ứng nhu cầu ngày càng tăng của ngành đối với các cơ chế đảm bảo quyền riêng tư dữ liệu và việc sử dụng AI một cách có đạo đức.”

Giới thiệu về Reuven “rUv” Cohen

Reuven Cohen là một chuyên gia công nghệ dày dạn kinh nghiệm, có tác động sâu sắc đến những đổi mới mang tính đột phá. Chuyên môn của anh bao gồm điện toán đám mây, AI và web3. Anh ấy đóng góp vào những tiến bộ của AI với tư cách là người thử nghiệm alpha/beta cho OpenAI. Reuven tư vấn cho các chính phủ, đồng sáng lập sáng kiến ​​Đám mây cơ sở toàn cầu và dẫn đầu các sáng kiến ​​trong một số hệ thống AI doanh nghiệp lớn nhất, bao gồm triển khai AI tổng cộng 400,000 nhân viên gần đây, trị giá 1.4 tỷ USD. Bạn có thể theo dõi anh ấy trên LinkedIn (https://www.linkedin.com/in/reuvencohen/).

Giới thiệu về hệ thống mờ đục

Hệ thống mờ đục (https://opaque.co) là công ty dẫn đầu về công nghệ bảo mật cho dữ liệu và AI, tiên phong về điện toán bí mật cho phân tích và AI tại UC Berkeley RISElab. Opaque được sử dụng bởi các tổ chức bao gồm Ant Group, IBM, Scotiabank và Ericsson. Opaque Systems gần đây đã tung ra Lời nhắc mờ (https://opaqueprompts.opaque.co/) dưới dạng dịch vụ nhưng đã phát hành mã theo giấy phép nguồn mở trên Github (https://github.com/opaque-systems/opaqueprompts-python).

Giới thiệu về phòng thí nghiệm Peripety

Phòng thí nghiệm Peripety (https://peripety.com) là Công ty tư vấn AI được thành lập bởi Mark Hinkle. Mark là người ủng hộ nguồn mở và điều hành phần mềm doanh nghiệp lâu năm. Anh ấy từng là Người ủy viên Quỹ Phần mềm Apache cho Apache CloudStack và là tổng biên tập của LinuxWorld và Tạp chí Nguồn mở Doanh nghiệp. Ông từng là giám đốc điều hành tại Linux Foundation, Node.js Foundation và là Giám đốc sáng lập Văn phòng Kinh doanh Nguồn Mở của Citrix. Ông xuất bản bản tin hàng tuần về trí tuệ nhân tạo, Doanh nghiệp trí tuệ nhân tạo (https://www.theenterprise.io).

Liên hệ

Đánh dấu

press@peripety.com
919.228.8049

Phòng thí nghiệm Peripety

www.peripety.com

• Phân phối nội dung và PR được hỗ trợ bởi SEO. Được khuếch đại ngay hôm nay.
• PlatoData.Network Vertical Generative Ai. Trao quyền cho chính mình. Truy cập Tại đây.
• PlatoAiStream. Thông minh Web3. Kiến thức khuếch đại. Truy cập Tại đây.
• Trung tâmESG. Than đá, công nghệ sạch, Năng lượng, Môi trường Hệ mặt trời, Quản lý chất thải. Truy cập Tại đây.
• PlatoSức khỏe. Tình báo thử nghiệm lâm sàng và công nghệ sinh học. Truy cập Tại đây.
• nguồn: https://thenewscrypto.com/guardrail-oss-open-source-project-provides-guardrails-for-responsible-ai-development/