GuardRail OSS, Proyek Sumber Terbuka, Menyediakan Pagar Pembatas untuk Pengembangan AI yang Bertanggung Jawab

Para Veteran Industri Mengembangkan Kerangka Kerja untuk Membantu Perusahaan Membangun Solusi AI yang Etis

Proyek Sumber Terbuka Memberikan Pagar Pembatas untuk Pengembangan AI yang Bertanggung Jawab

SAN FRANCISCO–(Antara/BUSINESS WIRE)–Hari ini, sekelompok veteran perangkat lunak perusahaan meluncurkan GuardRail OSS, sebuah proyek sumber terbuka yang memberikan pagar pembatas praktis untuk memastikan pengembangan dan penerapan kecerdasan buatan (AI) yang bertanggung jawab. Dibuat oleh para ahli teknologi termasuk pengusaha serial Reuven Cohen, CEO Peripety Labs Mark Hinkle, dan veteran ServiceNow dan CEO Opaque Systems saat ini Aaron Fulkerson, GuardRail OSS menawarkan kerangka kerja berbasis API untuk analisis data tingkat lanjut, mitigasi bias, analisis sentimen, klasifikasi konten, dan pengawasan yang disesuaikan dengan kebutuhan AI spesifik organisasi.

Seiring dengan kemajuan pesat kemampuan kecerdasan buatan, tuntutan akan akuntabilitas dan pengawasan untuk memitigasi risiko juga meningkat. GuardRail OSS memberi perusahaan yang ingin memanfaatkan AI alat untuk memastikan sistem mereka bertindak secara bertanggung jawab dan etis dengan menganalisis masukan data, memantau keluaran, dan memandu kontribusi AI. Ketersediaan sumber terbukanya mendorong transparansi sekaligus memungkinkan penyesuaian pada berbagai aplikasi industri di dunia akademis, layanan kesehatan, perangkat lunak perusahaan, dan banyak lagi.

“AI menawarkan peluang penting untuk membentuk kembali lanskap bisnis dan masyarakat, dan potensinya hanya akan terwujud sepenuhnya jika didasari pada pembangunan yang bertanggung jawab,” kata Reuven Cohen, pengembang AI di balik GuardRail OSS. “Dengan kerangka kerja ini, perusahaan tidak hanya mendapatkan alat pengawasan dan analisis tetapi juga sarana untuk mengintegrasikan fungsi-fungsi canggih seperti kecerdasan emosional dan pengambilan keputusan etis ke dalam sistem AI mereka. Hal ini bertujuan untuk meningkatkan kemampuan AI sekaligus memastikan transparansi dan akuntabilitas, serta menetapkan tolok ukur baru bagi evolusi AI yang progresif dan bertanggung jawab.”

Didukung oleh Opaque Systems dan tim veteran industri, GuardRail OSS diposisikan untuk menjadi solusi yang banyak digunakan untuk menanamkan akuntabilitas dalam pengembangan AI. Seiring dengan berkembangnya AI di berbagai industri, pagar pembatas dan pengawasan yang dibuat khusus akan menjamin keselamatan, mengurangi bias, dan mengembangkan kepercayaan terhadap sistem AI. Sebagai solusi sumber terbuka yang tersedia secara gratis, GuardRail OSS memimpin dengan memberi contoh dalam menyediakan alat dan kerangka kerja praktis untuk membuka jalan bagi kemajuan AI yang bertanggung jawab.

“Saat perusahaan melakukan transisi Model Bahasa Besar dari tahap percontohan ke produksi skala penuh, kami menyaksikan lonjakan permintaan perusahaan akan gateway data yang kuat, aman, dan mudah beradaptasi. Gerbang seperti itu tidak hanya penting untuk memastikan privasi dan etika dalam AI, namun juga merupakan kunci untuk memanfaatkan kekayaan wawasan yang terpendam dalam pembuangan data, yang jika dianalisis dengan penuh tanggung jawab, dapat membuka kecerdasan yang belum pernah terjadi sebelumnya,” kata Raluca Ada Popa, seorang AI terkenal. dan pakar keamanan, Associate Professor di UC Berkeley, salah satu pendiri RISELab dan Skylab yang inovatif di UC Berkeley, dan salah satu pendiri Opaque Systems and Preveil. “Dalam lanskap ini, kemunculan GuardRail OSS sebagai kerangka kerja aman untuk penerapan AI bukan hanya tepat waktu namun juga sangat penting. Ini adalah alat yang sejalan dengan meningkatnya permintaan industri akan mekanisme yang menjamin privasi data dan penggunaan AI yang etis.”

Tentang Reuven "rUv" Cohen

Reuven Cohen adalah pakar teknologi berpengalaman yang memiliki pengaruh besar dalam inovasi inovatif. Keahliannya mencakup komputasi awan, AI, dan web3. Dia berkontribusi pada kemajuan AI sebagai penguji alfa/beta untuk OpenAI. Reuven memberi nasihat kepada pemerintah, ikut mendirikan inisiatif Cloud akar rumput global, dan memimpin inisiatif di beberapa sistem AI perusahaan terbesar, termasuk penerapan AI generatif yang melibatkan 400,000 karyawan baru-baru ini dan bernilai $1.4 miliar. Anda dapat mengikutinya di LinkedIn (https://www.linkedin.com/in/reuvencohen/).

Tentang Sistem Buram

Sistem Buram (https://opaque.co) adalah pemimpin dalam teknologi privasi untuk data dan AI, memelopori komputasi rahasia untuk analitik dan AI di UC Berkeley RISElab. Buram digunakan oleh organisasi termasuk Ant Group, IBM, Scotiabank, dan Ericsson. Sistem Buram baru-baru ini meluncurkan Perintah Buram (https://opaqueprompts.opaque.co/) sebagai layanan tetapi telah merilis kode di bawah lisensi sumber terbuka di Github (https://github.com/opaque-systems/opaqueprompts-python).

Tentang Peripety Labs​​

Lab Peripety (https://peripety.com) adalah Konsultan AI yang didirikan oleh Mark Hinkle. Mark telah lama menjadi pendukung open source dan eksekutif perangkat lunak perusahaan. Dia pernah menjadi Pengatur Apache Software Foundation untuk Apache CloudStack dan pemimpin redaksi LinuxWorld dan Enterprise Open Source Magazine. Dia pernah menjadi eksekutif di Linux Foundation, The Node.js Foundation, dan pendiri Kantor Bisnis Open Source Citrix. Dia menerbitkan buletin mingguan tentang kecerdasan buatan, The Artificial Intelligence Enterprise (https://www.theenterprise.io).

kontak

Tandai Hinkle

tekan@peripety.com
919.228.8049

Lab Peripety

www.peripety.com

• Konten Bertenaga SEO & Distribusi PR. Dapatkan Amplifikasi Hari Ini.
• PlatoData.Jaringan Vertikal Generatif Ai. Berdayakan Diri Anda. Akses Di Sini.
• PlatoAiStream. Intelijen Web3. Pengetahuan Diperkuat. Akses Di Sini.
• PlatoESG. Karbon, teknologi bersih, energi, Lingkungan Hidup, Tenaga surya, Penanganan limbah. Akses Di Sini.
• PlatoHealth. Kecerdasan Uji Coba Biotek dan Klinis. Akses Di Sini.
• Sumber: https://thenewscrypto.com/guardrail-oss-open-source-project-provides-guardrails-for-responsible-ai-development/