Desember 6th, 2023 / in CCC / oleh Haley Griffin
Kemarin, 5 Desember, CCC menyampaikan tanggapannya ke Kantor Manajemen dan Anggaran (OMB). Permintaan Komentar (RFC) tentang Memajukan Tata Kelola, Inovasi, dan Manajemen Risiko untuk Draf Memorandum Penggunaan Kecerdasan Buatan oleh Badan. Anggota Dewan CCC dan staf CCC berikut menulis tanggapannya: David Danks (Universitas California, San Diego), Haley Griffin (Konsorsium Komunitas Komputasi), David Jensen (Universitas Massachusetts Amherst), Chandra Krintz (Universitas California Santa Barbara), Daniel Lopresti (Universitas Lehigh), Rajmohan Rajaraman (Universitas Northeastern), Matthew Turk (Institut Teknologi Toyota di Chicago), dan Holly Yanco (Universitas Massachusetts Lowell).
OMB mencari tanggapan terhadap banyak pertanyaan spesifik yang berbeda mengenai mereka memorandum yang diusulkan yang akan menerapkan “persyaratan lembaga baru di bidang tata kelola AI, inovasi, dan manajemen risiko, dan akan mengarahkan lembaga untuk mengadopsi praktik manajemen risiko minimum tertentu untuk penggunaan AI yang berdampak pada hak dan keselamatan masyarakat.”
Menanggapi satu pertanyaan RFC, “Bagaimana cara terbaik OMB memajukan inovasi AI yang bertanggung jawab?”, CCC menjawab:
- Melibatkan keahlian non-lembaga dan non-vendor, mungkin melalui individu luar dalam dewan penasehat lembaga, baik pakar teknis maupun warga biasa. Pekerjaan dewan tersebut harus dapat diamati dan sedapat mungkin transparan (sehingga masyarakat dapat memberikan umpan balik bila diperlukan).
- Prioritaskan bahwa hasil dari penggunaan AI dapat dipercaya, adil, dan dapat diandalkan. Meskipun menggunakan data yang baik dan bersih merupakan hal yang penting dalam mengembangkan sistem AI, hasil dan dampaknya terhadap individu dan komunitas harus menjadi perhatian utama, terutama karena data yang baik pun dapat disalahgunakan.
- Menerapkan mekanisme pemantauan yang menyadari bahwa meskipun sejumlah besar individu telah menggunakan sistem AI selama jangka waktu tertentu dan belum melaporkan masalah apa pun, hal ini tidak berarti bahwa sistem AI tersebut aman atau dapat diandalkan. Kasus edge yang jarang namun berdampak besar sering terjadi di semua bidang komputasi.
- Evaluasi ulang sistem AI/ML setiap kali pembaruan perangkat lunak diterapkan atau kumpulan data diubah. Kami menyadari bahwa ada pertanyaan sulit mengenai kapan pembaruan perangkat lunak atau kumpulan data cukup signifikan sehingga memerlukan evaluasi ulang. Kami tidak mengusulkan aturan yang tegas, namun kami berpendapat bahwa kriteria seperti itu seharusnya tidak tepat karena terlalu banyak melakukan evaluasi ulang, bukan terlalu sedikit.
- Mendorong evaluasi dan pengujian independen terhadap semua sistem AI/ML agar tidak bergantung pada vendor yang mungkin menggunakan kriteria berbeda.
- Secara aktif merencanakan dan bersiap menghadapi dampak buruk yang tidak terduga karena perilaku banyak sistem AI masih sangat kompleks.
- Merilis metrik dan alasan untuk menentukan bahwa AI tidak “berdampak pada keselamatan” atau “berdampak pada hak”. Masyarakat harus memiliki akses terhadap langkah-langkah ini, mengingat adanya insentif yang signifikan bagi perusahaan untuk menyatakan bahwa sistem mereka tidak berdampak pada keselamatan dan hak untuk meminimalkan pengawasan.
- Gunakan karakterisasi sistem AI yang lebih lancar, karena dampak teknologi tersebut dapat berubah dengan cepat dan perlu sering dipertimbangkan kembali.
- Mendorong dan mendukung pengawasan publik terhadap inventaris kasus penggunaan AI yang dirilis oleh Agensi. Selalu ada kemungkinan mereka memilih untuk menampilkan karya yang mereka tahu akan menyenangkan publik, bukan sampel acak/rata-rata.
- Mewajibkan agar kasus penggunaan AI dipublikasikan dengan rincian yang memadai dan, jika diperlukan, data yang representatif sehingga pakar independen dari luar dapat mengevaluasi potensi risiko dan memberikan umpan balik konstruktif untuk perbaikan penerapan AI yang berkelanjutan.
Sepanjang respons ini, penulis juga menekankan bahwa kadang-kadang solusi AI non-generatif lebih efektif dibandingkan solusi AI generatif, perlu ada struktur yang transparan dan kuat mengenai bagaimana Badan Tata Kelola AI yang berbeda di berbagai Lembaga akan berkolaborasi, dan harus ada ganti rugi yang jelas. mekanisme jika seseorang merasa seolah-olah terkena dampak negatif dari penggunaan AI. Baca tanggapan lengkap CCC di sini.
- Konten Bertenaga SEO & Distribusi PR. Dapatkan Amplifikasi Hari Ini.
- PlatoData.Jaringan Vertikal Generatif Ai. Berdayakan Diri Anda. Akses Di Sini.
- PlatoAiStream. Intelijen Web3. Pengetahuan Diperkuat. Akses Di Sini.
- PlatoESG. Karbon, teknologi bersih, energi, Lingkungan Hidup, Tenaga surya, Penanganan limbah. Akses Di Sini.
- PlatoHealth. Kecerdasan Uji Coba Biotek dan Klinis. Akses Di Sini.
- Sumber: https://feeds.feedblitz.com/~/845441873/0/cccblog~CCC-Responds-to-OMB-RFC-on-Advancing-Governance-Innovation-and-Risk-Management-for-Agency-Use-of-AI-Draft-Policy/
- :adalah
- :bukan
- :Di mana
- 1
- 6th
- a
- Tentang Kami
- mengakses
- di seluruh
- mengambil
- memajukan
- maju
- laporan
- lembaga
- badan
- AI
- Tata kelola AI
- Sistem AI
- saya menggunakan kasus
- AI / ML
- Semua
- juga
- selalu
- an
- dan
- Apa pun
- sesuai
- ADALAH
- daerah
- buatan
- kecerdasan buatan
- AS
- At
- Authored
- penulis
- rata-rata
- BE
- karena
- menjadi
- menjadi
- laku
- TERBAIK
- Blog
- tubuh
- kedua
- anggaran belanja
- tapi
- by
- california
- CAN
- kasus
- kasus
- Kategori
- ccc
- Blog CCC
- Dewan CCC
- Anggota Dewan CCC
- perubahan
- berubah
- Chicago
- memilih
- Warga
- klaim
- membersihkan
- jelas
- Berkolaborasi
- komentar
- Umum
- Masyarakat
- masyarakat
- Perusahaan
- kompleks
- komputasi
- konsorsium
- konstruktif
- Dewan
- anggota dewan
- kriteria
- Daniel
- data
- David
- Desember
- tergantung
- penyebaran
- rinci
- berkembang
- Diego
- berbeda
- berbeda
- sulit
- langsung
- Display
- do
- tidak
- draf
- setiap
- Tepi
- Efektif
- menekankan
- cukup
- masuk
- terutama
- mengevaluasi
- evaluasi
- Bahkan
- keahlian
- ahli
- adil
- umpan balik
- terasa
- Fields
- cairan
- berikut
- Untuk
- dari
- penuh
- generatif
- AI generatif
- Memberikan
- diberikan
- baik
- pemerintahan
- Grifon
- Memiliki
- Seterpercayaapakah Olymp Trade? Kesimpulan
- http
- HTTPS
- if
- Dampak
- dampak
- berdampak
- berdampak
- dampak
- melaksanakan
- diimplementasikan
- penting
- perbaikan
- in
- Insentif
- independen
- individu
- Innovation
- sebagai gantinya
- Lembaga
- Intelijen
- masalah
- Tahu
- besar
- sedikit
- pengelolaan
- banyak
- massachusetts
- matthew
- Mungkin..
- berarti
- ukuran
- mekanisme
- mekanisme
- Anggota
- Memorandum
- meta
- Metrik
- keberatan
- minimum
- pemantauan
- lebih
- banyak
- Perlu
- dibutuhkan
- kebutuhan
- negatif
- juga tidak
- Northeastern University
- jumlah
- of
- Office
- sering
- on
- ONE
- yang
- terus-menerus
- or
- urutan
- hasil
- di luar
- lebih
- mungkin
- periode
- rencana
- plato
- Kecerdasan Data Plato
- Data Plato
- silahkan
- kebijaksanaan
- kemungkinan
- mungkin
- potensi
- praktek
- Mempersiapkan
- mengusulkan
- memberikan
- publik
- diterbitkan
- pertanyaan
- Pertanyaan
- cepat
- LANGKA
- agak
- Baca
- alasan
- mengenali
- mengenai
- melepaskan
- dapat diandalkan
- sisa
- Dilaporkan
- wakil
- membutuhkan
- Persyaratan
- tanggapan
- tanggapan
- tanggung jawab
- Hasil
- hak
- Risiko
- manajemen risiko
- risiko
- kuat
- Aturan
- aman
- Safety/keselamatan
- San
- San Diego
- Santa
- pengawasan
- harus
- sisi
- penting
- sejak
- So
- Perangkat lunak
- Solusi
- Seseorang
- kadang-kadang
- dicari
- tertentu
- Staf
- struktur
- disampaikan
- seperti itu
- cukup
- mendukung
- sistem
- sistem
- MENANDAI
- Teknis
- teknologi
- Teknologi
- pengujian
- dari
- bahwa
- Grafik
- mereka
- Sana.
- Ini
- mereka
- meskipun?
- Melalui
- waktu
- untuk
- terlalu
- puncak
- toyota
- jelas
- terpercaya
- tidak terduga
- universitas
- University of California
- Memperbarui
- menggunakan
- gunakan case
- bekas
- kegunaan
- menggunakan
- vendor
- we
- ketika
- sementara
- SIAPA
- akan
- dengan
- Kerja
- akan
- namun
- zephyrnet.dll