TOKYO, 21 Feb 2022 โ (JCN Newswire) โ Fujitsu hari ini mengumumkan pengembangan toolkit sumber daya yang menawarkan panduan pengembang untuk mengevaluasi dampak etis dan risiko sistem AI berdasarkan pedoman etika AI internasional. Fujitsu akan menawarkan sumber daya ini secara gratis mulai 21 Februari 2022 untuk mempromosikan penerapan sistem AI yang aman dan terjamin di masyarakat.
Toolkit ini terdiri dari berbagai studi kasus dan bahan referensi, termasuk metode yang baru dikembangkan untuk mengklarifikasi persyaratan etika dalam pedoman etika AI yang ditulis dalam bahasa alami, serta untuk menerapkan persyaratan etika ke sistem AI yang sebenarnya. Sumber daya dalam bahasa Jepang dapat diunduh di sini, dengan ketersediaan dalam bahasa Inggris menyusul dalam waktu dekat.
Dengan panduan ini, Fujitsu bertujuan untuk mencegah kesalahpahaman dan potensi risiko yang disebabkan oleh perbedaan interpretasi deskripsi dalam pedoman, menawarkan alat baru kepada pengembang dan operator sistem AI untuk secara menyeluruh mengidentifikasi dan mencegah kemungkinan masalah etika di awal proses pengembangan sesuai dengan praktik terbaik internasional .
Christoph Lutge dari Technical University of Munich, otoritas terkemuka dalam penelitian AI yang bertanggung jawab dan etika bisnis, berkomentar, "Di Eropa, ada perdebatan yang berkembang tentang peraturan AI, dan salah satu isu utama adalah bagaimana menutup kesenjangan antara prinsip dan praktik, atau "apa" dan "bagaimana." Saya percaya bahwa hasil penelitian ini sangat signifikan karena memungkinkan kita untuk berlatih berdasarkan prinsip. Saya juga ingin menyampaikan penghargaan saya yang mendalam atas keputusan untuk membuka hasil penelitian dan merangsang diskusi di seluruh dunia."
Ke depannya, Fujitsu akan secara aktif bekerja untuk bermitra dengan lembaga pemerintah, perusahaan swasta, dan peneliti terkemuka untuk lebih menyempurnakan dan mempromosikan metodologi yang baru dikembangkan dan bertujuan untuk merilis versi perangkat sumber daya yang diperluas pada tahun fiskal 2022.
Latar Belakang
Pada April 2021, Komisi Eropa mengeluarkan draf kerangka peraturan yang menyerukan tanggapan etis yang komprehensif untuk pengembang sistem AI, pengguna, dan pemangku kepentingan sebagai tanggapan atas meningkatnya kekhawatiran seputar bias algoritmik dan pengambilan keputusan yang diskriminatif dalam aplikasi AI dan pembelajaran mesin.
Untuk berkomitmen penuh pada penggunaan teknologi yang bertanggung jawab dan mendapatkan kepercayaan masyarakat pada sistem AI dan perusahaan serta organisasi yang terlibat dalam bidang ini, Fujitsu telah merumuskan Komitmen AI sendiri pada tahun 2019, serta Kantor Etika dan Tata Kelola AI baru untuk mengembangkan dan menegakkan kebijakan yang kuat untuk etika AI, mempromosikan tata kelola etika AI organisasi untuk memastikan efektivitasnya. Kini, Fujitsu akan beralih dari prinsip ke praktik dengan terus menerapkan praktik terbaik di dunia nyata untuk memastikan terwujudnya teknologi AI dan pembelajaran mesin yang etis, aman, dan transparan.
Saat ini, merupakan praktik umum dalam pengembangan sistem AI untuk mengidentifikasi kemungkinan risiko etika dalam sistem AI berdasarkan pedoman etika AI yang dikeluarkan oleh otoritas pemerintah dan perusahaan. Pedoman ini ditulis dalam bahasa alami, bagaimanapun, berkontribusi pada kemungkinan perbedaan interpretasi dan kesalahpahaman di antara desainer dan pengembang yang dapat menyebabkan tindakan yang tidak tepat atau tidak memadai. Di bawah metode ini juga sulit untuk menilai apakah isi pedoman telah ditinjau secara menyeluruh dan tepat.
Namun, masih banyak tantangan, dan kemungkinan salah tafsir pedoman dalam fase desain teknologi baru dapat berpotensi menyebabkan tindakan yang tidak memadai atau tidak tepat untuk melawan risiko.
Metode evaluasi baru dan sumber daya untuk membantu memperjelas pedoman dan risiko etika
Dalam mempersiapkan toolkit dan panduan baru ini untuk pengembang, Fujitsu melakukan analisis insiden terkait AI sebelumnya yang dikumpulkan dalam Basis Data Insiden AI dari International consortium Partnership on AI (1). Proses ini mengarah pada kesimpulan bahwa masalah etika yang terkait dengan sistem AI dapat dikontekstualisasikan dengan pertukaran informasi ("interaksi") antara elemen rahasia dalam sistem AI dan antara sistem AI dan penggunanya serta pemangku kepentingan lainnya.
Berdasarkan temuan ini, Fujitsu berhasil mengembangkan metode evaluasi untuk secara sistematis mengidentifikasi masalah etika yang relevan terkait dengan sistem AI, memungkinkan terciptanya model etika AI (2) yang mampu mengklarifikasi interpretasi pedoman etika AI.
Fujitsu menerapkan metode evaluasi barunya pada 15 kasus representatif dari Insiden AI
Basis data (164 kasus global terdaftar pada 21 Februari 2022, contohnya termasuk kasus dari bidang-bidang seperti sektor keuangan dan sumber daya manusia). Menerapkan metode baru, semua masalah etika yang terjadi dalam kasus penggunaan dunia nyata berhasil diidentifikasi sebagai risiko sebelumnya selama uji coba verifikasi, yang hasilnya telah dipublikasikan.
Fujitsu akan menawarkan toolkit sumber daya berikut yang terdiri dari berbagai sumber daya dan panduan bagi pengembang untuk dirujuk dalam pekerjaan mereka sendiri:
Situs unduhan (dalam bahasa Jepang, bahasa Inggris tersedia di masa mendatang)
1. Whitepaper: Gambaran umum metodologi
2. Manual prosedur penilaian dampak etis AI: diagram sistem AI, prosedur persiapan model etika AI, dan penjelasan metode korespondensi masalah
3. Model etika AI: Model etika AI berdasarkan pedoman etika AI yang diterbitkan oleh Komisi Eropa (dibuat oleh Fujitsu)
4. Studi kasus analisis etika AI: Hasil analisis masalah etika AI utama dari AI Incident Database of Partnership on AI (Per 21 Februari, ada enam kasus, yang ditambahkan secara berurutan.)
Kasus Penggunaan: risiko penggunaan AI untuk evaluasi individu untuk pinjaman bank, rekrutmen
Gambar 1 menunjukkan contoh proses evaluasi individu yang khas dalam skenario kasus penggunaan seperti perekrutan personel atau persetujuan pinjaman bank. Tabel korespondensi dalam model etika AI mengidentifikasi "validitas proses evaluasi" (apakah evaluasi dilakukan secara bertanggung jawab dengan mengacu pada hasil keluaran dari sistem AI) sebagai item pemeriksaan untuk interaksi (hubungan) antara pengguna Sistem AI dan target orang yang akan dievaluasi, sedangkan "ketergantungan yang berlebihan pada hasil AI", "interpretasi selektif dan evaluasi hasil keluaran" dan "ketidaktahuan hasil keluaran" terdaftar sebagai risiko yang mungkin terjadi.
Dalam contoh ini, pengembang sistem AI dapat mengidentifikasi risiko "ketergantungan pengguna yang berlebihan pada output dari sistem AI yang mungkin mengandung bias dan mengarah pada keputusan yang tidak adil" sebagai risiko yang mungkin terjadi dalam sistem AI dan menyesuaikan sistem dengan tepat untuk mencegah risiko ini .
(1) Kemitraan di AI:
Sebuah organisasi nonprofit yang didirikan pada tahun 2016 yang menangani tantangan etis AI, untuk masa depan di mana AI dan manusia bekerja sama.
(2) Model etika AI:
Model etika AI mencakup tabel korespondensi "item centang" dan "interaksi", alat untuk evaluasi langkah demi langkah persyaratan etika untuk sistem AI. Model etika AI dibuat secara manual berdasarkan pedoman tertentu, tetapi setelah dibuat, model dapat digunakan secara umum untuk mengevaluasi berbagai sistem AI. Dengan menggunakan metode ini, pengembang dan operator sistem AI dapat secara otomatis mengambil semua item pemeriksaan yang relevan dari model etika AI yang dibuat sebelumnya untuk evaluasi sistematis dan komprehensif dari kemungkinan risiko terkait berdasarkan jenis interaksi dalam sistem AI.
Tentang Fujitsu
Fujitsu adalah perusahaan teknologi informasi dan komunikasi (TIK) Jepang terkemuka yang menawarkan rangkaian lengkap produk, solusi, dan layanan teknologi. Sekitar 126,000 orang Fujitsu mendukung pelanggan di lebih dari 100 negara. Kami menggunakan pengalaman kami dan kekuatan TIK untuk membentuk masa depan masyarakat dengan pelanggan kami. Fujitsu Limited (TSE:6702) melaporkan pendapatan konsolidasi sebesar 3.6 triliun yen (US$34 miliar) untuk tahun fiskal yang berakhir pada 31 Maret 2021. Untuk informasi lebih lanjut, silakan lihat www.fujitsu.com.
Hak Cipta 2022 JCN Newswire. Seluruh hak cipta. www.jcnnewswire.comFujitsu hari ini mengumumkan pengembangan perangkat sumber daya yang menawarkan panduan pengembang untuk mengevaluasi dampak etis dan risiko sistem AI berdasarkan pedoman etika AI internasional.
- 000
- 100
- 2016
- 2019
- 2021
- 2022
- Tentang Kami
- alamat
- AI
- algoritmik
- Semua
- Membiarkan
- analisis
- mengumumkan
- aplikasi
- Menerapkan
- April
- kewenangan
- tersedianya
- tersedia
- Bank
- TERBAIK
- Praktik Terbaik
- Milyar
- bisnis
- kasus
- disebabkan
- tantangan
- biaya
- komentar
- Komisi
- komitmen
- Umum
- Komunikasi
- Perusahaan
- perusahaan
- isi
- hak cipta
- negara
- pelanggan
- Basis Data
- perdebatan
- penyebaran
- Mendesain
- mengembangkan
- dikembangkan
- pengembang
- Pengembangan
- Awal
- Inggris
- mapan
- etika
- Eropa
- Eropa
- komisi eropa
- contoh
- Pasar Valas
- pengalaman
- keuangan
- mengikuti
- berikut
- Depan
- Kerangka
- Gratis
- penuh
- masa depan
- celah
- Umum
- Aksi
- pemerintahan
- Pemerintah
- Pertumbuhan
- pedoman
- membantu
- di sini
- Seterpercayaapakah Olymp Trade? Kesimpulan
- How To
- HTTPS
- Sumber Daya Manusia
- Manusia
- mengenali
- Dampak
- termasuk
- Termasuk
- sendiri-sendiri
- informasi
- interaksi
- Internasional
- terlibat
- masalah
- IT
- pemeliharaan
- kunci
- bahasa
- memimpin
- terkemuka
- pengetahuan
- Dipimpin
- Terbatas
- Daftar
- Pinjaman
- logo
- Mesin belajar
- utama
- panduan
- March
- bahan
- model
- model
- pindah
- Dekat
- nirlaba
- menawarkan
- menawarkan
- Buka
- organisasi
- organisasi
- Lainnya
- pasangan
- Kemitraan
- Konsultan Ahli
- Personil
- tahap
- Kebijakan
- mungkin
- kekuasaan
- menyajikan
- mencegah
- swasta
- Masalah
- proses
- Produk
- mendorong
- jarak
- dunia nyata
- perekrutan
- terdaftar
- peraturan
- regulator
- hubungan
- Persyaratan
- penelitian
- sumber
- Sumber
- tanggapan
- tanggung jawab
- Hasil
- Risiko
- aman
- sektor
- aman
- Layanan
- penting
- ENAM
- Masyarakat
- Solusi
- Space
- studi
- berhasil
- mendukung
- sistem
- sistem
- target
- Teknis
- Teknologi
- Teknologi
- hari ini
- bersama
- alat
- jelas
- Kepercayaan
- universitas
- us
- Pengguna
- Verifikasi
- apakah
- Whitepaper
- dalam
- Kerja
- dunia
- industri udang di seluruh dunia.
- tahun
- Yen