Memanfaatkan AI yang Bertanggung Jawab di Sektor Keuangan - Fintech Singapura

Memanfaatkan AI yang Bertanggung Jawab di Sektor Keuangan – Fintech Singapura

Stempel Waktu: 11 Oktober 2023 2:00

Kecerdasan Buatan (AI) telah menjadi bagian integral dari kehidupan kita sehari-hari, mendorong kemajuan teknologi dan meningkatkan berbagai industri, termasuk keuangan.

Namun, meningkatnya penggunaan AI juga menimbulkan kekhawatiran mengenai praktik yang bertanggung jawab dan etis. 

Penting untuk memastikan bahwa sistem AI bersifat adil, tidak memihak, dan akuntabel untuk mencegah dampak buruk terhadap individu dan masyarakat. Sejalan dengan kebutuhan ini, NEC telah mengambil langkah signifikan untuk mendorong inisiatif AI yang bertanggung jawab. 

Dengan pengumuman baru-baru ini Perangkat MAS versi 2.0 pada bulan Juni, komitmen NEC terhadap prinsip keadilan, etika, akuntabilitas, dan transparansi (FEAT) di sektor keuangan semakin diperkuat.

Pentingnya AI yang bertanggung jawab di sektor keuangan

Mengintegrasikan AI yang bertanggung jawab ke dalam industri keuangan sangatlah penting karena hal ini memfasilitasi akses terhadap layanan dan distribusi kekayaan serta melawan potensi bias dalam pengambilan keputusan berdasarkan data.

Menjaga kerahasiaan data dan mematuhi standar hukum dan etika adalah hal yang mendasar. Pengambilan keputusan AI yang transparan, ditambah dengan pengawasan manusia, menumbuhkan kepercayaan di antara para pemangku kepentingan.

AI yang bertanggung jawab mendorong inovasi, inklusivitas, dan keberlanjutan dengan mengatasi bias, sehingga memerlukan upaya bersama dari berbagai pemangku kepentingan.

Meskipun AI telah memberikan manfaat yang signifikan bagi sektor keuangan, penerapannya yang berpotensi berdampak pada kehidupan individu memerlukan pengawasan yang cermat untuk memastikan keadilan dan mencegah bias.

AI yang bertanggung jawab di bidang keuangan melibatkan identifikasi, penilaian, dan mitigasi risiko. Hal ini menuntut transparansi, interpretasi, dan pemahaman semua pemangku kepentingan tentang model dan alat AI.

Lembaga keuangan harus mengatasi potensi bias yang disebabkan oleh AI, khususnya yang berdampak pada kelompok rentan. Kekokohan, merek, dan manajemen reputasi sangat penting untuk mencegah bahaya akibat penyalahgunaan atau malfungsi AI.

Kepatuhan terhadap undang-undang, peraturan, dan standar yang mengatur penggunaan AI di bidang keuangan adalah hal yang terpenting. Lembaga keuangan memerlukan pendekatan tata kelola AI yang komprehensif, yang mendorong akuntabilitas, pengawasan, dan penyelarasan dengan nilai-nilai etika.

Veritas Toolkit MAS mempromosikan AI yang etis di bidang keuangan

Veritas Toolkit, yang dibuat oleh Konsorsium Veritas di bawah bimbingan Otoritas Moneter Singapura (MAS), adalah rangkaian perangkat lunak sumber terbuka yang mendorong praktik AI yang etis dalam sektor keuangan. Tujuan utamanya adalah membantu lembaga keuangan memastikan keadilan dalam penerapan AI melalui evaluasi metrik keadilan otomatis dan integrasi tanpa batas dengan sistem TI yang ada.

Perangkat ini menyederhanakan Metodologi Penilaian Kewajaran dengan menyelaraskan dengan prinsip-prinsip FEAT. Proses evaluasi komprehensif ini mencakup seluruh siklus pengembangan AI—mulai dari desain sistem dan persiapan data hingga pembuatan dan penerapan model.

Veritas Toolkit versi 2.0, yang diperbarui oleh konsorsium yang terdiri dari 31 pelaku industri di bawah MAS, mengambil lompatan maju yang signifikan dengan menawarkan metode penilaian yang komprehensif dan integrasi yang mudah dengan sistem TI yang ada. Toolkit ini menyediakan antarmuka ramah pengguna yang diperkaya dengan pedoman, contoh, templat, dan daftar periksa untuk dokumentasi dan pelaporan yang memadai.

Untuk memperkuat nilai dan penerapannya, konsorsium secara rutin menerbitkan buku putih dan kasus penggunaan yang menunjukkan penerapan praktis dan keunggulan perangkat ini di sektor keuangan.

NEC memperjuangkan prinsip-prinsip AI dan FEAT yang bertanggung jawab

Sebagai perusahaan teknologi yang bertanggung jawab, NEC telah menerima tantangan untuk mengembangkan dan menerapkan praktik AI etis yang memprioritaskan akurasi, keadilan, transparansi, dan akuntabilitas untuk mencegah dampak negatif terhadap masyarakat.

Komitmen NEC terhadap AI yang bertanggung jawab terlihat melalui kolaborasinya dengan badan pengatur dan pengembangan alat canggih seperti Veritas Toolkit, yang selaras dengan prinsip FEAT.

Pendekatan perusahaan berkisar pada evaluasi sistem AI secara komprehensif untuk mengurangi bias, meningkatkan transparansi, dan meningkatkan proses pengambilan keputusan. Dengan mengadopsi AI yang dapat dijelaskan, NEC memastikan algoritmenya dapat diinterpretasikan, sehingga memungkinkan pemangku kepentingan memahami alasan di balik keputusan yang didorong oleh AI.

Transparansi adalah landasan sistem AI NEC, menumbuhkan kepercayaan di antara pelanggan, regulator, dan pemangku kepentingan sekaligus memastikan akuntabilitas dan keadilan dalam penerapan AI.

Untuk memerangi algoritma AI yang bias, NEC menerapkan beberapa strategi. Pertama, perusahaan berfokus untuk memastikan kumpulan data yang beragam dan representatif selama fase pelatihan untuk meminimalkan risiko bias. Kedua, pengujian dan evaluasi yang ketat dilakukan untuk mengidentifikasi dan memperbaiki potensi bias algoritma.

NEC berkolaborasi dengan pakar eksternal, regulator, dan pelanggan untuk mendapatkan perspektif dan masukan berharga mengenai praktik AI yang bertanggung jawab. Hal ini memastikan bahwa berbagai sudut pandang dipertimbangkan dalam proses pembangunan.

Selain itu, NEC mendukung upaya Singapore Computer Society untuk mempromosikan penggunaan AI yang bertanggung jawab melalui AI Ethics & Governance Special Interest Group (SIG). Kelompok ini bertujuan untuk memfasilitasi jaringan untuk menyatukan beragam pola pikir dan latar belakang, memanfaatkan basis pengetahuan, dan berbagi sumber daya dari berbagai organisasi untuk membangun ekosistem panduan yang kuat tentang AI yang bertanggung jawab untuk industri.

Etika memainkan peran mendasar dalam proses pengembangan AI di NEC, dengan membentuk komite etika yang mengawasi proyek AI, memberikan panduan, dan memastikan kepatuhan terhadap standar etika.

Selain itu, NEC menekankan akuntabilitas dengan melibatkan seluruh pemangku kepentingan dalam pengambilan keputusan dan mengambil tanggung jawab atas tindakan dan hasil sistem AI-nya. Perusahaan berupaya menetapkan garis akuntabilitas yang jelas untuk memastikan transparansi dan kepercayaan.

Untuk menggarisbawahi komitmennya, NEC memperkenalkan “AI Grup NEC dan Prinsip Hak Asasi Manusia” pada bulan April 2019, yang mengadvokasi pembelajaran AI yang mendalam sambil menekankan penghormatan terhadap hak asasi manusia, termasuk pemanfaatan biometrik dan data pribadi secara bertanggung jawab.

AI yang bertanggung jawab di NEC sedang beraksi

NEC berkomitmen teguh terhadap praktik AI yang bertanggung jawab di berbagai aplikasi dunia nyata, menunjukkan dedikasinya terhadap AI yang etis di berbagai industri. Bekerja sama dengan bandara Hawaii, NEC mengembangkan sistem terintegrasi yang diterapkan di lebih dari lima bandara yang menggabungkan teknologi pemindaian termal dan pengenalan wajah.

Dengan perlindungan privasi sebagai intinya, inisiatif ini memastikan penanganan informasi pribadi secara bertanggung jawab dengan hanya menyimpan rincian yang diperlukan dan segera membuang sisanya.

NEC menekankan keadilan dan transparansi dalam penilaian kredit dan alat pemodelannya, sehingga memungkinkan lembaga keuangan untuk membuat keputusan yang tidak memihak dan berdasarkan informasi. Berkolaborasi dengan Pusat Penelitian Teknologi Privasi Universitas Nasional Singapura (NUS) semakin menggarisbawahi prioritas NEC dalam mengatasi masalah privasi sambil mengembangkan solusi AI.

Dukungan mereka terhadap gerakan etika AI dan penerapan AI Verify Toolkit dalam kemitraan dengan Infocomm Media Development Authority (IMDA) mengungkapkan budaya dalam organisasi yang lebih dari sekadar kepatuhan.

Dengan mematuhi pedoman yang ketat dan membina kolaborasi dengan institusi akademis, NEC memastikan bahwa etika, privasi, dan penanganan data yang bertanggung jawab merupakan bagian integral dari pengembangan dan penerapan AI mereka, selaras dengan gerakan yang lebih luas menuju penggunaan AI yang bertanggung jawab.

NEC membantu lembaga keuangan dalam penilaian AI

Ketika AI terus merevolusi sektor keuangan, peran praktik AI yang bertanggung jawab tidak bisa dilebih-lebihkan. Ini lebih dari sekedar mematuhi peraturan; ini mewakili kewajiban moral yang menjadi inti kepercayaan di bidang keuangan.

Dengan memprioritaskan AI yang bertanggung jawab, lembaga keuangan dapat melindungi diri mereka dari potensi risiko terkait sistem AI yang bias atau tidak etis sekaligus mendapatkan keunggulan kompetitif di pasar yang dinamis saat ini.

Meningkatnya gerakan menuju AI yang bertanggung jawab memungkinkan lembaga keuangan membentuk industri secara positif dan menumbuhkan kepercayaan di antara para pemangku kepentingan dan masyarakat luas.

Dedikasi NEC terhadap AI yang bertanggung jawab memberikan lembaga keuangan alat yang sangat diperlukan. Sumber daya ini memastikan penilaian dan tata kelola aplikasi AI secara menyeluruh, menjunjung keadilan, etika, akuntabilitas, dan transparansi.

Mengunjungi situs web NEC untuk memahami bagaimana solusi NEC dapat membantu Anda menilai dan mengelola kasus penggunaan AI dengan akuntabilitas dan transparansi maksimal.

Cetak Ramah, PDF & Email

Stempel Waktu:

Lebih dari Fintechnews Singapura