UE akan mengadopsi undang-undang AI pertama di dunia yang akan melarang pengenalan wajah di tempat umum

UE akan mengadopsi undang-undang AI pertama di dunia yang akan melarang pengenalan wajah di tempat umum

Stempel Waktu: 9 Desember 2023 1:49
UE akan mengadopsi undang-undang AI pertama di dunia yang akan melarang pengenalan wajah di tempat umum Intelijen Data PlatoBlockchain. Pencarian Vertikal. Ai.

Uni Eropa (UE) memimpin perlombaan untuk mengatur kecerdasan buatan (AI). Mengakhiri perundingan selama tiga hari, Dewan Eropa dan Parlemen Eropa mencapai kesepakatan sementara hari ini yang akan menjadi regulasi AI komprehensif pertama di dunia.

Carme Artigas, Menteri Luar Negeri Spanyol untuk digitalisasi dan AI, menyebut perjanjian tersebut sebagai “pencapaian bersejarah” dalam a tekan rilis. Artigas mengatakan bahwa peraturan tersebut mencapai “keseimbangan yang sangat rumit” antara mendorong inovasi dan adopsi AI yang aman dan tepercaya di seluruh UE dan melindungi “hak-hak dasar” warga negara.

Rancangan undang-undang—the Undang-Undang Kecerdasan Buatan— pertama kali diusulkan oleh Komisi Eropa pada bulan April 2021. Parlemen dan negara-negara anggota UE akan melakukan pemungutan suara untuk menyetujui rancangan undang-undang tersebut tahun depan, tetapi peraturan tersebut baru akan berlaku pada tahun 2025.

Pendekatan berbasis risiko untuk mengatur AI

UU AI dirancang menggunakan pendekatan berbasis risiko, dimana semakin tinggi risiko yang ditimbulkan oleh sistem AI, maka semakin ketat aturannya. Untuk mencapai hal ini, peraturan tersebut akan mengklasifikasikan AI untuk mengidentifikasi AI yang 'berisiko tinggi'.

AI yang dianggap tidak mengancam dan berisiko rendah akan dikenakan “kewajiban transparansi yang sangat ringan.” Misalnya, sistem AI tersebut akan diminta untuk mengungkapkan bahwa konten mereka dibuat oleh AI agar pengguna dapat mengambil keputusan yang tepat.

Untuk AI yang berisiko tinggi, undang-undang tersebut akan menambahkan sejumlah kewajiban dan persyaratan, termasuk:

Pengawasan Manusia: Undang-undang ini mengamanatkan pendekatan yang berpusat pada manusia, menekankan mekanisme pengawasan manusia yang jelas dan efektif terhadap sistem AI yang berisiko tinggi. Hal ini berarti melibatkan manusia, secara aktif memantau dan mengawasi pengoperasian sistem AI. Peran mereka termasuk memastikan sistem berfungsi sebagaimana mestinya, mengidentifikasi dan mengatasi potensi bahaya atau konsekuensi yang tidak diinginkan, dan pada akhirnya memikul tanggung jawab atas keputusan dan tindakannya.

Transparansi dan Penjelasan: Mengungkap cara kerja sistem AI yang berisiko tinggi sangat penting untuk membangun kepercayaan dan memastikan akuntabilitas. Pengembang harus memberikan informasi yang jelas dan dapat diakses tentang bagaimana sistem mereka mengambil keputusan. Hal ini mencakup detail tentang algoritme yang mendasarinya, data pelatihan, dan potensi bias yang dapat memengaruhi keluaran sistem.

Tata Kelola Data: UU AI menekankan praktik data yang bertanggung jawab, yang bertujuan untuk mencegah diskriminasi, bias, dan pelanggaran privasi. Pengembang harus memastikan data yang digunakan untuk melatih dan mengoperasikan sistem AI berisiko tinggi akurat, lengkap, dan representatif. Prinsip minimalisasi data sangat penting, karena hanya mengumpulkan informasi yang diperlukan untuk fungsi sistem dan meminimalkan risiko penyalahgunaan atau pelanggaran. Selain itu, individu harus memiliki hak yang jelas untuk mengakses, memperbaiki, dan menghapus data mereka yang digunakan dalam sistem AI, sehingga memberdayakan mereka untuk mengontrol informasi mereka dan memastikan penggunaan yang etis.

Manajemen risiko: Identifikasi dan mitigasi risiko secara proaktif akan menjadi persyaratan utama bagi AI yang berisiko tinggi. Pengembang harus menerapkan kerangka kerja manajemen risiko yang kuat yang secara sistematis menilai potensi bahaya, kerentanan, dan konsekuensi yang tidak diinginkan pada sistem mereka.

Stempel Waktu:

Lebih dari KriptoSlate