Layanan pengenalan wajah pengikisan gambar AI Clearview dikenai denda €20 juta di Prancis

Kisah Clearview AI berlanjut!

Jika Anda belum pernah mendengar tentang perusahaan ini sebelumnya, ini dia sangat rekap yang jelas dan ringkas dari regulator privasi Prancis, CNIL (Komisi Nasional untuk Komputasi dan Kebebasan), yang telah dengan mudah mempublikasikan temuan dan keputusannya dalam cerita yang sudah berjalan lama ini dalam bahasa Prancis dan Inggris:

Clearview AI mengumpulkan foto dari banyak situs web, termasuk media sosial. Ini mengumpulkan semua foto yang dapat diakses secara langsung di jaringan ini (yaitu yang dapat dilihat tanpa masuk ke akun). Gambar juga diekstraksi dari video yang tersedia online di semua platform.

Dengan demikian, perusahaan telah mengumpulkan lebih dari 20 miliar gambar di seluruh dunia.

Berkat koleksi ini, perusahaan memasarkan akses ke basis data gambarnya dalam bentuk mesin pencari di mana seseorang dapat dicari menggunakan foto. Perusahaan menawarkan layanan ini kepada aparat penegak hukum untuk mengidentifikasi pelaku atau korban kejahatan.

Teknologi pengenalan wajah digunakan untuk menanyakan mesin pencari dan menemukan seseorang berdasarkan foto mereka. Untuk melakukannya, perusahaan membangun "templat biometrik", yaitu representasi digital dari karakteristik fisik seseorang (dalam hal ini wajah). Data biometrik ini sangat sensitif, terutama karena terkait dengan identitas fisik kita (apa adanya) dan memungkinkan kita untuk mengidentifikasi diri kita dengan cara yang unik.

Sebagian besar orang yang gambarnya dikumpulkan ke dalam mesin pencari tidak menyadari fitur ini.

Clearview AI telah menarik kemarahan perusahaan, organisasi privasi, dan regulator selama beberapa tahun terakhir, termasuk dipukul dengan:

• Keluhan dan gugatan class action mengajukan di Illinois, Vermont, New York dan California.
• Tantangan hukum dari American Civil Liberties Union (ACLU).
• Perintah hentikan dan hentikan dari Facebook, Google dan YouTube, yang menganggap bahwa Clearview's kegiatan menggores melanggar syarat dan ketentuan mereka.
• Tindakan penumpasan dan denda in Australia dan Inggris.
• Putusan yang menganggap operasinya melanggar hukum pada tahun 2021, oleh orang Prancis yang disebutkan di atas pengatur.

Tidak ada kepentingan yang sah

Pada Desember 2021, CNIL menyatakan, cukup blak-blakan, itu:

[T]perusahaannya tidak memperoleh persetujuan dari orang-orang yang bersangkutan untuk mengumpulkan dan menggunakan foto-foto mereka untuk memasok perangkat lunaknya.

Clearview AI juga tidak memiliki kepentingan yang sah dalam mengumpulkan dan menggunakan data ini, terutama mengingat sifat proses yang mengganggu dan masif, yang memungkinkan untuk mengambil gambar yang ada di Internet dari beberapa puluh juta pengguna Internet di Prancis. Orang-orang ini, yang foto atau videonya dapat diakses di berbagai situs web, termasuk media sosial, tidak secara wajar mengharapkan gambar mereka diproses oleh perusahaan untuk memasok sistem pengenalan wajah yang dapat digunakan oleh Negara untuk tujuan penegakan hukum.

Keseriusan pelanggaran ini membuat ketua CNIL memerintahkan Clearview AI untuk menghentikan, karena kurangnya dasar hukum, pengumpulan dan penggunaan data dari orang-orang di wilayah Prancis, dalam konteks pengoperasian perangkat lunak pengenalan wajah yang dipasarkannya.

Lebih lanjut, CNIL berpendapat bahwa Clearview AI tampaknya tidak terlalu peduli untuk mematuhi aturan Eropa tentang pengumpulan dan penanganan data pribadi:

Pengaduan yang diterima oleh CNIL mengungkapkan kesulitan yang dihadapi oleh pengadu dalam menggunakan haknya dengan Clearview AI.

Di satu sisi, perusahaan tidak memfasilitasi pelaksanaan hak akses subjek data:

• dengan membatasi pelaksanaan hak ini atas data yang dikumpulkan selama dua belas bulan sebelum permintaan;
• dengan membatasi pelaksanaan hak ini menjadi dua kali setahun, tanpa pembenaran;
• dengan hanya menanggapi permintaan tertentu setelah jumlah permintaan yang berlebihan dari orang yang sama.

Di sisi lain, perusahaan tidak menanggapi permintaan akses dan penghapusan secara efektif. Ini memberikan tanggapan parsial atau tidak menanggapi permintaan sama sekali.

CNIL bahkan menerbitkan infografis yang merangkum keputusannya, dan proses pengambilan keputusannya:

Komisaris Informasi Australia dan Inggris mencapai kesimpulan serupa, dengan hasil serupa untuk Clearview AI: pengikisan data Anda ilegal di yurisdiksi kami; Anda harus berhenti melakukannya di sini.

Namun, seperti yang kami katakan pada Mei 2022, ketika Inggris melaporkan bahwa mereka akan mendenda Clearview AI sekitar £7,500,000 (turun dari Denda £17 juta pertama kali diajukan) dan memerintahkan perusahaan untuk tidak lagi mengumpulkan data tentang redident Inggris, “Bagaimana ini akan diawasi, apalagi ditegakkan, tidak jelas.”

Kami mungkin akan menemukan bagaimana perusahaan akan diawasi di masa depan, dengan CNIL kehilangan kesabaran dengan Clearview AI karena tidak mematuhi keputusannya untuk berhenti mengumpulkan data biometrik orang Prancis…

…dan mengumumkan denda sebesar €20,000,000:

Menyusul pemberitahuan resmi yang tetap tidak tertangani, CNIL memberlakukan penalti sebesar 20 juta Euro dan memerintahkan CLEARVIEW AI untuk berhenti mengumpulkan dan menggunakan data individu di Prancis tanpa dasar hukum dan menghapus data yang sudah dikumpulkan.

Apa selanjutnya?

Seperti yang telah kami tulis sebelumnya, Clearview AI tampaknya tidak hanya dengan senang hati mengabaikan peraturan yang dikeluarkan terhadapnya, tetapi juga mengharapkan orang untuk merasa kasihan pada saat yang sama, dan memang berada di pihaknya untuk memberikan apa yang dipikirkannya. merupakan pelayanan yang vital bagi masyarakat.

Dalam putusan Inggris, di mana regulator mengambil garis serupa dengan CNIL di Prancis, perusahaan diberitahu bahwa perilakunya melanggar hukum, tidak diinginkan dan harus segera dihentikan.

Tetapi laporan pada saat itu menunjukkan bahwa jauh dari menunjukkan kerendahan hati, CEO Clearview Hoan Ton-That bereaksi dengan sentimen pembuka itu tidak akan keluar dari tempatnya dalam lagu cinta yang tragis:

Hati saya hancur karena Clearview AI tidak dapat membantu ketika menerima permintaan mendesak dari lembaga penegak hukum Inggris yang ingin menggunakan teknologi ini untuk menyelidiki kasus pelecehan seksual yang parah terhadap anak-anak di Inggris.

Seperti yang kami sarankan pada Mei 2022, perusahaan mungkin menemukan banyak lawan membalas dengan lirik lagu mereka sendiri:

Menangis saya sungai. (Jangan bertindak seolah-olah Anda tidak mengetahuinya.)

Bagaimana menurut Anda?

Apakah Clearview AI benar-benar memberikan layanan yang bermanfaat dan dapat diterima secara sosial bagi penegak hukum?

Atau apakah itu dengan santai menginjak-injak privasi kami dan praduga tak bersalah kami dengan mengumpulkan data biometrik secara tidak sah, dan mengkomersialkannya untuk tujuan pelacakan investigasi tanpa persetujuan (dan, tampaknya, tanpa batas)?

Beri tahu kami di komentar di bawah… Anda dapat tetap anonim.

---