Dịch vụ nhận dạng khuôn mặt bằng trí tuệ nhân tạo bằng hình ảnh Clearview AI bị phạt 20 triệu euro ở Pháp

Câu chuyện Clearview AI tiếp tục!

Nếu bạn chưa từng nghe nói về công ty này trước đây, thì đây là một tóm tắt rõ ràng và ngắn gọn từ cơ quan quản lý quyền riêng tư của Pháp, CNIL (Ủy ban Nationale de l'Informatique et des Libertés), đã rất công khai các phát hiện và phán quyết của mình trong câu chuyện dài kỳ này bằng cả tiếng Pháp và tiếng Anh:

Clearview AI thu thập ảnh từ nhiều trang web, bao gồm cả mạng xã hội. Nó thu thập tất cả các bức ảnh có thể truy cập trực tiếp trên các mạng này (tức là có thể xem được mà không cần đăng nhập tài khoản). Hình ảnh cũng được trích xuất từ ​​các video có sẵn trực tuyến trên tất cả các nền tảng.

Như vậy, công ty đã thu thập được hơn 20 tỷ hình ảnh trên toàn thế giới.

Nhờ bộ sưu tập này, công ty tiếp thị quyền truy cập vào cơ sở dữ liệu hình ảnh của mình dưới dạng một công cụ tìm kiếm, trong đó một người có thể được tìm kiếm bằng cách sử dụng một bức ảnh. Công ty cung cấp dịch vụ này cho các cơ quan thực thi pháp luật để xác định thủ phạm hoặc nạn nhân của tội phạm.

Công nghệ nhận dạng khuôn mặt được sử dụng để truy vấn công cụ tìm kiếm và tìm một người dựa trên ảnh của họ. Để làm như vậy, công ty xây dựng một "mẫu sinh trắc học", tức là một bản đại diện kỹ thuật số về các đặc điểm thể chất của một người (trong trường hợp này là khuôn mặt). Những dữ liệu sinh trắc học này đặc biệt nhạy cảm, đặc biệt là vì chúng được liên kết với danh tính thể chất của chúng ta (chúng ta là gì) và cho phép chúng ta nhận dạng bản thân theo một cách riêng.

Phần lớn những người có hình ảnh được thu thập vào công cụ tìm kiếm không biết về tính năng này.

Clearview AI đã thu hút sự chú ý của các công ty, tổ chức quyền riêng tư và cơ quan quản lý trong vài năm qua, bao gồm cả việc:

• Khiếu nại và khởi kiện tập thể nộp ở Illinois, Vermont, New York và California.
• Một thách thức pháp lý từ American Civil Liberties Union (ACLU).
• Lệnh ngừng và hủy bỏ danh sách từ Facebook, Google và YouTube, những người cho rằng Clearview của hoạt động cạo vi phạm các điều khoản và điều kiện của họ.
• Hành động bẻ khóa và tiền phạt in Úc và Vương quốc Anh.
• Một phán quyết cho thấy hoạt động của nó là bất hợp pháp vào năm 2021, bởi người Pháp nói trên điều chỉnh.

Không có lợi ích hợp pháp

Vào tháng 2021 năm XNUMX, CNIL tuyên bố, khá thẳng thắn, cái đó:

[T] công ty của anh ta không được sự đồng ý của những người liên quan để thu thập và sử dụng ảnh của họ để cung cấp phần mềm của mình.

Clearview AI cũng không có lợi ích hợp pháp trong việc thu thập và sử dụng dữ liệu này, đặc biệt là do tính chất xâm nhập và quy mô lớn của quá trình, điều này khiến cho việc truy xuất các hình ảnh hiện có trên Internet của hàng chục triệu người dùng Internet ở Pháp có thể xảy ra. Những người này, có ảnh hoặc video có thể truy cập trên các trang web khác nhau, bao gồm cả phương tiện truyền thông xã hội, không hy vọng hợp lý hình ảnh của họ sẽ được công ty xử lý để cung cấp hệ thống nhận dạng khuôn mặt có thể được các Quốc gia sử dụng cho các mục đích thực thi pháp luật.

Mức độ nghiêm trọng của vi phạm này đã khiến chủ tịch CNIL phải ra lệnh cho Clearview AI ngừng hoạt động, vì thiếu cơ sở pháp lý, việc thu thập và sử dụng dữ liệu từ những người trên lãnh thổ Pháp, trong bối cảnh hoạt động của phần mềm nhận dạng khuôn mặt mà nó tiếp thị.

Hơn nữa, CNIL đưa ra quan điểm rằng Clearview AI dường như không quan tâm nhiều đến việc tuân thủ các quy tắc của châu Âu về thu thập và xử lý dữ liệu cá nhân:

Các khiếu nại mà CNIL nhận được cho thấy những khó khăn mà người khiếu nại gặp phải trong việc thực hiện các quyền của họ với Clearview AI.

Một mặt, công ty không tạo điều kiện thuận lợi cho việc thực hiện quyền truy cập của chủ thể dữ liệu:

• bằng cách giới hạn việc thực hiện quyền này đối với dữ liệu được thu thập trong mười hai tháng trước khi yêu cầu;
• bằng cách hạn chế việc thực hiện quyền này hai lần một năm mà không cần biện minh;
• bằng cách chỉ trả lời một số yêu cầu nhất định sau khi có quá nhiều yêu cầu từ cùng một người.

Mặt khác, công ty không đáp ứng hiệu quả các yêu cầu truy cập và xóa. Nó cung cấp các phản hồi một phần hoặc hoàn toàn không phản hồi các yêu cầu.

CNIL thậm chí còn xuất bản một đồ họa thông tin tóm tắt quyết định của mình và quá trình ra quyết định của mình:

Ủy ban Thông tin Úc và Vương quốc Anh đã đưa ra kết luận tương tự, với kết quả tương tự đối với Clearview AI: việc thu thập dữ liệu của bạn là bất hợp pháp trong khu vực pháp lý của chúng tôi; bạn phải ngừng làm điều đó ở đây.

Tuy nhiên, như chúng tôi đã nói vào tháng 2022 năm XNUMX, khi Vương quốc Anh báo cáo rằng họ sẽ xử lý Clearview AI khoảng £ 7,500,000 (xuống từ 17 triệu bảng tiền phạt lần đầu tiên được đề xuất) và ra lệnh cho công ty không thu thập dữ liệu về những người cư ngụ tại Vương quốc Anh nữa, "Làm thế nào điều này sẽ được kiểm soát, chứ đừng nói đến việc thực thi, là không rõ ràng."

Chúng tôi có thể sắp tìm hiểu xem công ty sẽ được kiểm soát như thế nào trong tương lai, với CNIL mất kiên nhẫn với Clearview AI vì đã không tuân theo phán quyết ngừng thu thập dữ liệu sinh trắc học của người Pháp…

… Và thông báo khoản tiền phạt € 20,000,000:

Sau một thông báo chính thức vẫn chưa được giải đáp, CNIL đã áp dụng hình phạt 20 triệu Euro và yêu cầu CLEARVIEW AI ngừng thu thập và sử dụng dữ liệu về các cá nhân ở Pháp mà không có cơ sở pháp lý và xóa dữ liệu đã thu thập.

Tiếp theo là gì?

Như chúng tôi đã viết trước đây, Clearview AI dường như không chỉ vui vẻ bỏ qua các phán quyết quy định được ban hành chống lại nó, mà còn mong mọi người đồng thời cảm thấy tiếc cho nó và thực sự đứng về phía nó vì đã cung cấp những gì nó nghĩ là một dịch vụ sống còn cho xã hội.

Trong phán quyết của Vương quốc Anh, nơi cơ quan quản lý đưa ra quan điểm tương tự với CNIL ở Pháp, công ty đã được thông báo rằng hành vi của họ là bất hợp pháp, không mong muốn và phải dừng ngay lập tức.

Nhưng các báo cáo vào thời điểm đó cho thấy rằng không thể hiện bất kỳ sự khiêm tốn nào, Giám đốc điều hành Clearview Hoan Ton-That đã phản ứng với mở tình cảm điều đó sẽ không lạc lõng trong một cuộc tình bi thương:

Tôi thật sự đau lòng khi Clearview AI đã không thể hỗ trợ khi nhận được yêu cầu khẩn cấp từ các cơ quan thực thi pháp luật Vương quốc Anh tìm cách sử dụng công nghệ này để điều tra các trường hợp trẻ em bị lạm dụng tình dục nghiêm trọng ở Vương quốc Anh.

Như chúng tôi đã đề xuất trở lại vào tháng 2022 năm XNUMX, công ty có thể thấy các đối thủ dồi dào trả lời bằng lời bài hát của riêng họ:

Khóc thật nhiều vào. (Đừng làm như bạn không biết.)

Bạn nghĩ gì?

Clearview AI có thực sự cung cấp một dịch vụ có lợi và được xã hội chấp nhận cho cơ quan thực thi pháp luật không?

Hay nó đang tự ý chà đạp lên quyền riêng tư và sự giả định của chúng ta về sự vô tội bằng cách thu thập dữ liệu sinh trắc học một cách bất hợp pháp và thương mại hóa nó cho các mục đích theo dõi điều tra mà không có sự đồng ý (và dường như là không có giới hạn)?

Hãy cho chúng tôi biết trong các bình luận bên dưới… bạn có thể vẫn ẩn danh.

---