Clearview AI billedskrabende ansigtsgenkendelsestjeneste ramte en bøde på 20 mio. EUR i Frankrig

Clearview AI-sagaen fortsætter!

Hvis du ikke har hørt om dette firma før, er her en meget klar og kortfattet opsummering fra den franske privatlivsregulator, CNIL (Den nationale kommission for databehandling og frihedsrettigheder), som meget praktisk har offentliggjort sine resultater og afgørelser i denne langvarige historie på både fransk og engelsk:

Clearview AI indsamler fotografier fra mange websteder, herunder sociale medier. Den samler alle de fotografier, der er direkte tilgængelige på disse netværk (dvs. som kan ses uden at logge ind på en konto). Billeder er også udtrukket fra videoer, der er tilgængelige online på alle platforme.

Således har virksomheden samlet over 20 milliarder billeder på verdensplan.

Takket være denne samling markedsfører virksomheden adgang til sin billeddatabase i form af en søgemaskine, hvor en person kan søges ved hjælp af et fotografi. Virksomheden tilbyder denne service til retshåndhævende myndigheder for at identificere gerningsmænd eller ofre for kriminalitet.

Ansigtsgenkendelsesteknologi bruges til at forespørge søgemaskinen og finde en person baseret på deres fotografi. For at gøre det bygger virksomheden en ”biometrisk skabelon”, altså en digital repræsentation af en persons fysiske karakteristika (ansigtet i dette tilfælde). Disse biometriske data er særligt følsomme, især fordi de er knyttet til vores fysiske identitet (hvad vi er) og gør os i stand til at identificere os selv på en unik måde.

Langt de fleste mennesker, hvis billeder er samlet i søgemaskinen, er ikke klar over denne funktion.

Clearview AI har på forskellig vis tiltrukket sig vrede hos virksomheder, privatlivsorganisationer og regulatorer i løbet af de sidste par år, herunder at blive ramt af:

• Klager og gruppesøgsmål indgivet i Illinois, Vermont, New York og Californien.
• En juridisk udfordring fra American Civil Liberties Union (ACLU).
• Ophør og afstå ordrer fra Facebook, Google og YouTube, som mente, at Clearview's skrabeaktiviteter har overtrådt deres vilkår og betingelser.
• Kraftig handling og bøder in Australien og Storbritannien.
• En kendelse, der fastslår, at dens drift er ulovlig i 2021 af ovennævnte franskmænd regulator.

Ingen legitim interesse

I december 2021 udtalte CNIL, ganske ligefrem, at:

[Denne virksomhed indhenter ikke samtykke fra de berørte personer til at indsamle og bruge deres fotografier til at levere dets software.

Clearview AI har heller ikke en legitim interesse i at indsamle og bruge disse data, især i betragtning af processens påtrængende og massive karakter, som gør det muligt at hente billeder, der findes på internettet af flere titusinder af internetbrugere i Frankrig. Disse mennesker, hvis fotografier eller videoer er tilgængelige på forskellige websteder, herunder sociale medier, forventer ikke med rimelighed, at deres billeder bliver behandlet af virksomheden for at levere et ansigtsgenkendelsessystem, der kunne bruges af stater til retshåndhævelsesformål.

Alvoren af ​​dette brud førte til, at CNIL-lederen beordrede Clearview AI til, på grund af mangel på et juridisk grundlag, at indstille indsamlingen og brugen af ​​data fra personer på fransk territorium i forbindelse med driften af ​​den ansigtsgenkendelsessoftware, den markedsfører.

Desuden dannede CNIL sig af den opfattelse, at Clearview AI ikke syntes at bekymre sig meget om at overholde europæiske regler om indsamling og håndtering af persondata:

De klager, som CNIL har modtaget, afslørede de vanskeligheder, klagere stødte på ved at udøve deres rettigheder over for Clearview AI.

På den ene side letter virksomheden ikke udøvelsen af ​​den registreredes ret til indsigt:

• ved at begrænse udøvelsen af ​​denne ret til data indsamlet i løbet af de tolv måneder forud for anmodningen;
• ved at begrænse udøvelsen af ​​denne ret til to gange om året uden begrundelse;
• ved kun at svare på visse anmodninger efter et for stort antal henvendelser fra samme person.

På den anden side reagerer virksomheden ikke effektivt på anmodninger om adgang og sletning. Den giver delvise svar eller reagerer slet ikke på anmodninger.

CNIL udgav endda en infografik, der opsummerer dens beslutning og dens beslutningsproces:

De australske og britiske informationskommissærer kom til lignende konklusioner med lignende resultater for Clearview AI: din dataskrabning er ulovlig i vores jurisdiktioner; du skal stoppe med at gøre det her.

Men som vi sagde tilbage i maj 2022, da Storbritannien rapporterede, at det ville bøde Clearview AI omkring £ 7,500,000 (ned fra Bøde på 17 millioner pund blev først foreslået) og beordrer virksomheden til ikke længere at indsamle data om britiske redidenter, "Hvordan dette vil blive overvåget, endsige håndhævet, er uklart."

Vi er muligvis ved at finde ud af, hvordan virksomheden vil blive overvåget i fremtiden, med CNIL at miste tålmodigheden med Clearview AI for ikke at efterkomme dens afgørelse om at stoppe med at indsamle biometriske data fra franskmænd...

…og annoncerer en bøde på €20,000,000:

Efter en formel meddelelse, som forblev uadresseret, pålagde CNIL en bøde på 20 millioner euro og beordrede CLEARVIEW AI til at stoppe med at indsamle og bruge data om enkeltpersoner i Frankrig uden et juridisk grundlag og at slette de allerede indsamlede data.

Hvad er det næste?

Som vi har skrevet før, synes Clearview AI ikke kun at være glad for at ignorere lovgivningsmæssige afgørelser, der er udstedt imod det, men også at forvente, at folk har ondt af det på samme tid, og faktisk er på sin side for at give, hvad det mener er en livsvigtig tjeneste for samfundet.

I den britiske dom, hvor tilsynsmyndigheden tog en lignende linje som CNIL i Frankrig, fik virksomheden at vide, at dens adfærd var ulovlig, uønsket og skal stoppe med det samme.

Men rapporter på det tidspunkt antydede, at langt fra at vise nogen ydmyghed, reagerede Clearviews administrerende direktør Hoan Ton-That med en åbningsstemning det ville ikke være malplaceret i en tragisk kærlighedssang:

Det knuser mit hjerte, at Clearview AI ikke har været i stand til at hjælpe, når de har modtaget presserende anmodninger fra britiske retshåndhævende myndigheder, der søger at bruge denne teknologi til at efterforske sager om alvorligt seksuelt misbrug af børn i Storbritannien.

Som vi foreslog tilbage i maj 2022, kan virksomheden finde sine mange modstandere, der svarer med deres egne sangtekster:

Græd mig en flod. (Lad være med at opføre dig som om du ikke ved det.)

Hvad mener du?

Leverer Clearview AI virkelig en gavnlig og socialt acceptabel service til retshåndhævelse?

Eller er det tilfældigt at trampe på vores privatliv og vores uskyldsformodning ved ulovligt at indsamle biometriske data og kommercialisere dem til efterforskningsformål uden samtykke (og tilsyneladende uden begrænsning)?

Fortæl os det i kommentarerne nedenfor ... du kan forblive anonym.

---