Clearview AI bildskrapande ansiktsigenkänningstjänst fick böter på 20 miljoner euro i Frankrike

Clearview AI-sagan fortsätter!

Om du inte har hört talas om detta företag tidigare, här är en mycket tydlig och kortfattad sammanfattning från den franska integritetstillsynsmyndigheten, CNIL (Nationella kommissionen för databehandling och friheter), som mycket praktiskt har publicerat sina resultat och avgöranden i denna långvariga berättelse på både franska och engelska:

Clearview AI samlar in fotografier från många webbplatser, inklusive sociala medier. Den samlar alla fotografier som är direkt tillgängliga på dessa nätverk (dvs som kan ses utan att logga in på ett konto). Bilder extraheras också från videor tillgängliga online på alla plattformar.

Således har företaget samlat in över 20 miljarder bilder världen över.

Tack vare denna samling marknadsför företaget tillgång till sin bilddatabas i form av en sökmotor där en person kan sökas med hjälp av ett fotografi. Företaget erbjuder denna tjänst till brottsbekämpande myndigheter för att identifiera förövare eller brottsoffer.

Ansiktsigenkänningsteknik används för att söka i sökmotorn och hitta en person baserat på deras fotografi. För att göra det bygger företaget en ”biometrisk mall”, det vill säga en digital representation av en persons fysiska egenskaper (ansiktet i detta fall). Dessa biometriska data är särskilt känsliga, särskilt för att de är kopplade till vår fysiska identitet (vad vi är) och gör att vi kan identifiera oss på ett unikt sätt.

De allra flesta människor vars bilder samlas in i sökmotorn är omedvetna om denna funktion.

Clearview AI har på olika sätt lockat till sig irritation hos företag, integritetsorganisationer och tillsynsmyndigheter under de senaste åren, inklusive att drabbas av:

• Klagomål och grupptalan in i Illinois, Vermont, New York och Kalifornien.
• En juridisk utmaning från American Civil Liberties Union (ACLU).
• Upphöra och avstå order från Facebook, Google och YouTube, som ansåg att Clearviews skrapningsaktiviteter brutit mot deras villkor.
• Tillslagsåtgärder och böter in Australien och Storbritannien.
• En dom som anser att dess verksamhet är olaglig 2021, av ovannämnda fransmän regulator.

Inget berättigat intresse

I december 2021 uttalade CNIL, ganska rakt på sak, det där:

[Detta företag erhåller inte de berörda personernas medgivande att samla in och använda deras fotografier för att tillhandahålla dess programvara.

Clearview AI har inte heller ett legitimt intresse av att samla in och använda denna data, särskilt med tanke på processens påträngande och massiva karaktär, som gör det möjligt att hämta bilder som finns på Internet av flera tiotals miljoner internetanvändare i Frankrike. Dessa personer, vars fotografier eller videor är tillgängliga på olika webbplatser, inklusive sociala medier, förväntar sig inte rimligen att deras bilder ska bearbetas av företaget för att tillhandahålla ett ansiktsigenkänningssystem som kan användas av stater för brottsbekämpande ändamål.

Allvaret i detta brott ledde till att CNIL-ordföranden beordrade Clearview AI att, i brist på rättslig grund, upphöra med insamlingen och användningen av data från personer på franskt territorium, i samband med driften av mjukvaran för ansiktsigenkänning som den marknadsför.

Dessutom bildade CNIL uppfattningen att Clearview AI inte verkade bry sig särskilt mycket om att följa europeiska regler för insamling och hantering av personuppgifter:

De klagomål som mottagits av CNIL avslöjade de svårigheter som klagande stöter på när de utövar sina rättigheter med Clearview AI.

Å ena sidan underlättar företaget inte utövandet av den registrerades rätt till tillgång:

• genom att begränsa utövandet av denna rätt till uppgifter som samlats in under de tolv månaderna före begäran;
• genom att begränsa utövandet av denna rätt till två gånger per år, utan motivering;
• genom att endast svara på vissa förfrågningar efter ett alltför stort antal förfrågningar från samma person.

Å andra sidan svarar företaget inte effektivt på förfrågningar om åtkomst och radering. Den ger partiella svar eller svarar inte alls på förfrågningar.

CNIL publicerade till och med en infografik som sammanfattar dess beslut och dess beslutsprocess:

De australiensiska och brittiska informationskommissionärerna kom till liknande slutsatser, med liknande resultat för Clearview AI: din dataskrapning är olaglig i våra jurisdiktioner; du måste sluta göra det här.

Men som vi sa redan i maj 2022, när Storbritannien rapporterade att de skulle bötfälla Clearview AI cirka 7,500,000 pund (ner från 17 miljoner pund i böter föreslog först) och beordrar företaget att inte längre samla in data om brittiska redidenter, "hur detta kommer att poliseras, än mindre verkställas, är oklart."

Vi kanske är på väg att ta reda på hur företaget kommer att övervakas i framtiden, med CNIL tappar tålamodet med Clearview AI för att inte följa dess beslut att sluta samla in biometriska data från fransmän...

…och meddela böter på 20,000,000 XNUMX XNUMX €:

Efter ett formellt meddelande som förblev oadresserat, utdömde CNIL en straffavgift på 20 miljoner euro och beordrade CLEARVIEW AI att sluta samla in och använda uppgifter om individer i Frankrike utan laglig grund och att radera de uppgifter som redan samlats in.

Vad nästa?

Som vi har skrivit tidigare verkar Clearview AI inte bara vara glad över att ignorera regulatoriska beslut som utfärdats mot den, utan också förvänta sig att folk ska tycka synd om det samtidigt, och faktiskt vara på sin sida för att tillhandahålla vad den tycker är en livsviktig tjänst för samhället.

I den brittiska domen, där tillsynsmyndigheten intog en liknande linje som CNIL i Frankrike, fick företaget veta att dess beteende var olagligt, oönskat och måste upphöra omedelbart.

Men rapporter vid den tiden antydde att Clearviews vd Hoan Ton-That långt ifrån visade någon ödmjukhet, reagerade med en öppningskänsla det skulle inte vara malplacerat i en tragisk kärlekssång:

Det krossar mitt hjärta att Clearview AI inte har kunnat hjälpa till när de tar emot brådskande förfrågningar från brittiska brottsbekämpande myndigheter som vill använda denna teknik för att utreda fall av allvarliga sexuella övergrepp mot barn i Storbritannien.

Som vi föreslog redan i maj 2022, kan företaget hitta sina många motståndare som svarar med sina egna sångtexter:

Gråt mig en flod. (Bete dig inte som om du inte vet det.)

Vad tror du?

Tillhandahåller Clearview AI verkligen en fördelaktig och socialt acceptabel tjänst till brottsbekämpande myndigheter?

Eller trampar det slentrianmässigt på vår integritet och vår oskuldspresumtion genom att samla in biometrisk data olagligt, och kommersialisera den i utredningssyfte utan samtycke (och, uppenbarligen, utan begränsning)?

Låt oss veta i kommentarerna nedan ... du kan förbli anonym.

---