Clearview AI-service voor beeldschrapende gezichtsherkenning krijgt boete van € 20 miljoen in Frankrijk

De Clearview AI-saga gaat verder!

Als je nog nooit van dit bedrijf hebt gehoord, is hier een heel: duidelijke en beknopte samenvatting van de Franse privacytoezichthouder CNIL (Nationale Commissie voor computers en vrijheden), die zeer handig zijn bevindingen en uitspraken heeft gepubliceerd in dit langlopende verhaal in zowel het Frans als het Engels:

Clearview AI verzamelt foto's van veel websites, waaronder sociale media. Het verzamelt alle foto's die direct toegankelijk zijn op deze netwerken (dwz die kunnen worden bekeken zonder in te loggen op een account). Afbeeldingen worden ook geëxtraheerd uit video's die online beschikbaar zijn op alle platforms.

Zo heeft het bedrijf wereldwijd meer dan 20 miljard afbeeldingen verzameld.

Dankzij deze collectie vermarkt het bedrijf de toegang tot zijn beeldbank in de vorm van een zoekmachine waarin een persoon kan worden gezocht aan de hand van een foto. Het bedrijf biedt deze dienst aan rechtshandhavingsinstanties om daders of slachtoffers van misdrijven te identificeren.

Gezichtsherkenningstechnologie wordt gebruikt om de zoekmachine te doorzoeken en een persoon te vinden op basis van hun foto. Om dit te doen, bouwt het bedrijf een 'biometrische sjabloon', dat wil zeggen een digitale weergave van de fysieke kenmerken van een persoon (in dit geval het gezicht). Deze biometrische gegevens zijn bijzonder gevoelig, vooral omdat ze gekoppeld zijn aan onze fysieke identiteit (wat we zijn) en ons in staat stellen ons op een unieke manier te identificeren.

De overgrote meerderheid van de mensen van wie de afbeeldingen in de zoekmachine worden verzameld, is zich niet bewust van deze functie.

Clearview AI heeft de afgelopen jaren op verschillende manieren de woede gewekt van bedrijven, privacyorganisaties en regelgevers, waaronder geraakt worden door:

• Klachten en collectieve rechtszaken ingediend in Illinois, Vermont, New York en Californië.
• Een juridische uitdaging van het American Civil Liberties Union (ACLU).
• Bestellingen stopzetten van Facebook, Google en YouTube, die vonden dat Clearview's schrapende activiteiten hun voorwaarden hebben geschonden.
• Hardhandig optreden en boetes in Australië en het VK.
• Een uitspraak waarbij de werking ervan onwettig wordt verklaard in 2021, door de bovengenoemde Fransen regelaar.

Geen legitiem belang

In december 2021 verklaarde de CNIL: vrij bot, dat:

[Dit] bedrijf verkrijgt geen toestemming van de betrokken personen om hun foto's te verzamelen en te gebruiken om haar software te leveren.

Clearview AI heeft ook geen legitiem belang bij het verzamelen en gebruiken van deze gegevens, met name gezien het indringende en massale karakter van het proces, dat het mogelijk maakt om de afbeeldingen op internet van enkele tientallen miljoenen internetgebruikers in Frankrijk op te halen. Deze mensen, wiens foto's of video's toegankelijk zijn op verschillende websites, waaronder sociale media, verwachten redelijkerwijs niet dat hun afbeeldingen door het bedrijf worden verwerkt om een ​​gezichtsherkenningssysteem te leveren dat door staten zou kunnen worden gebruikt voor wetshandhavingsdoeleinden.

De ernst van deze inbreuk bracht de CNIL-voorzitter ertoe om Clearview AI te gelasten om bij gebrek aan een wettelijke basis te stoppen met het verzamelen en gebruiken van gegevens van mensen op Frans grondgebied, in het kader van de werking van de gezichtsherkenningssoftware die het op de markt brengt.

Verder was de CNIL van mening dat Clearview AI niet veel leek te geven om de naleving van de Europese regels voor het verzamelen en verwerken van persoonsgegevens:

De door de CNIL ontvangen klachten brachten de moeilijkheden aan het licht die klagers ondervonden bij het uitoefenen van hun rechten met Clearview AI.

Enerzijds vergemakkelijkt het bedrijf de uitoefening van het recht op toegang van de betrokkene niet:

• door de uitoefening van dit recht te beperken tot gegevens die zijn verzameld gedurende de twaalf maanden voorafgaand aan het verzoek;
• door de uitoefening van dit recht te beperken tot tweemaal per jaar, zonder rechtvaardiging;
• door pas op bepaalde verzoeken te reageren na een buitensporig aantal verzoeken van dezelfde persoon.

Aan de andere kant reageert het bedrijf niet effectief op verzoeken om toegang en verwijdering. Het geeft gedeeltelijke antwoorden of reageert helemaal niet op verzoeken.

De CNIL publiceerde zelfs een infographic die haar beslissing en besluitvormingsproces samenvat:

De Australische en Britse Information Commissioners kwamen tot vergelijkbare conclusies, met vergelijkbare resultaten voor Clearview AI: het schrapen van uw gegevens is illegaal in onze rechtsgebieden; je moet stoppen het hier te doen.

Echter, zoals we in mei 2022 al zeiden, toen het VK meldde dat het Clearview AI zou beboeten ongeveer £ 7,500,000 (naar beneden van de £17m boete eerst voorgesteld) en het bedrijf opdracht te geven geen gegevens meer te verzamelen over Britse ingezetenen, “hoe dit zal worden gecontroleerd, laat staan ​​gehandhaafd, is onduidelijk.”

We gaan misschien ontdekken hoe het bedrijf in de toekomst zal worden gecontroleerd, met CNIL geduld verliezen met Clearview AI voor het niet naleven van zijn uitspraak om te stoppen met het verzamelen van biometrische gegevens van Fransen...

…en een boete van € 20,000,000 aankondigen:

Na een ingebrekestelling die ongeadresseerd bleef, legde de CNIL een boete op van 20 miljoen euro en beval CLEARVIEW AI om te stoppen met het verzamelen en gebruiken van gegevens over personen in Frankrijk zonder wettelijke basis en om de reeds verzamelde gegevens te verwijderen.

Wat nu?

Zoals we eerder hebben geschreven, lijkt Clearview AI niet alleen blij te zijn met het negeren van regelgevende uitspraken die ertegen zijn uitgevaardigd, maar ook om te verwachten dat mensen er tegelijkertijd medelijden mee hebben, en inderdaad aan zijn kant staan ​​om te geven wat het denkt is een essentiële dienst aan de samenleving.

In de uitspraak in het Verenigd Koninkrijk, waar de regelgever een soortgelijke houding aannam als CNIL in Frankrijk, werd het bedrijf verteld dat zijn gedrag onwettig en ongewenst was en onmiddellijk moest stoppen.

Maar de toenmalige rapporten suggereerden dat Clearview-CEO Hoan Ton-That verre van enige nederigheid te tonen met een: openingssentiment dat zou niet misstaan ​​in een tragisch liefdeslied:

Het breekt mijn hart dat Clearview AI niet heeft kunnen helpen bij het ontvangen van dringende verzoeken van Britse wetshandhavingsinstanties die deze technologie willen gebruiken om gevallen van ernstig seksueel misbruik van kinderen in het VK te onderzoeken.

Zoals we in mei 2022 suggereerden, kan het bedrijf zijn overvloedige tegenstanders vinden die antwoorden met hun eigen songteksten:

Roep me een rivier. (Doe niet alsof je het niet weet.)

Wat denk je?

Biedt Clearview AI echt een nuttige en sociaal aanvaardbare dienst aan wetshandhavers?

Of vertrapt het terloops onze privacy en ons vermoeden van onschuld door onwettig biometrische gegevens te verzamelen en te commercialiseren voor onderzoeksdoeleinden zonder toestemming (en blijkbaar zonder limiet)?

Laat het ons weten in de reacties hieronder ... je mag anoniem blijven.

---