Clearview AI -kuvia kaapiva kasvojentunnistuspalvelu sai 20 miljoonan euron sakon Ranskassa

Clearview AI -saaga jatkuu!

Jos et ole kuullut tästä yrityksestä ennen, tässä on erittäin selkeä ja ytimekäs yhteenveto Ranskan tietosuojaviranomaiselta CNIL (Kansallinen tietojenkäsittely- ja vapauskomissio), joka on erittäin kätevästi julkaissut havaintonsa ja tuomionsa tässä pitkään jatkuneessa tarinassa sekä ranskaksi että englanniksi:

Clearview AI kerää valokuvia monilta verkkosivustoilta, mukaan lukien sosiaalinen media. Se kerää kaikki valokuvat, jotka ovat suoraan saatavilla näissä verkoissa (eli joita voidaan katsella ilman kirjautumista tilille). Kuvia on myös poimittu videoista, jotka ovat saatavilla verkossa kaikilla alustoilla.

Näin ollen yritys on kerännyt yli 20 miljardia kuvaa maailmanlaajuisesti.

Tämän kokoelman ansiosta yritys markkinoi pääsyä kuvatietokantaansa hakukoneen muodossa, jossa henkilöä voidaan etsiä valokuvan avulla. Yritys tarjoaa tätä palvelua lainvalvontaviranomaisille rikosten tekijöiden tai uhrien tunnistamiseksi.

Kasvojentunnistustekniikkaa käytetään kyselyjen tekemiseen hakukoneeseen ja henkilön löytämiseen hänen valokuvansa perusteella. Tätä varten yritys rakentaa "biometrisen mallin", eli digitaalisen esityksen henkilön fyysisistä ominaisuuksista (tässä tapauksessa kasvoista). Nämä biometriset tiedot ovat erityisen arkaluonteisia, varsinkin koska ne liittyvät fyysiseen identiteettiimme (mitä olemme) ja niiden avulla voimme tunnistaa itsemme ainutlaatuisella tavalla.

Suurin osa ihmisistä, joiden kuvat kerätään hakukoneeseen, eivät ole tietoisia tästä ominaisuudesta.

Clearview AI on herättänyt useiden yritysten, tietosuojaorganisaatioiden ja sääntelijöiden vihaa muutaman viime vuoden aikana, mukaan lukien:

• Valitukset ja ryhmäkanteet jätetty Illinoisissa, Vermontissa, New Yorkissa ja Kaliforniassa.
• Oikeudellinen haaste mistä American Civil Liberties Union (ACLU).
• Lopeta ja lopeta tilaukset Facebookilta, Googlelta ja YouTubelta, jotka pitivät sitä Clearview'n kaavinta toimintaa rikkoivat ehtojaan.
• Torjuntatoimet ja sakot in Australia ja Iso-Britannia.
• Päätös, jonka mukaan sen toiminta on laitonta vuonna 2021 edellä mainittujen ranskalaisten toimesta säädin.

Ei oikeutettua etua

Joulukuussa 2021 CNIL ilmoitti, aika ytimekkäästi, että:

[T] tämä yritys ei saa asianomaisten henkilöiden suostumusta kerätä ja käyttää heidän valokuviaan ohjelmistonsa toimittamiseen.

Clearview AI:llä ei myöskään ole oikeutettua intressiä kerätä ja käyttää näitä tietoja, varsinkin kun otetaan huomioon prosessin tunkeileva ja massiivinen luonne, joka mahdollistaa useiden kymmenien miljoonien ranskalaisten Internetin käyttäjien Internetissä olevien kuvien hakemisen. Nämä ihmiset, joiden valokuvat tai videot ovat saatavilla useilla verkkosivustoilla, mukaan lukien sosiaalinen media, eivät kohtuudella odota, että yritys käsittelee heidän kuviaan kasvojentunnistusjärjestelmän, jota valtiot voisivat käyttää lainvalvontatarkoituksiin.

Tämän rikkomuksen vakavuus johti siihen, että CNIL:n puheenjohtaja määräsi Clearview AI:n lopettamaan laillisen perustan puuttuessa tietojen keräämisen ja käytön Ranskan alueella asuvilta ihmisiltä markkinoimansa kasvojentunnistusohjelmiston toiminnan yhteydessä.

Lisäksi CNIL muodosti mielipiteen, että Clearview AI ei näyttänyt paljoa välittävän henkilötietojen keräämistä ja käsittelyä koskevien eurooppalaisten sääntöjen noudattamisesta:

CNIL:n vastaanottamat valitukset paljastivat vaikeudet, joita kantelijat kohtasivat käyttäessään oikeuksiaan Clearview AI:n kanssa.

Yhtäältä yritys ei helpota rekisteröidyn tiedonsaantioikeuden käyttöä:

• rajoittamalla tämän oikeuden käyttöä pyyntöä edeltäneiden kahdentoista kuukauden aikana kerättyihin tietoihin;
• rajoittamalla tämän oikeuden käyttöä kahdesti vuodessa ilman perusteita;
• vastaamalla vain tiettyihin pyyntöihin sen jälkeen, kun sama henkilö on tehnyt liian suuren määrän pyyntöjä.

Toisaalta yritys ei vastaa tehokkaasti pääsy- ja poistopyyntöihin. Se antaa osittaisia ​​vastauksia tai ei vastaa lainkaan pyyntöihin.

CNIL julkaisi jopa infografian, joka tekee yhteenvedon sen päätöksestä ja päätöksentekoprosessista:

Australian ja Yhdistyneen kuningaskunnan tietokomissaarit tulivat samanlaisiin päätelmiin, ja Clearview AI:n osalta samat tulokset: tietosi kaapiminen on laitonta lainkäyttöalueillamme; sinun on lopetettava se täällä.

Kuitenkin, kuten totesimme toukokuussa 2022, kun Yhdistynyt kuningaskunta ilmoitti sakottavansa Clearview AI:ta. noin 7,500,000 puntaa (alas Ensin ehdotettiin 17 miljoonan punnan sakkoa) ja määräsi yrityksen olemaan keräämättä enää tietoja Yhdistyneen kuningaskunnan redidenteistä, "On epäselvää, kuinka tätä valvotaan, saati sitten pannaan täytäntöön."

Saatamme saada selville, kuinka yritystä valvotaan tulevaisuudessa CNIL:n kanssa menettämässä kärsivällisyyttä Clearview AI:n kanssa, koska se ei noudattanut sen päätöstä lopettaa ranskalaisten biometristen tietojen kerääminen…

…ja 20,000,000 XNUMX XNUMX euron sakon määrääminen:

Virallisen huomautuksen jälkeen, jota ei ollut käsitelty, CNIL määräsi 20 miljoonan euron sakon ja määräsi CLEARVIEW AI:n lopettamaan henkilötietojen keräämisen ja käytön Ranskassa ilman laillista perustetta ja poistamaan jo kerätyt tiedot.

Mitä seuraavaksi?

Kuten olemme aiemmin kirjoittaneet, Clearview AI ei vain näytä olevan iloinen voidessaan jättää huomioimatta sitä vastaan ​​annetut säädökset, vaan myös odottavan ihmisten säälivän sitä samaan aikaan ja olevan sen puolella, kun se antaa mielipiteensä. on tärkeä palvelu yhteiskunnalle.

Yhdistyneen kuningaskunnan päätöksessä, jossa sääntelijä otti samanlaisen linjan kuin CNIL Ranskassa, yhtiölle kerrottiin, että sen toiminta oli laitonta, ei-toivottua ja että sen on lopetettava välittömästi.

Mutta tuolloisten raporttien mukaan Clearviewin toimitusjohtaja Hoan Ton-That ei osoittanut minkäänlaista nöyryyttä. avaustunnelmaa se ei olisi sopimatonta traagisessa rakkauslaulussa:

Sydämeni särkee, ettei Clearview AI ole pystynyt auttamaan vastaanottaessaan kiireellisiä pyyntöjä Yhdistyneen kuningaskunnan lainvalvontaviranomaisilta, jotka haluavat käyttää tätä tekniikkaa lasten vakavan seksuaalisen hyväksikäytön tapausten tutkimiseen Yhdistyneessä kuningaskunnassa.

Kuten ehdotimme jo toukokuussa 2022, yritys saattaa löytää lukuisat vastustajansa vastaamassa omilla laulujen sanoillaan:

Itke minulle joki. (Älä käyttäydy niin kuin et tietäisi sitä.)

Mitä mieltä olet?

Onko Clearview AI todella hyödyllinen ja sosiaalisesti hyväksyttävä palvelu lainvalvontaviranomaisille?

Vai polkeeko se satunnaisesti yksityisyyttämme ja syyttömyysolettamaamme keräämällä biometrisiä tietoja laittomasti ja kaupallistamalla niitä tutkintatarkoituksiin ilman lupaa (ja ilmeisesti rajoituksetta)?

Kerro meille alla olevissa kommenteissa… saatat pysyä nimettömänä.

---