Η υπηρεσία αναγνώρισης προσώπου Clearview AI τεχνητής νοημοσύνης χτύπησε πρόστιμο 20 εκατομμυρίων ευρώ στη Γαλλία

Το έπος του Clearview AI συνεχίζεται!

Αν δεν έχετε ακούσει για αυτήν την εταιρεία πριν, εδώ είναι πολύ σαφή και συνοπτική ανακεφαλαίωση από τη γαλλική ρυθμιστική αρχή απορρήτου, CNIL (Εθνική Επιτροπή Πληροφορικής και Ελευθεριών), η οποία δημοσιεύει πολύ εύκολα τα ευρήματά της και τις αποφάσεις της σε αυτή τη μακροχρόνια ιστορία τόσο στα γαλλικά όσο και στα αγγλικά:

Το Clearview AI συλλέγει φωτογραφίες από πολλούς ιστότοπους, συμπεριλαμβανομένων των μέσων κοινωνικής δικτύωσης. Συλλέγει όλες τις φωτογραφίες που είναι άμεσα προσβάσιμες σε αυτά τα δίκτυα (δηλαδή που μπορούν να προβληθούν χωρίς να συνδεθείτε σε λογαριασμό). Οι εικόνες εξάγονται επίσης από βίντεο που είναι διαθέσιμα στο διαδίκτυο σε όλες τις πλατφόρμες.

Έτσι, η εταιρεία έχει συγκεντρώσει πάνω από 20 δισεκατομμύρια εικόνες σε όλο τον κόσμο.

Χάρη σε αυτή τη συλλογή, η εταιρεία εμπορεύεται την πρόσβαση στη βάση δεδομένων εικόνων της με τη μορφή μηχανής αναζήτησης στην οποία μπορεί να γίνει αναζήτηση ενός ατόμου χρησιμοποιώντας μια φωτογραφία. Η εταιρεία προσφέρει αυτή την υπηρεσία στις αρχές επιβολής του νόμου προκειμένου να εντοπίσουν δράστες ή θύματα εγκληματικών πράξεων.

Η τεχνολογία αναγνώρισης προσώπου χρησιμοποιείται για να ρωτήσετε τη μηχανή αναζήτησης και να βρείτε ένα άτομο με βάση τη φωτογραφία του. Για να γίνει αυτό, η εταιρεία κατασκευάζει ένα «βιομετρικό πρότυπο», δηλαδή μια ψηφιακή αναπαράσταση των φυσικών χαρακτηριστικών ενός ατόμου (το πρόσωπο σε αυτή την περίπτωση). Αυτά τα βιομετρικά δεδομένα είναι ιδιαίτερα ευαίσθητα, ειδικά επειδή συνδέονται με τη φυσική μας ταυτότητα (αυτό που είμαστε) και μας επιτρέπουν να αναγνωρίσουμε τον εαυτό μας με μοναδικό τρόπο.

Η συντριπτική πλειοψηφία των ανθρώπων των οποίων οι εικόνες συλλέγονται στη μηχανή αναζήτησης δεν γνωρίζουν αυτό το χαρακτηριστικό.

Το Clearview AI έχει προσελκύσει ποικιλοτρόπως την οργή εταιρειών, οργανισμών απορρήτου και ρυθμιστικών αρχών τα τελευταία χρόνια, συμπεριλαμβανομένου του χτυπήματος με:

• Καταγγελίες και ομαδικές αγωγές κατατεθεί στο Ιλινόις, στο Βερμόντ, στη Νέα Υόρκη και στην Καλιφόρνια.
• Μια νομική πρόκληση από το Αμερικανική Ένωση Πολιτικών Ελευθεριών (ACLU).
• Διαταγές παύσης και διακοπής από το Facebook, την Google και το YouTube, οι οποίοι θεώρησαν ότι το Clearview δραστηριότητες απόξεσης παραβίασε τους όρους και τις προϋποθέσεις τους.
• Δράση καταστολής και πρόστιμα in Αυστραλία και Ηνωμένο Βασίλειο.
• Απόφαση που κρίνει τη λειτουργία του παράνομη το 2021, από τους προαναφερθέντες Γάλλους ρυθμιστής.

Κανένα έννομο συμφέρον

Τον Δεκέμβριο του 2021, η CNIL δήλωσε, αρκετά ωμά, ότι:

[T]αυτή η εταιρεία δεν λαμβάνει τη συγκατάθεση των ενδιαφερομένων για τη συλλογή και χρήση των φωτογραφιών τους για την παροχή του λογισμικού της.

Η Clearview AI δεν έχει ούτε έννομο συμφέρον να συλλέγει και να χρησιμοποιεί αυτά τα δεδομένα, ιδιαίτερα δεδομένης της παρεμβατικής και μαζικής φύσης της διαδικασίας, η οποία καθιστά δυνατή την ανάκτηση των εικόνων που υπάρχουν στο Διαδίκτυο πολλών δεκάδων εκατομμυρίων χρηστών του Διαδικτύου στη Γαλλία. Αυτά τα άτομα, των οποίων οι φωτογραφίες ή τα βίντεο είναι προσβάσιμα σε διάφορους ιστότοπους, συμπεριλαμβανομένων των μέσων κοινωνικής δικτύωσης, δεν αναμένουν εύλογα ότι οι εικόνες τους θα υποστούν επεξεργασία από την εταιρεία για την παροχή ενός συστήματος αναγνώρισης προσώπου που θα μπορούσε να χρησιμοποιηθεί από τα κράτη για σκοπούς επιβολής του νόμου.

Η σοβαρότητα αυτής της παραβίασης οδήγησε την προεδρία του CNIL να διατάξει το Clearview AI να σταματήσει, λόγω έλλειψης νομικής βάσης, τη συλλογή και χρήση δεδομένων από άτομα στη γαλλική επικράτεια, στο πλαίσιο της λειτουργίας του λογισμικού αναγνώρισης προσώπου που εμπορεύεται.

Επιπλέον, η CNIL διατύπωσε την άποψη ότι το Clearview AI δεν φαινόταν να ενδιαφέρεται πολύ για τη συμμόρφωση με τους ευρωπαϊκούς κανόνες σχετικά με τη συλλογή και το χειρισμό προσωπικών δεδομένων:

Οι καταγγελίες που έλαβε το CNIL αποκάλυψαν τις δυσκολίες που αντιμετώπισαν οι καταγγέλλοντες κατά την άσκηση των δικαιωμάτων τους με το Clearview AI.

Αφενός, η εταιρεία δεν διευκολύνει την άσκηση του δικαιώματος πρόσβασης του υποκειμένου των δεδομένων:

• περιορίζοντας την άσκηση αυτού του δικαιώματος σε δεδομένα που συλλέγονται κατά τους δώδεκα μήνες που προηγούνται της αίτησης·
• περιορίζοντας την άσκηση αυτού του δικαιώματος σε δύο φορές το χρόνο, χωρίς αιτιολόγηση·
• απαντώντας μόνο σε ορισμένα αιτήματα μετά από υπερβολικό αριθμό αιτημάτων από το ίδιο άτομο.

Από την άλλη πλευρά, η εταιρεία δεν ανταποκρίνεται αποτελεσματικά στα αιτήματα για πρόσβαση και διαγραφή. Παρέχει μερικές απαντήσεις ή δεν ανταποκρίνεται καθόλου σε αιτήματα.

Το CNIL δημοσίευσε μάλιστα ένα infographic που συνοψίζει την απόφασή του και τη διαδικασία λήψης αποφάσεων:

Οι Επίτροποι Πληροφοριών της Αυστραλίας και του Ηνωμένου Βασιλείου κατέληξαν σε παρόμοια συμπεράσματα, με παρόμοια αποτελέσματα για το Clearview AI: η απόξεση των δεδομένων σας είναι παράνομη στις δικαιοδοσίες μας. πρέπει να σταματήσετε να το κάνετε εδώ.

Ωστόσο, όπως είπαμε τον Μάιο του 2022, όταν το Ηνωμένο Βασίλειο ανέφερε ότι θα επιβάλει πρόστιμο στο Clearview AI περίπου 7,500,000 £ (κάτω από το Πρώτα προτάθηκε πρόστιμο 17 εκατομμυρίων λιρών) και διατάσσοντας την εταιρεία να μην συλλέγει πλέον δεδομένα για κατοίκους του Ηνωμένου Βασιλείου, «Το πώς αυτό θα αστυνομευθεί, πόσο μάλλον θα επιβληθεί, είναι ασαφές».

Ίσως είμαστε έτοιμοι να βρούμε πώς θα αστυνομεύεται η εταιρεία στο μέλλον, με την CNIL χάνοντας την υπομονή με την Clearview AI επειδή δεν συμμορφώθηκε με την απόφασή της να σταματήσει τη συλλογή βιομετρικών δεδομένων Γάλλων…

…και ανακοινώνει πρόστιμο 20,000,000 €:

Μετά από επίσημη ειδοποίηση που παρέμεινε αδιευκρίνιστη, το CNIL επέβαλε πρόστιμο 20 εκατομμυρίων ευρώ και διέταξε την CLEARVIEW AI να σταματήσει να συλλέγει και να χρησιμοποιεί δεδομένα για άτομα στη Γαλλία χωρίς νομική βάση και να διαγράψει τα δεδομένα που έχουν ήδη συλλεχθεί.

Ποιο είναι το επόμενο?

Όπως έχουμε γράψει προηγουμένως, η Clearview AI φαίνεται όχι μόνο να χαίρεται να αγνοεί τις ρυθμιστικές αποφάσεις που εκδίδονται εναντίον της, αλλά και να περιμένει από τους ανθρώπους να τη λυπούνται την ίδια στιγμή και πράγματι να είναι στο πλευρό της για να παρέχει αυτό που πιστεύει είναι μια υπηρεσία ζωτικής σημασίας για την κοινωνία.

Στην απόφαση του Ηνωμένου Βασιλείου, όπου η ρυθμιστική αρχή υιοθέτησε παρόμοια στάση με την CNIL στη Γαλλία, η εταιρεία ενημερώθηκε ότι η συμπεριφορά της ήταν παράνομη, ανεπιθύμητη και πρέπει να σταματήσει αμέσως.

Αλλά οι εκθέσεις εκείνης της εποχής έδειχναν ότι ο Διευθύνων Σύμβουλος της Clearview, Hoan Ton-That, πέρα ​​από το να δείχνει ταπεινότητα, αντέδρασε με μια ανοιχτό συναίσθημα που δεν θα ήταν άτοπο σε ένα τραγικό ερωτικό τραγούδι:

Μου ραγίζει η καρδιά που το Clearview AI δεν μπόρεσε να βοηθήσει όταν λαμβάνει επείγοντα αιτήματα από υπηρεσίες επιβολής του νόμου του Ηνωμένου Βασιλείου που επιδιώκουν να χρησιμοποιήσουν αυτήν την τεχνολογία για τη διερεύνηση περιπτώσεων σοβαρής σεξουαλικής κακοποίησης παιδιών στο ΗΒ.

Όπως προτείναμε τον Μάιο του 2022, η εταιρεία μπορεί να βρει τους πολλούς αντιπάλους της να απαντούν με δικούς τους στίχους τραγουδιών:

Κλάψε μου ένα ποτάμι. (Μην συμπεριφέρεστε σαν να μην το γνωρίζετε.)

Ποια είναι η γνώμη σας;

Το Clearview AI παρέχει πραγματικά μια ευεργετική και κοινωνικά αποδεκτή υπηρεσία στις αρχές επιβολής του νόμου;

Ή μήπως καταπατά επιπόλαια το απόρρητό μας και το τεκμήριο αθωότητάς μας συλλέγοντας παράνομα βιομετρικά δεδομένα και εμπορευματοποιώντας τα για ερευνητικούς σκοπούς παρακολούθησης χωρίς συγκατάθεση (και, προφανώς, χωρίς όριο);

Ενημερώστε μας στα σχόλια παρακάτω… μπορεί να παραμείνετε ανώνυμοι.

---