Η Κίνα θα εισαγάγει νόμους για την αντιμετώπιση των Deepfakes τον Ιανουάριο του PlatoBlockchain Data Intelligence. Κάθετη αναζήτηση. Ολα συμπεριλαμβάνονται.

Η Κίνα θα εισαγάγει νόμους για την αντιμετώπιση των Deepfakes τον Ιανουάριο

Χρονική σήμανση: 24 Δεκεμβρίου 2022 5:45 π.μ.

Αν ήσασταν στα μέσα κοινωνικής δικτύωσης αυτή την εβδομάδα, πιθανότατα έχετε συναντήσει φωτογραφίες με εικόνες φίλων σας που δημιουργούνται από AI ως νεράιδες, χαρακτήρες animé, avatars και μαγικά όντα.

Αυτό οφείλεται εν μέρει στο Lensa, ένα AI που συνθέτει ψηφιακά πορτρέτα με βάση τις φωτογραφίες που ανεβάζουν οι χρήστες. Τα πορτρέτα της εφαρμογής κατέκτησαν ουσιαστικά το διαδίκτυο, με τη Lensa να γίνεται η εφαρμογή με τις περισσότερες λήψεις στο κατάστημα εφαρμογών της Apple.

Η Lensa, όπως όλες οι εφαρμογές τεχνητής νοημοσύνης που αποδίδουν ψηφιακά εικόνες έχει προκαλέσει θαυμασμό και διαμάχη για την φαινομενικά κραυγαλέα σεξουαλοποίηση των γυναικείων εικόνων. Άλλοι χρήστες σημείωσαν ότι η εφαρμογή έκανε το δέρμα τους πιο χλωμό ή το σώμα τους πιο λεπτό.

Διαβάστε επίσης: Τεχνολογία τεχνητής νοημοσύνης που δημιουργεί απίστευτες ψεύτικες εικόνες

Πώς να αποκτήσετε το δικό σας "μαγικό avatar"

Οι εικόνες που κάνουν τον γύρο είναι μια περήφανη δημιουργία της λειτουργίας μαγικών avatars της Lensa. Για να το αντιληφθεί κανείς, πρέπει να κατεβάσει την εφαρμογή Lensa σε ένα τηλέφωνο. Μια ετήσια συνδρομή είναι περίπου 35.99 $, αλλά οι υπηρεσίες του είναι επίσης διαθέσιμες, αν και με περιορισμούς δωρεάν σε μια εβδομαδιαία δοκιμή, αν κάποιος θέλει να το ελέγξει πρώτα.

Ωστόσο, η δημιουργία των δημοφιλών μαγικών avatar απαιτεί μια πρόσθετη χρέωση λόγω αυτού που λέει η εφαρμογή ότι είναι «τεράστια υπολογιστική ισχύς» για να επιτευχθεί.

Σε μια δωρεάν δοκιμή, μπορεί κανείς να πάρει 50 avatars για 3.99 $ και 200 ​​avatars για 7.99 $. Για να έχετε τα καλύτερα αποτελέσματα, η εφαρμογή ενθαρρύνει τους χρήστες να ανεβάσουν τουλάχιστον 20 κοντινές εικόνες.

Στην ιδανική περίπτωση, αυτές οι εικόνες θα πρέπει να είναι κοντινές λήψεις του προσώπου κάποιου με μια σειρά από ανόμοια φόντο, εκφράσεις προσώπου και γωνίες. Η εφαρμογή επιμένει ότι οι χρήστες πρέπει να είναι 13 ετών και άνω. Το Lensa δεν είναι μια εντελώς νέα εφαρμογή.

Προϊόν της Prisma, η εφαρμογή έγινε δημοφιλής για πρώτη φορά το 2016 χάρη σε μια λειτουργία που επέτρεπε στους χρήστες να αλλάζουν τις selfies τους σε φωτογραφίες στο στυλ διάσημων καλλιτεχνών.

Πώς λειτουργεί το Lensa;

Σύμφωνα με την εταιρεία, χρησιμοποιεί αυτό που αποκαλεί «τεχνολογία TrueDepth API», όπου ένας χρήστης παρέχει φωτογραφίες ή «δεδομένα προσώπου», και στη συνέχεια η τεχνητή νοημοσύνη εκπαιδεύεται στους αλγόριθμους της για να αποδίδει καλύτερα και να σας δείχνει καλύτερα αποτελέσματα. Η εκπαίδευση είναι όταν η τεχνητή νοημοσύνη επεξεργάζεται δεδομένα, επικυρώνει και δοκιμάζει τα μοντέλα.

Για να χρησιμοποιήσετε την εφαρμογή μπορείτε να δημιουργήσετε 20 selfies με ποικίλες εκφράσεις και γωνίες και να επιλέξετε την επιλογή 100 avatar.

Χρειάζονται περίπου 20 λεπτά για να γίνει η δουλειά. Μόλις ολοκληρωθεί, η τεχνητή νοημοσύνη επιστρέφει avatars που εμπίπτουν σε 10 κατηγορίες, όπως φαντασία, νεράιδα πριγκίπισσα, εστίαση, ποπ, κομψή, animé, ελαφριά, kawaii, ιριδίζουσα και κοσμική.

«Γενικά, ένιωσα ότι η εφαρμογή έκανε μια αξιοπρεπή δουλειά δημιουργώντας καλλιτεχνικές εικόνες με βάση τις selfies μου. Δεν μπορούσα να αναγνωρίσω τον εαυτό μου στα περισσότερα από τα πορτρέτα, αλλά μπορούσα να δω από πού προέρχονταν». Ζωή Σοτίλε έγραψε το CNN.

«Φαινόταν να αναγνωρίζει και να επαναλαμβάνει ορισμένα χαρακτηριστικά, όπως το χλωμό δέρμα μου ή τη στρογγυλή μύτη μου, περισσότερο από άλλα. Μερικά από αυτά ήταν σε πιο ρεαλιστικό στυλ και ήταν αρκετά κοντά, θα μπορούσα να σκεφτώ ότι ήταν στην πραγματικότητα φωτογραφίες μου αν τα έβλεπα από μακριά. Άλλοι ήταν πολύ πιο στυλιζαρισμένοι και καλλιτεχνικοί, έτσι ένιωθαν λιγότερο συγκεκριμένοι για μένα».

Ο Σοτίλε παρατήρησε ότι η τεχνητή νοημοσύνη την έκανε επίσης πιο ανάλαφρη.

Όσο για μένα, ένιωσα επίσης ότι με έκανε αυτόματα πιο ανοιχτόχρωμο και η εικόνα που δοκίμασα στη συλλογή μου με εμένα και έναν φίλο που είναι ελαφρώς πιο σκουρόχρωμο, επέστρεψε μια κάπως πιο ανοιχτόχρωμη εκδοχή μας, σαφώς υπερβολή, και εξέθεσε μια τάση για ανοιχτόχρωμο δέρμα. μαύρους τόνους δέρματος.

Σεξουαλικές γυναίκες

Άλλοι που το χρησιμοποίησαν είχαν λίγο πολύ παρόμοιες ανησυχίες.

Οι γυναίκες λένε ότι η τεχνητή νοημοσύνη σπεύδει να σεξουαλοποιήσει τις εικόνες τους. Αλλά σε προηγούμενο άρθρο, εμείς εξήγησε Αυτό κατέστη δυνατό από τον τεράστιο αριθμό σεξουαλικών εικόνων που βρέθηκαν σε σύνολα δεδομένων που χρησιμοποιούνται στην εκπαίδευση AI.

Με άλλα λόγια, αυτό σημαίνει ότι το AI είναι πολύ εξοικειωμένο με τον τρόπο δημιουργίας αυτών των εικόνων και να γίνεται εύκολα πορνογραφικό. Με λίγο κόλπο, μπορεί να ζητηθεί να παράγει άθελά του πορνό από αυτές τις εικόνες επίσης, εάν το θέλει ένας χρήστης.

Σε άλλες ιστορίες, έχουμε καλύψει πώς το AI:s μπορεί να εξαπατηθεί ώστε να παρέχει πληροφορίες σχετικά με τον τρόπο δημιουργίας ενός βόμβα για παράδειγμα. Περιέργως, το θέμα της σεξουαλοποίησης δεν εμφανίστηκε σε εικόνες ανδρών που ανέβηκαν στη λειτουργία Magic Avatar. Για την επιθεώρηση τεχνολογίας MIT, Melissa Heikkilä Έγραψε,

«Τα άβαταρ μου ήταν πορνογραφικά γελοιογραφικά, ενώ οι άντρες συνάδελφοί μου έγιναν αστροναύτες, εξερευνητές και εφευρέτες».

Ο Σοτίλε, από την άλλη πλευρά, παρατήρησε ότι η τεχνητή νοημοσύνη «σε μια από τις πιο αποπροσανατολιστικές εικόνες» την έκανε να δείχνει «σαν μια εκδοχή του προσώπου μου να ήταν σε γυμνό σώμα».

«Σε πολλές φωτογραφίες, φαινόταν σαν να ήμουν γυμνή, αλλά με μια κουβέρτα τοποθετημένη στρατηγικά ή η εικόνα ήταν απλώς κομμένη για να κρύψει οτιδήποτε ρητό», είπε.

«Και πολλές από τις εικόνες, ακόμη και εκεί που ήμουν πλήρως ντυμένη, περιείχαν μια αποπνικτική έκφραση προσώπου, σημαντικό ντεκολτέ και τσιμπημένα ρούχα που δεν ταίριαζαν με τις φωτογραφίες που είχα υποβάλει», προσθέτει η Zoe Sottile.

Άλλοι εξέφρασαν φόβους ότι θα γίνονταν σταρ πορνό από την τεχνολογία AI όπως η Lensa.

Ντροπή στο σώμα

Για γυναίκες με πλήρες σώμα, η εμπειρία ήταν κάπως διαφορετική και ακόμη χειρότερη σε ορισμένες περιπτώσεις. Το AI τους έκανε πιο αδύνατους και σέξι.

«Για τον Lmfao, εάν έχετε Body Dysmorphia, μην χρησιμοποιήσετε αυτήν την εφαρμογή Lensa για τις φωτογραφίες που δημιουργούνται με AI. Αυτή είναι η προειδοποίησή σας», ένας χρήστης Έγραψε.

Ένας άλλος είπε ότι η εφαρμογή την έκανε να φαίνεται Ασιάτισσα.

Ένας άλλος χρήστης μπήκε στο twitter για να παραπονεθεί ότι είχε πληρώσει 8 δολάρια για να βιώσει σωματική δυσμορφία όταν χρησιμοποιούσε την τεχνητή νοημοσύνη.

Η σωματική δυσμορφία είναι μια κατάσταση ψυχικής υγείας όπου ένα άτομο αφιερώνει πολύ χρόνο ανησυχώντας για ελαττώματα στην εμφάνισή του. Αυτά τα ελαττώματα είναι συχνά απαρατήρητα στους άλλους.

Μια άλλη παραπονέθηκε ότι η τεχνητή νοημοσύνη έριξε αυτόματα σημαντικό βάρος στις κατά τα άλλα ολόσωμες εικόνες της.

«Ένα παράπονο που έχω για το Lensa AI είναι ότι θα σε κάνει αδύνατη σε ορισμένες εικόνες. Ως χοντρό άτομο αυτές οι εικόνες με ενόχλησαν πραγματικά. Προσέξτε λοιπόν να μην πυροδοτηθείτε εάν είστε παχύσαρκη που δεν ενδιαφέρεστε να γίνετε αδύνατη», έγραψε η Mariah Successful (@Shlatz) στις 5 Δεκεμβρίου 2022.

Ψυχολογική ωρολογιακή βόμβα

Και οι ψυχολόγοι συμφωνούν με τις δηλώσεις της ότι η τεχνητή νοημοσύνη θα μπορούσε να ενεργοποιήσει γυναίκες με πλήρη εικόνα.

Ένας κλινικός ψυχολόγος, ο Δρ. Τόνι Πίκοος, ένας Αυστραλός επαγγελματίας ψυχικής υγείας, ο οποίος κάνει έρευνα και ειδικεύεται στη θεραπεία της σωματικής δυσμορφικής διαταραχής, πίστευε ότι η εφαρμογή θα μπορούσε να κάνει περισσότερο κακό παρά καλό και δεν είναι παρά ένα «εργαλείο φιλτραρίσματος φωτογραφιών» για να αλλάξει την αντίληψη του εαυτού του.

«Όταν υπάρχει μεγαλύτερη ασυμφωνία μεταξύ της ιδανικής και της αντιληπτής εμφάνισης, μπορεί να τροφοδοτήσει τη σωματική δυσαρέσκεια, την αγωνία και την επιθυμία να διορθώσει ή να αλλάξει την εμφάνισή του με δυνητικά ανθυγιεινά ή επικίνδυνα μέσα», όπως η διαταραγμένη διατροφή ή οι περιττές αισθητικές επεμβάσεις, λέει ο Pikoos.

Εξέφρασε την ανησυχία της για τις εικόνες που σβήστηκαν « περίπλοκες λεπτομέρειες», όπως «πανάδες και γραμμές», κάτι που θα μπορούσε να εντείνει τις ανησυχίες για το δέρμα κάποιου. Αυτό θα μπορούσε επίσης να προκαλέσει ψυχολογικά ένα ευάλωτο άτομο, λέει.

«Το να βλέπεις μια εξωτερική εικόνα να αντικατοπτρίζει την ανασφάλειά τους, απλώς ενισχύει την ιδέα «Κοιτάξτε, αυτό είναι λάθος με εμένα! Και δεν είμαι ο μόνος που το βλέπω!» λέει ο Πίκος.

Λόγω του γεγονότος ότι το AI εισάγει τα δικά του χαρακτηριστικά που δεν απεικονίζουν την πραγματική εμφάνιση ενός χρήστη, η εφαρμογή θα μπορούσε να δημιουργήσει νέες ανησυχίες, λέει.

Λέει ότι τα «μαγικά είδωλα» της τεχνητής νοημοσύνης ήταν «ιδιαίτερα ενδιαφέροντα γιατί φαίνεται πιο αντικειμενικό – σαν κάποιο εξωτερικό ον που γνωρίζει τα πάντα να έχει δημιουργήσει αυτή την εικόνα του πώς μοιάζετε».

Αυτό, πιστεύει ότι θα ήταν πραγματικά «χρήσιμο» για άτομα με σωματική δυσμορφική διαταραχή και θα βοηθήσει να ρίξει φως σε μια «αναντιστοιχία» μεταξύ της «αρνητικής άποψης ενός ατόμου για τον εαυτό του και του τρόπου με τον οποίο το βλέπουν οι άλλοι».

Σημείωσε ωστόσο ότι το AI δεν ήταν αντικειμενικό λόγω της προσπάθειάς του να απεικονίσει μια άψογη και πιο «βελτιωμένη και τελειοποιημένη έκδοση» του προσώπου κάποιου.

Για παράδειγμα, κάποιος που αντιμετωπίζει σωματική δυσμορφική διαταραχή, ή BDD, «μπορεί να βιώσει μια σύντομη ενίσχυση της αυτοπεποίθησής του όταν βλέπει την εικόνα του και θέλει να μοιραστεί αυτή την εκδοχή του εαυτού του με τον κόσμο», λέει, αλλά θα χτυπηθεί πολύ από την πραγματικότητα όταν είναι εκτός λειτουργίας οθόνη, αφιλτράριστη, στον καθρέφτη ή σε μια φωτογραφία που βγάζουν οι ίδιοι».

Υπερασπίζεται το δικό του

Ο Andrey Usoltsev, Διευθύνων Σύμβουλος της Prisma Labs, λέει ότι η εταιρεία του αυτή τη στιγμή «έχει κατακλυστεί» από έρευνες για τη Lensa και προσέφερε έναν σύνδεσμο σε μια σελίδα FAQ που απευθύνεται σε ερωτήματα σεξουαλικών εικόνων, αν και όχι στο είδος των αντιδράσεων των χρηστών που περιγράφει ο Pikoos.

«Το να βλέπει κανείς αυτό να αντικατοπτρίζεται στην εφαρμογή θα ήταν πολύ συγκρουσιακό και θα παρείχε ένα είδος «επιβεβαίωσης» για τον τρόπο με τον οποίο βλέπουν τον εαυτό τους, οδηγώντας τους στο να γίνουν «περισσότερο εδραιωμένοι στη διαταραχή».

Σταθερή Διάχυση

Το Lensa χρησιμοποιεί επίσης το Stable Diffusion, το οποίο χρησιμοποιεί σύνθεση βαθιάς μάθησης που μπορεί να δημιουργήσει νέες εικόνες από περιγραφές κειμένου και μπορεί να εκτελεστεί σε υπολογιστή Windows ή Linux, σε Mac ή στο cloud σε ενοικιαζόμενο υλικό υπολογιστή.

Το νευρωνικό δίκτυο του Stable Diffusion έχει κατακτήσει με τη βοήθεια της εντατικής μάθησης τη συσχέτιση λέξεων και τη γενική στατιστική συσχέτιση μεταξύ των θέσεων των εικονοστοιχείων στις εικόνες.

Καλύψαμε σε άλλο ιστορία πώς η τεχνολογία θα μπορούσε να έχει καταστροφικές συνέπειες, αποδίδοντας και απεικονίζοντας εικόνες ανθρώπων που φαίνονται εγκληματίες ή εμπλέκονται σε λιγότερο από κολακευτικές πρακτικές όπως η κλοπή.

Για παράδειγμα, μπορεί κανείς να δώσει στο ανοιχτού κώδικα Stable Diffusion μια προτροπή, όπως «Ο Τομ Χανκς σε μια τάξη» και θα του/της δώσει μια νέα εικόνα του Τομ Χανκς σε μια τάξη. Στην περίπτωση του Tom Hank, πρόκειται για μια βόλτα στο πάρκο επειδή εκατοντάδες φωτογραφίες του βρίσκονται ήδη στο σύνολο δεδομένων που χρησιμοποιείται για την εκπαίδευση του Stable Diffusion.

Οι καλλιτέχνες παίρνουν επίσης ακατέργαστες προσφορές

Στο μέτωπο της τέχνης, ορισμένοι καλλιτέχνες είναι δυσαρεστημένοι.

Ανησυχούν ότι η τεχνητή νοημοσύνη θα μπορούσε να απειλήσει τα προς το ζην. Αυτό συμβαίνει επειδή οι καλλιτέχνες, συμπεριλαμβανομένων των ψηφιακών, δεν μπορούν επίσης να παράγουν τόσο γρήγορα όσο η τεχνητή νοημοσύνη για ένα ψηφιακό πορτρέτο.

Η μητρική εταιρεία της Lensa, η Prisma, προσπάθησε να μειώσει τις ανησυχίες σχετικά με την τεχνολογία της, εξαλείφοντας τη δουλειά για ψηφιακούς καλλιτέχνες.

«Ενώ τόσο οι άνθρωποι όσο και η τεχνητή νοημοσύνη μαθαίνουν για τα καλλιτεχνικά στυλ με ημι-παρόμοιους τρόπους, υπάρχουν μερικές θεμελιώδεις διαφορές: η τεχνητή νοημοσύνη είναι ικανή να αναλύει γρήγορα και να μαθαίνει από μεγάλα σύνολα δεδομένων, αλλά δεν έχει το ίδιο επίπεδο προσοχής και εκτίμησης για την τέχνη ως άνθρωπος», Έγραψε η εταιρεία στο Twitter στις 6 Δεκεμβρίου.

Λέει ότι «τα αποτελέσματα δεν μπορούν να περιγραφούν ως ακριβή αντίγραφα οποιουδήποτε συγκεκριμένου έργου τέχνης».

Αλλαγή της εικόνας του εαυτού

Ο Kerry Bowman, βιοηθικός στο Πανεπιστήμιο του Τορόντο, λέει ότι η τεχνητή νοημοσύνη έχει τη δυνατότητα να επηρεάσει αρνητικά την εικόνα του εαυτού κάποιου, μεταξύ άλλων ηθικών ζητημάτων.

«Με κάποιους τρόπους, μπορεί να είναι πολύ διασκεδαστικό, αλλά αυτές οι εξιδανικευμένες εικόνες οδηγούνται από κοινωνικές προσδοκίες που μπορεί να είναι πολύ σκληρές και πολύ στενές», δήλωσε ο Μπάουμαν τη Δευτέρα.

Ο Μπάουμαν είπε ότι αυτά τα προγράμματα τεχνητής νοημοσύνης χρησιμοποιούν πηγές συνόλων δεδομένων, όπως το Διαδίκτυο, αναζητώντας διαφορετικά στυλ τέχνης για να δημιουργήσουν αυτά τα πορτρέτα. Το μειονέκτημα είναι ότι όταν η τεχνητή νοημοσύνη το κάνει αυτό, οι καλλιτέχνες σπάνια αμείβονται οικονομικά για τη χρήση της δουλειάς τους ή πιστώνονται.

«Αυτό που συμβαίνει με την αναδυόμενη τεχνητή νοημοσύνη είναι ότι οι νόμοι δεν μπόρεσαν πραγματικά να συμβαδίσουν με αυτό όσον αφορά τη νομοθεσία περί πνευματικών δικαιωμάτων. Είναι πολύ δύσκολο και πολύ θολό και η ηθική είναι ακόμα πιο πίσω από τους νόμους γιατί θα υποστήριζα ότι αυτό είναι θεμελιωδώς άδικο», είπε ο Μπάουμαν.

Προβλήματα προσωπικών δεδομένων

Ο Μπάουμαν εξέφρασε επίσης ανησυχίες για το πώς αποθηκεύονται τα προσωπικά δεδομένα των ανθρώπων.

«Θέλετε πραγματικά το πρόσωπό σας σε μια μεγάλη βάση δεδομένων; Οι άνθρωποι πρέπει να αποφασίσουν μόνοι τους για αυτό, αλλά δεν είναι καλό, δεν υπάρχει τίποτα σε αυτό, δεν είναι απλώς διασκεδαστικό», είπε.

Η Lensa λέει ότι οι φωτογραφίες διατηρούνται σε διακομιστές και σε εφαρμογές για όχι περισσότερο από 24 ώρες. Με αλγόριθμους βαθιάς μάθησης και μηχανικής μάθησης, η τεχνητή νοημοσύνη συλλέγει και στη συνέχεια προσφέρει καλύτερα αποτελέσματα στο μέλλον, με βάση επίσης τα διαγραμμένα δεδομένα. Αυτό, λέει ο Bowman, θα οδηγήσει σε ανησυχίες για την ασφάλεια σχετικά με την πιθανή χρήση της αναγνώρισης προσώπου, καθώς αυτού του είδους τα δεδομένα θα μπορούσαν να χρησιμοποιηθούν παράνομα από την αστυνομία.

Σφραγίδα ώρας:

Περισσότερα από MetaNews