Προσπάθειες αποφυγής προστατευτικών κιγκλιδωμάτων τεχνητής νοημοσύνης που ενοχοποιούνται για τα deepfakes του Swift

Προσπάθειες αποφυγής προστατευτικών κιγκλιδωμάτων τεχνητής νοημοσύνης που ενοχοποιούνται για τα deepfakes του Swift

Χρονική σήμανση: 5 Φεβρουαρίου 2024 5:11 μ.μ.
Προσπάθειες αποφυγής προστατευτικών κιγκλιδωμάτων τεχνητής νοημοσύνης που ενοχοποιούνται για την Swift deepfakes PlatoBlockchain Data Intelligence. Κάθετη αναζήτηση. Ολα συμπεριλαμβάνονται.

Οι ιογενείς πρόστυχες deepfake εικόνες της ποπ σταρ Taylor Swift φέρεται να προήλθαν από έναν διαδικτυακό διαγωνισμό στο 4chan, προκαλώντας τους διαγωνιζόμενους να σπάσουν τα φίλτρα περιεχομένου λογισμικού AI. 

Οι άνθρωποι της Graphika, μια εταιρεία αναλύσεων κοινωνικών μέσων της Νέας Υόρκης, εντόπισαν τις φωτογραφίες απευθείας στο 4chan. Ζητήθηκε από τους ανθρώπους να βρουν κόλπα για να παρακάμψουν τα προστατευτικά κιγκλιδώματα σε εφαρμογές όπως το Microsoft's Designer ή το DALL-E του OpenAI για να δημιουργήσουν εικόνες NSFW γυναικών διασημοτήτων. Οι φωτογραφίες της Taylor Swift δημιουργήθηκαν χρησιμοποιώντας το Microsoft Designer και αργότερα κοινοποιήθηκαν σε μια ομαδική συνομιλία στο Telegram, πριν δημοσιευτούν στο X, σύμφωνα με το Graphika.

«Συνεχίζουμε να διερευνούμε αυτές τις εικόνες και έχουμε ενισχύσει τα υπάρχοντα συστήματα ασφαλείας μας για να αποτρέψουμε περαιτέρω την κατάχρηση των υπηρεσιών μας για να βοηθήσουμε στη δημιουργία εικόνων σαν αυτές», είπε εκπρόσωπος της Microsoft. Το μητρώο σε μια δήλωση. 

Deepfake εικόνες του Swift συγκέντρωσε εκατομμύρια προβολές στο X προτού τα καταργήσει η πλατφόρμα κοινωνικής δικτύωσης και αποκλείσει προσωρινά ορισμένους όρους αναζήτησης που σχετίζονται με τον τραγουδοποιό. Η Graphika, ωστόσο, είπε ότι ο διαγωνισμός στόχευε άλλες γνωστές γυναικείες φιγούρες και προειδοποίησε ότι η τεχνολογία θα μπορούσε να γίνει κατάχρηση για να στοχεύσει οποιονδήποτε. 

«Ενώ οι ιογενείς πορνογραφικές φωτογραφίες της Taylor Swift έχουν επιστήσει την προσοχή στο θέμα των μη συναινετικών εικόνων που δημιουργούνται από την τεχνητή νοημοσύνη, δεν είναι το μόνο θύμα», Cristina López G., ανώτερη αναλύτρια στη Graphika. είπε Bloomberg. «Στην κοινότητα του 4chan όπου προήλθαν αυτές οι εικόνες, δεν είναι καν η πιο συχνά στοχευμένη δημόσια προσωπικότητα. Αυτό δείχνει ότι οποιοσδήποτε μπορεί να στοχοποιηθεί με αυτόν τον τρόπο, από παγκόσμιες διασημότητες μέχρι παιδιά σχολικής ηλικίας».

Η ιογενής φύση των ψεύτικων εικόνων που απεικονίζουν τη Σουίφτ σε σεξουαλικά υποβλητικές πόζες, ωστόσο, φαίνεται να έχει στριμώξει τους νομοθέτες. Η εκπρόσωπος Τύπου του Λευκού Οίκου Καρίν Ζαν-Πιερ κάλεσε το Κογκρέσο να «λάβει νομοθετική δράση» ως απάντηση στις «ανησυχητικές» εικόνες. 

Την περασμένη εβδομάδα, Αμερικανοί γερουσιαστές εισήγαγαν τον νόμο Disrupt Explicit Forged Images and Non-Consensual Edits (DEFIANCE) του 2024, δισεκατομμυριούχο νομοσχέδιο που θα επέτρεπε στα θύματα να μηνύσουν άτομα που δημιουργούν και μοιράζονται λάθη Deepfakes που δημιουργούνται από την τεχνητή νοημοσύνη. Η νομοθεσία, με επικεφαλής τους γερουσιαστές Dick Durbin (D-IL), Lindsey Graham (R-SC), Amy Klobuchar (D-MN) και Josh Hawley (R-MO), έδειξε μια μελέτη που ισχυρίστηκε ότι το 96 τοις εκατό των deepfake βίντεο ήταν πορνογραφικά και είχαν δημιουργηθεί χωρίς άδεια ή συναίνεση από τις γυναίκες που απεικόνιζε. 

Η πράξη DEFIANCE ξεκίνησε τη στιγμή που οι κορυφαίοι διευθύνοντες σύμβουλοι των πλατφορμών κοινωνικής δικτύωσης ανακρίθηκαν σε ένα Κογκρέσο ακοή για τη σεξουαλική εκμετάλλευση παιδιών στο Διαδίκτυο και την έλλειψη προστασίας.

Το μητρώο ζήτησε από την Graphika περαιτέρω σχόλια. ®

Σφραγίδα ώρας:

Περισσότερα από Το μητρώο