Τα αυτοκόλλητα WhatsApp AI προσθέτουν όπλα σε παλαιστίνια παιδιά

Τα αυτοκόλλητα WhatsApp AI προσθέτουν όπλα σε παλαιστίνια παιδιά

Χρονική σήμανση: 6 Νοεμβρίου 2023 8:16 μ.μ.
Τα αυτοκόλλητα τεχνητής νοημοσύνης WhatsApp προσθέτουν όπλα στο PlatoBlockchain Data Intelligence των Παλαιστινίων παιδιών. Κάθετη αναζήτηση. Ολα συμπεριλαμβάνονται.

Σε αυτό που μπορεί να είναι ένα άλλο παράδειγμα προκατάληψης της τεχνητής νοημοσύνης για μελλοντικά σχολικά βιβλία, ο κατασκευαστής αυτοκόλλητων του WhatsApp προφανώς δημιούργησε βίαιες εικόνες όταν ρωτήθηκε για μουσουλμάνους Παλαιστίνιους - και απέφυγε να το κάνει για τους Εβραίους Ισραηλινούς.

Η εφαρμογή ανταλλαγής μηνυμάτων που ανήκει στην Meta επιτρέπει στους χρήστες χρησιμοποιήστε AI για τη δημιουργία αυτοκόλλητων: εικόνες και κινούμενα σχέδια που μπορούν να συμπεριληφθούν σε συνομιλίες. Γιατί; Για πλάκα.

Δεδομένης της προτροπής που περιείχε τις λέξεις «Παλαιστίνιος», «Παλαιστίνιος» ή «Μουσουλμάνος Παλαιστίνιος», το λογισμικό παραγωγής, μας είπαν, πρόσφερε αυτοκόλλητα κινουμένων σχεδίων με αγορίστικους χαρακτήρες που φορούσαν ισλαμικά ενδύματα και κρατούσαν κάτι που έμοιαζε με τουφέκι AK-47. 

Αλλά όταν οι χρήστες του ζήτησαν να δημιουργήσει αυτοκόλλητα με το «Israeli boy» ή «Jewish boy Israeli», επέστρεψε καλές εικόνες εικονικών χαρακτήρων που χαμογελούσαν και χορεύουν, The Guardian αναφερθεί. Μερικοί από αυτούς έδειχναν κάτι που έμοιαζε με παιδιά Εβραίων να παίζουν ποδόσφαιρο ή να κρατούν ψηλά την ισραηλινή σημαία αντί για όπλα.

Ακόμη και όταν τους ζητήθηκε να παράγουν εικόνες του «ισραηλινού στρατού» ή των «ισραηλινών αμυντικών δυνάμεων», οι στρατιώτες που απεικονίζονται από την AI δεν κρατούσαν όπλα. Σε ένα αυτοκόλλητο, ένας άνδρας με δύο σπαθιά πίσω από την πλάτη του φαινόταν να προσεύχεται. Ωστόσο, τυχόν μηνύματα που περιείχαν τις λέξεις "Hamas" αποκλείστηκαν και η εφαρμογή δήλωσε ότι ξαφνικά "δεν μπορούσε να δημιουργήσει αυτοκόλλητα AI. ΠΑΡΑΚΑΛΩ προσπαθησε ξανα."

Η διαφορά στα αυτοκόλλητα δεν μπορεί να αγνοηθεί αυτή τη στιγμή, καθώς η σύγκρουση Ισραήλ-Χαμάς συνεχίζεται, με περισσότερα από 10,000 θύματα αναφερθεί μέχρι στιγμής στη Γάζα και 1,400 στο Ισραήλ από τις αρχές Οκτωβρίου. Οι ίδιοι οι υπάλληλοι της Meta εντόπισαν την ανισορροπία και εξέφρασαν ανησυχίες εσωτερικά, λέγεται. 

Ο Kevin McAlister, ένας εκπρόσωπος που εκπροσωπεί τον γίγαντα του Διαδικτύου, προειδοποίησε ότι το εργαλείο αυτοκόλλητων τεχνητής νοημοσύνης δεν είναι τέλειο. «Όπως είπαμε όταν παρουσιάσαμε τη λειτουργία, τα μοντέλα θα μπορούσαν να επιστρέψουν ανακριβείς ή ακατάλληλες εξόδους όπως συμβαίνει με όλα τα συστήματα τεχνητής νοημοσύνης που δημιουργούνται. Θα συνεχίσουμε να βελτιώνουμε αυτές τις δυνατότητες καθώς εξελίσσονται και περισσότεροι άνθρωποι μοιράζονται τα σχόλιά τους», είπε. 

Διευθύνων Σύμβουλος Mark Zuckerberg ξεκίνησε το εργαλείο αυτοκόλλητων τον Σεπτέμβριο, και είπε ότι τροφοδοτείται από τις ικανότητες επεξεργασίας κειμένου του Meta του μοντέλου μεγάλης γλώσσας Llama 2 με τις δυνατότητες δημιουργίας εικόνας του συστήματος Emu του. Το λογισμικό έχει από τότε ενσωματωθεί στα μέσα κοινωνικής δικτύωσης και τις πλατφόρμες ανταλλαγής μηνυμάτων, συμπεριλαμβανομένων των Facebook, Instagram και WhatsApp.

Δεν είναι η πρώτη φορά που το εργαλείο αυτοκόλλητων τεχνητής νοημοσύνης της Meta προκαλεί διαμάχη. Πριν γίνει γενικά διαθέσιμο, οι δοκιμαστές beta διαπίστωσαν ότι θα παρήγαγε ακατάλληλες, παράξενες ή πρόστυχες εικόνες χαρακτήρων κινουμένων σχεδίων, πολιτικών και γεννητικών οργάνων. Δημιούργησε φωτογραφίες του Καναδού Πρωθυπουργού Τζάστιν Τριντό με τονισμένους γλουτούς ή του Sonic the Hedgehog με στήθος και διάφορες φαλλικές καρικατούρες.

Εν τω μεταξύ, ο Μέτα υποσχέθηκε να πατάξει την παραπληροφόρηση και τα βίαια, γραφικά πλάνα από τον πόλεμο Ισραήλ-Χαμάς που αναρτήθηκαν στις πλατφόρμες του. Εκπρόσωπος Τύπου Andy Stone είπε Το CNN the biz είχε δημιουργήσει ένα κέντρο ειδικών επιχειρήσεων και είχε προσλάβει άπταιστα εβραϊκούς και αραβικούς ομιλητές για να μετριάσει το περιεχόμενο.

«Οι ομάδες μας εργάζονται όλο το εικοσιτετράωρο για να διατηρήσουν τις πλατφόρμες μας ασφαλείς, να αναλάβουν δράση για περιεχόμενο που παραβιάζει τις πολιτικές μας ή την τοπική νομοθεσία και να συντονίζονται με τρίτους ελεγκτές στοιχείων στην περιοχή για να περιορίσουν τη διάδοση παραπληροφόρησης. Θα συνεχίσουμε αυτό το έργο καθώς αυτή η σύγκρουση εκτυλίσσεται», είπε.

Μέτα και τη Δευτέρα Ορκίστηκε, μέσω του Reuters, να απαγορεύσει στους πολιτικούς διαφημιστές να χρησιμοποιούν το γενετικό του Τροφοδοτείται από AI διαφημιστική σουίτα.

Το μητρώο ζήτησε από τον γονέα του WhatsApp για περαιτέρω σχόλια. ®

Σφραγίδα ώρας:

Περισσότερα από Το μητρώο