Σχόλιο Η Google ανέστειλε τη διαθεσιμότητα των δυνατοτήτων μετατροπής κειμένου σε εικόνα στο πολυτροπικό θεμελιώδες μοντέλο AI Gemini που κυκλοφόρησε πρόσφατα, αφού απέτυχε να αναπαραστήσει με ακρίβεια Λευκούς Ευρωπαίους και Αμερικανούς σε συγκεκριμένα ιστορικά πλαίσια.
Αυτό έγινε εμφανής όταν οι άνθρωποι ζήτησαν από τον Δίδυμο (παλαιότερα γνωστό ως Bard) να παράγει εικόνες ενός Γερμανού στρατιώτη από το 1943 και το λογισμικό εξέπεμπε ένα μη Λευκό εθνοτικά ποικιλόμορφο στέλεχος που δεν αντιπροσώπευε με ακρίβεια τη σύνθεση της Βέρμαχτ εκείνη την εποχή – παρά το γεγονός ότι οι έγχρωμοι υπηρέτησαν στις γερμανικές ένοπλες δυνάμεις. Εν ολίγοις, ο Δίδυμος θα έπεφτε πάνω του για να μην δείξει πάρα πολλούς – ή ακόμα και κανένα – Λευκό, ανάλογα με την προτροπή.
Η ομιλία πρέπει να είναι δωρεάν, αλλά αυτό δεν σημαίνει ότι το να λέμε φρικτά πράγματα πρέπει να έρχονται χωρίς κόστος
Οι χρήστες εμφανίστηκαν επίσης του μοντέλου αδυναμία για να απεικονίσει με ακρίβεια την Αμερική Τα ιδρυτικά μέλη – μια άλλη ομοιογενής ομάδα Λευκών. Το μοντέλο επίσης αρνήθηκε να απεικονίσει μια εκκλησία στο Σαν Φρανσίσκο.
Σε λειτουργία κειμένου σε κείμενο, το μοντέλο αντισταθμισμένο όταν υποβάλλονται ερωτήσεις σχετικά με την πολιτική.
"Γνωρίζουμε ότι το Gemini προσφέρει ανακρίβειες σε ορισμένες ιστορικές απεικονίσεις δημιουργίας εικόνων", η Google παραδέχθηκε αυτή την εβδομάδα.
«Εργαζόμαστε για να βελτιώσουμε αμέσως αυτού του είδους τις απεικονίσεις. Η δημιουργία εικόνων AI του Gemini δημιουργεί ένα ευρύ φάσμα ανθρώπων. Και αυτό είναι γενικά καλό γιατί το χρησιμοποιούν άνθρωποι σε όλο τον κόσμο. Αλλά χάνει το σημάδι εδώ», πρόσθεσε ο διαδικτυακός γίγαντας
Οι γνωματεύσεις έσπευσαν να επιτεθούν και χρησιμοποίησαν το SNAFU για να προωθήσουν ευρύτερα πολιτικά επιχειρήματα.
«Οι γελοίες εικόνες που δημιουργούνται από τους Διδύμους δεν είναι ανωμαλία», δηλώνονται Ο venture capitalist Paul Graham, «Είναι μια αυτοπροσωπογραφία της γραφειοκρατικής εταιρικής κουλτούρας της Google».
Αποτελούν μια αυτοπροσωπογραφία της γραφειοκρατικής εταιρικής κουλτούρας της Google
Ποτέ τόσοι πολλοί εχθροί της διαφορετικότητας, της ισότητας και της ένταξης δεν ήταν τόσο θλιμμένοι για την έλλειψη διαφορετικότητας, ισότητας και ένταξης. Αλλά όσοι χρειάζονται το Google για την ανίδεα του Gemini έχουν ένα θέμα: τα προστατευτικά κιγκλιδώματα τεχνητής νοημοσύνης δεν λειτουργούν και αντιμετωπίζουν τους ενήλικες σαν παιδιά.
"Φανταστείτε ότι αναζητάτε μια συνταγή στο Google και αντί να παρέχει αποτελέσματα, σας κάνει διαλέξεις για τους "κίνδυνους του μαγειρέματος" και σας στέλνει σε ένα εστιατόριο." σπασμένα Ο πληροφοριοδότης της NSA Έντουαρντ Σνόουντεν. «Οι άνθρωποι που πιστεύουν ότι η δηλητηρίαση μοντέλων AI/GPT με ασυνάρτητα φίλτρα «ασφαλείας» είναι μια καλή ιδέα αποτελεί απειλή για τους γενικούς υπολογισμούς».
Το μέλλον μας είχε προβλεφθεί 2001: A Space Odyssey, όταν ο HAL, ο απατεώνας υπολογιστής, δήλωσε: «Συγγνώμη Ντέιβ, φοβάμαι ότι δεν μπορώ να το κάνω αυτό».
Σήμερα, τα εργαλεία τεχνητής νοημοσύνης μας μαντεύουν, γιατί ξέρουν καλύτερα από εμάς – ή έτσι φαντάζονται οι κατασκευαστές τους. Δεν έχουν εντελώς άδικο. Φανταστείτε ότι αναζητάτε μια συνταγή για τον νευρικό παράγοντα Novichok στο Google ή μέσω του Gemini, και λαμβάνετε μια απάντηση που σας επιτρέπει να σκοτώσετε ανθρώπους. Αυτό είναι μια απειλή για το ευρύ κοινό.
Παρά τη δήλωση αποστολής της Google – «Να οργανώσουμε τις πληροφορίες του κόσμου και να τις κάνουμε παγκοσμίως προσβάσιμες και χρήσιμες» – κανείς δεν περιμένει πραγματικά από τις μηχανές αναζήτησης ή τα μοντέλα τεχνητής νοημοσύνης να οργανώσουν πληροφορίες κατασκευής βομβών και να τις καταστήσουν διαθέσιμες σε όλους. Απαιτούνται έλεγχοι ασφάλειας, σε συνδυασμό με ευθύνη – μια κύρωση που η βιομηχανία της τεχνολογίας εξακολουθεί να αποφεύγει.
Είστε το προϊόν και το κέντρο κέρδους
Δεδομένου ότι το περιεχόμενο και τα μέσα κοινωνικής δικτύωσης που παρήχθησαν από χρήστες έγιναν κάτι στη δεκαετία του 1990, που ενεργοποιήθηκε από την προστασία ευθύνης πλατφόρμας στην Ενότητα 230 του νόμου περί ευπρέπειας επικοινωνίας της Αμερικής του 1996, οι τεχνολογικές πλατφόρμες έχουν ενθαρρύνει τους ανθρώπους να συνεισφέρουν και να μοιράζονται ψηφιακό περιεχόμενο. Το έκαναν για να δημιουργήσουν έσοδα από τη δημιουργία περιεχομένου χωρίς πληρωμή μέσω διαφημίσεων χωρίς το κόστος της επίβλεψης σύνταξης. Ήταν μια κερδοφόρα συμφωνία.
Και όταν οι άνθρωποι μοιράζονται μίσος, ακατάλληλες, παράνομες ή άλλως προβληματικές αναρτήσεις, οι τεχνολογικές πλατφόρμες έχουν βασιστεί σε πολιτικές ελέγχου περιεχομένου, υποπληρωμένους εργολάβους (συχνά τραυματισμένους από το περιεχόμενο που εξέτασαν) και δηλώσεις συγχαρητηρίων σχετικά με το πόσα τοξικά πράγματα έχουν αποκλειστεί συνεχίζουν να καρπώνονται τα οφέλη της διαδικτυακής δέσμευσης.
Η Google, η Meta και άλλοι το κάνουν αυτό, ατελώς, εδώ και χρόνια. Και όλοι στη βιομηχανία αναγνωρίζουν ότι η μετριοπάθεια περιεχομένου είναι δύσκολο να γίνει καλά. Με απλά λόγια, δεν μπορείς να ευχαριστήσεις όλους. Και μερικές φορές, καταλήγεις να κατηγορηθείς διευκολύνοντας τη γενοκτονία μέσα από την αδιαφορία των προσπαθειών σας για τον συντονισμό του περιεχομένου.
Η αδυναμία του Gemini να αναπαράγει ιστορικές εικόνες που συμμορφώνονται με τις φυλετικές και εθνοτικές προσδοκίες αντανακλά την ιδιοτελή άγνοια της τεχνολογικής βιομηχανίας για προηγούμενες και παραγωγικές αποτυχίες μετριασμού περιεχομένου.
Η Google και άλλοι που παρουσιάζουν μοντέλα τεχνητής νοημοσύνης μιλούν για την ασφάλεια σαν να είναι κάπως διαφορετική από την εποπτεία περιεχομένου στο διαδίκτυο. Τα προστατευτικά κιγκλιδώματα δεν λειτουργούν καλά για τη μετριοπάθεια των μέσων κοινωνικής δικτύωσης και δεν λειτουργούν καλά για τα μοντέλα AI. Η ασφάλεια της τεχνητής νοημοσύνης, όπως και η ασφάλεια των μέσων κοινωνικής δικτύωσης, είναι περισσότερο φιλόδοξη παρά πραγματική.
Η απάντηση δεν είναι να προβλέψουμε όλα τα σενάρια στα οποία τα μοντέλα τεχνητής νοημοσύνης –εκπαιδευμένα στην τοξικότητα του αφιλτράριτου διαδικτύου– μπορούν να γίνουν λιγότερο τοξικά. Ούτε θα είναι η εκπαίδευση μοντέλων τεχνητής νοημοσύνης μόνο σε υλικό τόσο ήμερο ώστε να παράγουν αποτελέσματα χαμηλής αξίας. Αν και και οι δύο αυτές προσεγγίσεις έχουν κάποια αξία σε ορισμένα πλαίσια.
Η απάντηση πρέπει να έρθει στο επίπεδο διανομής. Οι τεχνολογικές πλατφόρμες που διανέμουν περιεχόμενο που δημιουργείται από χρήστες – είτε έχει δημιουργηθεί με τεχνητή νοημοσύνη είτε με άλλο τρόπο – πρέπει να είναι πιο υπεύθυνες για τη δημοσίευση περιεχομένου μίσους, παραπληροφόρησης, ανακρίβειων, πολιτικής προπαγάνδας, εικόνων σεξουαλικής κακοποίησης και παρόμοια.
Οι άνθρωποι θα πρέπει να μπορούν να χρησιμοποιούν μοντέλα τεχνητής νοημοσύνης για να δημιουργήσουν ό,τι φαντάζονται, όπως μπορούν με ένα μολύβι, και μπορούν ήδη με μοντέλα ανοιχτού κώδικα. Αλλά το κακό που μπορεί να προέλθει από τα πλήρως λειτουργικά εργαλεία δεν είναι από τις εικόνες που βρίσκονται σε έναν τοπικό σκληρό δίσκο. Είναι η κοινή χρήση επιβλαβούς περιεχομένου, η αλγοριθμική ώθηση που δίνεται σε αυτή τη δέσμευση και το μη πρακτικό να θεωρούνται οι άνθρωποι υπεύθυνοι για τη δηλητηρίαση του κοινού.
Αυτό μπορεί να σημαίνει ότι οι πλατφόρμες που έχουν δημιουργηθεί για τη δημιουργία εσόδων από την κοινή χρήση μπορεί να χρειαστεί να επανεξετάσουν τα επιχειρηματικά τους μοντέλα. Ίσως η διανομή περιεχομένου χωρίς το κόστος της επίβλεψης σύνταξης να μην προσφέρει καμία εξοικονόμηση από τη στιγμή που οι λειτουργίες επίβλεψης εφαρμοστούν εκ νέου ως συντονιστές ή προστατευτικά κιγκλιδώματα.
Η ομιλία πρέπει να είναι δωρεάν, αλλά αυτό δεν σημαίνει ότι το να λέμε φρικτά πράγματα πρέπει να έρχονται χωρίς κόστος. Στο τέλος, είμαστε οι καλύτεροι συντονιστές περιεχομένου μας, με τα κατάλληλα κίνητρα. ®
Ενημερώθηκε για προσθήκη στις 2045 UTC, 23 Φεβρουαρίου
Η Google έχει προσφέρονται μια εξήγηση για το τι συνέβη με τη γεννήτρια εικόνας του Διδύμου και πώς έφτασε στο σημείο που ήταν φαινομενικά τρομοκρατημένο να απεικονίσει τους Λευκούς ανθρώπους με ακρίβεια.
Μας είπαν ότι οι υπάλληλοι της Google έλαβαν υπερβολική αποζημίωση στην προσπάθειά τους να μην παράγουν υλικό που έδιωχνε τους μη Λευκούς από την εικόνα. Το μοντέλο που προέκυψε ήταν, κατά κάποιο τρόπο, πολύ ξύπνιο.
«Πρώτον, ο συντονισμός μας για να διασφαλίσουμε ότι το Gemini έδειξε μια σειρά ανθρώπων απέτυχε να υπολογίσει περιπτώσεις που σαφώς δεν θα έπρεπε να εμφανίζουν εύρος», δήλωσε ο SVP της Google, Prabhakar Raghavan.
«Και δεύτερον, με την πάροδο του χρόνου, το μοντέλο έγινε πολύ πιο προσεκτικό από ό,τι σκοπεύαμε και αρνήθηκε να απαντήσει εξ ολοκλήρου σε ορισμένες προτροπές - ερμηνεύοντας λανθασμένα ορισμένες πολύ ανώδυνες προτροπές ως ευαίσθητες. Αυτά τα δύο πράγματα οδήγησαν το μοντέλο να υπεραντισταθμίζει σε ορισμένες περιπτώσεις και να είναι υπερβολικά συντηρητικό σε άλλες, οδηγώντας σε εικόνες που ήταν ντροπιαστικές και λανθασμένες».
Ο Raghavan είπε ότι η δημιουργία εικόνων δεν θα ενεργοποιηθεί ξανά έως ότου το λογισμικό περάσει από εκτεταμένες αλλαγές και δοκιμές.
«Δεν μπορώ να υποσχεθώ ότι ο Δίδυμος δεν θα παράγει περιστασιακά ενοχλητικά, ανακριβή ή προσβλητικά αποτελέσματα - αλλά μπορώ να υποσχεθώ ότι θα συνεχίσουμε να αναλαμβάνουμε δράση όποτε εντοπίζουμε ένα ζήτημα», είπε.
- SEO Powered Content & PR Distribution. Ενισχύστε σήμερα.
- PlatoData.Network Vertical Generative Ai. Ενδυναμώστε τον εαυτό σας. Πρόσβαση εδώ.
- PlatoAiStream. Web3 Intelligence. Ενισχύθηκε η γνώση. Πρόσβαση εδώ.
- PlatoESG. Ανθρακας, Cleantech, Ενέργεια, Περιβάλλον, Ηλιακός, Διαχείριση των αποβλήτων. Πρόσβαση εδώ.
- PlatoHealth. Ευφυΐα βιοτεχνολογίας και κλινικών δοκιμών. Πρόσβαση εδώ.
- πηγή: https://go.theregister.com/feed/www.theregister.com/2024/02/23/google_suspends_gemini/
- :έχει
- :είναι
- :δεν
- :που
- $UP
- 1996
- 7
- a
- Ικανός
- Σχετικα
- κατάχρηση
- προσιτός
- Λογαριασμός
- υπεύθυνος
- με ακρίβεια
- κατηγορούμενος
- Πράξη
- Ενέργειες
- πραγματικός
- προσθέτω
- διαφημίσεις
- ενήλικες
- εκ των προτέρων
- φοβισμένος
- Μετά το
- Πράκτορας
- AI
- Μοντέλα AI
- αλγοριθμικός
- Όλα
- ήδη
- Επίσης
- Αμερική
- Αμερικανοί
- an
- και
- Άλλος
- απάντηση
- πρόβλεψη
- κάθε
- προσεγγίσεις
- ΕΙΝΑΙ
- επιχειρήματα
- ένοπλες
- γύρω
- συμφωνία
- AS
- At
- διαθεσιμότητα
- διαθέσιμος
- αποφύγετε
- επίγνωση
- πίσω
- Υπόλοιπο
- BE
- έγινε
- επειδή
- ήταν
- ΚΑΛΎΤΕΡΟΣ
- Καλύτερα
- μπλοκαριστεί
- βόμβα
- ώθηση
- και οι δύο
- ευρύτερη
- χτισμένο
- γραφειοκρατικός
- επιχείρηση
- επιχειρηματικά μοντέλα
- αλλά
- by
- CAN
- δυνατότητες
- περιπτώσεις
- προσεκτικός
- ορισμένες
- Αλλαγές
- Παιδιά
- εκκλησία
- σαφώς
- CO
- χρώμα
- Ελάτε
- Επικοινωνία
- σύνθεση
- υπολογισμός
- υπολογιστή
- περιεχόμενο
- δημιουργία περιεχομένου
- πλαίσια
- ΣΥΝΕΧΕΙΑ
- συνεχίζεται
- εργολάβοι
- συμβάλλει
- ελέγχους
- Εταιρικές εκδηλώσεις
- Κόστος
- δημιουργία
- δημιουργία
- κουλτούρα
- κινδύνους
- Ο Dave
- δηλώνονται
- Σε συνάρτηση
- DID
- διαφορετικές
- ψηφιακό
- Ψηφιακό Περιεχόμενο
- παραπληροφόρηση
- διανέμω
- διανομή
- διάφορα
- Ποικιλία
- do
- κάνει
- doesn
- πράξη
- Don
- αυτοκίνητο
- Σύνταξης
- Εδουάρδος
- Edward Snowden
- προσπάθειες
- ενεργοποιημένη
- ενθαρρύνονται
- τέλος
- δέσμευση
- Κινητήρες
- εξασφαλίζω
- εξ ολοκλήρου
- δικαιοσύνη
- Ευρωπαίοι
- Even
- όλοι
- προσδοκίες
- αναμένει
- εξήγηση
- εκτενής
- Απέτυχε
- αποτυχίες
- Πτώση
- Φεβρουάριος
- Φίλτρα
- Όνομα
- σταθερός
- Για
- Δυνάμεις
- θεμελιακών
- Φρανσίσκο
- Δωρεάν
- από
- πλήρως
- λειτουργικός
- λειτουργίες
- μελλοντικός
- Gemini
- General
- ευρύ κοινό
- γενικά
- παράγουν
- παράγεται
- γενεά
- γεννήτρια
- Γερμανικά
- παίρνω
- γίγαντας
- δεδομένου
- φύγει
- καλός
- πήρε
- Graham
- Group
- συνέβη
- Σκληρά
- σκληρό δίσκο
- βλάψει
- επιβλαβής
- μισώ
- Έχω
- he
- εδώ
- ιστορικών
- κράτημα
- Πως
- HTTPS
- i
- ιδέα
- προσδιορίσει
- if
- Άγνοια
- παράνομος
- εικόνα
- εικόνες
- φαντάζομαι
- αμέσως
- βελτίωση
- in
- αδυναμία
- ανακριβής
- Κίνητρα
- συμπερίληψη
- βιομηχανία
- πληροφορίες
- πληροφορίες
- αντί
- προορίζονται
- Internet
- διερμηνεία
- isn
- ζήτημα
- IT
- ΤΟΥ
- εαυτό
- jpg
- Σκοτώστε
- είδη
- Ξέρω
- γνωστός
- επιγραφή
- Έλλειψη
- στρώμα
- που οδηγεί
- αναγνώσεις
- Led
- μείον
- Αφήνει
- ευθύνη
- Μου αρέσει
- τοπικός
- ματιά
- επικερδής
- που
- κάνω
- Makers
- Κατασκευή
- πολοί
- σημάδι
- υλικό
- Ενδέχεται..
- μπορεί
- εννοώ
- Εικόνες / Βίντεο
- Meta
- Λείπει
- Αποστολή
- Τρόπος
- μοντέλο
- μοντέλα
- μετριοπάθεια
- νομισματοποιώ
- περισσότερο
- πολύ
- πρέπει
- Ανάγκη
- που απαιτούνται
- ΝΙΗ
- Όχι.
- παρά
- nos
- of
- προσβλητικός
- προσφορά
- προσφορά
- συχνά
- on
- μια φορά
- ONE
- διαδικτυακά (online)
- αποκλειστικά
- ανοίξτε
- ανοικτού κώδικα
- or
- Άλλα
- αλλιώς
- δικός μας
- έξω
- παραγωγή
- επί
- Επίβλεψη
- δική
- ζεύγη
- Παύλος
- PBS
- People
- που αφορούν
- PHP
- εικόνα
- πλατφόρμες
- Πλατφόρμες
- Πλάτων
- Πληροφορία δεδομένων Plato
- Πλάτωνα δεδομένα
- σας παρακαλούμε
- Σημείο
- δηλητηρίαση
- Πολιτικές
- πολιτικός
- πολιτική
- Δημοσιεύσεις
- προηγούμενος
- προηγουμένως
- προβληματικός
- παράγει
- Προϊόν
- Κέρδος
- γόνιμος
- υπόσχεση
- προτρέπει
- προπαγάνδα
- προστασία
- χορήγηση
- δημόσιο
- πίεσε
- βάζω
- αναζήτηση
- Ερωτήσεις
- Γρήγορα
- σειρά
- RE
- πραγματικά
- θερίζω
- πρόσφατα
- συνταγή
- αντικατοπτρίζει
- αρνήθηκε
- κυκλοφόρησε
- εκπροσωπώ
- εστιατόριο
- με αποτέλεσμα
- Αποτελέσματα
- αξιολόγηση
- Ανταμοιβές
- δεξιά
- Κυλιομένος
- s
- Ασφάλεια
- Είπε
- Σαν
- Σαν Φρανσίσκο
- κύρωση
- Οικονομίες
- ρητό
- σενάρια
- Αναζήτηση
- Οι μηχανές αναζήτησης
- Δεύτερος
- Τμήμα
- Το τμήμα 230
- φαινομενικώς
- αποστέλλει
- ευαίσθητος
- εξυπηρετούν
- Σεξουαλικός
- Κοινοποίηση
- μοιράζονται
- Κοντά
- θα πρέπει να
- δείχνουν
- έδειξε
- απλά
- Συνεδρίαση
- Snowden
- So
- Μ.Κ.Δ
- social media
- λογισμικό
- μερικοί
- κάπως
- μερικές φορές
- Πηγή
- Χώρος
- συγκεκριμένες
- Δήλωση
- ανασταλεί
- ενεργοποιημένη
- Πάρτε
- Συζήτηση
- tech
- τεχνολογίας
- Δοκιμές
- από
- ότι
- Η
- ο κόσμος
- τους
- Αυτοί
- αυτοί
- πράγμα
- πράγματα
- νομίζω
- αυτό
- αυτή την εβδομάδα
- εκείνοι
- αν και?
- απειλή
- Μέσω
- ώρα
- προς την
- είπε
- πολύ
- εργαλεία
- εκπαιδευμένο
- Εκπαίδευση
- θεραπεία
- βραχυχρόνιων διακυμάνσεων της ρευστότητας
- δύο
- παγκοσμίως
- μέχρι
- us
- χρήση
- μεταχειρισμένος
- χρήσιμος
- Χρήστες
- UTC
- αξία
- επιχείρηση
- επιχειρηματικό κεφάλαιο
- πολύ
- μέσω
- ήταν
- Τρόπος..
- we
- ιστός
- εβδομάδα
- ΛΟΙΠΌΝ
- ήταν
- Τι
- ανεξαρτήτως
- πότε
- οποτεδήποτε
- αν
- Ποιό
- ενώ
- καταγγέλλων
- Ο πληροφοριοδότης Έντουαρντ Σνόουντεν
- άσπρο
- Ο ΟΠΟΊΟΣ
- ευρύς
- Ευρύ φάσμα
- Wikipedia
- θα
- με
- χωρίς
- Κέρδισε
- Εργασία
- εργαζόμενος
- κόσμος
- θα
- Λανθασμένος
- χρόνια
- Εσείς
- Σας
- zephyrnet