Commento Google ha sospeso la disponibilità delle funzionalità di conversione del testo in immagine nel suo modello di intelligenza artificiale fondamentale multimodale Gemini recentemente rilasciato, dopo che non è riuscito a rappresentare accuratamente gli europei e gli americani bianchi in contesti storici specifici.
Questo è diventato apparente quando la gente chiese a Gemini (precedentemente noto come Bard) di produrre immagini di un soldato tedesco del 1943 e il software emetteva quadri etnicamente diversificati non bianchi che non rappresentavano accuratamente la composizione della Wehrmacht dell'epoca, nonostante le persone di colore prestassero servizio nelle forze armate tedesche. In breve, i Gemelli farebbero di tutto per non mostrare troppi – o addirittura nessuno – bianchi, a seconda del suggerimento.
La parola dovrebbe essere libera, ma ciò non significa che dire cose orribili debba essere gratuito
Gli utenti hanno anche fatto emergere i modelli incapacità per rappresentare accuratamente l'America Padri fondatori – un altro gruppo bianco omogeneo. Anche il modello rifiutato per rappresentare una chiesa a San Francisco.
Nella modalità testo-testo, il modello coperto quando vengono poste domande relative alla politica.
"Siamo consapevoli che Gemini offre imprecisioni in alcune rappresentazioni storiche della generazione di immagini", Google concesso questa settimana.
“Stiamo lavorando per migliorare immediatamente questo tipo di rappresentazioni. La generazione di immagini AI di Gemini genera una vasta gamma di persone. E questa è generalmente una buona cosa perché le persone in tutto il mondo lo usano. Ma qui non si riesce a raggiungere il bersaglio», ha aggiunto il colosso del web
Gli esperti si sono affrettati a intervenire e hanno utilizzato lo SNAFU per avanzare argomentazioni politiche più ampie.
"Le immagini ridicole generate dai Gemelli non sono un'anomalia", dichiarata il venture capitalist Paul Graham, "Sono un autoritratto della cultura aziendale burocratica di Google."
Sono un autoritratto della cultura aziendale burocratica di Google
Mai così tanti nemici della diversità, dell’equità e dell’inclusione sono stati così addolorati per la mancanza di diversità, equità e inclusione. Ma coloro che puntano a Google per l’incapacità di Gemini hanno ragione: i guardrail dell’intelligenza artificiale non funzionano e trattano gli adulti come bambini.
"Immagina di cercare una ricetta su Google e, invece di fornire risultati, ti insegna sui 'pericoli della cucina' e ti manda in un ristorante," scherzato L'informatore della NSA Edward Snowden. "Le persone che pensano che avvelenare i modelli AI/GPT con filtri di 'sicurezza' incoerenti sia una buona idea rappresentano una minaccia per il calcolo generale."
Il nostro futuro era previsto nel 2001: Odissea nello spazio, quando HAL, il computer canaglia, dichiarò: "Mi dispiace Dave, temo di non poterlo fare."
Oggi, i nostri strumenti di intelligenza artificiale ci indovinano, perché sanno meglio di noi, o almeno così immaginano i loro creatori. Non hanno del tutto torto. Immagina di cercare una ricetta per l'agente nervino Novichok su Google o tramite Gemini e ottieni una risposta che ti consente di uccidere le persone. Questa è una minaccia per il grande pubblico.
Nonostante la missione di Google – “Organizzare le informazioni mondiali e renderle universalmente accessibili e utili” – nessuno si aspetta davvero che i motori di ricerca o i modelli di intelligenza artificiale organizzino le informazioni sulla fabbricazione delle bombe e le rendano disponibili a tutti. Sono necessari controlli di sicurezza, abbinati alla responsabilità: una sanzione che l’industria tecnologica continua a evitare.
Tu sei il prodotto e il centro di profitto
Da quando i contenuti generati dagli utenti e i social media sono diventati una realtà negli anni '1990, consentiti dalla protezione dalla responsabilità della piattaforma nella Sezione 230 dell'America's Communication Decency Act del 1996, le piattaforme tecnologiche hanno incoraggiato le persone a contribuire e condividere contenuti digitali. Lo hanno fatto per monetizzare la creazione di contenuti non pagati attraverso annunci pubblicitari senza il costo della supervisione editoriale. È stato un accordo redditizio.
E quando le persone condividono post contenenti odio, inappropriati, illegali o altrimenti problematici, le piattaforme tecnologiche hanno fatto affidamento su politiche di moderazione dei contenuti, appaltatori sottopagati (spesso traumatizzati dal contenuto che hanno esaminato) e dichiarazioni di autocelebrazione su quante cose tossiche sono state bloccate mentre continuano a raccogliere i frutti del coinvolgimento online.
Google, Meta e altri lo fanno, in modo imperfetto, da anni. E tutti nel settore riconoscono che la moderazione dei contenuti lo è difficile fare bene. In poche parole, non puoi accontentare tutti. E a volte finisci per essere accusato di facilitare il genocidio attraverso l'indifferenza dei tuoi sforzi di moderazione dei contenuti.
L’incapacità di Gemini di riprodurre immagini storiche conformi alle aspettative razziali ed etniche riflette l’egoistica ignoranza dell’industria tecnologica riguardo ai precedenti e prolifici fallimenti nella moderazione dei contenuti.
Google e altri che lanciano modelli di intelligenza artificiale parlano di sicurezza come se fosse in qualche modo diversa dalla moderazione dei contenuti online. I guardrail non funzionano bene per la moderazione dei social media e non funzionano bene per i modelli di intelligenza artificiale. La sicurezza dell’intelligenza artificiale, come la sicurezza dei social media, è più un’aspirazione che una realtà.
La risposta non è anticipare tutti gli scenari in cui i modelli di intelligenza artificiale – addestrati sulla tossicità di Internet non filtrato – possono essere resi meno tossici. Né addestrerà i modelli di intelligenza artificiale solo su materiali così mansueti da produrre risultati di basso valore. Sebbene entrambi questi approcci abbiano un certo valore in determinati contesti.
La risposta deve arrivare a livello di distribuzione. Le piattaforme tecnologiche che distribuiscono contenuti creati dagli utenti, siano essi realizzati con l’intelligenza artificiale o in altro modo, devono essere rese più responsabili nella pubblicazione di contenuti di odio, disinformazione, inesattezze, propaganda politica, immagini di abusi sessuali e simili.
Le persone dovrebbero essere in grado di utilizzare i modelli di intelligenza artificiale per creare qualunque cosa immaginino, come possono fare con una matita, e lo possono già con i modelli open source. Ma il danno che può derivare da strumenti completamente funzionanti non deriva dalle immagini archiviate su un disco rigido locale. È la condivisione di contenuti dannosi, la spinta algoritmica data a tale coinvolgimento e l’impraticabilità di ritenere le persone responsabili dell’avvelenamento del bene pubblico.
Ciò potrebbe significare che le piattaforme create per monetizzare la condivisione potrebbero dover ripensare i propri modelli di business. Forse la distribuzione dei contenuti senza il costo della supervisione editoriale non offre alcun risparmio una volta reimplementate le funzioni di supervisione come moderatori o guardrail.
La parola dovrebbe essere libera, ma ciò non significa che dire cose orribili debba essere gratuito. Alla fine, siamo i nostri migliori moderatori di contenuti, se ricevono i giusti incentivi. ®
Aggiornato per aggiungere alle 2045 UTC, 23 febbraio
Google ha offerto una spiegazione di cosa è successo con il generatore di immagini di Gemini e di come è arrivato al punto in cui era apparentemente terrorizzato nel rappresentare accuratamente i bianchi.
Ci è stato detto che i Googler hanno sovracompensato nel loro tentativo di non produrre materiale che spingesse le persone non bianche fuori dai giochi. Il modello risultante era, in un certo senso, troppo sveglio.
"In primo luogo, la nostra messa a punto per garantire che Gemini mostrasse una serie di persone non ha tenuto conto dei casi che chiaramente non avrebbero dovuto mostrare una gamma", ha affermato Prabhakar Raghavan, vicepresidente senior di Google.
“E in secondo luogo, nel tempo, il modello è diventato molto più cauto di quanto intendessimo e si è rifiutato di rispondere completamente a determinati suggerimenti, interpretando erroneamente alcuni suggerimenti molto anodini come sensibili. Queste due cose hanno portato il modello a compensare eccessivamente in alcuni casi, e a essere eccessivamente conservatore in altri, portando a immagini imbarazzanti e sbagliate”.
Raghavan ha affermato che la generazione delle immagini non verrà riattivata finché il software non sarà stato sottoposto a modifiche e test approfonditi.
"Non posso promettere che Gemini non genererà occasionalmente risultati imbarazzanti, imprecisi o offensivi, ma posso promettere che continueremo ad agire ogni volta che identifichiamo un problema", ha affermato.
- Distribuzione di contenuti basati su SEO e PR. Ricevi amplificazione oggi.
- PlatoData.Network Generativo verticale Ai. Potenzia te stesso. Accedi qui.
- PlatoAiStream. Intelligenza Web3. Conoscenza amplificata. Accedi qui.
- PlatoneESG. Carbonio, Tecnologia pulita, Energia, Ambiente, Solare, Gestione dei rifiuti. Accedi qui.
- Platone Salute. Intelligence sulle biotecnologie e sulle sperimentazioni cliniche. Accedi qui.
- Fonte: https://go.theregister.com/feed/www.theregister.com/2024/02/23/google_suspends_gemini/
- :ha
- :È
- :non
- :Dove
- $ SU
- 1996
- 7
- a
- capace
- Chi siamo
- abuso
- accessibile
- Il mio account
- responsabile
- con precisione
- accusato
- Legge
- Action
- presenti
- aggiungere
- Ads - Annunci
- adulti
- avanzare
- impaurito
- Dopo shavasana, sedersi in silenzio; saluti;
- Agente
- AI
- Modelli AI
- algoritmica
- Tutti
- già
- anche
- America
- Americani
- an
- ed
- Un altro
- rispondere
- anticipando
- in qualsiasi
- approcci
- SONO
- argomenti
- armato
- in giro
- disposizione
- AS
- At
- disponibilità
- disponibile
- evitare
- consapevole
- precedente
- Equilibrio
- BE
- è diventato
- perché
- stato
- MIGLIORE
- Meglio
- bloccato
- bomba
- Incremento
- entrambi
- più ampia
- costruito
- burocratico
- affari
- modelli di business
- ma
- by
- Materiale
- funzionalità
- casi
- cauto
- certo
- Modifiche
- Bambini
- chiesa
- chiaramente
- CO
- colore
- Venire
- Comunicazione
- composizione
- calcolo
- computer
- contenuto
- creazione di contenuti
- contesti
- continua
- continua
- appaltatori
- contribuire
- controlli
- Aziende
- Costo
- creare
- creazione
- Cultura
- pericoli
- Dave
- dichiarata
- Dipendente
- DID
- diverso
- digitale
- Digital Content
- Le disinformazioni sanitarie
- distribuire
- distribuzione
- paesaggio differenziato
- Diversità
- do
- effettua
- doesn
- fare
- don
- guidare
- Editoriale
- Edward
- Edward Snowden
- sforzi
- abilitato
- incoraggiato
- fine
- Fidanzamento
- Motori
- garantire
- interamente
- equità
- Gli europei
- Anche
- tutti
- le aspettative
- aspetta
- spiegazione
- estensivo
- fallito
- fallimenti
- Autunno
- Febbraio
- filtri
- Nome
- Fissare
- Nel
- Forze
- fondamentale
- Francisco
- Gratis
- da
- completamente
- funzionale
- funzioni
- futuro
- Gemini
- Generale
- pubblico
- generalmente
- generare
- generato
- ELETTRICA
- generatore
- Tedesco
- ottenere
- gigante
- dato
- andato
- buono
- ha ottenuto
- graham
- Gruppo
- successo
- Hard
- disco rigido
- nuocere
- dannoso
- odio
- Avere
- he
- qui
- storico
- possesso
- Come
- HTTPS
- i
- idea
- identificare
- if
- Ignoranza
- Illegale
- Immagine
- immagini
- immagine
- subito
- competenze
- in
- incapacità
- impreciso
- Incentive
- inclusione
- industria
- info
- informazioni
- invece
- destinato
- Internet
- interpretariato
- ISN
- problema
- IT
- SUO
- stessa
- jpg
- Uccidere
- tipi
- Sapere
- conosciuto
- Discografica
- Dipingere
- strato
- principale
- letture
- Guidato
- meno
- Consente di
- responsabilità
- piace
- locale
- Guarda
- lucrativo
- fatto
- make
- Makers
- Fare
- molti
- marchio
- materiale
- Maggio..
- può essere
- significare
- Media
- Meta
- mancante
- Missione
- Moda
- modello
- modelli
- moderazione
- monetizzare
- Scopri di più
- molti
- devono obbligatoriamente:
- Bisogno
- di applicazione
- NIH
- no
- nonostante
- NSA
- of
- offensivo
- offrire
- offerta
- di frequente
- on
- una volta
- ONE
- online
- esclusivamente
- aprire
- open source
- or
- Altri
- altrimenti
- nostro
- su
- produzione
- ancora
- svista
- proprio
- accoppiato
- Paul
- PBS
- Persone
- pertinente
- PHP
- immagine
- piattaforma
- Piattaforme
- Platone
- Platone Data Intelligence
- PlatoneDati
- per favore
- punto
- avvelenamento
- Termini e Condizioni
- politico
- politica
- Post
- precedente
- in precedenza
- problematico
- produrre
- Prodotto
- Profitto
- prolifico
- PROMETTIAMO
- istruzioni
- propaganda
- protezione
- fornitura
- la percezione
- spinto
- metti
- ricerca
- Domande
- Presto
- gamma
- RE
- veramente
- raccogliere
- recentemente
- ricetta
- riflette
- rifiutato
- rilasciato
- rappresentare
- al Deck ristorante
- risultante
- Risultati
- rivisto
- Rewards
- destra
- rotolamento
- s
- Sicurezza
- Suddetto
- San
- San Francisco
- Sanzione
- Risparmio
- detto
- Scenari
- Cerca
- Motori di ricerca
- Secondo
- Sezione
- Unità 230
- apparentemente
- invia
- delicata
- servire
- Sessuale
- Condividi
- compartecipazione
- Corti
- dovrebbero
- mostrare attraverso le sue creazioni
- ha mostrato
- semplicemente
- Seduta
- Snowden
- So
- Social
- Social Media
- Software
- alcuni
- in qualche modo
- a volte
- Fonte
- lo spazio
- specifico
- dichiarazione
- sospeso
- commutata
- Fai
- Parlare
- Tech
- industria tecnologica
- Testing
- di
- che
- I
- il mondo
- loro
- Strumenti Bowman per analizzare le seguenti finiture:
- di
- cosa
- cose
- think
- questo
- questa settimana
- quelli
- anche se?
- minaccia
- Attraverso
- tempo
- a
- detto
- pure
- strumenti
- allenato
- Training
- trattare
- sintonia
- seconda
- universalmente
- fino a quando
- us
- uso
- utilizzato
- utile
- Utente
- UTC
- APPREZZIAMO
- impresa
- venture capitalist
- molto
- via
- Prima
- Modo..
- we
- sito web
- settimana
- WELL
- sono stati
- Che
- qualunque
- quando
- ogni volta che
- se
- quale
- while
- informatore
- L'informatore Edward Snowden
- bianca
- OMS
- largo
- Vasta gamma
- wikipedia
- volere
- con
- senza
- Ha vinto
- Lavora
- lavoro
- mondo
- sarebbe
- Wrong
- anni
- Tu
- Trasferimento da aeroporto a Sharm
- zefiro