komentar Google je začasno ukinil razpoložljivost zmožnosti pretvorbe besedila v sliko v svojem nedavno izdanem multimodalnem temeljnem modelu umetne inteligence Gemini, potem ko ni uspel natančno predstaviti belih Evropejcev in Američanov v specifičnih zgodovinskih kontekstih.
To je postalo očitno ko so ljudje prosili Geminija (prej znanega kot Bard) za proizvodnjo slike nemškega vojaka iz leta 1943, programska oprema pa je oddala ne-belega etnično raznolikega kadra, ki ni natančno predstavljal sestave Wehrmachta v tistem času – ne glede na to, da so temnopolti ljudje služili v nemških oboroženih silah. Skratka, Gemini bi padel čez sebe, da ne bi pokazal preveč – ali celo nobenega – belcev, odvisno od poziva.
Govor bi moral biti brezplačen, vendar to ne pomeni, da bi moralo biti govorjenje grozljivih stvari brez stroškov
Uporabniki so se pojavili tudi na modelih nezmožnost natančno prikazati Ameriko Ustanovitelji – druga homogena bela skupina. Tudi model zavrnil za upodobitev cerkve v San Franciscu.
V načinu pretvorbe besedila v besedilo model varovan na vprašanja o politiki.
"Zavedamo se, da Gemini ponuja netočnosti v nekaterih upodobitvah generiranja zgodovinskih slik," Google priznan ta teden.
»Prizadevamo si takoj izboljšati tovrstne upodobitve. Generiranje slik Gemini z umetno inteligenco ustvarja širok krog ljudi. In to je na splošno dobro, ker ga uporabljajo ljudje po vsem svetu. Ampak tukaj manjka,« je dodal spletni gigant
Punditariat je hitro napadel in uporabil SNAFU za spodbujanje širših političnih argumentov.
"Smešne slike, ki jih ustvari Gemini, niso anomalija," prijavljeni tvegani kapitalist Paul Graham, "So avtoportret Googlove birokratske korporativne kulture."
So avtoportret Googlove birokratske korporativne kulture
Še nikoli ni bilo toliko sovražnikov raznolikosti, pravičnosti in vključenosti tako prizadetih zaradi pomanjkanja raznolikosti, pravičnosti in vključenosti. Toda tisti, ki iščejo Google zaradi Geminijeve nevednosti, imajo prav: zaščitne ograje AI ne delujejo in obravnavajo odrasle kot otroke.
»Predstavljajte si, da na Googlu iščete recept in namesto da bi vam ponudil rezultate, vam predava o 'nevarnostih kuhanja' in vas pošlje v restavracijo,« poševno Žvižgač NSA Edward Snowden. "Ljudje, ki mislijo, da je zastrupljanje modelov AI/GPT z nekoherentnimi 'varnostnimi' filtri dobra ideja, so grožnja splošnemu računanju."
Naša prihodnost je bila predvidena v 2001: A Space Odyssey, ko je HAL, prevarantski računalnik, izjavil: "Žal mi je Dave, bojim se, da tega ne morem storiti."
Danes nas naša orodja AI ugibajo, ker vedo bolje od nas – ali si tako predstavljajo njihovi izdelovalci. Niso povsem napačni. Predstavljajte si, da iščete recept za živčno sredstvo Novichok na Googlu ali prek Geminija in dobite odgovor, ki vam omogoča ubijanje ljudi. To je grožnja širši javnosti.
Kljub Googlovi izjavi o poslanstvu – »Organizirati svetovne informacije in jih narediti univerzalno dostopne in uporabne« – nihče v resnici ne pričakuje, da bodo iskalniki ali modeli AI organizirali informacije o izdelavi bomb in jih dali na voljo vsem. Potreben je varnostni nadzor, skupaj z odgovornostjo – sankcija, ki se je tehnološka industrija še naprej izogiba.
Vi ste produkt in profitni center
Odkar so vsebina, ki so jo ustvarili uporabniki, in družbeni mediji postali stvar v devetdesetih letih prejšnjega stoletja, kar je omogočila zaščita odgovornosti platforme v razdelku 1990 ameriškega zakona o spodobnosti v komunikaciji iz leta 230, so tehnološke platforme spodbujale ljudi, da prispevajo in delijo digitalno vsebino. To so storili, da bi z oglasi monetizirali neplačano ustvarjanje vsebine brez stroškov uredniškega nadzora. To je bil donosen dogovor.
In ko ljudje delijo sovražne, neprimerne, nezakonite ali kako drugače problematične objave, so se tehnološke platforme zanašale na politike moderiranja vsebine, premalo plačane izvajalce (pogosto travmatizirane zaradi vsebine, ki so jo pregledali) in samohvaležne izjave o tem, koliko strupenih stvari je bilo medtem blokiranih. še naprej žanjejo koristi spletnega sodelovanja.
Google, Meta in drugi to počnejo nepopolno že leta. In vsi v industriji priznavajo, da je moderiranje vsebine težko narediti dobro. Preprosto povedano, ne morete ugoditi vsem. In včasih si na koncu obtožen omogočanje genocida zaradi brezbrižnosti vaših prizadevanj za moderiranje vsebine.
Geminijeva nezmožnost reproduciranja zgodovinskih podob, ki so v skladu z rasnimi in etničnimi pričakovanji, odraža sebično nepoznavanje tehnološke industrije glede prejšnjih in plodnih napak pri moderiranju vsebine.
Google in drugi, ki uvajajo modele AI, govorijo o varnosti, kot da se nekako razlikuje od moderiranja spletnih vsebin. Zaščitne ograje ne delujejo dobro pri moderiranju družbenih medijev in ne delujejo dobro pri modelih AI. Varnost umetne inteligence, tako kot varnost družbenih medijev, je bolj želena kot dejanska.
Odgovor ni predvidevanje vseh scenarijev, v katerih je mogoče modele umetne inteligence – izurjene na strupenosti nefiltriranega interneta – narediti manj strupene. Prav tako ne bo usposabljalo modelov umetne inteligence samo na materialu, ki je tako krotek, da proizvajajo rezultate nizke vrednosti. Čeprav imata oba pristopa določeno vrednost v določenih kontekstih.
Odgovor mora priti na distribucijski plasti. Tehnološke platforme, ki distribuirajo vsebino, ki so jo ustvarili uporabniki – ne glede na to, ali je narejena z umetno inteligenco ali kako drugače – morajo postati bolj odgovorne za objavljanje sovražne vsebine, dezinformacij, netočnosti, politične propagande, podob spolne zlorabe in podobnega.
Ljudje bi morali imeti možnost uporabljati modele umetne inteligence, da ustvarijo vse, kar si zamislijo, tako kot lahko s svinčnikom in že lahko z odprtokodnimi modeli. Toda škoda, ki jo lahko povzročijo popolnoma delujoča orodja, ni posledica slik na lokalnem trdem disku. To je deljenje škodljive vsebine, algoritemska spodbuda, dana tej angažiranosti, in nepraktičnost, da bi ljudi odgovarjali za dobro zastrupljanje javnosti.
To lahko pomeni, da bodo morale platforme, zgrajene za monetizacijo skupne rabe, ponovno razmisliti o svojih poslovnih modelih. Morda distribucija vsebine brez stroškov uredniškega nadzora ne nudi nobenih prihrankov, ko so nadzorne funkcije ponovno uvedene kot moderatorji ali zaščitne ograje.
Govor bi moral biti brezplačen, vendar to ne pomeni, da bi moralo biti govorjenje grozljivih stvari brez stroškov. Na koncu smo sami sebi najboljši moderatorji vsebine, če imamo prave spodbude. ®
Posodobljeno za dodajanje ob 2045 UTC, 23. februarja
Google ima ponujen razlago o tem, kaj se je zgodilo z Geminijevim generatorjem slik in kako je prišel do točke, ko je bil na videz prestrašen, da bi natančno prikazal bele ljudi.
Povedali so nam, da so zaposleni v Googlu prejeli previsoka nadomestila v svojem prizadevanju, da ne bi proizvedli materiala, ki bi s slike izrinil ljudi, ki niso belci. Nastali model je bil na nek način preveč prebujen.
"Prvič, naše prilagajanje, da bi zagotovili, da je Gemini prikazal vrsto ljudi, ni upoštevalo primerov, ki očitno ne bi smeli pokazati obsega," je dejal Google SVP Prabhakar Raghavan.
»In drugič, sčasoma je model postal veliko bolj previden, kot smo nameravali, in je zavrnil v celoti odgovoriti na določene pozive – napačno razlagal nekatere zelo brezupne pozive kot občutljive. Ti dve stvari sta privedli do tega, da je model v nekaterih primerih preveč kompenziral, v drugih pa bil preveč konzervativen, kar je vodilo do podob, ki so bile neprijetne in napačne.«
Raghavan je dejal, da se ustvarjanje slik ne bo ponovno vklopilo, dokler programska oprema ne bo šla skozi obsežne spremembe in testiranje.
"Ne morem obljubiti, da Gemini ne bo občasno ustvaril neprijetnih, netočnih ali žaljivih rezultatov - lahko pa obljubim, da bomo še naprej ukrepali, kadar koli odkrijemo težavo," je dejal.
- Distribucija vsebine in PR s pomočjo SEO. Okrepite se še danes.
- PlatoData.Network Vertical Generative Ai. Opolnomočite se. Dostopite tukaj.
- PlatoAiStream. Web3 Intelligence. Razširjeno znanje. Dostopite tukaj.
- PlatoESG. Ogljik, CleanTech, Energija, Okolje, sončna energija, Ravnanje z odpadki. Dostopite tukaj.
- PlatoHealth. Obveščanje o biotehnologiji in kliničnih preskušanjih. Dostopite tukaj.
- vir: https://go.theregister.com/feed/www.theregister.com/2024/02/23/google_suspends_gemini/
- :ima
- : je
- :ne
- :kje
- $GOR
- 1996
- 7
- a
- Sposobna
- O meni
- zloraba
- dostopen
- Račun
- odgovorna
- natančno
- obtožen
- Zakon
- Ukrep
- dejanska
- dodajte
- oglasi
- odrasli
- napredovanje
- strah
- po
- Agent
- AI
- AI modeli
- algoritmični
- vsi
- že
- Prav tako
- Amerika
- Američani
- an
- in
- Še ena
- odgovor
- predvidevanje
- kaj
- pristopi
- SE
- Argumenti
- oboroženi
- okoli
- ureditev
- AS
- At
- razpoložljivost
- Na voljo
- izogniti
- zaveda
- nazaj
- Ravnovesje
- BE
- postal
- ker
- bilo
- BEST
- Boljše
- blokirana
- bomba
- povečanje
- tako
- širši
- zgrajena
- birokratski
- poslovni
- poslovnih modelov
- vendar
- by
- CAN
- Zmogljivosti
- primeri
- previden
- nekatere
- Spremembe
- Otroci
- Cerkev
- jasno
- CO
- barva
- kako
- Komunikacija
- sestava
- računanje
- računalnik
- vsebina
- ustvarjanje vsebine
- kontekstih
- naprej
- se nadaljuje
- izvajalci
- prispevajo
- Nadzor
- Corporate
- strošek
- ustvarjajo
- Oblikovanje
- Kultura
- nevarnosti
- Dave
- prijavljeni
- Odvisno
- DID
- drugačen
- digitalni
- Digitalne vsebine
- dezinformacija
- distribuirati
- distribucija
- razne
- raznolikost
- do
- ne
- ne
- tem
- don
- pogon
- Uredništvo
- Edward
- Edward Snowden
- prizadevanja
- omogočena
- spodbujati
- konec
- sodelovanje
- Motorji
- zagotovitev
- popolnoma
- pravičnost
- Evropejci
- Tudi
- vsi
- pričakovanja
- pričakuje
- Razlaga
- obsežen
- ni uspelo
- napake
- Padec
- februar
- Filtri
- prva
- fiksna
- za
- sile
- temeljno
- Francisco
- brezplačno
- iz
- v celoti
- funkcionalno
- funkcije
- Prihodnost
- Gemini
- splošno
- Splošna javnost
- splošno
- ustvarjajo
- ustvarila
- generacija
- generator
- nemški
- dobili
- velikan
- dana
- več
- dobro
- prisodil
- graham
- skupina
- se je zgodilo
- Trdi
- trdi disk
- škodovalo
- škodljiva
- sovražijo
- Imajo
- he
- tukaj
- zgodovinski
- gospodarstvo
- Kako
- HTTPS
- i
- Ideja
- identificirati
- if
- Nevednost
- nezakonito
- slika
- slike
- slika
- takoj
- izboljšanje
- in
- nezmožnost
- netočne
- spodbude
- vključitev
- Industrija
- info
- Podatki
- Namesto
- namenjen
- Internet
- tolmačenje
- isn
- vprašanje
- IT
- ITS
- sam
- jpg
- Kill
- vrste
- Vedite
- znano
- label
- Pomanjkanje
- plast
- vodi
- branja
- Led
- manj
- Lets
- odgovornosti
- kot
- lokalna
- Poglej
- donosen
- je
- Znamka
- Ustvarjalci
- Izdelava
- več
- znamka
- Material
- Maj ..
- mogoče
- pomeni
- mediji
- Meta
- manjka
- Mission
- način
- Model
- modeli
- zmernost
- monetizirati
- več
- veliko
- morajo
- Nimate
- potrebna
- NIH
- št
- ne glede na to
- nsa
- of
- žaljive
- ponudba
- ponujanje
- pogosto
- on
- enkrat
- ONE
- na spletu
- samo
- odprite
- open source
- or
- drugi
- drugače
- naši
- ven
- izhod
- več
- Nadzor
- lastne
- seznanjeni
- paul
- PBS
- ljudje
- ki se nanašajo
- PHP
- slika
- platforma
- Platforme
- platon
- Platonova podatkovna inteligenca
- PlatoData
- prosim
- Točka
- zastrupitev
- politike
- političnih
- politika
- Prispevkov
- prejšnja
- prej
- problematično
- proizvodnjo
- Izdelek
- Dobiček
- plodovit
- Obljuba
- pozove
- propaganda
- zaščita
- zagotavljanje
- javnega
- potisnilo
- dal
- iskanje
- vprašanja
- Hitri
- območje
- RE
- res
- žeti
- Pred kratkim
- Recept
- odseva
- zavrnil
- sprosti
- predstavljajo
- restavracija
- rezultat
- Rezultati
- Pregledal
- Nagrade
- Pravica
- Valjanje
- s
- Varnost
- Je dejal
- San
- San Francisco
- sankcija
- Prihranki
- rek
- scenariji
- Iskalnik
- Iskalniki
- drugi
- Oddelek
- Oddelek 230
- na videz
- pošlje
- občutljiva
- služijo
- Spolno
- Delite s prijatelji, znanci, družino in partnerji :-)
- delitev
- Kratke Hlače
- shouldnt
- Prikaži
- je pokazala,
- preprosto
- Sedenje
- Snowden
- So
- socialna
- družbeni mediji
- Software
- nekaj
- nekako
- Včasih
- vir
- Vesolje
- specifična
- Izjava
- prekinjena
- preklopi
- Bodite
- Pogovor
- tech
- tehnološka industrija
- Testiranje
- kot
- da
- O
- svet
- njihove
- te
- jih
- stvar
- stvari
- mislim
- ta
- ta teden
- tisti,
- čeprav?
- Grožnja
- skozi
- čas
- do
- Rekel
- tudi
- orodja
- usposobljeni
- usposabljanje
- zdravljenje
- tuning
- dva
- splošno
- dokler
- us
- uporaba
- Rabljeni
- koristno
- uporabnik
- UTC
- vrednost
- podjetje
- tvegani kapitalist
- zelo
- preko
- je
- način..
- we
- web
- teden
- Dobro
- so bili
- Kaj
- karkoli
- kdaj
- kadar koli
- ali
- ki
- medtem
- nezaželenec
- Žvižgač Edward Snowden
- bele
- WHO
- široka
- Širok spekter
- Wikipedia
- bo
- z
- brez
- Zmagali
- delo
- deluje
- svet
- bi
- Napačen
- let
- Vi
- Vaša rutina za
- zefirnet