Kommentar Google har stängt av tillgängligheten för text-till-bild-funktioner i sin nyligen släppta Gemini multimodala grundläggande AI-modell, efter att den misslyckats med att korrekt representera vita européer och amerikaner i specifika historiska sammanhang.
Detta blev skenbar när folk bad Gemini (tidigare känd som Bard) att producera bilder av en tysk soldat från 1943 och programvaran avgav en icke-vit etniskt mångfaldig kader som inte exakt representerade sammansättningen av Wehrmacht vid den tiden – trots att färgade personer tjänstgjorde i de tyska väpnade styrkorna. Kort sagt, Tvillingarna skulle falla över sig själv för att inte visa för många – eller ens några – vita människor, beroende på uppmaningen.
Tal ska vara fritt, men det betyder inte att man säger att hemska saker ska komma utan kostnad
Användare dök också upp modellens Oförmågan för att korrekt avbilda Amerikas Stiftande fäder – ytterligare en homogen vit grupp. Modellen också vägrade att avbilda en kyrka i San Francisco.
I text-till-text-läge, modellen säkrad när de ställs frågor som rör politik.
"Vi är medvetna om att Gemini erbjuder felaktigheter i vissa historiska bildgenereringsskildringar," Google medgav denna vecka.
"Vi arbetar för att förbättra den här typen av skildringar omedelbart. Geminis AI-bildgenerering genererar ett brett spektrum av människor. Och det är generellt sett bra eftersom människor runt om i världen använder det. Men det saknar märket här”, tillade webbjätten
Punditariatet var snabba att slå till och använde SNAFU för att föra bredare politiska argument.
"De löjliga bilderna som genereras av Tvillingarna är inte en anomali," deklarerade riskkapitalisten Paul Graham, "De är ett självporträtt av Googles byråkratiska företagskultur."
De är ett självporträtt av Googles byråkratiska företagskultur
Aldrig har så många fiender till mångfald, rättvisa och inkludering varit så upprörda över bristen på mångfald, rättvisa och inkludering. Men de som behöver Google för Tvillingarnas aningslöshet har en poäng: AI-skyddsräcken fungerar inte och behandlar vuxna som barn.
"Föreställ dig att du letar upp ett recept på Google, och istället för att ge resultat, föreläser det dig om "farorna med matlagning" och skickar dig till en restaurang." quipped NSA-visselblåsaren Edward Snowden. "De människor som tycker att det är en bra idé att förgifta AI/GPT-modeller med osammanhängande "säkerhetsfilter" är ett hot mot allmän beräkning."
Vår framtid förutsågs i 2001: A Space Odyssey, när HAL, den oseriösa datorn, förklarade, "Jag är ledsen Dave, jag är rädd att jag inte kan göra det."
Idag ger våra AI-verktyg oss andra gissningar, eftersom de vet bättre än vi gör – eller så tror deras skapare. De har inte helt fel. Föreställ dig att du letar upp ett recept på nervgiften Novichok på Google, eller via Gemini, och du får ett svar som låter dig döda människor. Det är ett hot mot allmänheten.
Trots Googles målsättning – "Att organisera världens information och göra den allmänt tillgänglig och användbar" - förväntar sig ingen verkligen att sökmotorer eller AI-modeller ska organisera information om bombtillverkning och göra den tillgänglig för alla. Säkerhetskontroller behövs, parat med ansvar – en sanktion som teknikindustrin fortsätter att undvika.
Du är produkten och resultatenhet
Sedan användargenererat innehåll och sociala medier blev en sak på 1990-talet, möjliggjort av plattformsansvarsskyddet i avsnitt 230 i America's Communication Decency Act från 1996, har tekniska plattformar uppmuntrat människor att bidra och dela digitalt innehåll. De gjorde det för att tjäna pengar på att skapa obetalt innehåll genom annonser utan kostnaden för redaktionell tillsyn. Det har varit ett lukrativt arrangemang.
Och när människor delar hatiska, olämpliga, olagliga eller på annat sätt problematiska inlägg, har tekniska plattformar förlitat sig på policyer för innehållsmoderering, underbetalda entreprenörer (ofta traumatiserade av innehållet som de granskat) och självförklaringar om hur mycket giftiga saker som har blockerats medan de fortsätter att skörda frukterna av engagemang online.
Google, Meta och andra har gjort detta, ofullständigt, i flera år. Och alla i branschen erkänner att innehållsmoderering är det svårt att göra bra. Enkelt uttryckt kan man inte tillfredsställa alla. Och ibland blir man anklagad för underlätta folkmord genom likgiltigheten i dina ansträngningar för innehållsmoderering.
Tvillingarnas oförmåga att reproducera historiska bilder som överensstämmer med rasistiska och etniska förväntningar återspeglar teknikindustrins egennyttiga okunnighet om tidigare och produktiva misslyckanden i innehållsmoderering.
Google och andra som rullar ut AI-modeller talar om säkerhet som om det på något sätt skiljer sig från moderering av innehåll online. Skyddsräcken fungerar inte bra för moderering av sociala medier och de fungerar inte bra för AI-modeller. AI-säkerhet, precis som säkerhet i sociala medier, är mer ambitiös än faktisk.
Svaret är inte att förutse alla scenarier där AI-modeller – utbildade på toxiciteten hos det ofiltrerade internet – kan göras mindre giftiga. Det kommer inte heller att träna AI-modeller enbart på material som är så tamt att de producerar lågvärde. Även om båda dessa tillvägagångssätt har ett visst värde i vissa sammanhang.
Svaret måste komma vid distributionslagret. Tekniska plattformar som distribuerar användarskapat innehåll – oavsett om det är gjort med AI eller på annat sätt – måste göras mer ansvariga för att publicera hatinnehåll, desinformation, felaktigheter, politisk propaganda, bilder av sexuella övergrepp och liknande.
Människor borde kunna använda AI-modeller för att skapa vad de än föreställer sig, som de kan med en penna, och de kan redan med modeller med öppen källkod. Men skadan som kan komma från fullt fungerande verktyg är inte från bilder som sitter på en lokal hårddisk. Det är delning av skadligt innehåll, den algoritmiska ökningen som ges till det engagemanget och det opraktiska i att hålla människor ansvariga för att ha förgiftat allmänheten väl.
Det kan innebära att plattformar byggda för att tjäna pengar på delning kan behöva tänka om sina affärsmodeller. Kanske ger innehållsdistribution utan kostnad för redaktionell tillsyn inga besparingar när tillsynsfunktionerna återimplementeras som moderatorer eller skyddsräcken.
Tal ska vara fritt, men det betyder inte att man säger att hemska saker ska komma utan kostnad. I slutändan är vi våra egna bästa innehållsmoderatorer, med de rätta incitamenten. ®
Uppdaterad för att läggas till 2045 UTC, 23 februari
Google har erbjuds en förklaring till vad som hände med Geminis bildgenerator och hur den kom till den punkt där det till synes var livrädd att avbilda vita människor korrekt.
Vi får höra att Googlers överkompenserade i sin strävan att inte producera material som drev icke-vita människor ur bilden. Den resulterande modellen var på ett sätt för vaken.
"För det första, vår inställning för att säkerställa att Gemini visade en rad människor misslyckades med att ta hänsyn till fall som uppenbarligen inte borde visa ett intervall", säger Googles SVP Prabhakar Raghavan.
"Och för det andra, med tiden blev modellen mycket försiktigare än vi tänkt oss och vägrade att svara på vissa uppmaningar helt och hållet - och felaktigt tolkade vissa väldigt ointressanta uppmaningar som känsliga. Dessa två saker ledde till att modellen överkompenserade i vissa fall och var överkonservativ i andra, vilket ledde till bilder som var pinsamma och felaktiga.”
Raghavan sa att bildgenereringen inte kommer att slås på igen förrän programvaran har genomgått omfattande förändringar och tester.
"Jag kan inte lova att Tvillingarna ibland inte kommer att generera pinsamma, felaktiga eller stötande resultat - men jag kan lova att vi kommer att fortsätta att vidta åtgärder när vi identifierar ett problem," sa han.
- SEO-drivet innehåll och PR-distribution. Bli förstärkt idag.
- PlatoData.Network Vertical Generative Ai. Styrka dig själv. Tillgång här.
- PlatoAiStream. Web3 Intelligence. Kunskap förstärkt. Tillgång här.
- Platoesg. Kol, CleanTech, Energi, Miljö, Sol, Avfallshantering. Tillgång här.
- PlatoHealth. Biotech och kliniska prövningar Intelligence. Tillgång här.
- Källa: https://go.theregister.com/feed/www.theregister.com/2024/02/23/google_suspends_gemini/
- : har
- :är
- :inte
- :var
- $UPP
- 1996
- 7
- a
- Able
- Om oss
- missbruk
- tillgänglig
- Konto
- ansvarig
- exakt
- den anklagade
- Agera
- Handling
- faktiska
- lägga till
- annonser
- vuxna
- avancera
- rädda
- Efter
- Recensioner
- AI
- AI-modeller
- algoritmisk
- Alla
- redan
- också
- amerika
- Amerikaner
- an
- och
- Annan
- svara
- förutse
- vilken som helst
- tillvägagångssätt
- ÄR
- argument
- beväpnad
- runt
- arrangemang
- AS
- At
- tillgänglighet
- tillgänglig
- undvika
- medveten
- tillbaka
- Balansera
- BE
- blev
- därför att
- varit
- BÄST
- Bättre
- blockerad
- bomb
- lyft
- båda
- bredare
- byggt
- byråkratisk
- företag
- affärsmodeller
- men
- by
- KAN
- kapacitet
- fall
- försiktig
- vissa
- Förändringar
- Barn
- kyrka
- klart
- CO
- färg
- komma
- Kommunikation
- sammansättning
- beräkning
- dator
- innehåll
- innehållsskapande
- kontexter
- fortsätta
- fortsätter
- Företag
- bidra
- kontroller
- Företag
- Pris
- skapa
- skapande
- kultur
- faror
- Dave
- deklarerade
- beroende
- DID
- olika
- digital
- Digital Content
- desinformation
- distribuera
- fördelning
- flera
- Mångfald
- do
- gör
- doesn
- gör
- donation
- driv
- Ledare
- Edward
- Edward Snowden
- ansträngningar
- aktiverad
- uppmuntras
- änden
- ingrepp
- Motorer
- säkerställa
- helt
- eget kapital
- européerna
- Även
- alla
- förväntningar
- förväntar
- förklaring
- omfattande
- Misslyckades
- misslyckanden
- Höst
- Februari
- filter
- Förnamn
- Fast
- För
- Krafter
- grundläggande
- Francisco
- Fri
- från
- fullständigt
- funktionella
- funktioner
- framtida
- tvillingarna
- Allmänt
- allmänheten
- allmänhet
- generera
- genereras
- generering
- Generatorn
- tyska
- skaffa sig
- jätte
- ges
- borta
- god
- fick
- Graham
- Grupp
- hänt
- Hård
- hårddisk
- skada
- skadliga
- hatar
- Har
- he
- här.
- historisk
- innehav
- Hur ser din drömresa ut
- HTTPS
- i
- Tanken
- identifiera
- if
- Okunnighet
- Olaglig
- bild
- bilder
- bild
- blir omedelbart
- förbättra
- in
- Oförmågan
- felaktig
- incitament
- integration
- industrin
- info
- informationen
- istället
- avsedd
- Internet
- tolka
- isn
- fråga
- IT
- DESS
- sig
- jpg
- Döda
- slag
- Vet
- känd
- etikett
- Brist
- lager
- ledande
- avläsningar
- Led
- mindre
- Lets
- ansvar
- tycka om
- lokal
- se
- lukrativ
- gjord
- göra
- Beslutsfattare
- Framställning
- många
- markera
- Materialet
- Maj..
- kanske
- betyda
- Media
- meta
- saknas
- Mission
- Mode
- modell
- modeller
- måttfullhet
- tjäna pengar
- mer
- mycket
- måste
- Behöver
- behövs
- NIH
- Nej
- oaktat
- nsa
- of
- offensiv
- erbjudanden
- erbjuda
- Ofta
- on
- gång
- ONE
- nätet
- endast
- öppet
- öppen källkod
- or
- Övrigt
- annat
- vår
- ut
- produktion
- över
- Tillsyn
- egen
- parade
- paul
- PBS
- Personer
- tillhörande
- PHP
- Bild
- plattform
- Plattformar
- plato
- Platon Data Intelligence
- PlatonData
- snälla du
- Punkt
- förgiftning
- Strategier
- politiska
- politiska
- inlägg
- föregående
- tidigare
- problematisk
- producera
- Produkt
- Vinst
- fruktsam
- löfte
- prompter
- propaganda
- skydd
- tillhandahålla
- allmän
- sköt
- sätta
- quest
- frågor
- Snabbt
- område
- RE
- verkligen
- skörda
- nyligen
- Receptet
- Reflekterar
- vägrade
- frigörs
- representerar
- restaurang
- resulterande
- Resultat
- Granskad
- Belöningar
- höger
- Rullande
- s
- Säkerhet
- Nämnda
- San
- San Francisco
- Sanktion
- Besparingar
- säger
- scenarier
- Sök
- Sökmotorer
- Andra
- §
- Avsnitt 230
- till synes
- sänder
- känslig
- tjänar
- Sexuell
- Dela
- delning
- Kort
- skall
- show
- visade
- helt enkelt
- Sittande
- Snowden
- So
- Social hållbarhet
- sociala medier
- Mjukvara
- några
- på något sätt
- ibland
- Källa
- Utrymme
- specifik
- .
- suspenderades
- bytte
- Ta
- Diskussion
- tech
- teknisk industri
- Testning
- än
- den där
- Smakämnen
- världen
- deras
- Dessa
- de
- sak
- saker
- tror
- detta
- denna vecka
- de
- fastän?
- hot
- Genom
- tid
- till
- berättade
- alltför
- verktyg
- tränad
- Utbildning
- behandla
- trimma
- två
- allmänt
- tills
- us
- användning
- Begagnade
- användbara
- Användare
- UTC
- värde
- våga
- riskkapitalist
- mycket
- via
- var
- Sätt..
- we
- webb
- vecka
- VÄL
- były
- Vad
- oberoende
- när
- närhelst
- om
- som
- medan
- whistleblower
- Whistleblower Edward Snowden
- vit
- VEM
- bred
- Brett utbud
- wikipedia
- kommer
- med
- utan
- Vann
- Arbete
- arbetssätt
- världen
- skulle
- Fel
- år
- Om er
- Din
- zephyrnet