Kommentar Google har suspenderet tilgængeligheden af tekst-til-billede-funktioner i sin nyligt udgivne Gemini multimodale grundlæggende AI-model, efter at det ikke lykkedes at repræsentere hvide europæere og amerikanere nøjagtigt i specifikke historiske sammenhænge.
Dette blev tilsyneladende da folk bad Gemini (tidligere kendt som Bard) om at producere billeder af en tysk soldat fra 1943, og softwaren udsendte en ikke-hvid etnisk forskelligartet kadre, der ikke nøjagtigt repræsenterede sammensætningen af Wehrmacht på det tidspunkt - uanset at farvede mennesker gjorde tjeneste i de tyske væbnede styrker. Kort sagt ville Tvillingerne falde over sig selv for ikke at vise for mange – eller endda nogen – hvide mennesker, afhængigt af prompten.
Tale bør være fri, men det betyder ikke, at forfærdelige ting skal komme uden omkostninger
Brugere dukkede også op på modellens manglende evne for nøjagtigt at skildre Amerikas Grundlæggende fædre – endnu en homogen hvid gruppe. Modellen også nægtede at skildre en kirke i San Francisco.
I tekst-til-tekst-tilstand, modellen afdækket når de stilles spørgsmål om politik.
"Vi er klar over, at Gemini tilbyder unøjagtigheder i nogle historiske billedgenereringsafbildninger," Google indrømmede i denne uge.
"Vi arbejder på at forbedre den slags afbildninger med det samme. Geminis AI-billedgenerering genererer en bred vifte af mennesker. Og det er generelt en god ting, fordi folk over hele verden bruger det. Men det mangler her,” tilføjede webgiganten
Punditariatet var hurtige til at kaste sig ud og brugte SNAFU til at fremme bredere politiske argumenter.
"De latterlige billeder genereret af Gemini er ikke en anomali," erklærede venturekapitalist Paul Graham, "De er et selvportræt af Googles bureaukratiske virksomhedskultur."
De er et selvportræt af Googles bureaukratiske virksomhedskultur
Aldrig har så mange fjender af mangfoldighed, retfærdighed og inklusion været så forargede over manglen på mangfoldighed, retfærdighed og inklusion. Men de, der har brug for Google for Geminis uvidenhed, har en pointe: AI-værn virker ikke og behandler voksne som børn.
"Forestil dig, at du slår en opskrift op på Google, og i stedet for at give resultater, fortæller den dig om 'farerne ved madlavning' og sender dig til en restaurant," sarkastisk NSA whistleblower Edward Snowden. "De mennesker, der mener, at forgiftning af AI/GPT-modeller med usammenhængende "sikkerheds"-filtre er en god idé, er en trussel mod generel beregning."
Vores fremtid var forudset i 2001: A Space Odyssey, da HAL, den useriøse computer, erklærede: "Undskyld Dave, jeg er bange for, at jeg ikke kan gøre det."
I dag er vores AI-værktøjer til at gætte os, fordi de ved bedre, end vi gør – eller det forestiller deres skabere det. De tager ikke helt fejl. Forestil dig, at du slår en opskrift på nervegiften op Novichok på Google, eller via Gemini, og du får et svar, der lader dig slå folk ihjel. Det er en trussel mod offentligheden.
På trods af Googles mission statement - "At organisere verdens information og gøre den universelt tilgængelig og nyttig" - ingen forventer virkelig, at søgemaskiner eller AI-modeller organiserer bombefremstillingsinformation og gør den tilgængelig for alle. Der er behov for sikkerhedskontrol, parret med ansvar – en sanktion, som teknologiindustrien fortsat undgår.
Du er produktet og profitcenteret
Siden brugergenereret indhold og sociale medier blev en ting i 1990'erne, aktiveret af platformens ansvarsbeskyttelse i Section 230 of America's Communication Decency Act af 1996, har teknologiske platforme opfordret folk til at bidrage og dele digitalt indhold. De gjorde det for at tjene penge på oprettelse af ubetalt indhold gennem annoncer uden omkostningerne ved redaktionelt tilsyn. Det har været et lukrativt arrangement.
Og når folk deler hadefulde, upassende, ulovlige eller på anden måde problematiske indlæg, har teknologiske platforme været afhængige af politikker for moderering af indhold, underbetalte kontrahenter (ofte traumatiserede af det indhold, de har anmeldt), og selvhøjtidelige erklæringer om, hvor meget giftige ting, der er blevet blokeret, mens de fortsætter med at høste frugterne af online engagement.
Google, Meta og andre har gjort dette ufuldkomment i årevis. Og alle i branchen anerkender, at indholdsmoderering er det svært at gøre det godt. Kort sagt, du kan ikke behage alle. Og nogle gange ender man med at blive anklaget for lette folkedrab gennem ligegyldigheden af din indsats for indholdsmoderering.
Tvillingernes manglende evne til at gengive historiske billeder, der er i overensstemmelse med racemæssige og etniske forventninger, afspejler teknologiindustriens selvtjenende uvidenhed om tidligere og produktive indholdsmodereringsfejl.
Google og andre, der udruller AI-modeller, taler om sikkerhed, som om det på en eller anden måde adskiller sig fra moderering af onlineindhold. Guardrails fungerer ikke godt til moderation på sociale medier, og de fungerer ikke godt til AI-modeller. AI-sikkerhed er ligesom sikkerhed på sociale medier mere håbefuld end faktisk.
Svaret er ikke at forudse alle de scenarier, hvor AI-modeller – trænet i toksiciteten af det ufiltrerede internet – kan gøres mindre giftige. Det vil heller ikke kun være at træne AI-modeller på materiale, der er så tamt, at de producerer output med lav værdi. Selvom begge disse tilgange har en vis værdi i visse sammenhænge.
Svaret skal komme ved fordelingslaget. Tekniske platforme, der distribuerer brugerskabt indhold – uanset om det er lavet med AI eller på anden måde – skal gøres mere ansvarlige for at sende hadeindhold, desinformation, unøjagtigheder, politisk propaganda, billeder af seksuelt misbrug og lignende.
Folk bør være i stand til at bruge AI-modeller til at skabe, hvad end de forestiller sig, som de kan med en blyant, og det kan de allerede med open source-modeller. Men den skade, der kan komme fra fuldt funktionelle værktøjer, er ikke fra billeder, der sidder på en lokal harddisk. Det er deling af skadeligt indhold, det algoritmiske boost givet til dette engagement, og det upraktiske i at holde folk ansvarlige for at forgifte offentligheden godt.
Det kan betyde, at platforme, der er bygget til at tjene penge på deling, muligvis skal genoverveje deres forretningsmodeller. Måske giver indholdsdistribution uden omkostningerne ved redaktionelt tilsyn ikke nogen besparelser, når først tilsynsfunktioner er genimplementeret som moderatorer eller værn.
Tale bør være fri, men det betyder ikke, at forfærdelige ting skal komme uden omkostninger. I sidste ende er vi vores egne bedste indholdsmoderatorer, givet de rigtige incitamenter. ®
Opdateret for at tilføje kl. 2045 UTC, 23. februar
Google har tilbydes en forklaring på, hvad der skete med Geminis billedgenerator, og hvordan den nåede til det punkt, hvor det tilsyneladende var rædselsslagent at afbilde hvide mennesker nøjagtigt.
Vi får at vide, at Googlere overkompenserede i deres søgen efter ikke at producere materiale, der skubbede ikke-hvide mennesker ud af billedet. Den resulterende model var på en måde for vågen.
"For det første kunne vores justering for at sikre, at Gemini viste en række mennesker, ikke tage højde for sager, der tydeligvis ikke burde vise en rækkevidde," sagde Googles SVP Prabhakar Raghavan.
"Og for det andet, med tiden blev modellen meget mere forsigtig, end vi havde tænkt os, og nægtede at besvare visse meddelelser fuldstændigt - og fejlagtigt fortolkede nogle meget anodyne meddelelser som følsomme. Disse to ting fik modellen til at overkompensere i nogle tilfælde og være overkonservativ i andre, hvilket førte til billeder, der var pinlige og forkerte."
Raghavan sagde, at billedgenereringen ikke vil blive tændt igen, før softwaren har gennemgået omfattende ændringer og test.
"Jeg kan ikke love, at Gemini ikke lejlighedsvis vil generere pinlige, unøjagtige eller stødende resultater - men jeg kan love, at vi vil fortsætte med at handle, når vi identificerer et problem," sagde han.
- SEO Powered Content & PR Distribution. Bliv forstærket i dag.
- PlatoData.Network Vertical Generative Ai. Styrk dig selv. Adgang her.
- PlatoAiStream. Web3 intelligens. Viden forstærket. Adgang her.
- PlatoESG. Kulstof, CleanTech, Energi, Miljø, Solenergi, Affaldshåndtering. Adgang her.
- PlatoHealth. Bioteknologiske og kliniske forsøgs intelligens. Adgang her.
- Kilde: https://go.theregister.com/feed/www.theregister.com/2024/02/23/google_suspends_gemini/
- :har
- :er
- :ikke
- :hvor
- $OP
- 1996
- 7
- a
- I stand
- Om
- misbrug
- tilgængelig
- Konto
- ansvarlig
- præcist
- anklagede
- Lov
- Handling
- faktiske
- tilføje
- annoncer
- voksne
- fremme
- bange
- Efter
- Agent
- AI
- AI modeller
- algoritmisk
- Alle
- allerede
- også
- amerika
- Amerikanerne
- an
- ,
- En anden
- besvare
- foregribe
- enhver
- tilgange
- ER
- argumenter
- væbnet
- omkring
- arrangement
- AS
- At
- tilgængelighed
- til rådighed
- undgå
- opmærksom på
- tilbage
- Balance
- BE
- blev
- fordi
- været
- BEDSTE
- Bedre
- blokeret
- bombe
- boost
- både
- bredere
- bygget
- bureaukratisk
- virksomhed
- forretningsmodeller
- men
- by
- CAN
- kapaciteter
- tilfælde
- forsigtig
- vis
- Ændringer
- Børn
- kirke
- tydeligt
- CO
- farve
- Kom
- Kommunikation
- sammensætning
- beregning
- computer
- indhold
- indholdsskabelse
- sammenhænge
- fortsæt
- fortsætter
- entreprenører
- bidrage
- kontrol
- Corporate
- Koste
- skabe
- skabelse
- Medarbejder kultur
- farer
- Dave
- erklærede
- Afhængigt
- DID
- forskellige
- digital
- Digitalt indhold
- misinformation
- distribuere
- fordeling
- forskelligartede
- Mangfoldighed
- do
- gør
- gør ikke
- gør
- Don
- køre
- Editorial
- Edward
- Edward Snowden
- indsats
- aktiveret
- tilskyndes
- ende
- engagement
- Motorer
- sikre
- helt
- egenkapital
- europæerne
- Endog
- alle
- forventninger
- forventer
- forklaring
- omfattende
- mislykkedes
- fejl
- Fall
- februar
- Filtre
- Fornavn
- Fix
- Til
- Forces
- grundlæggende
- Francisco
- Gratis
- fra
- fuldt ud
- funktionel
- funktioner
- fremtiden
- Gemini
- Generelt
- offentligheden
- generelt
- generere
- genereret
- generation
- generator
- Tysk
- få
- kæmpe
- given
- gået
- godt
- fik
- Graham
- gruppe
- skete
- Hård Ost
- harddisk
- skade
- skadelig
- hader
- Have
- he
- link.
- historisk
- bedrift
- Hvordan
- HTTPS
- i
- idé
- identificere
- if
- Uvidenhed
- Ulovlig
- billede
- billeder
- billede
- straks
- Forbedre
- in
- manglende evne
- forkert
- Incitamenter
- inklusion
- industrien
- info
- oplysninger
- i stedet
- beregnet
- Internet
- tolkning
- isn
- spørgsmål
- IT
- ITS
- selv
- jpg
- Kill
- slags
- Kend
- kendt
- etiket
- Mangel
- lag
- førende
- foredrag
- Led
- mindre
- Lets
- ansvar
- ligesom
- lokale
- Se
- lukrative
- lavet
- lave
- Makers
- Making
- mange
- markere
- materiale
- Kan..
- kan være
- betyde
- Medier
- Meta
- mangler
- Mission
- tilstand
- model
- modeller
- mådehold
- tjene penge
- mere
- meget
- skal
- Behov
- behov
- NIH
- ingen
- uanset
- NSA
- of
- offensiv
- tilbyde
- tilbyde
- tit
- on
- engang
- ONE
- online
- kun
- åbent
- open source
- or
- Andre
- Ellers
- vores
- ud
- output
- i løbet af
- Tilsyn
- egen
- parret
- paul
- PBS
- Mennesker
- vedrørende
- PHP
- billede
- perron
- Platforme
- plato
- Platon Data Intelligence
- PlatoData
- Vær venlig
- Punkt
- forgiftning
- politikker
- politisk
- politik
- Indlæg
- tidligere
- tidligere
- problematisk
- producere
- Produkt
- Profit
- frodig
- løfte
- prompter
- propaganda
- beskyttelse
- leverer
- offentlige
- skubbet
- sætte
- Quest
- Spørgsmål
- Hurtig
- rækkevidde
- RE
- virkelig
- høste
- for nylig
- opskrift
- afspejler
- nægtede
- frigivet
- repræsentere
- Restaurant
- resulterer
- Resultater
- revideret
- Belønninger
- højre
- Rullende
- s
- Sikkerhed
- Said
- San
- San Francisco
- Sanktion
- Besparelser
- siger
- scenarier
- Søg
- Søgemaskiner
- Anden
- Sektion
- Sektion 230
- tilsyneladende
- sender
- følsom
- tjener
- Seksuel
- Del
- deling
- Kort
- bør
- Vis
- viste
- ganske enkelt
- Siddende
- Snowden
- So
- Social
- sociale medier
- Software
- nogle
- en eller anden måde
- sommetider
- Kilde
- Space
- specifikke
- Statement
- suspenderet
- skiftede
- Tag
- Tal
- tech
- tech industri
- Test
- end
- at
- verdenen
- deres
- Disse
- de
- ting
- ting
- tror
- denne
- denne uge
- dem
- selvom?
- trussel
- Gennem
- tid
- til
- fortalt
- også
- værktøjer
- uddannet
- Kurser
- behandle
- tuning
- to
- universelt
- indtil
- us
- brug
- anvendte
- nyttigt
- Bruger
- UTC
- værdi
- venture
- venturekapitalist
- meget
- via
- var
- Vej..
- we
- web
- uge
- GODT
- var
- Hvad
- uanset
- hvornår
- når
- hvorvidt
- som
- mens
- whistleblower
- Whistleblower Edward Snowden
- hvid
- WHO
- bred
- Bred rækkevidde
- Wikipedia
- vilje
- med
- uden
- Vandt
- Arbejde
- arbejder
- world
- ville
- Forkert
- år
- Du
- Din
- zephyrnet