Google pausar Gemini AI efter bakslag i mångfaldsskildring

Google pausar Gemini AI efter bakslag i mångfaldsskildring

Tidsstämpel: 26 februari 2024 4:55
Google pausar Gemini AI efter mångfaldsskildring Bakslag PlatoBlockchain Data Intelligence. Vertikal sökning. Ai.

Google har pausat det Gemini AI från att skapa "människor" bilder efter ett uppståndelse över dess skeva rasrepresentationer. 

Teknikföretaget vidtog åtgärder efter att användare lyfte fram AI:s tendens att avbilda i första hand färgade personer, även i historiskt felaktiga sammanhang. Detta drag syftar till att förfina Geminis kapacitet för att säkerställa mer exakta och mångsidiga skildringar.

Läs också: Det är ett skämt! Användare förlöjligar Googles Tvilling för att ha missat det

Uppkomsten av motreaktionen

Kärnan i kontroversen ligger i AI:s misslyckande att återspegla rasmångfald korrekt i sina bilder. Sociala medier blev ett slagfält, med användare som delade Gemini-genererade bilder som avvek från historisk och kulturell exakthet. Anmärkningsvärda exempel är skildringar av icke-vita svenska kvinnor och färgade i nazistiska uniformer. 

Sådana felaktigheter har inte bara väckt debatter på sociala medier utan har också lett till allvarlig introspektion inom Google, med anställda uttryckande pinsamhet över AI:s brister. Kritiker hävdar att dessa felaktigheter inte bara är tekniska fel utan återspeglar en mer djupgående fördom i AI-programmering.

"Jag har aldrig skämts så mycket över att arbeta för ett företag", säger St. Ratej, forskningsingenjör på Google ARVR, i ett X-inlägg.

Motreaktionen stannade dock inte bara hos Google, eftersom vissa användare också märkte samma fördomar i andra AI-plattformar som OpenAI:s ChatGPT. Följaktligen uppstod frågor om konsekvensen i granskningen över AI-tekniker, vilket lyfte fram den bredare branschövergripande utmaningen att säkerställa opartiska AI-representationer.

Rippel-effekten

Händelsen har inte bara skamfilat företagets image utan också lett till en bredare debatt om AI-etik och representation. Elon Musk kritiserade Googles metodik och kallade den "rasistisk" och "anticivilisatorisk". Musk's kommentarer återspeglar ytterligare den växande oron över de etiska gränserna för AI-teknik och behovet av en mer mångsidig och korrekt skildring av AI-genererat innehåll.

"Jag är glad att Google överspelade deras hand med sin AI-bildgenerering, eftersom det gjorde deras vansinniga rasistiska, anticivilisatoriska programmering tydlig för alla."

Som svar på kontroversen uttryckte Musk sin AI-modell, Grok, för vilken han tänkte släppa ytterligare versioner. Tekniken visar en konkurrensfördel inom AI-utveckling, vilket kan hjälpa till att övervinna begränsningarna hos befintliga modeller som Gemini. Dessutom ökade den tillfälliga namnlikheten mellan Grok och Groq LPU-chippet intresset eftersom AI-marknaden präglas av snabb innovation och akut konkurrens.

Vägen till förbättring

Google erkände problemet och hade för avsikt att förfina Geminis avbildningsmöjligheter. Företaget betonade vikten av mångfald i AI-genererade bilder men erkände den nuvarande modellens brister i att korrekt representera all demografi. 

I samma veva erkände Googles talesperson, Krawczyk, modellens brist, och betonade behovet av en mer balanserad skildring som speglar global mångfald utan att kompromissa med historisk exakthet. För att ta itu med dessa problem pausade Google Geminis funktion för generering av mänskliga bilder, vilket signalerade en förbättrad version som bättre återspeglar den globala mångfalden av dess användarbas.

"Vi arbetar redan med att ta itu med de senaste problemen med Geminis bildgenereringsfunktion. Medan vi gör det här kommer vi att pausa bildgenereringen av människor och kommer snart att återsläppa en förbättrad version."

Tidsstämpel:

Mer från MetaNews