Google sætter Gemini AI på pause efter tilbageslag i mangfoldighedsskildring

Google sætter Gemini AI på pause efter tilbageslag i mangfoldighedsskildring

Tidsstempel: 26. februar 2024 kl. 4:55
Google Pauses Gemini AI After Diversity Depiction Backlash PlatoBlockchain Data Intelligence. Vertical Search. Ai.

Google har sat det på pause Gemini AI fra at generere 'menneske'-billeder efter et oprør over dets skæve racerepræsentationer. 

Teknologifirmaet tog affære, efter at brugere fremhævede AI'ens tendens til primært at afbilde mennesker af farve, selv i historisk unøjagtige sammenhænge. Dette træk har til formål at forfine Geminis muligheder for at sikre mere nøjagtige og forskelligartede afbildninger.

Læs også: Det er en joke! Brugere latterliggør Googles Gemini for at gå glip af det

Tilblivelsen af ​​modreaktionen

Kernen i kontroversen ligger i AI's manglende evne til at afspejle racediversitet nøjagtigt i dets billedoutput. Sociale medier blev en kampplads, hvor brugere delte Gemini-genererede billeder, der afveg fra historisk og kulturel nøjagtighed. Bemærkelsesværdige eksempler omfatter afbildninger af ikke-hvide svenske kvinder og farvede i nazistiske uniformer. 

Sådanne unøjagtigheder har ikke kun udløst debatter på sociale medier, men har også ført til alvorlig introspektion hos Google med medarbejdere udtrykke forlegenhed over AI'ens mangler. Kritikere hævder, at disse unøjagtigheder ikke blot er tekniske fejl, men afspejler en mere dybtgående bias i AI-programmering.

"Jeg har aldrig været så flov over at arbejde for en virksomhed," sagde St. Ratej, en forskningsingeniør hos Google ARVR, i et X-indlæg.

Tilbageslaget stoppede dog ikke kun hos Google, da nogle brugere også bemærkede de samme skævheder i andre AI-platforme som f.eks. OpenAI's ChatGPT. Som følge heraf opstod der spørgsmål om konsistensen af ​​granskning på tværs af AI-teknologier, hvilket fremhævede den bredere brancheomspændende udfordring med at sikre uvildige AI-repræsentationer.

Ringvirkningen

Hændelsen har ikke kun plettet virksomhedens image, men har også ført til en bredere debat om AI-etik og repræsentation. Elon Musk kritiserede Googles metode og kaldte den 'racistisk' og 'anti-civilisatorisk'. Musk's kommentarer gentager yderligere den voksende bekymring over de etiske grænser for AI-teknologi og behovet for en mere mangfoldig og præcis skildring af AI-genereret indhold.

"Jeg er glad for, at Google overspillede deres hånd med deres AI-billedgenerering, da det gjorde deres vanvittige racistiske, anti-civilisatoriske programmering klart for alle."

Som svar på kontroversen udtrykte Musk sin AI-model, Grok, som han havde til hensigt at udgive yderligere versioner for. Teknologien demonstrerer en konkurrencefordel i AI-udvikling, som kan hjælpe med at overvinde begrænsningerne ved eksisterende modeller som Gemini. Desuden øgede den tilfældige navnelighed mellem Grok og Groq LPU-chippen interessen, da AI-markedet er præget af hurtig innovation og akut konkurrence.

Vejen til forbedring

Google anerkendte problemet og havde til hensigt at forfine Geminis afbildningsmuligheder. Virksomheden understregede vigtigheden af ​​mangfoldighed i AI-genererede billeder, men indrømmede den nuværende models mangler ved nøjagtigt at repræsentere alle demografiske oplysninger. 

På samme måde indrømmede Googles talsmand, Krawczyk, modellens mangel og understregede behovet for en mere afbalanceret skildring, der afspejler den globale mangfoldighed uden at gå på kompromis med den historiske nøjagtighed. For at imødegå disse bekymringer satte Google Geminis funktion til generering af menneskelige billeder på pause, hvilket signalerede en forbedret version, der bedre afspejler den globale mangfoldighed i dens brugerbase.

"Vi arbejder allerede på at løse de seneste problemer med Geminis billedgenereringsfunktion. Mens vi gør dette, vil vi sætte billedgenereringen af ​​mennesker på pause og snart genudgive en forbedret version."

Tidsstempel:

Mere fra MetaNews