Google pauzeert Gemini AI na reactie op diversiteitsweergave

Google pauzeert Gemini AI na reactie op diversiteitsweergave

Tijdstempel: 26 februari 2024 4:55 uur
Google pauzeert Gemini AI na weergave van diversiteit PlatoBlockchain Data Intelligence. Verticaal zoeken. Ai.

Google heeft dit onderbroken Tweeling AI van het genereren van 'mensen'-beelden na een ophef over de scheve raciale representaties ervan. 

Het technologiebedrijf ondernam actie nadat gebruikers de neiging van de AI benadrukten om voornamelijk gekleurde mensen af ​​te beelden, zelfs in historisch onnauwkeurige contexten. Deze stap is bedoeld om de mogelijkheden van Gemini te verfijnen om nauwkeurigere en diversere afbeeldingen te garanderen.

Lees ook: Het is een grap! Gebruikers maken Gemini van Google belachelijk omdat ze het missen

Het ontstaan ​​van de tegenreactie

De kern van de controverse ligt in het feit dat AI er niet in slaagt de raciale diversiteit nauwkeurig weer te geven in de beeldresultaten. Sociale media werden een slagveld, waarbij gebruikers door Gemini gegenereerde afbeeldingen deelden die afdwaalden van historische en culturele nauwkeurigheid. Bekende voorbeelden zijn onder meer afbeeldingen van niet-blanke Zweedse vrouwen en gekleurde mensen in nazi-uniformen. 

Dergelijke onnauwkeurigheden hebben niet alleen aanleiding gegeven tot debatten op sociale media, maar hebben ook geleid tot ernstige introspectie binnen Google, waarbij werknemers te drukken schaamte over de tekortkomingen van de AI. Critici beweren dat deze onnauwkeurigheden niet louter technische problemen zijn, maar een diepere vooringenomenheid in de AI-programmering weerspiegelen.

"Ik heb me nog nooit zo beschaamd gevoeld om voor een bedrijf te werken", zegt St. Ratej, onderzoeksingenieur bij Google ARVR, in een X-post.

De reactie stopte echter niet alleen bij Google, aangezien sommige gebruikers dezelfde vooroordelen ook opmerkten op andere AI-platforms, zoals ChatGPT van OpenAI. Als gevolg daarvan rezen er vragen over de consistentie van het toezicht op alle AI-technologieën, wat de bredere sectorbrede uitdaging benadrukte om te zorgen voor een onbevooroordeelde AI-vertegenwoordiging.

Het rimpeleffect

Het incident heeft niet alleen het imago van het bedrijf aangetast, maar ook geleid tot een breder debat over de ethiek en vertegenwoordiging van AI. Elon Musk bekritiseerde de methodologie van Google en noemde deze 'racistisch' en 'anti-beschaving'. Musk's opmerkingen weerspiegelt verder de groeiende bezorgdheid over de ethische grenzen van AI-technologie en de behoefte aan een meer diverse en nauwkeurige weergave van door AI gegenereerde inhoud.

“Ik ben blij dat Google hun hand heeft overspeeld met het genereren van AI-beelden, omdat het hun krankzinnige racistische, anti-beschavingsprogramma’s voor iedereen duidelijk maakte.”

Als reactie op de controverse bracht Musk zijn AI-model, Grok, uit, waarvoor hij van plan was verdere versies uit te brengen. De technologie demonstreert een concurrentievoordeel in de AI-ontwikkeling, wat zou kunnen helpen de beperkingen van bestaande modellen zoals Gemini te overwinnen. Bovendien wekte de toevallige naamsovereenkomst tussen Grok en de Groq LPU-chip de belangstelling, aangezien de AI-markt wordt gekenmerkt door snelle innovatie en acute concurrentie.

Het pad naar verbetering

Google erkende het probleem en was van plan de weergavemogelijkheden van Gemini te verfijnen. Het bedrijf benadrukte het belang van diversiteit in door AI gegenereerde beelden, maar gaf de tekortkomingen van het huidige model toe bij het nauwkeurig weergeven van alle demografische gegevens. 

In dezelfde geest gaf de woordvoerder van Google, Krawczyk, de tekortkomingen van het model toe, waarbij hij de noodzaak benadrukte van een meer evenwichtige weergave die de mondiale diversiteit weerspiegelt zonder de historische nauwkeurigheid in gevaar te brengen. Om deze zorgen weg te nemen, heeft Google de functie voor het genereren van menselijke afbeeldingen van Gemini gepauzeerd, wat een verbeterde versie aangeeft die de wereldwijde diversiteit van zijn gebruikersbestand beter weerspiegelt.

“We werken al aan het aanpakken van recente problemen met de functie voor het genereren van afbeeldingen van Gemini. Terwijl we dit doen, gaan we het genereren van afbeeldingen van mensen onderbreken en zullen we binnenkort een verbeterde versie opnieuw uitbrengen.

Tijdstempel:

Meer van MetaNieuws