Google pausiert Gemini AI nach Gegenreaktion bei der Diversity-Darstellung

Google pausiert Gemini AI nach Gegenreaktion bei der Diversity-Darstellung

Zeitstempel: 26. Februar 2024, 4:55 Uhr
Google pausiert Gemini AI nach Gegenreaktion auf Diversity Depiction PlatoBlockchain Data Intelligence. Vertikale Suche. Ai.

Google hat es pausiert Zwillinge KI von der Generierung von „Menschen“-Bildern nach einem Aufruhr über seine verzerrten Rassendarstellungen. 

Das Technologieunternehmen ergriff Maßnahmen, nachdem Benutzer die Tendenz der KI hervorgehoben hatten, hauptsächlich farbige Menschen darzustellen, selbst in historisch ungenauen Kontexten. Dieser Schritt zielt darauf ab, die Fähigkeiten von Gemini zu verfeinern, um genauere und vielfältigere Darstellungen zu gewährleisten.

Lies auch: Es ist ein Witz! Nutzer verspotten Googles Zwillinge, weil sie es verpasst haben

Die Entstehung der Gegenreaktion

Der Kern der Kontroverse liegt darin, dass es der KI nicht gelingt, die Rassenvielfalt in ihren Bildausgaben genau wiederzugeben. Die sozialen Medien wurden zu einem Schlachtfeld, auf dem Benutzer von Zwillingen erstellte Bilder teilten, die von der historischen und kulturellen Genauigkeit abwichen. Bemerkenswerte Beispiele sind Darstellungen von nicht-weißen schwedischen Frauen und farbigen Menschen in Nazi-Uniformen. 

Solche Ungenauigkeiten haben nicht nur Debatten in den sozialen Medien ausgelöst, sondern auch zu einer starken Selbstreflexion bei Google und bei den Mitarbeitern geführt Ausdruck Verlegenheit über die Mängel der KI. Kritiker argumentieren, dass es sich bei diesen Ungenauigkeiten nicht nur um technische Pannen handelt, sondern um eine tiefgreifendere Voreingenommenheit in der KI-Programmierung.

„Es war mir noch nie so peinlich, für ein Unternehmen zu arbeiten“, sagte St. Ratej, Forschungsingenieur bei Google ARVR, in einem X-Beitrag.

Die Gegenreaktion beschränkte sich jedoch nicht nur auf Google, da einige Nutzer die gleichen Vorurteile auch bei anderen KI-Plattformen bemerkten ChatGPT von OpenAI. Infolgedessen stellten sich Fragen zur Konsistenz der Prüfung aller KI-Technologien, was die umfassendere branchenweite Herausforderung verdeutlichte, unvoreingenommene KI-Darstellungen sicherzustellen.

Der Welleneffekt

Der Vorfall hat nicht nur das Image des Unternehmens geschädigt, sondern auch zu einer breiteren Debatte über KI-Ethik und -Repräsentation geführt. Elon Musk kritisierte die Methodik von Google und nannte sie „rassistisch“ und „antizivilisatorisch“. Musks Bemerkungen Darüber hinaus spiegeln sie die wachsende Besorgnis über die ethischen Grenzen der KI-Technologie und die Notwendigkeit einer vielfältigeren und genaueren Darstellung von KI-generierten Inhalten wider.

„Ich bin froh, dass Google bei der Generierung von KI-Bildern übertrieben hat, da es seine wahnsinnige rassistische, antizivilisatorische Programmierung allen klar gemacht hat.“

Als Reaktion auf die Kontroverse äußerte Musk sein KI-Modell Grok, für das er beabsichtige, weitere Versionen zu veröffentlichen. Die Technologie stellt einen Wettbewerbsvorteil in der KI-Entwicklung dar, der dazu beitragen könnte, die Einschränkungen bestehender Modelle wie Gemini zu überwinden. Darüber hinaus hat die zufällige Namensähnlichkeit zwischen Grok und dem Groq-LPU-Chip das Interesse geweckt, da der KI-Markt durch schnelle Innovation und starken Wettbewerb gekennzeichnet ist.

Der Weg zur Verbesserung

Google erkannte das Problem und beabsichtigte, die Darstellungsmöglichkeiten von Gemini zu verfeinern. Das Unternehmen betonte die Bedeutung der Vielfalt in KI-generierten Bildern, räumte jedoch ein, dass das aktuelle Modell Mängel bei der genauen Darstellung aller demografischen Merkmale aufweist. 

In gleicher Weise räumte Google-Sprecher Krawczyk die Unzulänglichkeiten des Modells ein und betonte die Notwendigkeit einer ausgewogeneren Darstellung, die die globale Vielfalt widerspiegelt, ohne die historische Genauigkeit zu beeinträchtigen. Um diese Bedenken auszuräumen, hat Google die Funktion zur Generierung menschlicher Bilder von Gemini pausiert und eine verbesserte Version angekündigt, die die globale Vielfalt seiner Nutzerbasis besser widerspiegelt.

„Wir arbeiten bereits daran, aktuelle Probleme mit der Bildgenerierungsfunktion von Gemini zu beheben. Während wir dies tun, werden wir die Bildgenerierung der Menschen unterbrechen und bald eine verbesserte Version erneut veröffentlichen.“

Zeitstempel:

Mehr von MetaNews