Google întrerupe Gemini AI după reacții adverse la reprezentarea diversității

Google întrerupe Gemini AI după reacții adverse la reprezentarea diversității

Marca temporală: 26 februarie 2024 4:55
Google Pauses Gemini AI After Diversity Depiction Backlash PlatoBlockchain Data Intelligence. Vertical Search. Ai.

Google și-a întrerupt Gemeni AI de la generarea de imagini de „oameni” în urma unui tumult asupra reprezentărilor sale rasiale denaturate. 

Firma de tehnologie a luat măsuri după ce utilizatorii au evidențiat tendința AI de a descrie în primul rând oameni de culoare, chiar și în contexte inexacte din punct de vedere istoric. Această mișcare își propune să perfecționeze capacitățile Gemenilor pentru a asigura reprezentări mai precise și mai diverse.

De asemenea, se va citi: Este o gluma! Utilizatorii ridică Gemenii Google pentru că l-au ratat

Geneza reacției

Miezul controversei constă în eșecul AI de a reflecta diversitatea rasială cu acuratețe în imaginile sale. Rețelele sociale au devenit un câmp de luptă, utilizatorii împărtășind imagini generate de Gemeni care s-au îndepărtat de acuratețea istorică și culturală. Exemplele notabile includ reprezentări ale femeilor suedeze non-albe și ale persoanelor de culoare în uniforme naziste. 

Astfel de inexactități nu numai că au stârnit dezbateri pe rețelele de socializare, dar au dus și la o introspecție severă în cadrul Google, cu angajații exprimând jenă față de deficiențele AI. Criticii susțin că aceste inexactități nu sunt simple erori tehnice, ci reflectă o părtinire mai profundă în programarea AI.

„Nu am fost niciodată atât de jenat să lucrez pentru o companie”, a spus St. Ratej, inginer de cercetare la Google ARVR, într-o postare X.

Reacția, totuși, nu s-a oprit doar la Google, deoarece unii utilizatori au observat aceleași părtiniri și în alte platforme AI, cum ar fi ChatGPT de la OpenAI. În consecință, au apărut întrebări cu privire la coerența controlului asupra tehnologiilor AI, evidențiind provocarea mai largă la nivelul întregii industrie de a asigura reprezentări imparțiale ale AI.

Efectul de ondulare

Incidentul nu numai că a pătat imaginea companiei, dar a condus și la o dezbatere mai largă despre etica și reprezentarea AI. Elon Musk a criticat metodologia Google, numind-o „rasistă” și „anticivilizațională”. Al lui Musk comentarii ecou în continuare îngrijorării tot mai mari cu privire la granițele etice ale tehnologiei AI și necesitatea unei descrieri mai diverse și mai precise a conținutului generat de AI.

„Mă bucur că Google și-a exagerat mâna cu generarea lor de imagini AI, deoarece a făcut ca programarea lor nebunească rasistă și anti-civilizație să fie clară pentru toți.”

Ca răspuns la controversă, Musk și-a exprimat modelul AI, Grok, pentru care intenționa să lanseze versiuni suplimentare. Tehnologia demonstrează un avantaj competitiv în dezvoltarea AI, ceea ce ar putea ajuta la depășirea limitărilor modelelor existente precum Gemini. Mai mult, similitudinea coincidență a numelui dintre Grok și cipul Groq LPU a crescut interesul, deoarece piața AI este marcată de inovație rapidă și concurență acută.

Calea spre îmbunătățire

Recunoscând problema, Google a intenționat să perfecționeze capacitățile de reprezentare a lui Gemeni. Compania a subliniat importanța diversității în imaginile generate de inteligență artificială, dar a admis deficiențele modelului actual în a reprezenta cu exactitate toate categoriile demografice. 

În același sens, purtătorul de cuvânt al Google, Krawczyk, a recunoscut deficiența modelului, subliniind necesitatea unei descrieri mai echilibrate care să reflecte diversitatea globală fără a compromite acuratețea istorică. Pentru a răspunde acestor preocupări, Google a întrerupt funcția de generare a imaginilor umane a Gemini, semnalând o versiune îmbunătățită care reflectă mai bine diversitatea globală a bazei sale de utilizatori.

„Lucrăm deja să rezolvăm problemele recente cu funcția de generare a imaginii Gemini. În timp ce facem acest lucru, vom întrerupe generarea de imagini a oamenilor și vom lansa din nou o versiune îmbunătățită în curând.”

Timestamp-ul:

Mai mult de la MetaNews