AI Deception: AI-lavede kaukasiske ansigter ser ægte ud

AI Deception: AI-lavede kaukasiske ansigter ser ægte ud

Tidsstempel: 17. november 2023 kl. 4

AI rejser sit grimme hoved igen med folk, der let bliver "narre", som en australsk undersøgelse viser, at teknologien skaber kaukasiske ansigter, der er mere virkelige end faktiske mennesker.

Mens teknologien har gjort det lettere for enhver at være kunstner, har den samme teknologi faldgruber, der har delt meninger.

Ifølge en undersøgelse ledet af forskere ved Australian National University og offentliggjort i Psychological Science, troede folk, at AI-genererede hvide ansigter var menneskelige og mere virkelige i modsætning til faktiske menneskers ansigter.

Den racemæssige skævhed

Dette var dog ikke tilfældet med farvede mennesker rejser racemæssige bekymringer med AI-teknologi. Teknologien er siden blevet stemplet som racemæssigt forudindtaget og bærer skævheder af forskellige former mod visse grupper af mennesker.

"Hvis hvide ansigter konsekvent opfattes som mere realistiske, kan denne teknologi have dybtgående konsekvenser for farvede mennesker ved i sidste ende at forstærke racemæssige skævheder," sagde Dr. Amy Dawel, en seniorforfatter af papiret.

Dr. Dawel forklarede, at den iøjnefaldende forskel mellem de AI-genererede ansigter af hvide mennesker og de sorte var et resultat af de algoritmer, der blev trænet uforholdsmæssigt.

"Dette problem er allerede tydeligt i de nuværende AI-teknologier, der bruges til at skabe professionelt udseende hovedbilleder.

"Når det bruges til farvede mennesker AI ændrer deres hud og øjenfarve til hvide menneskers,” sagde forskerne.

I en separat, men relateret sag, Arsenii Alenichev, en postdoktor ved Oxford-Johns Hopkins Global Infectious Disease Ethics Collaborative, eksperimenterede med en AI-billedgenerator. Når han bad om et billede af en sort læge, der assisterede fattige hvide børn, viste billederne altid sorte børn og hvide læger, på trods af specifikationerne.

Andre billeder af sorte forskere ville har dyreliv som giraffer ved siden af ​​dem. Andre forsøg har vist skræmmende og vansiret "billeder" af sorte kvinder, der "smiler".

En Bloomberg indberette antyder, at AI-modeller også har kapacitet til at forevige stereotyper og kan udsætte de marginaliserede for uønskede situationer.

Læs også: Saudi-Arabien lancerer internationalt center for AI-etik

AI Deception: AI-Made Caucasian Faces Look Real PlatoBlockchain Data Intelligence. Vertical Search. Ai.AI Deception: AI-Made Caucasian Faces Look Real PlatoBlockchain Data Intelligence. Vertical Search. Ai.

Svindlen

ANU PhD-kandidat og medforfatter til undersøgelsen, Elizabeth Miller, sagde, at de fandt ud af, at de fleste mennesker, der deltog i undersøgelsen, var sikre på deres svar, idet de forvekslede AI-fremstillede ansigter med rigtige.

"Det betyder, at folk, der forveksler kunstig intelligens-svindlere for rigtige mennesker, ikke ved, at de bliver narret," sagde hun.

Ifølge The Standard, selvom der var nogle forskelle, blev folk stadig narre, og Dr. Dawel indikerede, at flere ansigter i proportion var "typiske tegn på, at AI havde genereret ansigtet."

Men de adspurgte mennesker opfattede det som et tegn på menneskelighed.

"Vi kan ikke stole på disse fysiske signaler længe. AI-teknologien udvikler sig så hurtigt, at forskellen mellem AI og menneskelige ansigter sandsynligvis snart vil forsvinde,” sagde hun.

Hun tilføjede, at dette kunne være problematisk og have enorme konsekvenser med hensyn til online misinformation, deepfakes, og identitetstyveri.

Misinformation og svindlere

Dr. Dawel tilføjede, at med denne mangel på skelnen mellem et AI-ansigt og et ægte, er der behov for, at folk er forsigtige eller risikerer at blive narret af svindlere.

"I betragtning af at mennesker ikke længere kan opdage AI-ansigter, har samfundet brug for værktøjer, der nøjagtigt kan identificere AI-svindlere," sagde hun.

"At uddanne folk om den opfattede realisme af AI-ansigter kan hjælpe med at gøre offentligheden passende skeptisk over for de billeder, de ser online."

Nogle eksperter i generativ AI forudsige at så meget som 90 % af onlineindholdet kan være AI-genereret i de næste par år.

Allerede med fremkomsten af ​​generativ AI og dens evne til at skabe tekst, billeder, lyd og videoer, har der været en stigning i tilfælde af, at folk er blevet narret til at afsløre deres kreditkortnumre.

Svindlere narrer også intetanende mennesker til at sende penge til fremmede, der udgiver sig for at være familiemedlemmer eller nære venner i vanskeligheder og har brug for akut hjælp.

Tidsstempel:

Mere fra MetaNews