Linjen mellom ekte og AI Creation er for tynn for øyet

Ettersom generative AI-utviklere fortsetter å finjustere modellene sine til raffinement, blir det også stadig vanskeligere å skille mellom ekte bilder og AI-kreasjoner, avslører forskere.

En studie utført av forskere ved University of Waterloo etablert at folk har vanskelig for å finne ut et bilde av en ekte person og av en AI-generert person.

Under forventet terskel

Under gjennomføringen av studien ga forskere ved University of Waterloo 20 umerkede bilder til 260 deltakere. Halvparten av bildene var av ekte mennesker tatt fra Google Bilder, mens den andre halvparten var AI generert ved hjelp av verktøy som Dall-E og Stabil diffusjon.

Deltakerne ble deretter bedt om å merke bildene, om de var ekte eller AI-generert, og begrunne svarene deres.

Selv om 61 % av deltakerne kunne se forskjellen mellom ekte bilder og AI-genererte bilder, var dette fortsatt langt under den forventede terskelen på 85 %.

Mens de gransket bildene, la deltakerne oppmerksomhet til detaljer som øyne, fingre, tenner og andre indikatorer som indikatorer når de så etter AI skapte bilder, men "vurderingene deres var ikke alltid korrekte."

"Folk er ikke så flinke til å skille som de tror de er," sa studiens hovedforfatter Andrea Pocol, som også er ph.d.-kandidat i informatikk ved universitetet.

Mens internettbrukere kan se på bilder i forbifarten, sa Waterloo-forskerne at de lot deltakerne ta seg tid til å analysere bildene.

"Folk som bare er doomscrolling eller ikke har tid vil ikke fange opp disse signalene," sa Pocol.

Les også: Leonardo CEO fremhever brukerdumhet over AI-trusler i Davos

Misbruker teknologien

Deres studere, med tittelen "Seeing Is No Longer Believing: A Survey on the State of Deepfakes, AI-Generated Humans, and Other Nonveridical Media", som vises i tidsskriftet Advances in Computer Graphics, fremhever også risikoene forbundet med fremskrittene innen generativ AI-teknologi .

Forskerne bemerket også med bekymring hastigheten der den generative AI-teknologien endrer seg raskt, og blir mer sofistikert for hver dag som går. Akademisk forskning og lovgivning klarer ikke å holde tritt med utviklingen i den generative industrien.

Pocol sa at AI-bilder blir mer ekte, noe som gjør det vanskelig for noen mennesker å enkelt skille mellom ekte og AI-genererte bilder. Dette, sa Pocol, skaper en grobunn for dårlige skuespillere som utnytter teknologien for å spre ondskap og opprettholde desinformasjon eller for å lure folk.

"Desinformasjon er ikke nytt, men verktøyene for desinformasjon har stadig endret seg og utviklet seg," sa Pocol.

"Det kan komme til et punkt hvor folk, uansett hvor trent de vil være, fortsatt vil slite med å skille ekte bilder fra falske bilder. Derfor må vi utvikle verktøy for å identifisere og motvirke dette. Det er som et nytt AI-våpenkappløp.»

Forskerne har også erkjent utfordringene teknologien byr på, spesielt når det gjelder spredning av dype forfalskninger.

Teknologien i feil hender

Med vanskeligheter for vanlige mennesker med å skille mellom ekte og falske bilder, er det økende frykt for en økning i spredning av dype forfalskninger. Eksperter har advart dårlige skuespillere vil dra nytte av den generative AI-teknologien for å spre valgfalskheter i sine forsøk på å villede velgere.

De Senter for å motvirke digital hat (CCDH), en ideell organisasjon som overvåker hatytringer på nettet har allerede advarte i sin rapport at AI-drevne bildegeneratorer forverrer feilinformasjonen om valget i 2024.

"Potensialet for slike AI-genererte bilder til å tjene som 'fotobevis' kan forverre spredningen av falske påstander, noe som utgjør en betydelig utfordring for å bevare integriteten til valg," sa CCDH-forskere i sin rapport.

Dette kommer imidlertid midt i en kunngjøring om at rundt 20 store teknologiselskaper inkludert OpenAI, Microsoft og Stability AI signerte en avtale å jobbe sammen for å forhindre at AI-villedende innhold «forstyrrer valget som finner sted globalt i år.

• SEO-drevet innhold og PR-distribusjon. Bli forsterket i dag.
• PlatoData.Network Vertical Generative Ai. Styrk deg selv. Tilgang her.
• PlatoAiStream. Web3 Intelligence. Kunnskap forsterket. Tilgang her.
• PlatoESG. Karbon, CleanTech, Energi, Miljø, Solenergi, Avfallshåndtering. Tilgang her.
• PlatoHelse. Bioteknologisk og klinisk etterretning. Tilgang her.
• kilde: https://metanews.com/the-line-between-real-and-fake-gets-too-thin-for-the-ordinary-eye/