Piir tegeliku ja tehisintellekti loomise vahel on silmade jaoks liiga õhuke

Kuna generatiivsed tehisintellekti arendajad jätkavad oma mudelite täiustamist, on üha raskem teha vahet tõeliste piltide ja tehisintellekti loomingu vahel, paljastavad teadlased.

Aadressi teadlaste uuring University of Waterloo tegi kindlaks, et inimestel on raske välja mõelda pilti reaalsest inimesest ja tehisintellekti loodud inimesest.

Alla eeldatava läve

Uuringu läbiviimisel andsid Waterloo ülikooli teadlased 20 osalejale 260 märgistamata pilti. Pooled piltidest olid reaalsetest inimestest, kes olid võetud teenusest Google Images, samas kui teised pooled olid tehisintellekti loodud selliste tööriistade abil nagu Dall-E ja Stabiilne difusioon.

Seejärel paluti osalejatel oma vastuseid põhjendades märgistada pildid, kas need olid tõelised või tehisintellekti loodud.

Kuigi 61% osalejatest suutsid teha vahet tegelike piltide ja tehisintellekti loodud piltide vahel, oli see siiski palju alla eeldatava 85% künnise.

Piltide kontrollimisel pöörasid osalejad tähelepanu sellistele detailidele nagu silmad, sõrmed, hambad ja muud näitajad, mis näitavad tehisintellekti otsimisel pilte, kuid "nende hinnangud ei olnud alati õiged."

"Inimesed ei ole nii osavad vahet tegema, kui nad arvavad," ütles uuringu juhtiv autor Andrea Pocol, kes on ka ülikooli arvutiteaduse doktorant.

Kuigi Interneti-kasutajad võivad pilte vaadata möödaminnes, ütlesid Waterloo teadlased, et nad lubasid osalejatel piltide analüüsimiseks aega võtta.

"Inimesed, kes lihtsalt hukutavad või kellel pole aega, ei võta neid vihjeid arvesse," ütles Pocol.

Loe ka: Leonardo tegevjuht tõstab Davosis esile kasutajate rumaluse AI-ohtude ees

Tehnoloogia kuritarvitamine

Nende õppima, pealkirjaga "Seeing Is No More Believing: A Survey on State of Deep Fakes, AI-Generated Humans and Other Nonveridical Media", mis ilmub ajakirjas Advances in Computer Graphics, toob samuti esile riskid, mis on seotud generatiivse AI tehnoloogia edusammudega. .

Teadlased märkisid murega ka kiirust, millega generatiivne AI tehnoloogia kiiresti muutub, muutudes iga päevaga keerukamaks. Akadeemilised uuringud ja seadusandlus ei suuda generatiivse tööstuse arengutega sammu pidada.

Pocol ütles, et tehisintellekti pildid muutuvad reaalsemaks, mistõttu on mõnel inimesel raske eristada reaalseid ja tehisintellektiga loodud pilte. Pocoli sõnul loob see soodsa pinnase halbadele näitlejatele, kes kasutavad tehnoloogiat ära pahatahtlikkuse levitamiseks ja desinformatsiooni põlistamiseks või inimeste petmiseks.

"Desinformatsioon ei ole uus, kuid desinformatsiooni vahendid on pidevalt muutunud ja arenenud," ütles Pocol.

"See võib jõuda punkti, kus inimesed, olenemata sellest, kui koolitatud nad on, näevad endiselt vaeva, et eristada tõelisi pilte võltsidest. Seetõttu peame välja töötama vahendid selle tuvastamiseks ja selle vastu võitlemiseks. See on nagu uus AI võidurelvastumine.

Teadlased on tunnistanud ka väljakutseid, mida tehnoloogia tekitab, eriti kui tegemist on süvavõltsingute levikuga.

Tehnoloogia valedes kätes

Kuna tavainimestel on raskusi tegelike ja võltspiltide eristamisel, kardetakse süvendatud võltsingute leviku kasvu. Eksperdid on hoiatanud, et halvad näitlejad kasutavad generatiivset tehisintellekti tehnoloogiat, et levitada valimisvalet, püüdes valijaid eksitada.

. Digitaalse vihkamise vastu võitlemise keskus (CCDH), mittetulundusühing, mis jälgib võrgus vihakõnet hoiatas oma aruandes, et AI-toega pildigeneraatorid halvendavad 2024. aasta valimiste valeinformatsiooni.

"Selliste tehisintellektiga loodud piltide potentsiaal toimida "fototõendusmaterjalina" võib süvendada valeväidete levikut, kujutades endast märkimisväärset väljakutset valimiste terviklikkuse säilitamisel," ütlesid CCDH teadlased oma raportis.

See tuleb aga pärast teadaannet, et umbes 20 suurt tehnoloogiaettevõtet, sealhulgas OpenAI, Microsoft ja Stability AI sõlmis lepingu teha koostööd, et vältida tehisintellekti petliku sisu „segamist sel aastal ülemaailmselt toimuvatesse valimistesse.

• SEO-põhise sisu ja PR-levi. Võimenduge juba täna.
• PlatoData.Network Vertikaalne generatiivne Ai. Jõustage ennast. Juurdepääs siia.
• PlatoAiStream. Web3 luure. Täiustatud teadmised. Juurdepääs siia.
• PlatoESG. Süsinik, CleanTech, Energia, Keskkond päikeseenergia, Jäätmekäitluse. Juurdepääs siia.
• PlatoTervis. Biotehnoloogia ja kliiniliste uuringute luureandmed. Juurdepääs siia.
• Allikas: https://metanews.com/the-line-between-real-and-fake-gets-too-thin-for-the-ordinary-eye/