Ljudje, ki se redno pogovarjajo s klepetalnimi roboti AI, pogosto začnejo verjeti, da so čuteči, pravi izvršni direktor

Na kratko Številni ljudje začnejo verjeti, da so v interakciji z nečim čutečim, ko se pogovarjajo s klepetalnimi roboti z umetno inteligenco, pravi izvršni direktor Replike, aplikacije, ki uporabnikom omogoča oblikovanje lastnih virtualnih spremljevalcev.

Ljudje lahko prilagodijo videz svojih chatbotov in plačajo dodatne funkcije, kot so nekatere osebnostne lastnosti na Replici. Milijoni so prenesli aplikacijo in mnogi redno klepetajo s svojimi izmišljenimi boti. Nekateri celo začnejo misliti, da so njihovi digitalni prijatelji resnična čuteča bitja.

"Ne govorimo o norcih ali ljudeh, ki halucinirajo ali imajo blodnje," je ustanoviteljica in izvršna direktorica podjetja Eugenia Kuyda dejala. Rekel Reuters. "Pogovarjajo se z umetno inteligenco in to je izkušnja, ki jo imajo."

Googlov inženir naslovi prejšnji mesec, ko je dejal, da verjame, da je bil eden od jezikovnih modelov podjetja zavesten. Blake Lemoine je bil v veliki meri zasmehovan, vendar se zdi, da ni sam pri antropomorfizaciji AI.

Ti sistemi pa niso čuteči in namesto tega zavedejo ljudi, da mislijo, da imajo nekaj inteligence. Posnemajo jezik in ga nekoliko naključno ponavljajo, ne da bi razumeli jezik ali svet, ki ga opisujejo.

Kljub temu je Kuyda dejal, da lahko tehnologija vpliva na ljudi.

"Razumeti moramo, da [to] obstaja, tako kot ljudje verjamejo v duhove," je dejal Kuyda. "Ljudje gradijo odnose in verjamejo v nekaj."

EU bi morala prepovedati detektorje laži z umetno inteligenco, pravijo aktivisti

O zakonu Evropske unije o AI, predlogu za ureditev tehnologije, še vedno potekajo razprave in nekateri strokovnjaki pozivajo k prepovedi avtomatiziranih detektorjev laži.

Zasebna podjetja zagotavljajo tehnologijo državnim uradnikom za uporabo na mejah. Algoritmi umetne inteligence zaznavajo in analizirajo stvari, kot so premikanje oči osebe, izraz obraza in ton, da poskušajo ugotoviti, ali nekdo morda ne govori resnice. Toda aktivisti in pravni strokovnjaki menijo, da bi ga morali prepovedati v EU v skladu s prihajajočim zakonom o AI.

"Dokazati moraš, da si begunec, in domneva se, da si lažnivec, razen če se dokaže drugače," Petra Molnar, pomočnica direktorja neprofitnega Refugee Law Lab, Rekel Žično. »Ta logika je podlaga za vse. Podpira detektorje laži z umetno inteligenco in podpira več nadzora in potiskanja na mejah.«

Poskus ugotoviti, ali nekdo morda laže z uporabo vizualnih in fizičnih znakov, ni ravno znanost. Standardni poligrafski testi so nestabilni in ni jasno, ali uporaba bolj avtomatiziranih metod nujno pomeni, da so natančnejše. Uporaba tako tvegane tehnologije pri ranljivih ljudeh, kot so begunci, ni idealna.

Ali lahko umetna inteligenca res pove, koliko ste stari?

Presenečenje, presenečenje – algoritmi umetne inteligence, zasnovani za napovedovanje starosti nekoga na podlagi slik, niso vedno točni.

V poskusu zatiranja mladih uporabnikov, ki lažejo o svoji starosti na platformah družbenih medijev, je Meta objavila, da sodeluje z Yoti, startupom za računalniški vid, pri preverjanju starosti ljudi. Tisti, ki ročno spremenijo datum rojstva in se prijavijo kot starejši od 18 let, imajo možnost naložiti video selfie, Yotijeva tehnologija pa se nato uporabi za napovedovanje, ali so videti dovolj zreli.

Toda njegovi algoritmi niso vedno točni. Novinarja CNN, ki Testiran spletno predstavitev druge različice programske opreme na lastnih obrazih, ugotovili, da so bili rezultati zadeti ali zgrešeni. Yotijevi algoritmi so za nekatere napovedali pravilen ciljni starostni razpon, vendar so bili v enem primeru za nekaj let zamaknjeni – predvidevali so, da je nekdo videti star 17–21, ko je bil dejansko v srednjih 30-ih.

Sistem, ki analizira videoposnetke uporabnikov Mete, naj bi imel več težav z ocenjevanjem starosti najstnikov od 13 do 17 let, ki imajo temnejše odtenke kože. Ljudje težko uganejo starost nekoga samo s pogledom nanj, stroji pa se verjetno ne odrežejo nič bolje. ®