Folk som regelmessig snakker med AI-chatbots begynner ofte å tro at de er sansende, sier administrerende direktør

i korte trekk Mange mennesker begynner å tro at de samhandler med noe sansende når de snakker med AI-chatbots, ifølge administrerende direktør for Replika, en app som lar brukere designe sine egne virtuelle følgesvenner.

Folk kan tilpasse hvordan chatbotene deres ser ut og betale for ekstra funksjoner som visse personlighetstrekk på Replika. Millioner har lastet ned appen og mange chatter regelmessig med de sammensatte robotene deres. Noen begynner til og med å tro at deres digitale venner er ekte enheter som er sansende.

"Vi snakker ikke om gale mennesker eller folk som hallusinerer eller har vrangforestillinger," selskapets grunnlegger og administrerende direktør, Eugenia Kuyda, fortalte Reuters. "De snakker med AI og det er erfaringen de har."

En Google-ingeniør skapte overskrifter forrige måned da han sa at han trodde en av selskapets språkmodeller var bevisst. Blake Lemoine ble stort sett latterliggjort, men han ser ikke ut til å være alene om å antropomorfisere AI.

Disse systemene er imidlertid ikke sansende, og lurer i stedet mennesker til å tro at de har en viss intelligens. De etterligner språket og setter det opp litt tilfeldig uten å ha noen forståelse av språket eller verden de beskriver.

Likevel sa Kuyda at mennesker kan bli påvirket av teknologien.

"Vi må forstå at [dette] eksisterer, akkurat slik folk tror på spøkelser," sa Kuyda. "Folk bygger relasjoner og tror på noe."

EU bør forby løgndetektorer for kunstig intelligens, sier aktivister

Den europeiske unions AI-lov, et forslag om å regulere teknologien, diskuteres fortsatt og noen eksperter ber om et forbud mot automatiserte løgndetektorer.

Private selskaper leverer teknologien til offentlige tjenestemenn som kan brukes ved grensene. AI-algoritmer oppdager og analyserer ting som en persons øyebevegelser, ansiktsuttrykk og tone for å prøve å skjelne om noen kanskje ikke snakker sannheten. Men aktivister og juridiske eksperter mener det bør forbys i EU under den kommende AI-loven.

"Du må bevise at du er en flyktning, og du antas å være en løgner med mindre annet er bevist," Petra Molnar, assisterende direktør for det ideelle organisasjonen Refugee Law Lab, fortalte Kablet. "Den logikken underbygger alt. Det underbygger AI-løgndetektorer, og det understøtter mer overvåking og pushback ved grenser.»

Å prøve å oppdage om noen kan lyve ved hjelp av visuelle og fysiske signaler er ikke akkurat en vitenskap. Standard polygraftester er vaklende, og det er ikke klart at bruk av mer automatiserte metoder nødvendigvis betyr at det er mer nøyaktig. Å bruke så risikabel teknologi på sårbare mennesker som flyktninger er ikke ideelt.

Kan AI virkelig fortelle hvor gammel du ser ut?

Overraskelse, overraskelse – AI-algoritmer designet for å forutsi noens alder fra bilder er ikke alltid nøyaktige.

I et forsøk på å slå ned på unge brukere som lyver om alderen deres på sosiale medieplattformer, kunngjorde Meta at de samarbeider med Yoti, en oppstart av datasyn, for å bekrefte folks alder. De som manuelt endrer fødselsdatoen for å registrere seg som over 18 har muligheten til å laste opp en videoselfie, og Yotis teknologi brukes så til å forutsi om de ser modne nok ut.

Men algoritmene er ikke alltid nøyaktige. Reportere fra CNN, som testet en online demo av en annen versjon av programvaren på deres egne ansikter, fant at resultatene var truffet eller savnet. Yotis algoritmer spådde en riktig målaldersgruppe for noen, men i ett tilfelle ble det avbrutt med flere år – å spå at noen så ut 17-21 når de faktisk var i midten av 30-årene.

Systemet som analyserer videoer fra Meta-brukere sliter angivelig mer med å anslå alderen til tenåringer fra 13 til 17 som har mørkere hudtoner. Det er vanskelig for mennesker å gjette noens alder bare ved å se på dem, og maskinene har det sannsynligvis ikke mye bedre. ®