Folk, der regelmæssigt taler med AI-chatbots, begynder ofte at tro, at de er sansende, siger CEO

Kort om Adskillige mennesker begynder at tro, at de interagerer med noget sansende, når de taler med AI-chatbots, ifølge CEO for Replika, en app, der giver brugerne mulighed for at designe deres egne virtuelle ledsagere.

Folk kan tilpasse, hvordan deres chatbots ser ud og betale for ekstra funktioner som visse personlighedstræk på Replika. Millioner har downloadet appen, og mange chatter regelmæssigt med deres opdigtede bots. Nogle begynder endda at tro, at deres digitale venner er rigtige enheder, der er sansende.

"Vi taler ikke om skøre mennesker eller folk, der hallucinerer eller har vrangforestillinger," virksomhedens grundlægger og administrerende direktør, Eugenia Kuyda, fortalt Reuters. "De taler med AI, og det er den erfaring, de har."

En Google-ingeniør lavet overskrifter i sidste måned, da han sagde, at han troede, at en af ​​virksomhedens sprogmodeller var bevidst. Blake Lemoine blev stort set latterliggjort, men han ser ikke ud til at være alene om at antropomorfisere kunstig intelligens.

Disse systemer er imidlertid ikke sansende, og i stedet narrer de mennesker til at tro, at de har en vis intelligens. De efterligner sproget og opgiver det lidt tilfældigt uden at have nogen forståelse af sproget eller den verden, de beskriver.

Alligevel sagde Kuyda, at mennesker kan lade sig påvirke af teknologien.

"Vi er nødt til at forstå, at [dette] eksisterer, ligesom folk tror på spøgelser," sagde Kuyda. "Folk bygger relationer og tror på noget."

EU bør forbyde AI-løgnedetektorer, siger aktivister

Den Europæiske Unions AI-lov, et forslag til regulering af teknologien, diskuteres stadig, og nogle eksperter opfordrer til et forbud mod automatiske løgnedetektorer.

Private virksomheder leverer teknologien til embedsmænd til brug ved grænserne. AI-algoritmer registrerer og analyserer ting som en persons øjenbevægelser, ansigtsudtryk og tone for at prøve at skelne, om nogen måske ikke fortæller sandheden. Men aktivister og juridiske eksperter mener, at det bør forbydes i EU under den kommende AI-lov.

"Du skal bevise, at du er en flygtning, og du antages at være en løgner, medmindre andet er bevist," Petra Molnar, en associeret direktør for nonprofit Refugee Law Lab, fortalt Kablet. »Den logik underbygger alt. Det understøtter AI-løgnedetektorer, og det understøtter mere overvågning og pushback ved grænser."

At forsøge at opdage, om nogen måske lyver ved hjælp af visuelle og fysiske signaler, er ikke ligefrem en videnskab. Standard polygraftests er rystende, og det er ikke klart, at brug af mere automatiserede metoder nødvendigvis betyder, at det er mere nøjagtigt. Det er ikke ideelt at bruge så risikabel teknologi på sårbare mennesker som flygtninge.

Kan AI virkelig fortælle, hvor gammel du ser ud?

Overraskelse, overraskelse – AI-algoritmer designet til at forudsige en persons alder ud fra billeder er ikke altid nøjagtige.

I et forsøg på at slå ned på unge brugere, der lyver om deres alder på sociale medieplatforme, annoncerede Meta, at de samarbejdede med Yoti, en computervision-startup, for at verificere folks alder. De, der manuelt ændrer deres fødselsdato for at registrere sig som over 18, har mulighed for at uploade en video-selfie, og Yotis teknologi bruges så til at forudsige, om de ser modne nok ud.

Men dens algoritmer er ikke altid nøjagtige. Reportere fra CNN, som afprøvet en online demo af en anden version af softwaren på deres egne ansigter, fandt ud af, at resultaterne var hit eller miss. Yotis algoritmer forudsagde et korrekt målaldersinterval for nogle, men i et tilfælde var de ude af flere år – at forudsige, at nogen så 17-21 ud, da de faktisk var i midten af ​​30'erne.

Systemet, der analyserer videoer fra Meta-brugere, kæmper efter sigende mere med at estimere alderen på teenagere fra 13 til 17, der har mørkere hudtoner. Det er svært for mennesker at gætte en persons alder bare ved at se på dem, og maskiner klarer sig nok ikke meget bedre. ®