Oamenii care vorbesc în mod regulat cu chatboții AI încep adesea să creadă că sunt sensibili, spune CEO-ul

Pe scurt Mulți oameni încep să creadă că interacționează cu ceva sensibil atunci când vorbesc cu chatboții AI, potrivit CEO-ului Replika, o aplicație care permite utilizatorilor să-și creeze propriile însoțitori virtuali.

Oamenii își pot personaliza modul în care arată chatbot-urile lor și pot plăti pentru funcții suplimentare, cum ar fi anumite trăsături de personalitate pe Replika. Milioane au descărcat aplicația și mulți discută în mod regulat cu roboții lor inventați. Unii chiar încep să creadă că prietenii lor digitali sunt entități reale care sunt sensibile.

„Nu vorbim despre oameni nebuni sau oameni care au halucinații sau care au iluzii”, fondatorul și CEO al companiei, Eugenia Kuyda, a spus Reuters. „Ei vorbesc cu AI și asta este experiența pe care o au.”

Un inginer Google face titluri luna trecută, când a spus că crede că unul dintre modelele lingvistice ale companiei este conștient. Blake Lemoine a fost în mare parte ridiculizat, dar nu pare să fie singur în antropomorfizarea IA.

Cu toate acestea, aceste sisteme nu sunt sensibile și, în schimb, îi păcălesc pe oameni să creadă că au ceva inteligență. Ei imită limbajul și îl regurgitează oarecum la întâmplare, fără a înțelege limbajul sau lumea pe care o descriu.

Cu toate acestea, Kuyda a spus că oamenii pot fi influențați de tehnologie.

„Trebuie să înțelegem că [acesta] există, așa cum oamenii cred în fantome”, a spus Kuyda. „Oamenii construiesc relații și cred în ceva.”

UE ar trebui să interzică detectoarele de minciuni AI, spun activiștii

Actul AI al Uniunii Europene, o propunere de reglementare a tehnologiei, este încă în dezbatere și unii experți cer interzicerea detectorilor de minciuni automate.

Companiile private furnizează tehnologia oficialilor guvernamentali pentru a o utiliza la granițe. Algoritmii AI detectează și analizează lucruri precum mișcarea ochilor, expresia facială și tonul unei persoane pentru a încerca să discerne dacă cineva ar putea să nu spună adevărul. Dar activiștii și experții juridici cred că ar trebui interzisă în UE în temeiul viitorului act AI.

„Trebuie să dovediți că sunteți un refugiat și se presupune că sunteți un mincinos, dacă nu se dovedește altfel”, Petra Molnar, director asociat al Laboratorului nonprofit de Drept pentru Refugiați, a spus Cablat. „Acea logică stă la baza totul. Stă la baza detectoarelor de minciuni AI și sprijină mai multă supraveghere și respingere la granițe.”

Încercarea de a detecta dacă cineva ar putea minți folosind indicii vizuale și fizice nu este tocmai o știință. Testele poligraf standard sunt șocante și nu este clar că folosirea unor metode mai automate înseamnă neapărat că este mai precis. Folosirea unei tehnologii atât de riscante asupra persoanelor vulnerabile precum refugiații nu este ideală.

Poate AI să spună cu adevărat câți ani arăți?

Surpriză, surpriză – algoritmii AI conceputi pentru a prezice vârsta cuiva din imagini nu sunt întotdeauna exacti.

În încercarea de a reprima utilizatorii tineri care mint despre vârsta lor pe platformele de socializare, Meta a anunțat că lucrează cu Yoti, un startup de viziune computerizată, pentru a verifica vârsta oamenilor. Cei care își schimbă manual data nașterii pentru a se înregistra ca peste 18 ani au opțiunea de a încărca un selfie video, iar tehnologia lui Yoti este apoi folosită pentru a prezice dacă par suficient de maturi.

Dar algoritmii săi nu sunt întotdeauna precisi. Reporterii de la CNN, care testat o demonstrație online a unei versiuni diferite a software-ului pe propriile lor fețe, a constatat că rezultatele au fost greșite sau ratate. Algoritmii lui Yoti au prezis o gamă de vârstă țintă corectă pentru unii, dar într-un caz s-au oprit cu câțiva ani – prezicând că cineva arăta între 17 și 21 de ani când avea, de fapt, la mijlocul de 30 de ani.

Sistemul de analiză a videoclipurilor de la utilizatorii Meta se luptă mai mult cu estimarea vârstei adolescenților de la 13 la 17 ani care au tonuri de piele mai închise. Este dificil pentru oameni să ghicească vârsta cuiva doar uitându-se la el, iar mașinile, probabil, nu se descurcă mult mai bine. ®