Organizația de sănătate mintală Koko a folosit cu succes ChatGPT pentru a-i ajuta să-și îmbunătățească suportul online, dar atunci când utilizatorii au aflat că un chatbot coautora răspunsuri, beneficiile percepute au dispărut.
Recepția experimentului pe rețelele de socializare a fost mixtă, unele persoane fiind fascinate de potențialul AI în domeniu, iar altele s-au opus puternic intruziunii inteligenței artificiale.
Fără scurtături către bunăstarea mentală
Un experiment recent al lui Koko care a completat răspunsurile umane cu Chat GPT la început părea să ofere beneficii semnificative utilizatorilor săi.
Koko este o organizație non-profit de sănătate mintală care oferă sprijin și intervenție oricărei persoane care se luptă cu sănătatea mintală, dar în special adolescenților. Ca parte a misiunii lor de a face sănătatea mintală accesibilă oricui, compania și-a mărit resursele de voluntari cu inteligență artificială.
Potrivit fondatorului Koko, Rob Morris, procesul sa dovedit inițial un succes. Morris afirmă că răspunsurile asistate de AI au fost inițial mai bine primite și au ajutat la reducerea timpilor de așteptare. Din păcate, beneficiile nu au durat.
„Odată ce oamenii au aflat că mesajele au fost co-create de o mașină, nu a funcționat. Empatia simulată se simte ciudată, goală”, a spus Morris pe Twitter săptămâna trecută. „Mașinile nu au experiență umană trăită, așa că atunci când spun „sună greu” sau „înțeleg”, sună neautentic.”
Morris a concluzionat în cele din urmă că chatboții „nu își iau timp din ziua lor să se gândească la tine. Un răspuns de chatbot care este generat în 3 secunde, indiferent cât de elegant, se simte cumva ieftin.”
Integrarea Chat GPT into Koko face parte dintr-un parteneriat de lungă durată care datează din iunie 2020, ChatGPT asistând asistenții umani să răspundă la peste 30,000 de mesaje.
Nu doar sună neautentic...
— Altaira Morbius (@Altair4_2381) Ianuarie 7, 2023
Un răspuns mixt
Ideea unei intervenții de sănătate mintală asistată de inteligență artificială a fost întâmpinată cu fascinație larg răspândită și cu un grad mic, dar palpabil de groază pe rețelele de socializare.
Un număr de oameni au fost umbriți de declarația lui Morris că o inteligență artificială „suna neautentic” atunci când simpatizează cu oamenii.
Ca utilizator Twitter ActuallyStryder a subliniat, „Nu „suna” neautentic, ESTE neautentic. Întreaga conversație este una de mimetizare optimizată.”
Aceleași sentimente sau similare au fost împărtășite pe scară largă de mulți. Alții și-au exprimat șoc sau dezgust și au pus sub semnul întrebării etica unui astfel de experiment în primul rând.
Acest lucru este profund neetic.
— Eric Seufert (@eric_seufert) Ianuarie 7, 2023
Totuși, nu toată lumea a fost atât de îngrozită. HyaenaMama a comparat în mod favorabil autenticitatea cu furnizarea de sănătate mintală din cadrul Serviciului Național de Sănătate (NHS) al Regatului Unit), „S-a simțit neautentic și atunci când am venit de la practicienii mei de sănătate mintală din NHS... Voi prelua GPT-ul oricând.”
În ceea ce privește faptul că chatbot-ii nu au experiență trăită, ea a adăugat, „terapeuții și în special psihiatrii și psihologii ar putea să nu aibă experiență trăită nici”.
Pofta de orice companie
Răspunsul imediat la experimentul lui Koko pare să sugereze că omenirea este destul de pregătită pentru empatie artificială, dar s-ar putea schimba asta în timp?
Așa cum însuși Morris întreabă: „Pot mașinile să depășească această [problema]? Probabil."
Morris continuă: „Poate că suntem atât de disperați să fim auziți, să avem ceva să ne acorde atenție fără a fi distras, fără să ne uităm la un telefon sau să verificăm slack sau e-mail sau twitter - poate că tânjim atât de mult după asta, că vom să ne convingem că mașinilor chiar le pasă de noi.”
Oricât de mult aplaud gestul de a dori să accelerezi obținerea ajutorului oamenilor, se pare că nu ai obținut acordul lor. Acesta nu este absolut modul de a aduce AI în acest (sau oricare) domeniu și va provoca doar mai multă neîncredere și teamă în IA.
— Ryan Badger (@ryanseanbadger) Ianuarie 8, 2023
Clarificările provoacă o confuzie suplimentară
Morris a răspuns reacției din experimentul recent al lui Koku, încercând să înăbușe criticile puternice cu care se confruntă organizația din anumite părți.
Din păcate, clarificarea pare să provoace confuzii suplimentare.
Morris afirmă acum că toți utilizatorii erau conștienți de faptul că răspunsurile au fost create cu ajutorul unei inteligențe artificiale și că nimeni care caută ajutor nu a vorbit vreodată direct cu un AI.
„Această funcție a fost înscrisă,” a spus Morris înainte de a înnoroi apele încă o dată, adăugând. „Toată lumea știa despre funcție când a fost live timp de câteva zile.”
Indiferent dacă utilizatorii au știut despre această funcție de la început sau nu, consecințele experimentului demonstrează că există capcane tangibile de evitat atunci când se utilizează tehnologia AI în serviciile existente.
- Distribuție de conținut bazat pe SEO și PR. Amplifică-te astăzi.
- Platoblockchain. Web3 Metaverse Intelligence. Cunoștințe amplificate. Accesați Aici.
- Sursa: https://metanews.com/ai-war-heats-up-as-ex-openai-team-launches-chatgpt-competitor-claude/?utm_source=rss&utm_medium=rss&utm_campaign=ai-war-heats-up-as-ex-openai-team-launches-chatgpt-competitor-claude
- 000
- 10
- 11
- 2020
- 7
- a
- Despre Noi
- absolut
- accesibil
- de fapt
- adăugat
- AI
- TOATE
- și
- răspunde
- oricine
- a apărut
- artificial
- inteligență artificială
- atenţie
- augmented
- autenticitate
- înapoi
- înainte
- fiind
- Beneficiile
- Mai bine
- aduce
- pasă
- Provoca
- Schimbare
- chatbot
- chatbots
- Chat GPT
- ieftin
- control
- venire
- companie
- comparație
- concurent
- încheia
- confuzie
- consimţământ
- continuă
- Conversație
- convinge
- ar putea
- critică
- Tăiat
- datare
- zi
- Zi
- Grad
- FĂCUT
- direct
- neîncredere
- Nu
- Dont
- oricare
- întregime
- mai ales
- etică
- în cele din urmă
- EVER
- toată lumea
- existent
- experienţă
- experiment
- și-a exprimat
- cu care se confruntă
- Fallout
- frică
- Caracteristică
- puțini
- camp
- First
- fondator
- din
- mai mult
- generată
- gest
- obține
- obtinerea
- Sănătate
- auzit
- ajutor
- a ajutat
- groază
- Cum
- Totuși
- HTTPS
- uman
- Experiența umană
- Umanitate
- Oamenii
- BOLNAV
- idee
- imediat
- îmbunătăţi
- in
- inițial
- integrare
- Inteligență
- intervenţie
- IT
- Nume
- lansează
- învățat
- trăi
- Lung
- cautati
- maşină
- Masini
- face
- multe
- materie
- Mass-media
- mental
- De sănătate mintală
- mesaje
- ar putea
- Misiune
- mixt
- mai mult
- național
- NHS
- non-profit
- număr
- oferi
- oferind
- ONE
- on-line
- opus
- optimizate
- organizație
- Altele
- Altele
- Învinge
- palpabil
- parte
- în special
- Asociere
- Plătește
- oameni
- percepută
- telefon
- Loc
- Plato
- Informații despre date Platon
- PlatoData
- potenţial
- probabil
- Problemă
- s-au dovedit
- dovedește
- dispoziţie
- Chestionat
- gata
- primit
- recent
- recepție
- Resurse
- răspuns
- Ryan
- Said
- acelaşi
- secunde
- caută
- pare
- serviciu
- Servicii
- comun
- semnificativ
- asemănător
- moale
- mic
- So
- Social
- social media
- unele
- ceva
- Suna
- viteză
- Începe
- Declarație
- Statele
- puternic
- tare
- Incercand
- Reușit
- astfel de
- a sustine
- Lua
- luare
- echipă
- Tehnologia
- lor
- timp
- ori
- la
- proces
- adevărat
- stare de nervozitate
- în
- us
- Utilizator
- utilizatorii
- voluntar
- aștepta
- doresc
- război
- Bunastare
- care
- pe larg
- pe scară largă
- voi
- fără
- Apartamente
- Tu
- zephyrnet