Det visar sig att folk inte gillar när de misstänker att en maskin pratar med dem

Det visar sig att folk inte gillar när de misstänker att en maskin pratar med dem

Tidsstämpel: 11 april 2023 12:59
Det visar sig att folk inte gillar när de misstänker att en maskin pratar med dem PlatoBlockchain Data Intelligence. Vertikal sökning. Ai.

Du kanske tycker att det är användbart att använda AI-teknik när du chattar med andra, men den senaste forskningen visar att folk kommer att tänka mindre på någon som använder sådana verktyg.

Så här gick studien, ledd av folk vid America's Cornell University, ner. Teamet rekryterade deltagare och delade upp dem i 219 par. Dessa försökspersoner ombads sedan att diskutera policysaker kring textmeddelanden. För några av paren blev båda deltagarna i varje parning tillsagda att endast använda förslag från Googles Smart svar, som följer ett samtalsämne och rekommenderar saker att säga. Vissa par blev tillsagda att inte använda verktyget alls, och för andra par blev en deltagare i varje parning tillsagd att använda Smart Reply.

Ett av sju meddelanden skickades därför med hjälp av autogenererad text i experimentet, och dessa gjorde att konversationer till synes mer effektiva och med en positiv ton. Men om en deltagare trodde att personen de pratade med svarade med svar, trodde de att de var mindre samarbetsvilliga och kände sig mindre varmt om dem. 

Människor kan projicera sina negativa åsikter om AI på den person som de misstänker använder den

Malte Jung, medförfattare till forskningen publicerade i Scientific Reports, och en docent i informationsvetenskap vid Cornell, sa att det kan bero på att människor tenderar att lita mindre på teknik än andra människor, eller uppfattar dess användning i konversationer som oäkta. 

"En förklaring är att människor kan projicera sina negativa åsikter om AI på den person de misstänker använder den," sa han Registret.

"En annan förklaring kan vara att att misstänka någon för att använda AI för att generera sina svar kan leda till en uppfattning om den personen som mindre omtänksam, äkta eller autentisk. Till exempel, en dikt från en älskare tas sannolikt emot mindre varmt om den dikten skapades av ChatGPT."

I ett andra experiment ombads 291 par människor att diskutera en politisk fråga igen. Den här gången delades de upp i grupper som var tvungna att manuellt skriva in sina egna svar, eller så kunde de använda Googles standardsmarta svar, eller hade tillgång till ett verktyg som genererade text med en positiv eller negativ ton. 

Konversationer som fördes med Googles smarta svar eller verktyget som genererade positiv text uppfattades som mer positiva än de som innebar att inga AI-verktyg användes eller att de svarade med automatiskt genererade negativa svar. Forskarna tror att detta visar att det finns vissa fördelar med att kommunicera med AI i vissa situationer, till exempel mer transaktionella eller professionella scenarier.

"Vi bad crowdworkers att diskutera policyer om orättvist avslag på arbete. I ett sådant arbetsrelaterat sammanhang har en mer vänlig positiv ton främst positiva konsekvenser eftersom positivt språk drar människor närmare varandra”, berättade Jung för oss.

"Men i ett annat sammanhang kan samma språk ha en annan och till och med negativ inverkan. En person som till exempel delar med sig av sorgliga nyheter om ett dödsfall i familjen kanske inte uppskattar ett glatt och glatt svar och kommer troligen att avskräckas av det. Med andra ord, vad "positivt" och "negativt" betyder varierar dramatiskt med sammanhanget."

Mänsklig kommunikation kommer att formas av AI i takt med att tekniken blir mer och mer tillgänglig. Microsoft och Google, till exempel, har båda annonserat verktyg som syftar till att hjälpa användare att automatiskt skriva e-postmeddelanden eller dokument.

"Även om AI kanske kan hjälpa dig att skriva, förändrar det ditt språk på sätt som du kanske inte förväntar dig, särskilt genom att få dig att låta mer positiv. Detta tyder på att genom att använda textgenererande AI, offrar du en del av din egen personliga röst,” Jess Hohenstein, huvudförfattare till studien och forskare vid Cornell University, varnade den här månaden.  

Hohenstein sa till oss att hon skulle "gärna att se mer transparens kring dessa verktyg" som inkluderar ett sätt att avslöja när folk använde dem. "Att ta steg mot mer öppenhet och transparens kring LLM:er kan potentiellt hjälpa till att lindra en del av den allmänna misstanken vi såg mot AI." ®

Tidsstämpel:

Mer från Registret