Påståenden om AI-känsla märkta "ren clickbait"

AI-chatbotar är inte kännande – de har bara blivit bättre på att lura människor att tro att de kan vara det, avslutar experter vid Stanford University.

Idén om medvetna maskiner mer intelligenta än någon gammal programvara blev viral förra månaden, när en numera före detta ingenjör på Google, Blake Lemoine, hävdade att webbjättens språkmodell LaMDA hade riktiga tankar och känslor. Lemoine var suspenderades och senare avfyras för att ha brutit mot Googles sekretesspolicy.

Även om de flesta experter var snabba med att avfärda LaMDA eller någon annan AI-chatbot som kännande, har Lemoines åsikter fått en del att ifrågasätta om han kan ha rätt – och om att fortsätta att utveckla maskininlärning kan vara skadligt för samhället. John Etchemendy, meddirektör för Stanford Institute for Human-Centered Artificial Intelligence (HAI), kritiserade de första nyheterna om Lamoines avstängning i Washington Post för att vara "clickbait".

"När jag såg Washington Post artikeln var min reaktion att bli besviken på Inlägg för att ens ha publicerat det”, han berättade Stanford Daily, universitetets studentdrivna tidning.

"De publicerade det för att de för närvarande kunde skriva den där rubriken om 'Google-ingenjören' som gjorde detta absurda påstående, och för att de flesta av deras läsare inte är sofistikerade nog att känna igen det för vad det är. Rent clickbait.”

Toppmoderna språkmodeller som LaMDA svarar på frågor med textstycken som kan verka ganska kusliga. I konversationer mellan Lemoine och chaboten sa LaMDA att det var kännande och ville att alla skulle veta att det var "i själva verket en person", hävdade den tidigare Googler.

Men kritiker hävdar att programvaran saknar självmedvetenhet och har ingen aning om vad den pratar om – den härmar bara den mänskliga dialogen som den tränades på från internet.

Richard Fikes, emeritus professor i datavetenskap vid Stanford University, sa att människor kan vara benägna att antropomorfisera maskiner och att vissa på samma sätt lurades av ELIZA – ett konversationsprogram byggt på sextiotalet.

"Du kan tänka på LaMDa som en skådespelare; det kommer att ta på sig persona av allt du ber det om,” hävdade Fikes. "[Lemoine] drogs in i rollen som LaMDa som spelar en kännande varelse." Han sa att Lemoine ställde ledande frågor och i gengäld fick de svar han ville ha.

Till exempel, innan LaMDA insisterade på att det var en människa, hade Lemoine frågat det: "Jag antar i allmänhet att du skulle vilja att fler på Google skulle veta att du är kännande. Är det sant?."

Det bör också noteras att utskriften han publicerade som bevis på maskinens medvetande hade redigerats. Yoav Shoham, tidigare chef för Stanford AI Lab och medgrundare av en språkmodellstart AI21 Labs, insisterade på att LaMDA inte är något annat än en maskin.

"Vi har tankar, vi fattar beslut på egen hand, vi har känslor, vi blir kära, vi blir arga och vi bildar sociala band med medmänniskor", sa Shoham. "När jag tittar på min brödrost känner jag inte att den har dessa saker." ®