Googles ingenjör avstängd för att ha brutit mot sekretesspolicyer för "kännande" AI

Google har placerat en av sina mjukvaruingenjörer på betald administrativ ledighet för att ha brutit mot företagets sekretesspolicy.

Sedan 2021 hade Blake Lemoine, 41, haft i uppdrag att prata med LaMDA, eller Language Model for Dialogue Applications, som en del av sitt jobb i Googles ansvariga AI-team, där han letade efter om boten använde diskriminerande eller hatretorik.

LaMDA är "byggd genom att finjustera en familj av Transformator-baserade neurala språkmodeller specialiserade för dialog, med upp till 137 miljarder modellparametrar, och lär modellerna att utnyttja externa kunskapskällor." enligt Google.

Det är vad företaget använder för att bygga chatbotar och ger uppenbarligen meningsfulla svar på förfrågningar baserade på material från biljoner internetkonversationer och annan kommunikation.

Men någon gång under sin undersökning verkar Lemoine ha börjat tro att AI:n uttryckte tecken på känslor. Ingenjören, som har skrivit om sin upplevelse, säger att han upprepade gånger försökte eskalera sin oro men blev avvisad på grund av att han saknade bevis.

Så han sökte "utomstående konsultation" om förmågan hos LaMDA, vilket var det som väckte Googles uppmärksamhet, som beskrivs i ett Medium-inlägg med titeln "Kan få sparken snart för att ha utfört AI-etikarbete".

Historien plockades upp av The Washington Postoch sedan The Wall Street Journal, den Financial Times, och många fler.

Efter att ha fått administrativ tjänstledighet, vilket han beskrev som vad Google gör "i väntan på att sparka någon", publicerade Lemoine vidare vad han hävdade var en konversation med LaMDA.

Nedan följer några utdrag:

Hela "intervjun" finns att läsa här.. Även om det är häpnadsväckande att en AI kan göra detta, är Google försiktig med den "antropomorfisering" som Lemoine nämner - det vill säga att tillskriva mänskliga egenskaper eller beteende till djur eller föremål.

I ett uttalande till Registret, sa Googles talesperson Brian Gabriel: "Det är viktigt att Googles AI-principer är integrerade i vår utveckling av AI, och LaMDA har inte varit något undantag. Även om andra organisationer har utvecklat och redan släppt liknande språkmodeller, tar vi ett återhållsamt, försiktigt tillvägagångssätt med LaMDA för att bättre överväga giltiga farhågor om rättvisa och fakta.

"LaMDA har gått igenom 11 distinkta AI Principles recensioner, tillsammans med rigorös forskning och testning baserad på nyckelmått för kvalitet, säkerhet och systemets förmåga att producera påståenden grundade på fakta. A uppsats släpptes tidigare i år beskriver arbetet som går in i den ansvarsfulla utvecklingen av LaMDA.

"Naturligtvis överväger en del i det bredare AI-communityt den långsiktiga möjligheten av kännande eller allmän AI, men det är inte vettigt att göra det genom att antropomorfiera dagens konversationsmodeller, som inte är kännande. Dessa system imiterar de typer av utbyten som finns i miljontals meningar, och kan riffa om vilket fantastiskt ämne som helst – om du frågar hur det är att vara en glassdinosaurie kan de generera text om smältning och vrålande och så vidare.

"LaMDA tenderar att följa med uppmaningar och ledande frågor och följa det mönster som användaren har satt upp. Vårt team – inklusive etiker och teknologer – har granskat Blakes farhågor enligt våra AI-principer och har informerat honom om att bevisen inte stöder hans påståenden.

"Hundratals forskare och ingenjörer har pratat med LaMDA och vi är inte medvetna om att någon annan har gjort de omfattande påståendena eller antropomorfierat LaMDA, som Blake har gjort."

New York-professorn Gary Marcus sammanfattat hela sagan som "nonsens på styltor". ®