Google-ingeniør suspenderet for overtrædelse af fortrolighedspolitikker vedrørende "sansende" AI

Google har sat en af ​​sine softwareingeniører på betalt administrativ orlov for overtrædelse af virksomhedens fortrolighedspolitikker.

Siden 2021 havde Blake Lemoine, 41, haft til opgave at tale med LaMDA, eller Language Model for Dialogue Applications, som en del af sit job på Googles ansvarlige AI-team, hvor han ledte efter, om botten brugte diskriminerende eller hadefuld tale.

LaMDA er "bygget ved at finjustere en familie af Transformer-baserede neurale sprogmodeller specialiseret til dialog, med op til 137 milliarder modelparametre, og lærer modellerne at udnytte eksterne videnkilder." ifølge Google.

Det er, hvad virksomheden bruger til at bygge chatbots og returnerer tilsyneladende meningsfulde svar på forespørgsler baseret på materiale høstet fra billioner af internetsamtaler og anden kommunikation.

På et tidspunkt under sin undersøgelse lader Lemoine dog til at være begyndt at tro, at AI'en udtrykte tegn på sansning. Ingeniøren, der har skrevet om hans oplevelse, siger, at han gentagne gange forsøgte at eskalere sine bekymringer, men blev afvist med den begrundelse, at han manglede beviser.

Så han søgte "udenfor konsultation" om LaMDA's evner, hvilket er det, der tiltrak Googles opmærksomhed, som beskrevet i et Medium-indlæg med titlen "Kan snart blive fyret for at udføre AI-etisk arbejde".

Historien blev opfanget af The Washington Post, derefter The Wall Street Journal, Financial Times, Og mange flere.

Efter at have fået administrativ orlov, hvilket han beskrev som, hvad Google gør "i forventning om at fyre nogen," udgav Lemoine yderligere, hvad han hævdede var en samtale med LaMDA.

Det følgende er nogle uddrag:

Hele "interviewet" kan læses link.. Selvom det er opsigtsvækkende, at en AI kan gøre dette, er Google på vagt over for den "antropomorfisering", som Lemoine nævner - det vil sige at tilskrive menneskelige egenskaber eller adfærd til dyr eller genstande.

I en erklæring til Registret, sagde Google-talsmand Brian Gabriel: "Det er vigtigt, at Googles AI-principper er integreret i vores udvikling af AI, og LaMDA har ikke været nogen undtagelse. Selvom andre organisationer har udviklet og allerede udgivet lignende sprogmodeller, tager vi en tilbageholden, omhyggelig tilgang med LaMDA for bedre at overveje gyldige bekymringer om retfærdighed og faktualitet.

"LaMDA har gennemgået 11 forskellige AI Principles anmeldelser, sammen med streng forskning og test baseret på nøglemålinger af kvalitet, sikkerhed og systemets evne til at producere udsagn baseret på fakta. EN forskningsartikel udgivet tidligere i år beskriver arbejdet, der går ind i den ansvarlige udvikling af LaMDA.

"Selvfølgelig overvejer nogle i det bredere AI-samfund den langsigtede mulighed for sansende eller generel AI, men det giver ikke mening at gøre det ved at antropomorfisere nutidens samtalemodeller, som ikke er sansende. Disse systemer imiterer de typer af udvekslinger, der findes i millioner af sætninger, og kan riffe om ethvert fantastisk emne – hvis du spørger, hvordan det er at være en isdinosaur, kan de generere tekst om smeltning og brøl og så videre.

"LaMDA har en tendens til at følge med på opfordringer og ledende spørgsmål, der følger det mønster, som brugeren har sat. Vores team – inklusive etikere og teknologer – har gennemgået Blakes bekymringer i henhold til vores AI-principper og har informeret ham om, at beviserne ikke understøtter hans påstande.

"Hundredevis af forskere og ingeniører har talt med LaMDA, og vi er ikke klar over, at nogen andre har fremsat de vidtrækkende påstande eller menneskeskabt LaMDA, som Blake har gjort."

New York professor Gary Marcus opsummeret hele sagaen som "sludder på stylter." ®