Google-ingeniør suspendert for brudd på konfidensialitetsretningslinjer for «sansende» AI

Google har gitt en av sine programvareingeniører betalt administrativ permisjon for brudd på selskapets retningslinjer for konfidensialitet.

Siden 2021 har Blake Lemoine, 41, fått i oppgave å snakke med LaMDA, eller Language Model for Dialogue Applications, som en del av jobben hans i Googles ansvarlige AI-team, og lete etter om boten brukte diskriminerende eller hatefulle ytringer.

LaMDA er "bygget ved å finjustere en familie av Transformator-baserte nevrale språkmodeller spesialisert for dialog, med opptil 137 milliarder modellparametere, og lærer modellene å utnytte eksterne kunnskapskilder. ifølge Google.

Det er det selskapet bruker til å bygge chatbots og returnerer tilsynelatende meningsfylte svar på henvendelser basert på materiale høstet fra billioner av internettsamtaler og annen kommunikasjon.

På et tidspunkt under etterforskningen ser det imidlertid ut til at Lemoine har begynt å tro at AI-en uttrykte tegn på sansing. Ingeniøren, som har skrevet om opplevelsen hans, sier at han gjentatte ganger prøvde å eskalere bekymringene sine, men ble avvist på grunn av at han manglet bevis.

Så han søkte "utenfor konsultasjon" om evnene til LaMDA, som er det som vakte Googles oppmerksomhet, som beskrevet i et Medium-innlegg med tittelen "Kan bli sparket snart for å utføre AI-etikkarbeid".

Historien ble plukket opp av The Washington Post, deretter The Wall Street Journalden Financial Times, og mange flere.

Etter å ha blitt satt i administrativ permisjon, som han beskrev som det Google gjør «i påvente av å sparke noen», publiserte Lemoine videre det han hevdet var en samtale med LaMDA.

Følgende er noen utdrag:

Hele "intervjuet" kan leses her.. Selv om det er oppsiktsvekkende at en kunstig intelligens kan gjøre dette, er Google på vakt mot «antropomorfiseringen» som Lemoine nevner – det vil si å tilskrive menneskelige egenskaper eller atferd til dyr eller gjenstander.

I en uttalelse til Registeret, sa Googles talsperson Brian Gabriel: «Det er viktig at Googles AI-prinsipper er integrert i vår utvikling av AI, og LaMDA har ikke vært noe unntak. Selv om andre organisasjoner har utviklet og allerede utgitt lignende språkmodeller, tar vi en behersket, forsiktig tilnærming med LaMDA for å bedre vurdere gyldige bekymringer om rettferdighet og fakta.

"LaMDA har gått gjennom 11 forskjellige AI Principles anmeldelser, sammen med streng forskning og testing basert på nøkkelmålinger for kvalitet, sikkerhet og systemets evne til å produsere utsagn basert på fakta. EN forskning papir utgitt tidligere i år beskriver arbeidet som går inn i ansvarlig utvikling av LaMDA.

"Selvfølgelig vurderer noen i det bredere AI-samfunnet den langsiktige muligheten for sansende eller generell AI, men det gir ikke mening å gjøre det ved å antropomorfisere dagens samtalemodeller, som ikke er sansende. Disse systemene imiterer typene meningsutvekslinger som finnes i millioner av setninger, og kan snakke om et hvilket som helst fantastisk emne – hvis du spør hvordan det er å være en iskremdinosaur, kan de generere tekst om smelting og brøling og så videre.

"LaMDA har en tendens til å følge med på forespørsler og ledende spørsmål, i tråd med mønsteret satt av brukeren. Teamet vårt – inkludert etikere og teknologer – har gjennomgått Blakes bekymringer i henhold til våre AI-prinsipper og har informert ham om at bevisene ikke støtter påstandene hans.

"Hundrevis av forskere og ingeniører har snakket med LaMDA, og vi er ikke klar over at noen andre har kommet med de omfattende påstandene, eller menneskeskapte LaMDA, slik Blake har gjort."

New York-professor Gary Marcus oppsummerte hele sagaen som «tull på stylter». ®