Google-technicus geschorst wegens schending van vertrouwelijkheidsbeleid over 'bewuste' AI

Google heeft een van zijn software-engineers met betaald administratief verlof geplaatst wegens het schenden van het vertrouwelijkheidsbeleid van het bedrijf.

Sinds 2021 was Blake Lemoine, 41, belast met het praten met LaMDA, of Language Model for Dialogue Applications, als onderdeel van zijn baan bij het Responsible AI-team van Google, om te kijken of de bot discriminerende of haatdragende taal gebruikte.

LaMDA is "gebouwd door een familie van Transformator-gebaseerde neurale taalmodellen gespecialiseerd voor dialoog, met tot 137 miljard modelparameters, en het leren van de modellen om gebruik te maken van externe kennisbronnen,” volgens Google.

Het is wat het bedrijf gebruikt om chatbots te bouwen en schijnbaar zinvolle antwoorden te geven op vragen op basis van materiaal dat is verzameld uit triljoenen internetgesprekken en andere communicatie.

Op een bepaald moment tijdens zijn onderzoek lijkt Lemoine echter te zijn gaan geloven dat de AI tekenen van bewustzijn uitte. De ingenieur, die heeft geschreven over zijn ervaring, zegt dat hij herhaaldelijk probeerde zijn zorgen te vergroten, maar werd afgewezen omdat hij geen bewijs had.

Dus zocht hij "extern overleg" over de mogelijkheden van LaMDA, wat de aandacht van Google trok, zoals beschreven in een Medium-bericht met de titel "Kan binnenkort worden ontslagen voor het doen van AI-ethisch werk".

Het verhaal werd opgepikt door The Washington Postdan The Wall Street Journal Financial Times, En nog veel meer.

Nadat hij met administratief verlof was geplaatst, wat hij beschreef als wat Google doet "in afwachting van iemand te ontslaan", publiceerde Lemoine verder wat volgens hem een ​​gesprek was met LaMDA.

Wat volgt zijn enkele fragmenten:

Het volledige “interview” is te lezen hier. Hoewel het opzienbarend is dat een AI dit kan doen, is Google op haar hoede voor de 'antropomorfisering' die Lemoine noemt - dat wil zeggen, het toeschrijven van menselijke kenmerken of gedrag aan dieren of objecten.

In een verklaring aan Het register, Google-woordvoerder Brian Gabriel zei: "Het is belangrijk dat de AI-principes van Google worden geïntegreerd in onze ontwikkeling van AI, en LaMDA is daarop geen uitzondering. Hoewel andere organisaties soortgelijke taalmodellen hebben ontwikkeld en al uitgebracht, hanteren we een terughoudende, zorgvuldige benadering met LaMDA om beter rekening te houden met geldige zorgen over eerlijkheid en feitelijkheid.

“LaMDA heeft 11 verschillende AI Principles beoordelingen, samen met rigoureus onderzoek en testen op basis van belangrijke maatstaven voor kwaliteit, veiligheid en het vermogen van het systeem om verklaringen te produceren die op feiten zijn gebaseerd. EEN research paper die eerder dit jaar werd uitgebracht, beschrijft het werk dat wordt gedaan in de verantwoorde ontwikkeling van LaMDA.

"Natuurlijk overwegen sommigen in de bredere AI-gemeenschap de langetermijnmogelijkheid van bewuste of algemene AI, maar het heeft geen zin om dit te doen door de hedendaagse conversatiemodellen, die niet bewust zijn, te antropomorfiseren. Deze systemen imiteren de soorten uitwisselingen die in miljoenen zinnen worden gevonden en kunnen over elk fantastisch onderwerp riffen - als je vraagt ​​hoe het is om een ​​ijsdinosaurus te zijn, kunnen ze tekst genereren over smelten en brullen, enzovoort.

"LaMDA heeft de neiging om de aanwijzingen en leidende vragen te volgen, in overeenstemming met het patroon dat door de gebruiker is ingesteld. Ons team - inclusief ethici en technologen - heeft Blake's zorgen beoordeeld volgens onze AI-principes en heeft hem laten weten dat het bewijs zijn beweringen niet ondersteunt.

"Honderden onderzoekers en ingenieurs hebben met LaMDA gesproken en we zijn ons niet bewust van iemand anders die de uitgebreide beweringen doet, of LaMDA antropomorfiseert, zoals Blake heeft gedaan."

New Yorkse professor Gary Marcus opgesomd de hele sage als "onzin op stelten." ®