Googlov inženir suspendiran zaradi kršitve pravilnikov o zaupnosti v zvezi z 'čutečo' AI

Google je enega od svojih programskih inženirjev poslal na plačan upravni dopust zaradi kršitve pravilnika o zaupnosti podjetja.

Since 2021, Blake Lemoine, 41, had been tasked with talking to LaMDA, or Language Model for Dialogue Applications, as part of his job on Google’s Responsible AI team, looking for whether the bot used discriminatory or hate speech.

LaMDA je »zgrajena s fino nastavitvijo družine Transformerna osnovi nevronskih jezikovnih modelov, specializiranih za dialog, z do 137 milijardami parametrov modela in učenjem modelov za izkoriščanje zunanjih virov znanja,« v skladu z Googlom.

To je tisto, kar podjetje uporablja za izgradnjo chatbotov in vrača očitno pomembne odgovore na poizvedbe, ki temeljijo na gradivu, zbranem iz trilijonov internetnih pogovorov in drugih komunikacij.

Zdi se, da je na neki točki med svojo preiskavo Lemoine začel verjeti, da AI izraža znake čutenja. Inženir, ki ima napisal o svojih izkušnjah, pravi, da je večkrat poskušal stopnjevati svoje pomisleke, a so ga zavrnili z obrazložitvijo, da nima dokazov.

Zato je poiskal "zunanje posvetovanje" o sposobnostih LaMDA, kar je pritegnilo Googlovo pozornost, kot je opisano v objavi Medium z naslovom “May be Fired Soon for Doing AI Ethics Work”.

Zgodbo je prevzel Washington Post, Potem Wall Street Journalje Financial Times, In še veliko več.

Potem ko je bil poslan na upravni dopust, kar je opisal kot tisto, kar Google počne "v pričakovanju, da bo nekoga odpustil", je Lemoine nadalje objavil, za kar je trdil, pogovor z LaMDA.

Sledi nekaj odlomkov:

Celoten "intervju" si lahko preberete tukaj. Čeprav je presenetljivo, da lahko to stori umetna inteligenca, je Google previden glede "antropomorfizacije", ki jo omenja Lemoine - to je pripisovanje človeških lastnosti ali vedenja živalim ali predmetom.

V izjavi za Register, je Googlov tiskovni predstavnik Brian Gabriel dejal: »Pomembno je, da so Googlova načela umetne inteligence vključena v naš razvoj umetne inteligence in LaMDA ni bila izjema. Čeprav so druge organizacije razvile in že izdale podobne jezikovne modele, z LaMDA uporabljamo zadržan in previden pristop, da bi bolje upoštevali utemeljene pomisleke glede poštenosti in dejanskega stanja.

»LaMDA je šla skozi 11 različnih Ocene AI Principles, skupaj s strogimi raziskavami in testiranjem, ki temelji na ključnih metrikah kakovosti, varnosti in zmožnosti sistema, da ustvari izjave, utemeljene na dejstvih. A raziskovalna naloga izdan v začetku tega leta, podrobno opisuje delo, ki je vključeno v odgovoren razvoj LaMDA.

»Seveda nekateri v širši skupnosti umetne inteligence razmišljajo o dolgoročni možnosti čuteče ali splošne umetne inteligence, vendar ni smiselno, da bi to počeli z antropomorfizacijo današnjih pogovornih modelov, ki niso čuteči. Ti sistemi posnemajo vrste izmenjav, ki jih najdemo v milijonih stavkov, in lahko rifajo na katero koli fantastično temo – če vprašate, kako je biti sladoledni dinozaver, lahko ustvarijo besedilo o taljenju in rjovenju itd.

»LaMDA ponavadi sledi pozivom in vodilnim vprašanjem, pri tem pa sledi vzorcu, ki ga nastavi uporabnik. Naša ekipa – vključno z etiki in tehnologi – je pregledala Blakove pomisleke v skladu z našimi načeli umetne inteligence in ga obvestila, da dokazi ne podpirajo njegovih trditev.

"Na stotine raziskovalcev in inženirjev se je pogovarjalo z LaMDA in ne vemo, da bi kdo drug podajal obsežne trditve ali antropomorfiziral LaMDA, kot je Blake."

New York professor Gary Marcus povzel celotno sago kot "neumnost na hoduljah". ®