Google'i insener peatati tundliku tehisintellektiga seotud konfidentsiaalsuspoliitika rikkumise tõttu

Google andis ühe oma tarkvarainseneridest ettevõtte konfidentsiaalsuspoliitika rikkumise tõttu tasulisele halduspuhkusele.

Alates 2021. aastast oli 41-aastase Blake Lemoine'i ülesandeks vestelda LaMDA ehk dialoogirakenduste keelemudeliga osana oma tööst Google'i vastutustundliku tehisintellekti meeskonnas, et uurida, kas robot kasutas diskrimineerivat või vihakõnet.

LaMDA on "ehitatud perekonna peenhäälestamisel Transformerdialoogipõhised närvikeelemudelid, millel on kuni 137 miljardit mudeliparameetrit ja mis õpetavad mudeleid kasutama väliseid teadmisteallikaid. vastavalt Google'ile.

See on see, mida ettevõte kasutab vestlusrobotite ehitamiseks ja annab ilmselt sisukaid vastuseid päringutele, mis põhinevad triljonitest Interneti-vestlustest ja muust suhtlusest kogutud materjalil.

Kuid mingil hetkel oma uurimise ajal näib Lemoine olevat hakanud uskuma, et tehisintellekt väljendas mõistuse märke. Insener, kellel on kirjutas oma kogemusest, ütleb, et üritas korduvalt oma muret eskaleerida, kuid lükati tagasi, kuna tal puudusid tõendid.

Seetõttu otsis ta "välist konsultatsiooni" LaMDA võimete kohta, mis köitis Google'i tähelepanu, nagu on kirjeldatud keskmises postituses pealkirjaga "Võib peagi vallandada tehisintellekti eetikatöö eest".

Loo korjas üles The Washington Post, Siis The Wall Street Journal, Financial TimesJa palju muud.

Pärast halduspuhkust, mida ta kirjeldas kui seda, mida Google teeb "kellegi vallandamise ootuses", avaldas Lemoine oma väitel vestluse LaMDA-ga.

Järgnevalt mõned väljavõtted:

Täispikka "intervjuud" saab lugeda siin. Kuigi on jahmatav, et tehisintellekt suudab seda teha, suhtub Google ettevaatlikult Lemoine'i mainitud „antropomorfiseerimisse” ehk inimlike omaduste või käitumise omistamisse loomadele või objektidele.

Avalduses RegisterGoogle'i pressiesindaja Brian Gabriel ütles: "On oluline, et Google'i tehisintellekti põhimõtted oleksid integreeritud meie tehisintellekti arendusse ja LaMDA pole olnud erand. Kuigi teised organisatsioonid on sarnaseid keelemudeleid välja töötanud ja juba välja andnud, suhtume LaMDA-sse vaoshoitult ja ettevaatlikult, et kaaluda õigluse ja faktilisusega seotud põhjendatud muresid.

"LaMDA on läbinud 11 erinevat AI põhimõtete ülevaated, koos põhjaliku uurimistöö ja testimisega, mis põhinevad kvaliteedi, ohutuse ja süsteemi võimel esitada faktidel põhinevaid väiteid. A uurimustöö Selle aasta alguses avaldatud üksikasjalik töö, mis läheb LaMDA vastutustundliku arendamiseks.

"Muidugi kaaluvad mõned laiemas tehisintellekti kogukonnas tundliku või üldise tehisintellekti pikaajalist võimalust, kuid seda pole mõtet teha, antropomorfiseerides tänapäeva vestlusmudeleid, mis ei ole tundlikud. Need süsteemid jäljendavad miljonites lausetes leiduvaid vahetustüüpe ja võivad riffida mis tahes fantastilisel teemal – kui küsida, mis tunne on olla jäätise dinosaurus, võivad nad genereerida teksti sulamise ja möirgamise jms kohta.

„LaMDA kipub järgima juhiseid ja suunavaid küsimusi, järgides kasutaja seatud mustrit. Meie meeskond – sealhulgas eetikaspetsialistid ja tehnoloogid – on Blake’i mured meie tehisintellekti põhimõtete kohaselt üle vaadanud ja teatanud talle, et tõendid ei toeta tema väiteid.

"Sajad teadlased ja insenerid on LaMDAga vestelnud ja me ei ole teadlikud, et keegi teine ​​oleks esitanud laiaulatuslikke väiteid või antropomorfiseerinud LaMDA-d, nagu on seda teinud Blake."

New Yorgi professor Gary Marcus kokkuvõtvalt kogu saaga kui "vaiadel jama". ®