Googlen insinööri on jäädytetty, koska hän rikkoi "tuntevaa" tekoälyä koskevia luottamuksellisuuskäytäntöjä

Google on jättänyt yhden ohjelmistosuunnittelijoistaan ​​palkalliselle hallintovapaalle yrityksen luottamuksellisuuskäytäntöjen rikkomisen vuoksi.

Vuodesta 2021 lähtien Blake Lemoine, 41, oli saanut tehtäväkseen puhua LaMDA:n eli Language Model for Dialogue Applications -työskentelyn kanssa osana työtään Googlen Responsible AI -tiimissä selvittääkseen, käyttikö robotti syrjivää tai vihapuhetta.

LaMDA on "rakennettu hienosäätämällä perhettä MuuntajaDialogeihin erikoistuneet hermokielimallit, joissa on jopa 137 miljardia malliparametria ja jotka opettavat malleja hyödyntämään ulkoisia tietolähteitä. mukaan Google.

Sitä yritys käyttää chatbottien rakentamiseen ja palauttaa ilmeisen merkityksellisiä vastauksia kyselyihin, jotka perustuvat biljoonista Internet-keskusteluista ja muusta viestinnästä kerättyyn materiaaliin.

Jossain vaiheessa tutkimuksensa aikana Lemoine näyttää kuitenkin alkaneen uskoa, että tekoäly ilmaisi merkkejä tunteesta. Insinööri, jolla on kirjoittanut kokemuksestaan, kertoo yrittäneensä toistuvasti lisätä huoliaan, mutta hänet hylättiin sillä perusteella, että hänellä ei ollut todisteita.

Joten hän etsi "ulkopuolista konsultaatiota" LaMDA:n kyvyistä, mikä herätti Googlen huomion, kuten kuvattiin Medium-viestissä, jonka otsikko on "Saatetaan pian irtisanoa tekoälyn eettisen työn tekemisestä".

Tarinan poimi Washington Post, sitten Wall Street Journal, The Financial Times, Ja paljon muuta.

Lemoine joutui hallinnolliselle lomalle, jota hän kuvaili Googlen tekemiksi "jotakin irtisanoutuvansa", hän julkaisi lisäksi keskustelun LaMDA:n kanssa.

Seuraavassa on joitain otteita:

Koko "haastattelu" on luettavissa tätä. Vaikka on hätkähdyttävää, että tekoäly voi tehdä tämän, Google suhtautuu varovaisesti Lemoinen mainitsemaan "antropomorfoimiseen" eli ihmisten ominaisuuksien tai käyttäytymisen osoittamiseen eläimiin tai esineisiin.

Ilmoituksessaan Rekisteri, Googlen tiedottaja Brian Gabriel sanoi: "On tärkeää, että Googlen tekoälyperiaatteet sisällytetään tekoälyn kehittämiseen, eikä LaMDA ole ollut poikkeus. Vaikka muut organisaatiot ovat kehittäneet ja jo julkaisseet samanlaisia ​​kielimalleja, suhtaudumme LaMDA:n kanssa hillittyyn ja huolelliseen lähestymistapaan ottaaksemme paremmin huomioon oikeudenmukaisuutta ja tosiasioihin liittyvät pätevät huolenaiheet.

”LaMDA on käynyt läpi 11 erilaista AI Principles -arvostelut, sekä tiukka tutkimus ja testaus, joka perustuu tärkeimpiin laatuun, turvallisuuteen ja järjestelmän kykyyn tuottaa tosiasioihin perustuvia lausuntoja. A tutkimus paperi aiemmin tänä vuonna julkaistussa työssä kerrotaan LaMDA:n vastuulliseen kehittämiseen.

"Tietenkin jotkut laajemmasta tekoälyyhteisöstä harkitsevat tuntevan tai yleisen tekoälyn pitkän aikavälin mahdollisuutta, mutta sitä ei ole järkevää tehdä antropomorfoimalla nykypäivän keskustelumalleja, jotka eivät ole tuntevia. Nämä järjestelmät jäljittelevät miljoonissa lauseissa esiintyviä vaihtotyyppejä, ja ne voivat riffata mistä tahansa fantastisesta aiheesta – jos kysyt, millaista on olla jäätelödinosauruksena, ne voivat luoda tekstiä sulamisesta ja mölyisystä ja niin edelleen.

”LaMDA noudattaa kehotteita ja johtavia kysymyksiä, jotka kulkevat mukana käyttäjän asettaman kaavan mukaan. Tiimimme – mukaan lukien eettiset ja teknologit – on tarkistanut Blaken huolenaiheet tekoälyperiaatteidemme mukaisesti ja ilmoittanut hänelle, että todisteet eivät tue hänen väitteitään.

"Sadat tutkijat ja insinöörit ovat keskustelleet LaMDA:n kanssa, emmekä ole tietoisia kenenkään muun esittäneen laaja-alaisia ​​väitteitä tai antropomorfoineen LaMDA:ta Blaken tapaan."

New Yorkin professori Gary Marcus kiteytti koko saaga on "hölynpölyä paalujen päällä". ®