Minut on irtisanottu, sanoo insinööri, joka väitti Googlen chatbotin olevan tunteikas

Lyhyesti Googlen kerrotaan erottaneen Blake Lemoinen, insinöörin, joka joutui hallintovapaalle väittäessään, että verkkojättiläisen LaMDA-chatbot oli tunnollinen.

Lemoine ei joutunut vaikeuksiin, koska hänellä oli kiistanalainen, kulmakarvoja kohottava mielipide mallista. Sen sijaan häntä rangaistiin Googlen luottamuksellisuuskäytäntöjen rikkomisesta. Hän kuulemma kutsui asianajajan arvioimaan LaMDA:n mahdollisia laillisia oikeuksia ja puhui edustajainhuoneen edustajalle väittäen, että Google oli epäeettinen.

Googlen edustaja kertoi Big Technology -uutiskirjeessä se on päättänyt irtisanoa hänen työsuhteensa, koska Lemoine jatkoi liikesalaisuuksia vaarantavien "työ- ja tietoturvakäytäntöjen" rikkomista.

"Jos työntekijä jakaa huolensa työstämme, kuten Blake teki, tarkistamme ne laajasti. Löysimme Blaken väitteet LaMDA:n tunteesta olevan täysin perusteettomia ja työskentelimme tämän selvittämiseksi hänen kanssaan monta kuukautta. Nämä keskustelut olivat osa avointa kulttuuria, joka auttaa meitä innovoimaan vastuullisesti”, tiedottaja sanoi.

"On siis valitettavaa, että huolimatta tästä aiheesta pitkästä keskustelusta Blake päätti silti jatkuvasti rikkoa selkeitä työllisyys- ja tietoturvakäytäntöjä, joihin sisältyy tarve suojata tuotetietoja. Jatkamme kielimallien huolellista kehittämistä ja toivomme Blakelle kaikkea hyvää.

Monet Googlen sekä akateemisen ja teollisuuden asiantuntijat ovat epäilleet, onko LaMDA tai mikä tahansa olemassa oleva AI-chatbot tunteva. Kielimallit oppivat matemaattisia suhteita sanojen välillä ja ovat hyviä matkimaan ihmisten kieltä ilman todellista ymmärrystä. Kukaan heistä ei ole todella älykäs, saati tietoinen.

Miksi kehittäjät eivät voi käyttää avoimen lähdekoodin tekoälykoodia?

Mitä järkeä on julkaista koodi koneoppimismalleille, jos kehittäjillä ei ole sen suorittamiseen tarvittavia resursseja?

AI-ohjelmistoa on tunnetusti vaikea kehittää ja kokeilla itse, vaikka se olisi avoimen lähdekoodin. Lähteen palaset jätetään pois tai mallin kouluttamiseen tarvittavat tietojoukot eivät ole saatavilla. Joskus nämä osat ovat käytettävissä, mutta kehittäjillä ei ole laskentatehoa käyttää niin suuria järjestelmiä.

Ota Meta Avaa Esikoulutettu muuntaja, esimerkiksi. Kielimallin suurin versio sisältää 175 miljardia parametria. Vaikka mainosjätti julkaisi koodinsa, monilla ei ole tarpeeksi pelimerkkejä käsillä mallin kouluttamiseen ja käyttämiseen tyhjästä, Matt Asay, joka johtaa kumppanimarkkinointia MongoDB:ssä, huomattava henkilökohtaisessa ominaisuudessa.

”Tärkeintä on tarjota tutkijoille riittävästi pääsyä, jotta he voivat toistaa tietyn tekoälymallin onnistumiset ja epäonnistumiset… Yrityksinä ja yksilöinä tavoitteenamme tulisi olla ohjelmistojen avaaminen tavoilla, jotka hyödyttävät asiakkaitamme ja kolmansia. puolueen kehittäjät edistämään pääsyä ja ymmärrystä sen sijaan, että yrittäisivät jälkiasentaa vuosikymmeniä vanhaa avoimen lähdekoodin käsitettä pilveen", hän väitti.

OpenAI:n Dall-E siirtyy beta-tilaan

OpenAI:n kaupallinen tekstistä kuvaksi -sukupolvimalli DALL·E 2 avataan miljoonalle henkilölle, jotka ovat liittyneet sen odotuslistalle.

Pääsy oli aiemmin rajoitettu vain valituille taiteilijoille, tutkijoille ja kehittäjille, koska OpenAI halusi testata järjestelmäänsä ennen täyttä kaupallista julkaisua. Ihmiset ovat käyttäneet työkalua luodakseen kaikenlaisia ​​kuvia Internet-meemien, sarjakuvien tai digitaalisen taiteen tekemiseksi. 

Käyttäjät saavat 50 ilmaista saldoa ensimmäisen käyttökuukautensa aikana ja 15 ilmaista krediittiä joka kuukausi sen jälkeen. Jokaisella saldolla voidaan luoda yksi alkuperäinen Dall-E-kehotesukupolvi, ja ne saavat neljä kuvaa aiemman kuuden sijaan. Olemassa olevien tekstikehotteiden muokkaaminen palauttaa kolme kuvaa. Jos he haluavat tuottaa enemmän, heidän on maksettava 15 dollaria saadakseen vielä 115 krediittiä 460 lisäkuvasta. 

He saavat myös kaupallistaa kaikki mallilla luomansa kuvat, mikä tarkoittaa, että tekijöillä on oikeus myydä ja tulostaa kuviaan tavaroita ja vastaavia varten. "Olemme innoissamme nähdessämme, mitä ihmiset luovat DALL·E:llä, ja odotamme innolla käyttäjien palautetta tämän beta-vaiheen aikana", tutkimuslaboratorio sanoi tällä viikolla. 

Lapsien nuuskiminen kasvojentunnistuksella

Kiistanalaista kaupallista online-kasvontunnistuspalvelua PimEyes voidaan käyttää lasten "mahdollisesti eksplisiittisten" kuvien etsimiseen.

PimEyes antaa kenen tahansa ladata valokuvan, se etsii mahdollisia osumia ja palauttaa kuvat ja niitä vastaavat URL-osoitteet. Palvelua markkinoidaan yksityisyyttä säästävänä työkaluna, josta käyttäjät voivat nähdä, missä heistä on julkaistu kuvia Internetiin. Palvelun mukaan se on auttanut torjumaan kostopornon kaltaisia ​​ongelmia.

Mutta on myös pimeä puoli. Kuka tahansa voi käyttää verkkosivustoa etsiäkseen kuvia kenestä tahansa, jopa lapsista. An tutkimus The Intercept havaitsi, että oli helppo löytää kuvia nuorista, ja osa näistä kuvista oli jopa merkitty "mahdollisesti avoimeksi". Kokeessa käytettiin väärennettyjä tekoälyn luomia kuvia lapsista, ja PimEyes palautti edelleen osumia, mikä viittaa siihen, että sen ohjelmisto ei todennäköisesti ole kovin tarkka.

"Se tosiasia, että PimEyesillä ei ole turvatoimia lapsille ja että se ei ilmeisesti ole varma, kuinka turvata lapsia varten, vain korostaa tämäntyyppisten kasvojentunnistuspalvelun riskejä", Jeramie Scott, elektronisen valvontaprojektin johtaja. Tietosuojatietokeskuksesta kerrottiin. "Julkiseen osallistumiseen, olipa se sitten verkossa tai offline-tilassa, ei pitäisi tarkoittaa yksityisyyttä loukkaavien palveluiden, kuten PimEyesin, alistamista."

Tekoälyllä toimivat kirjoitustyökalut auttavat indie-kirjailijoita julkaisemaan lisää kirjoja

Sisällön luominen on usein vaikeaa. Sinun täytyy keksiä uutta materiaalia usein pitääksesi ja kasvattaaksesi yleisöä.

Eräs riippumaton fiktiokirjailija, joka julkaisee teoksensa Amazonin Kindle-alustalla kynänimellä Leanne Leeds, kuvaili GPT-3-pohjaisen tekstinmuodostustyökalun käytön voimavaroja ja rajoituksia kirjoituskumppanina.

Syöttämällä lauseita Sudowrite-nimiseen ohjelmistoon Leedsin kaltaiset kirjoittajat voivat saada takaisin automaattisesti luodut tekstikohdat; se toimii kuin älykkäämpi automaattinen täydennys. Leeds kertoi The Verge hänen tuottavuutensa oli noussut yli 20 prosenttia, kun hän käytti tätä proosan luomiseen. Hän muokkaa ohjelmiston tuloksia ja sijoittaa kappaleet kirjoihin. Sudowrite auttaa häntä kirjoittamaan kirjoja nopeammin pitääkseen lukijat kiinnostuneempia. 

Mutta kirjoittajat ovat repeytyneet tekoälyn käytöstä. Jotkut uskovat sen olevan vastoin kirjallisuuden luovuutta ja taikuutta, kun taas toiset näkevät sen potentiaalin tarinankerrontaan. Pitäisikö tekijöiden paljastaa, että heidän kirjansa on kirjoitettu algoritmien avulla? Ja mikä tärkeintä, onko tämä automaattisesti luotu kirjoittelu mitään hyvää?

Tällä hetkellä koneet eivät ole riittävän hyviä ja vaativat editointia, jotta kertomukset ja juonilinjat eivät pääse karkaamaan raiteilta. Leeds uskoo, että Sudowriten kaltaiset työkalut tulevat jonain päivänä riittävän hyviksi yleisen fiktion kirjoittamiseen. ”Luulen, että se on todellinen vaara, että voit tehdä niin, eikä mikään ole enää alkuperäistä. Kaikki on vain kopio jostakin muusta", hän sanoi. "Ongelma on, että siitä lukijat pitävät." ®