Ik ben ontslagen, zegt een ingenieur die beweerde dat de Google-chatbot gevoelig was

In het kort Google heeft naar verluidt Blake Lemoine ontslagen, de ingenieur die met administratief verlof werd geplaatst nadat hij erop had aangedrongen dat de LaMDA-chatbot van de webgigant gevoelig was.

Lemoine kwam niet in de problemen omdat hij zijn controversiële, wenkbrauwverhogende mening over het model koesterde. In plaats daarvan werd hij gestraft voor het overtreden van het vertrouwelijkheidsbeleid van Google. Hij naar verluidt nodigde een advocaat uit om mogelijke wettelijke rechten voor LaMDA te beoordelen en sprak met een huisvertegenwoordiger die beweerde dat Google onethisch was.

Een Google-woordvoerder vertelde In de Big Technology-nieuwsbrief heeft het besloten zijn dienstverband te beëindigen omdat Lemoine het “werkgelegenheids- en gegevensbeveiligingsbeleid” bleef schenden en handelsgeheimen in gevaar bracht.

“Als een medewerker zorgen deelt over ons werk, zoals Blake deed, beoordelen we die uitgebreid. We vonden Blake's beweringen dat LaMDA bewust is, volkomen ongegrond en hebben maandenlang met hem gewerkt om dat op te helderen. Deze gesprekken maakten deel uit van de open cultuur die ons helpt om verantwoord te innoveren”, aldus de woordvoerder.

“Dus, het is jammer dat Blake, ondanks langdurige betrokkenheid bij dit onderwerp, er nog steeds voor koos om aanhoudend het duidelijke beleid voor werkgelegenheid en gegevensbeveiliging te schenden, dat de noodzaak omvat om productinformatie te beschermen. We zullen onze zorgvuldige ontwikkeling van taalmodellen voortzetten en we wensen Blake het beste.”

Veel experts bij Google en in de academische wereld en de industrie hebben twijfels geuit over de vraag of LaMDA of een bestaande AI-chatbot bewust is. Taalmodellen leren wiskundige relaties tussen woorden en zijn goed in het nabootsen van menselijke taal zonder echt begrip te hebben. Geen van hen is echt intelligent, laat staan ​​bewust.

Waarom ontwikkelaars geen open-source AI-code kunnen uitvoeren

Wat heeft het voor zin om de code vrij te geven voor modellen voor machine learning als ontwikkelaars niet over de middelen beschikken om het uit te voeren?

AI-software is notoir moeilijk om te draaien en zelf te proberen, zelfs als het open source is. Stukjes en beetjes van de bron worden weggelaten, of de datasets die nodig zijn om het model te trainen zijn niet beschikbaar. Soms zijn deze onderdelen toegankelijk, maar hebben ontwikkelaars niet de rekenkracht om zulke grote systemen te hanteren.

Neem Meta's Open voorgetrainde transformator, bijvoorbeeld. De grootste versie van het taalmodel bevat 175 miljard parameters. Hoewel de reclamegigant zijn code heeft vrijgegeven, zullen er niet veel genoeg chips bij de hand hebben om het model helemaal opnieuw te trainen en te gebruiken, Matt Asay, die partnermarketing leidt bij MongoDB, bekend op persoonlijke titel.

"De sleutel is om voldoende toegang te bieden aan onderzoekers om de successen en mislukkingen van hoe een bepaald AI-model werkt te reproduceren ... Als bedrijven en individuen zou ons doel moeten zijn om toegang tot software te openen op manieren die onze klanten en derde- partijontwikkelaars om toegang en begrip te bevorderen in plaats van te proberen een decennia oud concept van open source naar de cloud te retrofitten”, betoogde hij.

Dall-E van OpenAI komt in bètamodus

OpenAI's commerciële tekst-naar-beeld generatie model DALL·E 2 wordt opengesteld voor een miljoen meer mensen die zich op de wachtlijst hebben gevoegd.

Toegang was voorheen beperkt tot geselecteerde artiesten, onderzoekers en ontwikkelaars, omdat OpenAI zijn systeem wilde testen voordat het volledig commercieel werd uitgebracht. Mensen gebruiken de tool om allerlei soorten afbeeldingen te genereren om internetmemes, stripboeken of digitale kunst te maken. 

Gebruikers ontvangen 50 gratis credits tijdens hun eerste gebruiksmaand en elke maand daarna 15 gratis credits. Elke credit kan worden gebruikt om één originele Dall-E-promptgeneratie te genereren, en ze krijgen vier afbeeldingen als uitvoer in plaats van de vorige zes. Als u bestaande tekstprompts bewerkt, worden drie afbeeldingen geretourneerd. Als ze meer willen genereren, moeten ze $ 15 betalen om nog eens 115 credits te krijgen voor nog eens 460 afbeeldingen. 

Ze zullen ook alle afbeeldingen die ze met het model genereren, commercialiseren, wat betekent dat makers het recht hebben om hun afbeeldingen te verkopen en af ​​te drukken voor merchandise en dergelijke. "We zijn verheugd om te zien wat mensen creëren met DALL·E en kijken uit naar de feedback van gebruikers tijdens deze bètaperiode", zegt het onderzoekslab zei deze week. 

Op kinderen snuffelen met gezichtsherkenning

De controversiële commerciële online gezichtsherkenningsdienst PimEyes kan worden gebruikt om te zoeken naar "mogelijk expliciete" foto's van kinderen.

Met PimEyes kan iedereen een foto uploaden, het zoekt naar mogelijke overeenkomsten en retourneert afbeeldingen en de bijbehorende URL's. Op de markt gebracht als een privacybesparende tool, waar gebruikers kunnen zien waar foto's van zichzelf op internet zijn geplaatst, zei de service dat het heeft geholpen bij het bestrijden van problemen zoals wraakporno.

Maar er is ook een donkere kant. Iedereen kan de website gebruiken om te zoeken naar foto's van iedereen die ze leuk vinden, zelfs kinderen. Een onderzoek door The Intercept ontdekten dat het gemakkelijk was om foto's van jongeren te vinden, en sommige van deze afbeeldingen werden zelfs bestempeld als 'mogelijk expliciet'. In het experiment werden nep-AI-gegenereerde foto's van kinderen gebruikt en PimEyes gaf nog steeds overeenkomsten, wat suggereert dat de software waarschijnlijk niet erg nauwkeurig is.

"Het feit dat PimEyes geen voorzorgsmaatregelen heeft voor kinderen en blijkbaar niet zeker weet hoe ze voor kinderen moeten zorgen, onderstreept alleen maar de risico's van dit soort gezichtsherkenningsdiensten", zegt Jeramie Scott, directeur van het Surveillance Oversight Project bij het Electronic Privacy Information Center, werd als volgt geciteerd. "Deelnemen aan het openbaar, zowel online als offline, mag niet betekenen dat je jezelf blootstelt aan privacy-invasieve diensten zoals PimEyes."

Door AI aangedreven schrijfhulpmiddelen helpen onafhankelijke auteurs om meer boeken te publiceren

Contentcreatie is vaak een moeilijke zaak. Je moet regelmatig met nieuw materiaal komen om het publiek te behouden en te laten groeien.

Een onafhankelijke fictieschrijver, die haar werk publiceert op Amazon's Kindle-platform onder het pseudoniem Leanne Leeds, beschreef de krachten en beperkingen van het gebruik van een GPT-3-aangedreven tekstgenererende tool als schrijfpartner.

Door zinnen in te voeren in software genaamd Sudowrite, kunnen schrijvers als Leeds automatisch gegenereerde tekstpassages terugkrijgen; het werkt als een intelligentere autocomplete. Leeds vertelde The Verge haar productiviteit was met meer dan 20 procent gestegen toen ze dit gebruikte om haar proza ​​te maken. Ze bewerkt de output van de software en plaatst de paragrafen in haar boeken. Sudowrite helpt haar om sneller boeken te schrijven om lezers meer geïnteresseerd te houden. 

Maar schrijvers zijn verscheurd over het gebruik van AI. Sommigen geloven dat het indruist tegen de creativiteit en magie van literatuur, terwijl anderen het potentieel voor het vertellen van verhalen zien. Moeten auteurs onthullen dat hun boeken zijn geschreven met behulp van algoritmen? En nog belangrijker, is dit automatisch gegenereerde krabbeltje goed?

Op dit moment zijn machines niet goed genoeg en moeten ze worden bewerkt om te voorkomen dat verhalen en plotlijnen ontsporen. Leeds gelooft dat tools zoals Sudowrite op een dag goed genoeg zullen worden om generieke fictie te schrijven. “Ik denk dat dat het echte gevaar is, dat je dat kunt doen en dan is niets meer origineel. Alles is gewoon een kopie van iets anders,' zei ze. "Het probleem is dat lezers dat leuk vinden." ®