Am fost concediat, spune inginerul care a susținut că Google chatbot este sensibil

Pe scurt Google l-a concediat pe Blake Lemoine, inginerul care a fost pus în concediu administrativ după ce a insistat că chatbot-ul LaMDA al gigantului web era sensibil.

Lemoine nu a avut probleme pentru că și-a susținut opinia controversată, care ridică sprâncenele despre model. În schimb, a fost pedepsit pentru încălcarea politicilor de confidențialitate ale Google. El relatărilor a invitat un avocat să evalueze potențialele drepturi legale pentru LaMDA și a vorbit cu un reprezentant al Camerei, susținând că Google nu este etic.

Un purtător de cuvânt al Google a spus buletinul informativ Big Technology a decis să-și înceteze angajarea, deoarece Lemoine a continuat să încalce „politicile de securitate a forței de muncă și a datelor”, punând în pericol secretele comerciale.

„Dacă un angajat împărtășește preocupări cu privire la munca noastră, așa cum a făcut Blake, le analizăm pe larg. Am constatat că afirmațiile lui Blake conform căreia LaMDA este conștient de a fi complet nefondate și am lucrat pentru a clarifica asta cu el timp de mai multe luni. Aceste discuții au făcut parte din cultura deschisă care ne ajută să inovăm în mod responsabil”, a spus purtătorul de cuvânt.

„Așadar, este regretabil că, în ciuda angajării îndelungate pe această temă, Blake a ales în continuare să încalce în mod persistent politicile clare de angajare și securitate a datelor, care includ necesitatea de a proteja informațiile despre produse. Vom continua dezvoltarea atentă a modelelor de limbaj și îi dorim bine lui Blake.”

Mulți experți de la Google și din mediul academic și din industrie au pus îndoieli dacă LaMDA sau orice chatbot AI existent este sensibil. Modelele lingvistice învață relațiile matematice dintre cuvinte și sunt bune în a imita limbajul uman fără a avea o înțelegere reală. Niciunul dintre ei nu este cu adevărat inteligent, darămite conștient.

De ce dezvoltatorii nu pot rula cod AI open-source

Ce rost are să lansăm codul pentru modelele de învățare automată dacă dezvoltatorii nu au resursele necesare pentru a-l rula?

Software-ul AI este notoriu dificil de dezvoltat și încercat singur, chiar și atunci când este open source. Biți și bucăți din sursă sunt lăsate afară sau seturile de date necesare pentru antrenarea modelului nu sunt disponibile. Uneori, aceste părți sunt accesibile, dar dezvoltatorii nu au puterea de calcul pentru a folosi sisteme atât de mari.

Ia-l pe Meta Deschideți Transformerul preantrenat, de exemplu. Cea mai mare versiune a modelului de limbă conține 175 de miliarde de parametri. Chiar dacă gigantul publicitar și-a lansat codul, nu mulți vor avea suficiente cipuri la îndemână pentru a antrena și utiliza modelul de la zero, Matt Asay, care conduce marketingul pentru parteneri la MongoDB, notat cu titlu personal.

„Cheia este să oferim acces suficient pentru cercetători pentru a putea reproduce succesele și eșecurile modului în care funcționează un anumit model AI... În calitate de companii și persoane fizice, obiectivul nostru ar trebui să fie să deschidem accesul la software în moduri care să beneficieze clienții noștri și terți. dezvoltatorii de partide să favorizeze accesul și înțelegerea în loc să încerce să adapteze un concept vechi de zeci de ani de sursă deschisă în cloud”, a argumentat el.

Dall-E de la OpenAI intră în modul beta

Modelul comercial de generare text-to-image al OpenAI DALL·E 2 este deschis pentru încă un milion de persoane care s-au alăturat listei de așteptare.

Accesul era limitat anterior la cei care erau artiști, cercetători și dezvoltatori selecționați, deoarece OpenAI dorea să-și testeze sistemul înainte de lansarea comercială completă. Oamenii au folosit instrumentul pentru a genera tot felul de imagini pentru a crea meme pe internet, benzi desenate sau artă digitală. 

Utilizatorii vor primi 50 de credite gratuite în timpul primei luni de utilizare și 15 credite gratuite în fiecare lună după. Fiecare credit poate fi folosit pentru a genera o generație originală de prompt Dall-E și vor primi patru imagini ca rezultat în loc de șase anterioare. Editarea solicitărilor de text existente va returna trei imagini. Dacă vor să genereze mai mult, vor trebui să plătească 15 USD pentru a obține alte 115 credite pentru încă 460 de imagini. 

De asemenea, vor ajunge să comercializeze orice imagini pe care le generează folosind modelul, ceea ce înseamnă că creatorii au drepturi de a-și vinde și de a imprima fotografiile pentru marfă și altele asemenea. „Suntem încântați să vedem ce creează oamenii cu DALL·E și așteptăm cu nerăbdare feedbackul utilizatorilor în această perioadă beta”, laboratorul de cercetare a spus în această săptămână. 

Snooping pe copii cu recunoaștere facială

Controversatul serviciu comercial online de recunoaștere facială PimEyes poate fi folosit pentru a căuta imagini „potențial explicite” ale copiilor.

PimEyes permite oricui să încarce o fotografie, caută potriviri potențiale și returnează imagini și adresele URL corespunzătoare. Comercializat ca un instrument de salvare a confidențialității, în care utilizatorii pot vedea unde au fost postate fotografii cu ei înșiși pe internet, serviciul a spus că a ajutat la combaterea unor probleme precum pornografia cu răzbunare.

Dar există și o parte întunecată. Oricine poate folosi site-ul web pentru a căuta fotografii cu oricine îi place, chiar și copii. Un investigaţie The Intercept a descoperit că este ușor să găsești fotografii cu tineri, iar unele dintre aceste imagini au fost chiar etichetate ca „potențial explicite”. În experiment au fost folosite imagini false ale copiilor generate de AI, iar PimEyes a returnat în continuare potriviri, ceea ce sugerează că software-ul său probabil nu este foarte precis.

„Faptul că PimEyes nu are garanții pentru copii și aparent nu este sigur cum să ofere garanții pentru copii subliniază doar riscurile acestui tip de serviciu de recunoaștere facială”, Jeramie Scott, director al Proiectului de Supraveghere la Electronic. Centrul de informații privind confidențialitatea, a fost citat. „Participarea în public, fie online, fie offline, nu ar trebui să însemne să te supui unor servicii care invadează confidențialitatea precum PimEyes.”

Instrumentele de scriere bazate pe inteligență artificială îi ajută pe autorii indie să publice mai multe cărți

Crearea de conținut este adesea o afacere dificilă. Trebuie să veniți frecvent cu materiale proaspete pentru a menține și a crește publicul.

O scriitoare de ficțiune independentă, care își publică lucrarea pe platforma Amazon Kindle sub pseudonimul Leanne Leeds, a descris puterile și limitările utilizării unui instrument de generare de text alimentat de GPT-3 ca partener de scriere.

Prin introducerea de propoziții în software-ul numit Sudowrite, scriitori precum Leeds pot recupera pasaje de text generate automat; acţionează ca o completare automată mai inteligentă. Leeds a spus The Verge Productivitatea ei a crescut cu peste 20% atunci când a folosit acest lucru pentru a-și crea proza. Ea editează rezultatele software-ului și plasează paragrafele în cărțile ei. Sudowrite o ajută să scrie cărți într-un ritm mai rapid pentru a-i menține pe cititori mai interesați. 

Dar scriitorii sunt sfâșiați de utilizarea AI. Unii cred că este împotriva creativității și magiei literaturii, în timp ce alții văd potențialul acesteia de a povesti. Ar trebui autorii să dezvăluie că cărțile lor au fost scrise cu ajutorul algoritmilor? Și mai important, este această mâzgălire generată automat de ceva bun?

Momentan, mașinile nu sunt destul de bune și necesită editare pentru a împiedica narațiunile și liniile intrigă să se destrame. Leeds crede că instrumente precum Sudowrite vor deveni într-o zi suficient de bune pentru a scrie ficțiune generică. „Cred că acesta este adevăratul pericol, că poți face asta și atunci nimic nu mai este original. Totul este doar o copie a altceva”, a spus ea. „Problema este că asta le place cititorilor.” ®