Proiectele de reglementări ale EU AI Act ar putea avea un efect răcoritor asupra software-ului open-source

Pe scurt Noile reguli elaborate de Uniunea Europeană care vizează reglementarea IA ar putea împiedica dezvoltatorii să lanseze modele open-source, potrivit think tank-ului american Brookings.

propus Actul UE AI, care nu a fost încă semnat în lege, prevede că dezvoltatorii open source trebuie să se asigure că software-ul lor AI este exact, sigur și să fie transparent cu privire la riscuri și utilizarea datelor în documentație tehnică clară. 

Brookings argumentează că, dacă o companie privată ar implementa modelul public sau îl va folosi într-un produs, iar acesta are cumva probleme din cauza unor efecte neprevăzute sau necontrolabile ale modelului, compania ar încerca probabil să dea vina pe dezvoltatorii open source și să-i dea în judecată. . 

Ar putea forța comunitatea open source să se gândească de două ori la lansarea codului și, din păcate, ar însemna că dezvoltarea AI va fi condusă de companii private. Codul proprietar este dificil de analizat și de construit, ceea ce înseamnă că inovația va fi împiedicată.

Oren Etzioni, CEO-ul ieșit al Institutului Allen de IA, consideră că dezvoltatorii open source nu ar trebui să fie supuși acelorași reguli stricte ca și inginerii de software de la companiile private.

„Dezvoltatorii open source nu ar trebui să fie supuși aceleiași sarcini ca cei care dezvoltă software comercial. Ar trebui să fie întotdeauna cazul ca software-ul gratuit să poată fi furnizat „ca atare” — luați în considerare cazul unui singur student care dezvoltă o capacitate AI; nu își pot permite să respecte reglementările UE și pot fi forțați să nu-și distribuie software-ul, având astfel un efect de răcire asupra progresului academic și asupra reproductibilității rezultatelor științifice”, a spus el. a spus TechCrunch.

Noi rezultate MLPerf pentru inferență au fost publicate

Rezultatele testului anual de inferență MLPerf, care evaluează performanța cipurilor AI de la diferiți furnizori în numeroase sarcini în diferite configurații, au fost publicat în această săptămână.

Aproape 5,300 de rezultate uimitoare de performanță și 2,400 de măsuri de putere au fost raportate în acest an pentru inferență în centrul de date și în dispozitivele edge. Testele analizează cât de repede este capabil un sistem hardware să ruleze un anumit model de învățare automată. Rata de analiză a datelor este raportată în foi de calcul.

Nu este surprinzător faptul că Nvidia se află în fruntea clasamentului din nou în acest an. „În debutul lor pe benchmark-urile AI standard MLPerf, GPU-urile Nvidia H100 Tensor Core au stabilit recorduri mondiale în inferență pentru toate sarcinile de lucru, oferind performanță de până la 4.5 ori mai mare decât GPU-urile din generația anterioară”, a spus Nvidia într-o postare pe blog. „Rezultatele demonstrează că Hopper este alegerea premium pentru utilizatorii care solicită performanță maximă pe modelele avansate de AI.”

Deși un număr tot mai mare de furnizori iau parte la provocarea MLPerf, poate fi dificil să vă faceți o idee bună despre competiție. Nu există rezultate raportate pentru cipurile TPU de la Google în cadrul centrului de date anul acesta, de exemplu. Totuși, Google a părut as Concursul de antrenament al MLPerf la începutul acestui an. 

Artiștii cu inteligență artificială descoperă o față îngrozitoare care se ascunde în spatele imaginii

Un thread viral pe Twitter postat de un artist digital dezvăluie cât de ciudate pot fi modelele text-to-image sub suprafață.

Mulți internauți au găsit bucurie și disperare în experimentarea cu aceste sisteme pentru a genera imagini prin tastarea de mesaje text. Există feluri de hack-uri pentru a ajusta ieșirile modelelor; unul dintre ele, cunoscut sub numele de „prompt negativ”, permite utilizatorilor să găsească imaginea opusă celei descrise în prompt. 

Când un artist, care poartă numele de Supercomposite pe Twitter, a găsit mesajul negativ pentru ceea ce descria o imagine nevinovată a unui logo fals, a găsit ceva cu adevărat înfiorător: chipul a ceea ce arată ca o femeie bântuită. Supercomposite a numit-o pe această femeie generată de inteligență artificială „Loab” și atunci când au încrucișat imagini cu ea cu altele, au ajuns întotdeauna să arate ca o scenă dintr-un film de groază.

🧵: I discovered this woman, who I call Loab, in April. The AI reproduced her more easily than most celebrities. Her presence is persistent, and she haunts every image she touches. CW: Take a seat. This is a true horror story, and veers sharply macabre. pic.twitter.com/gmUlf6mZtk

— Supercomposite (@supercomposite) September 6, 2022

Supercompozit a spus Reg Imaginile aleatorii ale persoanelor generate de AI pot apărea adesea în mesaje negative. Comportamentul ciudat este încă alt exemplu unele dintre proprietățile ciudate pe care le pot avea aceste modele pe care oamenii abia încep să le cerceteze. 

Nu există chatbot sensibili aici la Google, spune CEO-ul Sundar Pichai

Sundar Pichai a contrazis afirmațiile făcute de fostul inginer, Blake Lemoine, că Google a construit un chatbot sensibil în timpul discuției sale de la conferința Cod săptămâna aceasta.

Lemoine a făcut titluri în iulie când el a anunțat a crezut că chatbot-ul LaMDA de la Google era conștient și ar putea avea un suflet. A fost mai târziu concediat pentru că ar fi încălcat politicile de confidențialitate ale companiei după ce a angajat un avocat pentru a discuta cu LaMDA și pentru a-i evalua drepturile legale, susținând că aparatul i-a spus să facă acest lucru.

Majoritatea oamenilor – inclusiv CEO-ul Google – nu sunt de acord cu Lemoine. „Încă cred că mai este un drum lung de parcurs. Simt că intru adesea în discuții filozofice sau metafizice despre ce este simțirea și ce este conștiința”, a spus Pichai, conform spre Fortune. „Suntem departe de asta și s-ar putea să nu ajungem niciodată acolo”, a adăugat el.

Pentru a-și sublinia și mai mult punctul de vedere, el a recunoscut că asistentul vocal AI al Google nu reușește uneori să înțeleagă și să răspundă în mod corespunzător solicitărilor. „Vestea bună este că oricine vorbește cu Asistentul Google – deși cred că este cel mai bun asistent pentru IA conversațională – încă vezi cât de deteriorat este în anumite cazuri”, a spus el. ®