Il progetto di regolamento dell'EU AI Act potrebbe avere un effetto raggelante sul software open source

In breve Secondo il think tank americano Brookings, nuove regole redatte dall'Unione Europea volte a regolamentare l'IA potrebbero impedire agli sviluppatori di rilasciare modelli open source.

I proposto L'EU AI Act, che deve ancora essere convertito in legge, afferma che gli sviluppatori open source devono garantire che il loro software di intelligenza artificiale sia accurato, sicuro ed essere trasparente sul rischio e sull'uso dei dati in una documentazione tecnica chiara. 

Brookings sostiene che se un'azienda privata dovesse distribuire il modello pubblico o utilizzarlo in un prodotto, e in qualche modo si mettesse nei guai a causa di alcuni effetti imprevisti o incontrollabili del modello, l'azienda probabilmente cercherebbe di incolpare gli sviluppatori open source e citarli in giudizio . 

Potrebbe costringere la comunità open source a pensarci due volte prima di rilasciare il proprio codice e, sfortunatamente, significherebbe che lo sviluppo dell'IA sarà guidato da società private. Il codice proprietario è difficile da analizzare e su cui basarsi, il che significa che l'innovazione sarà ostacolata.

Oren Etzioni, CEO uscente dell'Allen Institute of AI, ritiene che gli sviluppatori open source non dovrebbero essere soggetti alle stesse regole rigorose degli ingegneri del software presso le aziende private.

“Gli sviluppatori open source non dovrebbero essere soggetti allo stesso onere di chi sviluppa software commerciale. Dovrebbe sempre essere il caso che il software libero possa essere fornito "così com'è": si consideri il caso di un singolo studente che sviluppa una capacità di intelligenza artificiale; non possono permettersi di rispettare le normative dell'UE e possono essere costretti a non distribuire il loro software, con un effetto agghiacciante sul progresso accademico e sulla riproducibilità dei risultati scientifici", ha affermato. detto TechCrunch.

Sono disponibili i nuovi risultati di MLPerf per l'inferenza

I risultati del test di inferenza annuale MLPerf, che confronta le prestazioni dei chip AI di diversi fornitori in numerose attività in varie configurazioni, sono stati pubblicato questa settimana.

Quasi 5,300 enormi risultati di prestazioni e 2,400 misure di potenza sono stati segnalati quest'anno per l'inferenza nel data center e nei dispositivi periferici. I test esaminano la velocità con cui un sistema hardware è in grado di eseguire un particolare modello di apprendimento automatico. La velocità di elaborazione dei dati è riportata nei fogli di calcolo.

Non sorprende che Nvidia sia in cima alla classifica anche quest'anno. "Al loro debutto sui benchmark AI standard del settore MLPerf, le GPU Nvidia H100 Tensor Core hanno stabilito record mondiali di inferenza su tutti i carichi di lavoro, offrendo prestazioni fino a 4.5 volte superiori rispetto alle GPU di generazione precedente", ha affermato Nvidia in un post sul blog. "I risultati dimostrano che Hopper è la scelta migliore per gli utenti che richiedono le massime prestazioni su modelli di intelligenza artificiale avanzati".

Sebbene un numero crescente di fornitori stia prendendo parte alla sfida MLPerf, può essere difficile farsi un'idea della concorrenza. Ad esempio, quest'anno non sono stati riportati risultati per i chip TPU di Google nella traccia del datacenter. Google, tuttavia, sembrava asso La competizione di allenamento di MLPerf all'inizio di quest'anno. 

Gli artisti dell'IA scoprono un volto orribile in agguato dietro l'immagine

Un thread virale su Twitter pubblicato da un artista digitale rivela quanto possano essere strani i modelli text-to-image sotto la superficie.

Molti netizen hanno trovato gioia e disperazione nello sperimentare questi sistemi per generare immagini digitando messaggi di testo. Ci sono tipi di hack per regolare gli output dei modelli; uno di questi, noto come "prompt negativo, consente agli utenti di trovare l'immagine opposta a quella descritta nel prompt. 

Quando un artista, che si chiama Supercomposite su Twitter, ha trovato il suggerimento negativo per ciò che descriveva un'immagine dall'aspetto innocente di un logo falso, ha trovato qualcosa di veramente orribile: il volto di quella che sembra una donna infestata. Supercomposite ha chiamato questa donna generata dall'intelligenza artificiale "Loab" e quando incrociavano le sue immagini con altre, finivano sempre per sembrare la scena di un film dell'orrore.

🧵: I discovered this woman, who I call Loab, in April. The AI reproduced her more easily than most celebrities. Her presence is persistent, and she haunts every image she touches. CW: Take a seat. This is a true horror story, and veers sharply macabre. pic.twitter.com/gmUlf6mZtk

— Supercomposite (@supercomposite) September 6, 2022

Supercomposito raccontato Lui Reg immagini casuali di persone generate dall'intelligenza artificiale possono spesso apparire in messaggi negativi. Il comportamento strano è ancora un altro esempio di alcune delle strane proprietà che questi modelli possono avere che le persone stanno solo iniziando a sondare. 

Nessun chatbot senziente qui su Google afferma il CEO Sundar Pichai

Sundar Pichai ha contraddetto le affermazioni fatte dall'ex ingegnere, Blake Lemoine, secondo cui Google aveva costruito un chatbot senziente durante il suo discorso alla conferenza del Codice questa settimana.

Lemoine ha fatto notizia a luglio quando lui ha annunciato pensava che il chatbot LaMDA di Google fosse cosciente e potesse avere un'anima. Era più tardi licenziato per aver violato le politiche sulla privacy dell'azienda dopo aver assunto un avvocato per chattare con LaMDA e valutare i suoi diritti legali, sostenendo che la macchina gli aveva detto di farlo.

La maggior parte delle persone, incluso il CEO di Google, non è d'accordo con Lemoine. “Penso ancora che ci sia ancora molta strada da fare. Mi sembra di entrare spesso in discorsi filosofici o metafisici su cos'è la senzienza e cos'è la coscienza", ha detto Pichai, secondo alla fortuna. "Siamo lontani da questo e potremmo non arrivarci mai", ha aggiunto.

Per sottolineare ulteriormente il suo punto, ha ammesso che l'assistente vocale AI di Google a volte non riesce a capire e rispondere in modo appropriato alle richieste. "La buona notizia è che chiunque parli con l'Assistente Google, anche se penso che sia il miglior assistente là fuori per l'IA conversazionale, vede ancora quanto sia rotto in alcuni casi", ha detto. ®