Automatizzare lo sviluppo dell'intelligenza artificiale generativa

Ripubblicato da Platone

Seguaci: 0

Automatizzare lo sviluppo dell'intelligenza artificiale generativa PlatoBlockchain Data Intelligence. Ricerca verticale. Ai.

Funzionalità sponsorizzata Ultimamente l'intelligenza artificiale (AI) ha dominato i titoli dei giornali aziendali e tecnologici, in particolare con l'emergere di tecnologie di intelligenza artificiale generativa come ChatGPT. Ma per le aziende che iniziano o espandono l’uso dell’intelligenza artificiale e dell’intelligenza artificiale generativa, rimangono sfide tecnologiche significative, nonché ostacoli formativi e procedurali da superare.

Certamente il numero di aziende che utilizzano l’intelligenza artificiale continua ad espandersi in tutto il mondo e praticamente in tutti i settori. Secondo il Indice di adozione dell'IA globale IBM 2022 rapporto, l’adozione di questa tecnologia è fiorente. Si calcola che il tasso globale di adozione dell’intelligenza artificiale sia cresciuto costantemente nel 2022 e sia ora al 35%, un aumento di quattro punti rispetto all’anno precedente. E un altro 42% degli intervistati ha affermato che stanno esplorando come potrebbero iniziare a utilizzare l’intelligenza artificiale.

"In generale, si tratta di un nuovo dominio e si sta evolvendo molto velocemente", afferma Assaf Katan, direttore aziendale presso lo sviluppatore AT con sede in Israele Deci. “C'è una combinazione di sfide a breve e lungo termine. Nel breve termine, si tratta davvero di scegliere il tuo percorso. "Voglio sviluppare capacità interne, lavorare con modelli open source e modificarli io stesso; o voglio lavorare tramite un'API con qualcosa come Open AI? Quindi non ho bisogno di essere super competente, ma anche del mio livello di controllo sulle prestazioni del modello e della capacità di personalizzarlo garantendo che la privacy dei dati sia limitata.'”

Queste sono le prime decisioni a breve termine. Poi, guardando al lungo termine, le aziende devono considerare la necessità di crescere e i costi per farlo. “Guardando a lungo termine, supponiamo che un’azienda voglia costruire un servizio di intelligenza artificiale generativa. Ritengono che possa migliorare l’efficienza, migliorare i flussi di lavoro e che sarà in grado di espandersi”, spiega Katan. “Dovranno pensare alle implicazioni dell’utilizzo su larga scala del modello che alimenta la loro soluzione. Questi modelli generativi sono enormi con miliardi di parametri, quindi la potenza di calcolo richiesta per l’inferenza è enorme. Come lo costruisci in modo che, se ingrandisci, puoi comunque far fronte ai costi?

Avanzare l'intelligenza artificiale

La combinazione di intelligenza artificiale generativa e hardware server più potente, più adatto all’elaborazione di tali carichi di lavoro, sta aprendo nuove opportunità alle aziende per progettare, costruire e fornire rapidamente nuove applicazioni e modelli di intelligenza artificiale. Secondo la stessa ricerca IBM, l’intelligenza artificiale sta aiutando le aziende in vari modi. Ciò include affrontare la carenza di manodopera e talenti automatizzando le attività ripetitive; risparmiare tempo automatizzando i processi IT, aziendali e di rete; risparmio sui costi; rendere le operazioni più efficienti, migliorando le prestazioni dell'IT e della rete; e, in definitiva, fornire un'esperienza migliore ai clienti.

La maggior parte dei vantaggi aziendali tangibili sono incentrati sull’efficienza, spiega Katan. "Un'azienda con cui stiamo parlando ha un'ampia base di clienti, quindi ci sono molte chiamate di assistenza clienti e assistenza clienti", afferma. “Oggi utilizzano chatbot standard non basati sull’intelligenza artificiale con molti problemi di base. Stanno progettando di utilizzare l’intelligenza artificiale generativa per coprire la stragrande maggioranza di queste chiamate e lasciare il resto alla gestione degli agenti umani”.

Katan ha menzionato un'altra azienda con cui Deci sta lavorando che utilizza abilmente l'intelligenza artificiale per generare contenuti. “Hanno migliaia di prodotti e SKU diversi. Usano l’intelligenza artificiale generativa per scrivere le descrizioni dei prodotti”, spiega. “Ora queste descrizioni dei prodotti non sono solo due righe. Includono le descrizioni del prodotto, le specifiche tecniche e le informazioni sulle funzionalità. Stanno utilizzando l’intelligenza artificiale generativa per scrivere il 90% delle descrizioni dei prodotti”.

AutoNAC consente un apprendimento profondo efficiente

La piattaforma di deep learning Deci è alimentata dalla tecnologia Automated Neural Architecture Construction (AutoNAC). "La nostra offerta è composta da due componenti principali", spiega Katan. "Uno è la rete neurale, in cui la nostra tecnologia aiuta a creare architetture di rete neurali efficienti ottimizzate per un caso d'uso specifico, per l'hardware su cui vengono eseguite e configurate per soddisfare KPI specifici."

AutoNAC effettua una ricerca multi-obiettivo all'interno di uno spazio di ricerca di decine di miliardi di diverse architetture potenziali al fine di identificare l'architettura ottimale, quella che trova un equilibrio tra precisione, bassa latenza e throughput elevato, su misura per attività distinte, dati caratteristiche, obiettivi prestazionali e hardware specifico. AutoNAC di Deci ha generato alcuni dei modelli generativi e di visione artificiale più efficienti al mondo come YOLO-NAS, DeciLM 6B, DeciDiffusion tra gli altri.

Il motore AutoNAC può anche prevedere la precisione e il livello di prestazioni dell'architettura che genererà senza dover effettivamente addestrare il modello in anticipo, come nel caso di tanti modelli di intelligenza artificiale. Il risultato finale è un modello AI compilato automaticamente e sviluppato in modo molto più rapido ed economico rispetto a prima, aggiunge Katan: "Si risparmia denaro e si fornisce un throughput più elevato, il che significa una migliore esperienza utente".

L'altro componente è Infery, lo strumento di inferenza Deci. "Infery ottimizza ulteriormente le prestazioni di runtime della rete neurale per garantire che funzioni nel modo più efficiente possibile su hardware specifico", continua. “Disponiamo di potenti strumenti di inferenza ottimizzati per diversi casi d’uso. Per l’intelligenza artificiale generativa, costruiamo uno strumento di inferenza specifico ottimizzato per questi modelli di grandi dimensioni perché si comportano in modo diverso rispetto a quelli più piccoli”.

I modelli di intelligenza artificiale generativa, distinti dai loro processi complessi e iterativi, differiscono dai modelli statici convenzionali utilizzati in attività come il rilevamento di oggetti. Gli strumenti di ottimizzazione tradizionali non sono all’altezza e richiedono strumenti specializzati per queste architetture dinamiche.

Oggi i team di intelligenza artificiale dedicano molti mesi e risorse allo sviluppo e all'ottimizzazione dei propri modelli con infinite iterazioni di tentativi ed errori quando tentano di progettare manualmente i modelli, ma solo il 30% dei modelli arriva alla produzione. La piattaforma Deci semplifica lo sviluppo e l'ottimizzazione del modello, eliminando le incertezze e garantendo il successo nella produzione. Con Deci, il team AI può raggiungere la produzione in giorni anziché in mesi.

L'intelligenza artificiale al lavoro

La piattaforma di visione artificiale e intelligenza artificiale Deci, abbinata ai server Lenovo ThinkSystem, viene utilizzata con successo in numerosi settori verticali, tra cui la produzione, la vendita al dettaglio e persino l'agricoltura. “Deci opera in due mercati primari”, spiega Katan, “visione artificiale e intelligenza artificiale generativa”.

Le applicazioni di visione artificiale vengono utilizzate negli stabilimenti manifatturieri e automobilistici per ispezioni visive per identificare, ad esempio, prodotti difettosi. In agricoltura, Deci ha clienti che utilizzano telecamere per la visione artificiale per monitorare la salute, le dimensioni e la crescita degli animali. Per la vendita al dettaglio, la visione artificiale viene utilizzata per il pagamento automatico. “Tutto ciò utilizza la buona vecchia intelligenza artificiale basata sulla visione artificiale per eseguire analisi e prendere decisioni”, aggiunge.

Dal punto di vista dell’intelligenza artificiale generativa, Deci viene utilizzato dai clienti in una vasta gamma di mercati che servono funzioni presenti in qualsiasi settore. "C'è un'assistenza clienti a tutti i livelli", afferma. “Quindi nei servizi finanziari ci sono casi d’uso più specifici come l’analisi del credito. I team di vendita e marketing utilizzano i dati dei clienti per creare proposte di vendita personalizzate. Stanno anche facendo marketing personalizzato; e non solo il contenuto. C'è anche una componente visiva che utilizza strumenti come il testo in immagine e combina immagini per creare pacchetti di marketing personalizzati."

Forza nei numeri

Per le aziende che desiderano implementare sistemi e modelli di intelligenza artificiale, può essere un processo scoraggiante e complesso. Lavorando insieme, Lenovo e Deci sperano di semplificare il processo configurando la piattaforma e i modelli AI Deci per funzionare in modo più efficiente sui server Lenovo. Ciò lo rende uno sportello unico per le aziende interessate a sviluppare i propri modelli di intelligenza artificiale.

Un aspetto di questa partnership è la partecipazione di Deci al Programma Lenovo AI Innovators. Ciò aiuta sia a far funzionare la piattaforma di deep learning di Deci che i modelli di elaborazione del linguaggio naturale sui server Lenovo ThinkSystem. Il programma Lenovo AI Innovators offre a Deci l'accesso alle competenze IA interne di Lenovo e fornisce ai partner hardware preconfigurato pronto per eseguire la piattaforma AutoNAC.

Il programma Lenovo AI Innovators fornisce una vasta rete di aziende partner e una portata globale di 180 paesi. Lenovo ha inoltre creato centri di eccellenza IA, dove le aziende partner possono condividere competenze e risorse.

E non è solo l'ambito di Lenovo a rafforzare la partnership, secondo Katan. "Quando ti avvicini a un cliente, devi sapere qual è il caso d'uso e quali sono le tempistiche?" lui dice. “Il tempismo è importante. Forse hai un ottimo prodotto, ma è stato reso disponibile troppo presto o troppo tardi. Quando lavoriamo con un'azienda come Lenovo, conoscono meglio il caso d'uso previsto e i tempi per creare una soluzione."

Ad esempio, Katan spiega come la piattaforma AutoNAC combinata e i server Lenovo si adatterebbero a un caso d'uso relativamente comune. "Supponiamo che tu stia costruendo una soluzione di ispezione visiva per il tuo impianto di produzione", afferma. “Ha bisogno del computer Lenovo. Ha bisogno delle telecamere. Ha bisogno di spazio di archiviazione per i dati e così via. In questa situazione, noi siamo la componente AI”.

Il Grande Fratello interviene

Lenovo offre portata globale, affidabilità e capacità di vendita e supporto. Deci porta la sua tecnologia di base. "Per noi sono come il fratello maggiore", afferma Katan. “La nostra forza è nella tecnologia AI. Quindi, è una combinazione della loro portata e dei clienti con la nostra tecnologia. Questa è la nostra promessa a Lenovo. Porteremo sempre la tecnologia AI migliore e più potente e continueremo a lavorare, concentrarci e renderla il più forte possibile”.

I Lenovo ThinkSystems sono abbinati in modo univoco per supportare funzioni di elaborazione pesanti come i calcoli AI. “Quando si pensa a un’impresa che desidera utilizzare l’intelligenza artificiale generativa e creare un servizio in grado di crescere, i costi sono enormi”, spiega Katan. “E questi modelli stanno diventando sempre più grandi. Più grande è il modello, maggiore è la quantità di elaborazione richiesta e consumata, quindi la creazione di modelli che consumano meno elaborazione significa minori spese hardware”.

La partnership Deci con Lenovo è relativamente nuova, essendo iniziata all’inizio del 2023, e Katan guarda avanti con impazienza. "Da parte nostra, continueremo ad espandere la nostra matrice di supporto", aggiunge Katan. “Amplieremo il tipo e l'ampiezza dei casi d'uso che supportiamo. La partnership con Lenovo è appena iniziata di recente, quindi abbiamo effettuato la convalida della tecnologia per aiutare il personale Lenovo a comprendere meglio la nostra piattaforma e la nostra proposta di valore."

Sponsorizzato da Lenovo.