Cohere porta l'intelligenza artificiale del linguaggio in Amazon SageMaker

Questo è un guest post di Sudip Roy, responsabile dello staff tecnico di Cohere.

È una giornata entusiasmante per la comunità di sviluppo. L'intelligenza artificiale del linguaggio all'avanguardia di Cohere è ora disponibile tramite Amazon Sage Maker. Questo rende più facile per gli sviluppatori implementare il pre-addestramento di Cohere modello linguistico di generazione a Amazon Sage Maker, un servizio di machine learning (ML) end-to-end. Sviluppatori, data scientist e analisti aziendali utilizzano Amazon SageMaker per creare, addestrare e distribuire modelli ML in modo rapido e semplice utilizzando l'infrastruttura, gli strumenti e i flussi di lavoro completamente gestiti.

In Cohere, l'attenzione è rivolta al linguaggio. La missione dell'azienda è consentire agli sviluppatori e alle aziende di aggiungere l'intelligenza artificiale linguistica al proprio stack tecnologico e creare con essa applicazioni rivoluzionarie. Cohere aiuta gli sviluppatori e le aziende ad automatizzare un'ampia gamma di attività, come il copywriting, il riconoscimento di entità denominate, la parafrasi, il riepilogo del testo e la classificazione. L'azienda crea e migliora continuamente i suoi LLM (large language models) generici, rendendoli accessibili tramite una piattaforma semplice da usare. Le aziende possono utilizzare i modelli pronti all'uso o adattarli alle proprie esigenze particolari utilizzando i propri dati personalizzati.

Gli sviluppatori che utilizzano SageMaker avranno accesso al modello di linguaggio di generazione media di Cohere. Il modello di generazione media eccelle nelle attività che richiedono risposte rapide, come la risposta alle domande, il copywriting o la parafrasi. Il modello Medium viene distribuito in container che consentono l'inferenza a bassa latenza su un set diversificato di acceleratori hardware disponibili su AWS, offrendo diversi vantaggi in termini di costi e prestazioni per i clienti SageMaker.

“Amazon SageMaker fornisce il set di servizi più ampio e completo che elimina il lavoro pesante da ogni fase del processo di machine learning. Siamo entusiasti di offrire il modello di linguaggio di grandi dimensioni per uso generico di Cohere con Amazon SageMaker. I nostri clienti comuni possono ora sfruttare l'ampia gamma di servizi Amazon SageMaker e integrare il modello di Cohere con le loro applicazioni per un time-to-value accelerato e un'innovazione più rapida".

-Rajneesh Singh, General Manager AI/ML di Amazon Web Services.

“Mentre Cohere continua a spingere i confini dell'IA linguistica, siamo entusiasti di unire le forze con Amazon SageMaker. Questa partnership ci consentirà di portare la nostra tecnologia avanzata e il nostro approccio innovativo a un pubblico ancora più ampio, consentendo agli sviluppatori e alle organizzazioni di tutto il mondo di sfruttare la potenza dell'intelligenza artificiale del linguaggio e stare al passo con i tempi in un mercato sempre più competitivo".

-Saurabh Baji, vicepresidente senior dell'ingegneria presso Cohere.

Il modello di linguaggio Cohere di generazione media disponibile tramite SageMaker offre agli sviluppatori tre vantaggi principali:

• Crea, itera e distribuisci rapidamente: Cohere consente a qualsiasi sviluppatore (non è richiesta alcuna esperienza di NLP, ML o AI) di accedere rapidamente a un modello di generazione preaddestrato e all'avanguardia che comprende il contesto e la semantica a livelli senza precedenti. Questo modello linguistico di alta qualità e di grandi dimensioni riduce il time-to-value per i clienti fornendo una soluzione pronta all'uso per un'ampia gamma di attività di comprensione linguistica.
• Privato e sicuro - Con SageMaker, i clienti possono creare container che servono i modelli di Cohere senza doversi preoccupare che i loro dati lascino questi container autogestiti.
• Velocità e precisione - Il modello medio di Cohere offre ai clienti un buon equilibrio tra qualità, costo e latenza. Gli sviluppatori possono facilmente integrare l'endpoint Cohere Generate nelle app utilizzando una semplice API e un SDK.

Inizia con Cohere in SageMaker

Gli sviluppatori possono utilizzare l'interfaccia visiva dei modelli di base SageMaker JumpStart per testare i modelli di Cohere senza scrivere una singola riga di codice. Puoi valutare il modello sulla tua specifica attività di comprensione della lingua e apprendere le basi dell'utilizzo di modelli di linguaggio generativo. Vedi quello di Cohere documentazione ed blog per vari tutorial e consigli e suggerimenti relativi alla modellazione del linguaggio.

Distribuisci l'endpoint SageMaker utilizzando un notebook

Cohere ha impacchettato modelli medi, insieme a un framework di inferenza ottimizzato a bassa latenza, in contenitori che possono essere distribuiti come endpoint di inferenza SageMaker. I container di Cohere possono essere distribuiti su una gamma di istanze diverse (tra cui ml.p3.2xlarge, ml.g5.xlarge e ml.g5.2xlarge) che offrono diversi compromessi in termini di costi/prestazioni. Questi contenitori sono attualmente disponibili in due regioni: us-east-1 ed eu-west-1. Cohere intende espandere la propria offerta nel prossimo futuro, aggiungendo al numero e alle dimensioni dei modelli disponibili, l'insieme di attività supportate (come gli endpoint costruiti su questi modelli), le istanze supportate e le regioni disponibili.

Per aiutare gli sviluppatori a iniziare rapidamente, Cohere ha fornito Notebook Jupyter che semplificano la distribuzione di questi contenitori e l'esecuzione dell'inferenza sugli endpoint distribuiti. Con il set preconfigurato di costanti nel notebook, la distribuzione dell'endpoint può essere eseguita facilmente con solo un paio di righe di codice, come mostrato nell'esempio seguente:

Dopo che l'endpoint è stato distribuito, gli utenti possono utilizzare l'SDK di Cohere per eseguire l'inferenza. L'SDK può essere installato facilmente da PyPI come segue:

Può anche essere installato dal codice sorgente in Cohere's repository GitHub dell'SDK pubblico.

Dopo che l'endpoint è stato distribuito, gli utenti possono utilizzare l'endpoint Cohere Generate per eseguire più attività generative, come il riepilogo del testo, la generazione di contenuti in formato lungo, l'estrazione di entità o il copywriting. Il notebook Jupyter e il repository GitHub includono esempi che dimostrano alcuni di questi casi d'uso.

Conclusione

La disponibilità di Cohere in modo nativo su SageMaker tramite AWS Marketplace rappresenta un'importante pietra miliare nel campo della PNL. La capacità del modello Cohere di generare testo coerente e di alta qualità lo rende uno strumento prezioso per chiunque lavori con dati di testo.

Se sei interessato a utilizzare Cohere per i tuoi progetti SageMaker, ora puoi accedervi su SageMaker JumpStart. Inoltre, puoi fare riferimento a Cohere's Taccuino GitHub per istruzioni su come distribuire il modello e accedervi dal file Cohere Genera endpoint.

---

Circa gli autori

Sudip Roy è Manager of Technical Staff presso Cohere, un fornitore di tecnologia all'avanguardia per l'elaborazione del linguaggio naturale (NLP). Sudip è un abile ricercatore che ha pubblicato e fatto parte di comitati di programma per importanti conferenze come NeurIPS, MLSys, OOPSLA, SIGMOD, VLDB e SIGKDD, e il suo lavoro ha ottenuto premi Outstanding Paper da SIGMOD e MLSys.

Karthik Bharat è il leader di prodotto per il team di Amazon SageMaker con oltre un decennio di esperienza nella gestione del prodotto, nella strategia del prodotto, nell'esecuzione e nel lancio.

Carlo Albertsen guida prodotti, ingegneria e scienza per Amazon SageMaker Algorithms e JumpStart, l'hub di machine learning di SageMaker. È appassionato di applicare l'apprendimento automatico per sbloccare il valore aziendale.

• Distribuzione di contenuti basati su SEO e PR. Ricevi amplificazione oggi.
• Platoblockchain. Web3 Metaverse Intelligence. Conoscenza amplificata. Accedi qui.
• Fonte: https://aws.amazon.com/blogs/machine-learning/cohere-brings-language-ai-to-amazon-sagemaker/