Cohere aduce IA lingvistică în Amazon SageMaker

Aceasta este o postare invitată de Sudip Roy, Managerul Personalului Tehnic la Cohere.

Este o zi interesantă pentru comunitatea de dezvoltare. Limbajul AI de ultimă generație al Cohere este acum disponibil prin intermediul Amazon SageMaker. Acest lucru facilitează implementarea programelor Cohere pre-instruite pentru dezvoltatori model de limbaj de generație la Amazon SageMaker, un serviciu de învățare automată (ML) end-to-end. Dezvoltatorii, oamenii de știință de date și analiștii de afaceri folosesc Amazon SageMaker pentru a construi, antrena și implementa modele ML rapid și ușor, folosind infrastructura, instrumentele și fluxurile de lucru complet gestionate.

La Cohere, accentul se pune pe limbă. Misiunea companiei este de a permite dezvoltatorilor și companiilor să adauge IA lingvistică la tehnologia lor și să creeze aplicații care schimbă jocul cu aceasta. Cohere ajută dezvoltatorii și companiile să automatizeze o gamă largă de sarcini, cum ar fi redactarea, recunoașterea entităților numite, parafrazarea, rezumarea textului și clasificarea. Compania își construiește și își îmbunătățește continuu modelele de limbă mari (LLM-uri) de uz general, făcându-le accesibile printr-o platformă ușor de utilizat. Companiile pot folosi modelele din cutie sau le pot adapta nevoilor lor particulare folosind propriile lor date personalizate.

Dezvoltatorii care folosesc SageMaker vor avea acces la modelul de limbaj de generație medie al Cohere. Modelul de generație medie excelează la sarcini care necesită răspunsuri rapide, cum ar fi răspunsul la întrebări, redactarea sau parafrazarea. Modelul Medium este implementat în containere care permit inferența cu latență scăzută asupra unui set divers de acceleratoare hardware disponibile pe AWS, oferind diferite avantaje de cost și performanță pentru clienții SageMaker.

„Amazon SageMaker oferă cel mai larg și mai cuprinzător set de servicii care elimină sarcinile grele din fiecare pas al procesului de învățare automată. Suntem încântați să oferim modelul de limbă mare de uz general Cohere cu Amazon SageMaker. Clienții noștri comuni pot acum să profite de gama largă de servicii Amazon SageMaker și să integreze modelul Cohere cu aplicațiile lor pentru o creștere a duratei de creștere a valorii și o inovație mai rapidă.”

-Rajneesh Singh, director general AI/ML la Amazon Web Services.

„Pe măsură ce Cohere continuă să depășească limitele IA lingvistice, suntem încântați să ne unim forțele cu Amazon SageMaker. Acest parteneriat ne va permite să aducem tehnologia noastră avansată și abordarea inovatoare unui public și mai larg, dând putere dezvoltatorilor și organizațiilor din întreaga lume să valorifice puterea IA lingvistică și să rămână în fruntea curbei pe o piață din ce în ce mai competitivă.”

-Saurabh Baji, Senior Vice President of Engineering la Cohere.

Modelul de limbaj de generație medie Cohere, disponibil prin SageMaker, oferă dezvoltatorilor trei beneficii cheie:

• Construiți, repetați și implementați rapid - Cohere dă putere oricărui dezvoltator (nu este necesară expertiza în NLP, ML sau AI) să obțină rapid acces la un model de generație de ultimă generație, pregătit în avans, care înțelege contextul și semantica la niveluri fără precedent. Acest model de limbă mare, de înaltă calitate, reduce timpul de valoare pentru clienți, oferind o soluție ieșită din cutie pentru o gamă largă de sarcini de înțelegere a limbii.
• Privat și securizat - Cu SageMaker, clienții pot roti containere care servesc modelele Cohere fără a fi nevoiți să-și facă griji că datele lor părăsesc aceste containere auto-gestionate.
• Viteză și precizie - Modelul Medium de la Cohere oferă clienților un echilibru bun între calitate, cost și latență. Dezvoltatorii pot integra cu ușurință punctul final Cohere Generate în aplicații folosind un simplu API și SDK.

Începeți cu Cohere în SageMaker

Dezvoltatorii pot folosi interfața vizuală a modelelor de bază SageMaker JumpStart pentru a testa modelele Cohere fără a scrie o singură linie de cod. Puteți evalua modelul în funcție de sarcina dvs. specifică de înțelegere a limbajului și puteți învăța elementele de bază ale utilizării modelelor de limbaj generativ. Vezi Cohere's documentaţie și blogul pentru diverse tutoriale și sfaturi și trucuri legate de modelarea limbajului.

Implementați punctul final SageMaker folosind un notebook

Cohere a împachetat modele Medium, împreună cu un cadru de inferență optimizat, cu latență scăzută, în containere care pot fi implementate ca puncte finale de inferență SageMaker. Containerele Cohere pot fi implementate într-o serie de instanțe diferite (inclusiv ml.p3.2xlarge, ml.g5.xlarge și ml.g5.2xlarge) care oferă diferite compromisuri cost/performanță. Aceste containere sunt disponibile în prezent în două regiuni: us-east-1 și eu-west-1. Cohere intenționează să-și extindă oferta în viitorul apropiat, inclusiv adăugând la numărul și dimensiunea modelelor disponibile, setul de activități suportate (cum ar fi punctele finale construite pe deasupra acestor modele), instanțele acceptate și regiunile disponibile.

Pentru a ajuta dezvoltatorii să înceapă rapid, Cohere a oferit Caiete Jupyter care facilitează implementarea acestor containere și rularea inferențelor asupra punctelor finale implementate. Cu setul preconfigurat de constante din notebook, implementarea punctului final se poate face cu ușurință cu doar câteva linii de cod, așa cum se arată în exemplul următor:

După ce punctul final este implementat, utilizatorii pot folosi SDK-ul Cohere pentru a rula inferențe. SDK-ul poate fi instalat cu ușurință din PyPI, după cum urmează:

Poate fi instalat și din codul sursă din Cohere's depozit public SDK GitHub.

După ce punctul final este implementat, utilizatorii pot folosi punctul final Cohere Generate pentru a îndeplini mai multe sarcini generative, cum ar fi rezumarea textului, generarea de conținut în formă lungă, extragerea de entități sau scrierea de copii. Notebook-ul Jupyter și depozitul GitHub includ exemple care demonstrează unele dintre aceste cazuri de utilizare.

Concluzie

Disponibilitatea Cohere nativ pe SageMaker prin intermediul AWS Marketplace reprezintă o etapă majoră în domeniul NLP. Capacitatea modelului Cohere de a genera text coerent și de înaltă calitate îl face un instrument valoros pentru oricine lucrează cu date text.

Dacă sunteți interesat să utilizați Cohere pentru propriile proiecte SageMaker, acum îl puteți accesa pe SageMaker JumpStart. În plus, puteți face referire la Cohere Notebook GitHub pentru instrucțiuni despre implementarea modelului și accesarea acestuia din Cohere Generați punctul final.

---

Despre autori

Sudip Roy este Manager de personal tehnic la Cohere, un furnizor de tehnologie de ultimă oră de procesare a limbajului natural (NLP). Sudip este un cercetător desăvârșit care a publicat și a făcut parte din comitetele de program pentru conferințe de top precum NeurIPS, MLSys, OOPSLA, SIGMOD, VLDB și SIGKDD, iar munca sa a câștigat premii pentru lucrări excepționale de la SIGMOD și MLSys.

Karthik Bharathy este lider de produs pentru echipa Amazon SageMaker cu peste un deceniu de experiență în managementul produsului, strategie de produs, execuție și lansare.

Karl Albertsen conduce produse, inginerie și știință pentru Amazon SageMaker Algorithms și JumpStart, centrul de învățare automată al SageMaker. Este pasionat de aplicarea învățării automate pentru a debloca valoarea afacerii.

• Distribuție de conținut bazat pe SEO și PR. Amplifică-te astăzi.
• Platoblockchain. Web3 Metaverse Intelligence. Cunoștințe amplificate. Accesați Aici.
• Sursa: https://aws.amazon.com/blogs/machine-learning/cohere-brings-language-ai-to-amazon-sagemaker/