Cohere prinaša jezikovno umetno inteligenco v Amazon SageMaker

To je gostujoča objava Sudipa Roya, vodje tehničnega osebja pri Cohere.

To je vznemirljiv dan za razvojno skupnost. Coherejev najsodobnejši jezik AI je zdaj na voljo prek Amazon SageMaker. To razvijalcem olajša uvajanje vnaprej usposobljenih programov Cohere generacijski jezikovni model do Amazon SageMaker, storitev strojnega učenja (ML) od konca do konca. Razvijalci, podatkovni znanstveniki in poslovni analitiki uporabljajo Amazon SageMaker za hitro in enostavno gradnjo, usposabljanje in uvajanje modelov ML z uporabo popolnoma upravljane infrastrukture, orodij in delovnih tokov.

Pri Cohere je poudarek na jeziku. Poslanstvo podjetja je omogočiti razvijalcem in podjetjem, da dodajo jezikovno umetno inteligenco svojemu tehnološkemu naboru in z njim zgradijo aplikacije, ki spreminjajo igre. Cohere pomaga razvijalcem in podjetjem avtomatizirati širok nabor nalog, kot so pisanje besedil, prepoznavanje imenovanih entitet, parafraziranje, povzemanje besedila in klasifikacija. Podjetje gradi in nenehno izboljšuje svoje splošne namenske velike jezikovne modele (LLM), tako da so dostopni prek platforme, ki je preprosta za uporabo. Podjetja lahko uporabljajo modele takoj po pripravi ali jih prilagodijo svojim posebnim potrebam z uporabo lastnih podatkov po meri.

Razvijalci, ki uporabljajo SageMaker, bodo imeli dostop do jezikovnega modela srednje generacije Cohere. Model srednje generacije je odličen pri nalogah, ki zahtevajo hitre odgovore, kot so odgovarjanje na vprašanja, pisanje besedil ali parafraziranje. Model Medium je nameščen v vsebnikih, ki omogočajo sklepanje z nizko zakasnitvijo na raznolikem naboru strojnih pospeševalnikov, ki so na voljo v AWS, kar strankam SageMaker zagotavlja različne stroškovne in zmogljivostne prednosti.

»Amazon SageMaker ponuja najširši in najobsežnejši nabor storitev, ki odpravljajo dvigovanje težkega dela iz vsakega koraka procesa strojnega učenja. Z veseljem ponujamo Coherejev splošni jezikovni model z Amazon SageMaker. Naše skupne stranke lahko zdaj izkoristijo široko paleto storitev Amazon SageMaker in integrirajo model Cohere s svojimi aplikacijami za pospešen čas do vrednosti in hitrejše inovacije.«

-Rajneesh Singh, generalni direktor AI/ML pri Amazon Web Services.

»Ker Cohere še naprej premika meje jezikovne umetne inteligence, smo navdušeni, da bomo združili moči z Amazon SageMaker. To partnerstvo nam bo omogočilo, da našo napredno tehnologijo in inovativen pristop predstavimo še širšemu občinstvu, s čimer bomo razvijalcem in organizacijam po vsem svetu omogočili, da izkoristijo moč jezikovne umetne inteligence in ostanejo pred krivuljo na vse bolj konkurenčnem trgu.«

-Saurabh Baji, višji podpredsednik inženiringa pri Cohere.

Jezikovni model srednje generacije Cohere, ki je na voljo prek SageMakerja, ponuja razvijalcem tri ključne prednosti:

• Hitro zgradite, ponovite in uvedite – Cohere vsakemu razvijalcu omogoča hiter dostop do predhodno usposobljenega, najsodobnejšega modela generiranja, ki razume kontekst in semantiko na ravni brez primere. Ta visokokakovosten, velik jezikovni model skrajša čas do pridobitve vrednosti za stranke, saj zagotavlja takojšnjo rešitev za širok spekter nalog razumevanja jezika.
• Zasebno in varno – S SageMakerjem lahko stranke vrtijo vsebnike, ki služijo modelom Cohere, ne da bi jim bilo treba skrbeti, ali bodo njihovi podatki zapustili te samoupravljive vsebnike.
• Hitrost in natančnost - Coherejev model Medium strankam ponuja dobro ravnotežje med kakovostjo, ceno in zakasnitvijo. Razvijalci lahko preprosto integrirajo končno točko Cohere Generate v aplikacije z uporabo preprostega API-ja in SDK-ja.

Začnite uporabljati Cohere v SageMakerju

Razvijalci lahko uporabijo vizualni vmesnik temeljnih modelov SageMaker JumpStart za testiranje modelov Cohere, ne da bi napisali eno vrstico kode. Model lahko ocenite pri svoji specifični nalogi razumevanja jezika in se naučite osnov uporabe generativnih jezikovnih modelov. Glej Cohere's Dokumentacija in blog za različne vaje ter namige in trike v zvezi z jezikovnim modeliranjem.

Razmestite končno točko SageMaker z uporabo prenosnega računalnika

Cohere je zapakiral modele Medium, skupaj z optimiziranim okvirjem sklepanja z nizko zakasnitvijo, v vsebnike, ki jih je mogoče namestiti kot končne točke sklepanja SageMaker. Vsebnike Cohere je mogoče namestiti na vrsto različnih instanc (vključno z ml.p3.2xlarge, ml.g5.xlarge in ml.g5.2xlarge), ki ponujajo različne kompromise med ceno in zmogljivostjo. Ti zabojniki so trenutno na voljo v dveh regijah: us-east-1 in eu-west-1. Cohere namerava v bližnji prihodnosti razširiti svojo ponudbo, vključno z dodajanjem števila in velikosti razpoložljivih modelov, nabora podprtih nalog (kot so končne točke, zgrajene na teh modelih), podprtih primerkov in razpoložljivih regij.

Za pomoč razvijalcem pri hitrem začetku je Cohere zagotovil Jupyterjeve zvezke ki olajšajo uvajanje teh vsebnikov in izvajanje sklepanja na razporejenih končnih točkah. Z vnaprej konfiguriranim naborom konstant v prenosnem računalniku je mogoče enostavno uvesti končno točko z le nekaj vrsticami kode, kot je prikazano v naslednjem primeru:

Ko je končna točka uvedena, lahko uporabniki uporabijo Coherejev SDK za izvajanje sklepanja. SDK je mogoče preprosto namestiti iz PyPI na naslednji način:

Namestite ga lahko tudi iz izvorne kode v Cohere's javno skladišče SDK GitHub.

Ko je končna točka uvedena, lahko uporabniki uporabljajo končno točko Cohere Generate za izvajanje več generativnih nalog, kot je povzemanje besedila, generiranje vsebine v dolgi obliki, ekstrakcija entitet ali pisanje besedil. Beležnica Jupyter in repozitorij GitHub vključujeta primere, ki prikazujejo nekatere od teh primerov uporabe.

zaključek

Razpoložljivost Cohere izvorno na SageMaker prek AWS Marketplace predstavlja velik mejnik na področju NLP. Zmožnost modela Cohere, da ustvari visokokakovostno, koherentno besedilo, je dragoceno orodje za vsakogar, ki dela z besedilnimi podatki.

Če vas zanima uporaba Cohere za lastne projekte SageMaker, lahko zdaj do njega dostopate na SageMaker JumpStart. Poleg tega se lahko sklicujete na Cohere's Beležnica GitHub za navodila o uvajanju modela in dostopu do njega iz Cohere Generate endpoint.

---

O avtorjih

Sudip Roy je vodja tehničnega osebja pri Cohere, ponudniku najsodobnejše tehnologije za obdelavo naravnega jezika (NLP). Sudip je uspešen raziskovalec, ki je objavljal in sodeloval v programskih odborih za vrhunske konference, kot so NeurIPS, MLSys, OOPSLA, SIGMOD, VLDB in SIGKDD, njegovo delo pa si je prislužilo nagradi za izjemen prispevek SIGMOD in MLSys.

Karthik Bharathy je produktni vodja ekipe Amazon SageMaker z več kot desetletnimi izkušnjami pri upravljanju izdelkov, strategiji izdelkov, izvajanju in lansiranju.

Karl Albertsen vodi izdelke, inženiring in znanost za Amazon SageMaker Algorithms in JumpStart, SageMakerjevo vozlišče za strojno učenje. Navdušen je nad uporabo strojnega učenja za odklepanje poslovne vrednosti.

• Distribucija vsebine in PR s pomočjo SEO. Okrepite se še danes.
• Platoblockchain. Web3 Metaverse Intelligence. Razširjeno znanje. Dostopite tukaj.
• vir: https://aws.amazon.com/blogs/machine-learning/cohere-brings-language-ai-to-amazon-sagemaker/