Cohere tar med språk-AI till Amazon SageMaker

Detta är ett gästinlägg av Sudip Roy, chef för teknisk personal på Cohere.

Det är en spännande dag för utvecklingsgemenskapen. Coheres toppmoderna språk AI är nu tillgängligt via Amazon SageMaker. Detta gör det lättare för utvecklare att distribuera Coheres förutbildade generationens språkmodell till Amazon SageMaker, en heltäckande maskininlärningstjänst (ML). Utvecklare, datavetare och affärsanalytiker använder Amazon SageMaker för att bygga, träna och distribuera ML-modeller snabbt och enkelt med hjälp av dess fullt hanterade infrastruktur, verktyg och arbetsflöden.

På Cohere ligger språket i fokus. Företagets uppdrag är att göra det möjligt för utvecklare och företag att lägga till språklig AI till sin teknikstack och bygga spelförändrande applikationer med den. Cohere hjälper utvecklare och företag att automatisera ett brett utbud av uppgifter, såsom copywriting, namngiven enhetsigenkänning, parafrasering, textsammanfattning och klassificering. Företaget bygger och förbättrar kontinuerligt sina generella stora språkmodeller (LLM), vilket gör dem tillgängliga via en enkel att använda plattform. Företag kan använda modellerna direkt eller skräddarsy dem efter sina specifika behov med hjälp av sina egna anpassade data.

Utvecklare som använder SageMaker kommer att ha tillgång till Coheres Medium generation språkmodell. Medelgenerationsmodellen utmärker sig vid uppgifter som kräver snabba svar, som att svara på frågor, skriva copywriting eller parafrasera. Medium-modellen distribueras i behållare som möjliggör slutledning med låg latens på en mångsidig uppsättning hårdvaruacceleratorer tillgängliga på AWS, vilket ger olika kostnads- och prestandafördelar för SageMaker-kunder.

"Amazon SageMaker tillhandahåller den bredaste och mest omfattande uppsättningen tjänster som eliminerar tunga lyft från varje steg i maskininlärningsprocessen. Vi är glada över att kunna erbjuda Coheres stora språkmodell för allmänna ändamål med Amazon SageMaker. Våra gemensamma kunder kan nu utnyttja det breda utbudet av Amazon SageMaker-tjänster och integrera Coheres modell med sina applikationer för snabbare tid till värde och snabbare innovation.”

-Rajneesh Singh, General Manager AI/ML på Amazon Web Services.

"När Cohere fortsätter att tänja på gränserna för språk AI, är vi glada över att gå samman med Amazon SageMaker. Detta partnerskap kommer att tillåta oss att föra vår avancerade teknik och innovativa tillvägagångssätt till en ännu bredare publik, vilket ger utvecklare och organisationer runt om i världen möjlighet att utnyttja kraften i språk AI och ligga steget före på en allt mer konkurrensutsatt marknad."

-Saurabh Baji, Senior Vice President of Engineering på Cohere.

Cohere Medium generationens språkmodell tillgänglig via SageMaker, ger utvecklare tre viktiga fördelar:

• Bygg, upprepa och implementera snabbt – Cohere ger alla utvecklare (ingen NLP-, ML- eller AI-expertis krävs) att snabbt få tillgång till en förutbildad, toppmodern generationsmodell som förstår sammanhang och semantik på oöverträffade nivåer. Denna högkvalitativa, stora språkmodell minskar tiden till värde för kunderna genom att tillhandahålla en färdig lösning för ett brett utbud av språkförståelseuppgifter.
• Privat och säkert – Med SageMaker kan kunderna spinna upp containrar som serverar Coheres modeller utan att behöva oroa sig för att deras data lämnar dessa självhanterade containrar.
• Hastighet och noggrannhet - Coheres Medium-modell erbjuder kunderna en bra balans mellan kvalitet, kostnad och latens. Utvecklare kan enkelt integrera Cohere Generate-slutpunkten i appar med hjälp av ett enkelt API och SDK.

Kom igång med Cohere i SageMaker

Utvecklare kan använda det visuella gränssnittet i SageMaker JumpStart-grundmodellerna för att testa Coheres modeller utan att skriva en enda kodrad. Du kan utvärdera modellen på din specifika språkförståelseuppgift och lära dig grunderna i att använda generativa språkmodeller. Se Cohere's dokumentation och blogg för olika handledningar och tips och tricks relaterade till språkmodellering.

Distribuera SageMaker-slutpunkten med en anteckningsbok

Cohere har paketerat Medium-modeller, tillsammans med ett optimerat ramverk för slutledning med låg latens, i behållare som kan distribueras som SageMaker slutpunkter för slutpunkter. Coheres behållare kan användas på en rad olika instanser (inklusive ml.p3.2xlarge, ml.g5.xlarge och ml.g5.2xlarge) som erbjuder olika kostnad/prestanda-avvägningar. Dessa behållare är för närvarande tillgängliga i två regioner: us-east-1 och eu-west-1. Cohere avser att utöka sitt erbjudande inom en snar framtid, inklusive att lägga till antalet och storleken på tillgängliga modeller, uppsättningen av stödda uppgifter (som ändpunkter som byggs ovanpå dessa modeller), de stödda instanserna och de tillgängliga regionerna.

För att hjälpa utvecklare att komma igång snabbt har Cohere tillhandahållit Jupyter anteckningsböcker som gör det enkelt att distribuera dessa behållare och köra slutledning på de distribuerade slutpunkterna. Med den förkonfigurerade uppsättningen konstanter i notebook-datorn, kan driftsättningen av slutpunkten enkelt göras med bara ett par rader kod som visas i följande exempel:

Efter att slutpunkten har distribuerats kan användare använda Coheres SDK för att köra slutledning. SDK:n kan enkelt installeras från PyPI enligt följande:

Det kan också installeras från källkoden i Cohere's offentligt SDK GitHub-förråd.

Efter att slutpunkten har distribuerats kan användare använda Cohere Generate-slutpunkten för att utföra flera generativa uppgifter, såsom textsammanfattning, generering av långformigt innehåll, extrahering av enheter eller copywriting. Jupyter-anteckningsboken och GitHub-förrådet inkluderar exempel som visar några av dessa användningsfall.

Slutsats

Tillgängligheten av Cohere inbyggt på SageMaker via AWS Marketplace representerar en viktig milstolpe inom NLP-området. Cohere-modellens förmåga att generera högkvalitativ, sammanhängande text gör den till ett värdefullt verktyg för alla som arbetar med textdata.

Om du är intresserad av att använda Cohere för dina egna SageMaker-projekt kan du nu komma åt det på SageMaker JumpStart. Dessutom kan du referera till Cohere's GitHub anteckningsbok för instruktioner om hur du distribuerar modellen och får åtkomst till den från Sammanhänga Generera slutpunkt.

---

Om författarna

Sudip Roy är chef för teknisk personal på Cohere, en leverantör av banbrytande teknik för naturlig språkbehandling (NLP). Sudip är en skicklig forskare som har publicerat och varit i programkommittéer för toppkonferenser som NeurIPS, MLSys, OOPSLA, SIGMOD, VLDB och SIGKDD, och hans arbete har vunnit utmärkelser för Outstanding Paper från SIGMOD och MLSys.

Karthik Bharathy är produktledare för Amazon SageMaker-teamet med över ett decennium av produkthantering, produktstrategi, utförande och lanseringserfarenhet.

Karl Albertsen leder produkt, teknik och vetenskap för Amazon SageMaker Algorithms och JumpStart, SageMakers maskininlärningsnav. Han brinner för att tillämpa maskininlärning för att låsa upp affärsvärde.

• SEO-drivet innehåll och PR-distribution. Bli förstärkt idag.
• Platoblockchain. Web3 Metaverse Intelligence. Kunskap förstärkt. Tillgång här.
• Källa: https://aws.amazon.com/blogs/machine-learning/cohere-brings-language-ai-to-amazon-sagemaker/