Cohere toob keele AI Amazon SageMakerisse

See on Cohere'i tehnilise personali juhi Sudip Roy külalispostitus.

See on arengukogukonna jaoks põnev päev. Cohere'i tipptasemel keel AI on nüüd saadaval selle kaudu Amazon SageMaker. See muudab Cohere'i eelkoolitatud programmide juurutamise arendajatele lihtsamaks põlvkonna keelemudel et Amazon SageMaker, täielik masinõppe (ML) teenus. Arendajad, andmeteadlased ja ärianalüütikud kasutavad Amazon SageMakerit ML-mudelite kiireks ja hõlpsaks koostamiseks, koolitamiseks ja juurutamiseks, kasutades selle täielikult hallatavat infrastruktuuri, tööriistu ja töövooge.

Coheres on fookus keelel. Ettevõtte missioon on võimaldada arendajatel ja ettevõtetel lisada oma tehnoloogiavirnale keelelist tehisintellekti ja luua sellega mänge muutvaid rakendusi. Cohere aitab arendajatel ja ettevõtetel automatiseerida mitmesuguseid ülesandeid, nagu tekstide kirjutamine, nimega olemi tuvastamine, ümbersõnastamine, teksti kokkuvõte ja klassifitseerimine. Ettevõte loob ja täiustab pidevalt oma üldotstarbelisi suuri keelemudeleid (LLM), muutes need juurdepääsetavaks lihtsalt kasutatava platvormi kaudu. Ettevõtted saavad mudeleid kasutada koheselt või kohandada neid vastavalt oma vajadustele, kasutades oma kohandatud andmeid.

SageMakeri kasutavad arendajad saavad juurdepääsu Cohere'i keskmise põlvkonna keelemudelile. Keskmise põlvkonna mudel sobib suurepäraselt kiireid vastuseid nõudvate ülesannetega, nagu küsimustele vastamine, tekstide kirjutamine või ümbersõnastamine. Medium mudelit kasutatakse konteinerites, mis võimaldavad madala latentsusajaga järeldusi AWS-is saadaolevate mitmesuguste riistvarakiirendite kohta, pakkudes SageMakeri klientidele erinevaid kulu- ja jõudluseeeliseid.

„Amazon SageMaker pakub kõige laiemat ja kõikehõlmavamat teenuste komplekti, mis välistab raskete raskuste tõstmise masinõppeprotsessi igal etapil. Meil on hea meel pakkuda Cohere'i üldotstarbelist suurt keelemudelit koos Amazon SageMakeriga. Meie ühised kliendid saavad nüüd kasutada laia valikut Amazon SageMakeri teenuseid ja integreerida Cohere'i mudeli oma rakendustega, et kiirendada väärtuse saavutamist ja kiirendada innovatsiooni.

-Rajneesh Singh, Amazon Web Servicesi AI/ML peadirektor.

„Kuna Cohere jätkab keelelise AI piiride nihutamist, on meil hea meel ühendada jõud Amazon SageMakeriga. See partnerlus võimaldab meil tuua meie arenenud tehnoloogia ja uuendusliku lähenemise veelgi laiema publikuni, andes arendajatele ja organisatsioonidele üle kogu maailma võimaluse kasutada ära keelelise tehisintellekti võimsust ja püsida konkurentsitihedal turul ees.

-Saurabh Baji, Cohere'i inseneriosakonna vanem asepresident.

SageMakeri kaudu saadaval olev Cohere Medium põlvkonna keelemudel pakub arendajatele kolme peamist eelist:

• Ehitage, korrake ja juurutage kiiresti – Cohere annab igale arendajale võimaluse (ei vaja NLP-, ML- või AI-teadmisi) kiiresti pääseda juurde eelkoolitatud ja nüüdisaegsele põlvkonnamudelile, mis mõistab konteksti ja semantikat enneolematul tasemel. See kvaliteetne ja mahukas keelemudel vähendab klientide jaoks väärtuse loomise aega, pakkudes kasutusvalmis lahendust paljude keele mõistmise ülesannete jaoks.
• Privaatne ja turvaline – SageMakeriga saavad kliendid kokku panna Cohere'i mudeleid teenindavaid konteinereid, ilma et peaksid muretsema selle pärast, et nende andmed nendest isehallatavatest konteineritest lahkuvad.
• Kiirus ja täpsus - Cohere'i keskmine mudel pakub klientidele head tasakaalu kvaliteedi, kulude ja latentsusaja vahel. Arendajad saavad lihtsa API ja SDK abil hõlpsasti integreerida Cohere Generate'i lõpp-punkti rakendustesse.

Alustage Cohere'iga SageMakeris

Arendajad saavad kasutada SageMaker JumpStart Foundation mudelite visuaalset liidest, et testida Cohere'i mudeleid ilma ühtki koodirida kirjutamata. Saate hinnata mudelit oma konkreetse keele mõistmise ülesande jaoks ja õppida generatiivsete keelemudelite kasutamise põhitõdesid. Vaata Cohere's dokumentatsioon ja blogi erinevate keele modelleerimisega seotud õpetuste ja näpunäidete-nippide jaoks.

Juurutage SageMakeri lõpp-punkt sülearvuti abil

Cohere on pakendatud Medium mudelid koos optimeeritud madala latentsusajaga järeldusraamistikuga konteineritesse, mida saab juurutada SageMakeri järelduste lõpp-punktidena. Cohere'i konteinereid saab kasutada erinevatel juhtudel (sh ml.p3.2xlarge, ml.g5.xlarge ja ml.g5.2xlarge), mis pakuvad erinevaid kulude ja jõudluse kompromisse. Need konteinerid on praegu saadaval kahes piirkonnas: us-east-1 ja eu-west-1. Cohere kavatseb lähitulevikus oma pakkumist laiendada, sealhulgas täiendada saadaolevate mudelite arvu ja suurust, toetatud ülesannete komplekti (nt nende mudelite peale ehitatud lõpp-punktid), toetatud eksemplare ja saadaolevaid piirkondi.

Et aidata arendajatel kiiresti alustada, on Cohere pakkunud Jupyteri märkmikud mis muudavad nende konteinerite juurutamise ja juurutatud lõpp-punktide kohta järelduste tegemise lihtsaks. Märkmikus eelkonfigureeritud konstantide komplektiga saab lõpp-punkti juurutamist hõlpsasti teha vaid paari koodireaga, nagu on näidatud järgmises näites:

Pärast lõpp-punkti juurutamist saavad kasutajad kasutada järelduste tegemiseks Cohere'i SDK-d. SDK-d saab PyPI-st hõlpsalt installida järgmiselt.

Selle saab installida ka Cohere'i lähtekoodist avalik SDK GitHubi hoidla.

Pärast lõpp-punkti juurutamist saavad kasutajad kasutada lõpp-punkti Cohere Generate, et täita mitmeid generatiivseid ülesandeid, nagu teksti kokkuvõte, pika vormiga sisu loomine, olemi ekstraheerimine või copywriting. Jupyteri märkmik ja GitHubi hoidla sisaldavad näiteid, mis näitavad mõnda neist kasutusjuhtudest.

Järeldus

Cohere'i kättesaadavus algselt SageMakeris AWS Marketplace'i kaudu on NLP valdkonnas oluline verstapost. Cohere'i mudeli võime luua kvaliteetset ja sidusat teksti muudab selle väärtuslikuks tööriistaks kõigile, kes töötavad tekstiandmetega.

Kui olete huvitatud Cohere'i kasutamisest oma SageMakeri projektide jaoks, pääsete nüüd sellele juurde SageMaker KiirStart. Lisaks saate viidata Cohere'ile GitHubi märkmik juhiste saamiseks mudeli juurutamise ja sellele juurdepääsu saamiseks Sidus Lõpp-punkti loomine.

---

Autoritest

Sudip Roy on tipptasemel loomuliku keele töötlemise (NLP) tehnoloogia pakkuja Cohere tehnilise personali juht. Sudip on kogenud teadlane, kes on avaldanud ja teeninud tippkonverentside programmikomiteedes, nagu NeurIPS, MLSys, OOPSLA, SIGMOD, VLDB ja SIGKDD, ning tema töö on teeninud SIGMODi ja MLSysi väljapaistvaid paberiauhindu.

Karthik Bharathy on Amazon SageMakeri meeskonna tootejuht, kellel on üle kümne aasta tootehalduse, tootestrateegia, teostamise ja turuletoomise kogemust.

Karl Albertsen juhib Amazon SageMaker Algorithms ja JumpStart, SageMakeri masinõppekeskuse tooteid, tehnikat ja teadust. Ta on kirglik masinõppe rakendamisest äriväärtuse avamiseks.

• SEO-põhise sisu ja PR-levi. Võimenduge juba täna.
• Platoblockchain. Web3 metaversiooni intelligentsus. Täiustatud teadmised. Juurdepääs siia.
• Allikas: https://aws.amazon.com/blogs/machine-learning/cohere-brings-language-ai-to-amazon-sagemaker/