Lansat în 2021, Amazon SageMaker Canvas este un serviciu vizual, punct și clic pentru construirea și implementarea modelelor de învățare automată (ML) fără a fi nevoie să scrieți niciun cod. Modelele de bază (FM) gata de utilizare disponibile în SageMaker Canvas le permit clienților să utilizeze AI generativ pentru sarcini precum generarea și rezumarea conținutului.
Suntem încântați să anunțăm cele mai recente actualizări ale Amazon SageMaker Canvas, care aduc platformei noi capabilități AI generative interesante. Cu suport pentru modelele Meta Llama 2 și Mistral.AI și lansarea răspunsurilor în flux, SageMaker Canvas continuă să ofere putere tuturor celor care doresc să înceapă cu AI generativă fără a scrie o singură linie de cod. În această postare, discutăm despre aceste actualizări și beneficiile lor.
Vă prezentăm modelele Meta Llama 2 și Mistral
Llama 2 este un model de bază de ultimă oră de la Meta, care oferă scalabilitate și versatilitate îmbunătățite pentru o gamă largă de sarcini AI generative. Utilizatorii au raportat că Llama 2 este capabil să se angajeze în conversații semnificative și coerente, să genereze conținut nou și să extragă răspunsuri din notele existente. Llama 2 se numără printre modelele de limbaj mari (LLM) de ultimă generație disponibile astăzi pentru comunitatea open source pentru a-și construi propriile aplicații bazate pe inteligență artificială.
Mistral.AI, un start-up francez lider în domeniul inteligenței artificiale, a dezvoltat Mistral 7B, un model de limbaj puternic cu 7.3 miliarde de parametri. Modelele Mistral au fost foarte bine primite de comunitatea open-source datorită utilizării Gruped-query attention (GQA) pentru o inferență mai rapidă, făcându-l extrem de eficient și performanță comparabil cu modelul cu de două ori sau de trei ori mai mare număr de parametri.
Astăzi, suntem încântați să anunțăm că SageMaker Canvas acceptă acum trei variante de model Llama 2 și două variante Mistral 7B:
Pentru a testa aceste modele, navigați la SageMaker Canvas Modele gata de utilizare pagina, apoi alegeți Generați, extrageți și rezumați conținut. Aici veți găsi experiența de chat SageMaker Canvas GenAI. Aici, puteți utiliza orice model de la Amazon Bedrock sau SageMaker JumpStart, selectându-le din meniul derulant al modelului.
În cazul nostru, alegem unul dintre modelele Llama 2. Acum vă puteți furniza intrarea sau interogarea. Pe măsură ce trimiteți intrarea, SageMaker Canvas redirecționează intrarea dvs. către model.
Pentru a alege care dintre modelele disponibile în SageMaker Canvas se potrivește cel mai bine pentru cazul dvs. de utilizare, trebuie să luați în considerare informații despre modelele în sine: modelul Llama-2-70B-chat este un model mai mare (70 de miliarde de parametri, față de 13 miliarde cu Llama-2-13B-chat ), ceea ce înseamnă că performanța sa este în general mai mare decât cea mai mică, cu prețul unei latențe puțin mai mari și a unui cost crescut pe token. Mistral-7B are performanțe comparabile cu Llama-2-7B sau Llama-2-13B, dar este găzduit pe Amazon SageMaker. Aceasta înseamnă că modelul de prețuri este diferit, trecând de la un model de prețuri în dolari pe token la un model în dolari pe oră. Acest lucru poate fi mai rentabil cu o cantitate semnificativă de solicitări pe oră și o utilizare constantă la scară. Toate modelele de mai sus pot funcționa bine într-o varietate de cazuri de utilizare, așa că sugestia noastră este să evaluăm care model vă rezolvă cel mai bine problema, luând în considerare randamentul, randamentul și costurile.
Dacă sunteți în căutarea unui mod simplu de a compara modul în care se comportă modelele, SageMaker Canvas oferă în mod nativ această capacitate sub formă de comparații de modele. Puteți selecta până la trei modele diferite și puteți trimite aceeași interogare tuturor simultan. SageMaker Canvas va primi apoi răspunsurile de la fiecare dintre modele și le va afișa într-o interfață de chat alăturată. Pentru a face acest lucru, alegeți Comparaţie și alegeți alte modele cu care să comparați, după cum se arată mai jos:
Vă prezentăm răspunsul în flux: interacțiuni în timp real și performanță îmbunătățită
Unul dintre progresele cheie în această versiune este introducerea răspunsurilor transmise în flux. Transmiterea în flux a răspunsurilor oferă utilizatorului o experiență mai bogată și reflectă mai bine o experiență de chat. Cu răspunsuri în flux, utilizatorii pot primi feedback instantaneu și o integrare perfectă în aplicațiile lor chatbot. Acest lucru permite o experiență mai interactivă și mai receptivă, îmbunătățind performanța generală și satisfacția utilizatorilor chatbot-ului. Abilitatea de a primi răspunsuri imediate într-o manieră asemănătoare unui chat creează un flux de conversație mai natural și îmbunătățește experiența utilizatorului.
Cu această caracteristică, acum puteți interacționa cu modelele dvs. AI în timp real, primind răspunsuri instantanee și permițând integrarea perfectă într-o varietate de aplicații și fluxuri de lucru. Toate modelele care pot fi interogate în SageMaker Canvas — de la Amazon Bedrock și SageMaker JumpStart — pot transmite răspunsuri către utilizator.
Incepe astazi
Indiferent dacă construiți un chatbot, un sistem de recomandare sau un asistent virtual, modelele Llama 2 și Mistral combinate cu răspunsuri transmise în flux aduc performanță și interactivitate îmbunătățite proiectelor dvs.
Pentru a utiliza cele mai recente funcții ale SageMaker Canvas, asigurați-vă că ștergeți și recreați aplicația. Pentru a face acest lucru, deconectați-vă din aplicație alegând Log out, apoi deschideți din nou SageMaker Canvas. Ar trebui să vedeți noile modele și să vă bucurați de cele mai recente lansări. Deconectarea din aplicația SageMaker Canvas va elibera toate resursele utilizate de instanța spațiului de lucru, evitând astfel suportarea unor costuri suplimentare neintenționate.
Concluzie
Pentru a începe cu noile răspunsuri transmise în flux pentru modelele Llama 2 și Mistral din SageMaker Canvas, vizitați Consola SageMaker și explorați interfața intuitivă. Pentru a afla mai multe despre modul în care SageMaker Canvas și AI generativă vă pot ajuta să vă atingeți obiectivele de afaceri, consultați Permiteți utilizatorilor dvs. de afaceri să extragă informații din documentele companiei folosind Amazon SageMaker Canvas și Generative AI și Depășirea provocărilor comune ale centrelor de contact cu inteligența artificială generativă și Amazon SageMaker Canvas.
Dacă doriți să aflați mai multe despre funcțiile SageMaker Canvas și să descoperiți în profunzime alte cazuri de utilizare ML, consultați celelalte postări disponibile în Categoria Canvas SageMaker a blogului AWS ML. Abia așteptăm să vedem aplicațiile uimitoare AI pe care le veți crea cu aceste noi capabilități!
Despre autori
Davide Gallitelli este arhitect de soluții de specialitate senior pentru AI/ML. Are sediul la Bruxelles și lucrează îndeaproape cu clienții din întreaga lume care doresc să adopte tehnologii de învățare automată Low-Code/No-Code și AI generativă. Este dezvoltator încă de când era foarte mic, începând să codifice la vârsta de 7 ani. A început să învețe AI/ML la universitate și de atunci s-a îndrăgostit de el.
Dan Sinnreich este Senior Product Manager la AWS, ajutând la democratizarea învățării automate low-code/no-code. Înainte de AWS, Dan a construit și comercializat platforme SaaS de întreprindere și modele de serie cronologică utilizate de investitorii instituționali pentru a gestiona riscul și a construi portofolii optime. În afara serviciului, poate fi găsit jucând hochei, scufundări și citind science fiction.
- Distribuție de conținut bazat pe SEO și PR. Amplifică-te astăzi.
- PlatoData.Network Vertical Generative Ai. Împuterniciți-vă. Accesați Aici.
- PlatoAiStream. Web3 Intelligence. Cunoștințe amplificate. Accesați Aici.
- PlatoESG. carbon, CleanTech, Energie, Mediu inconjurator, Solar, Managementul deșeurilor. Accesați Aici.
- PlatoHealth. Biotehnologie și Inteligență pentru studii clinice. Accesați Aici.
- Sursa: https://aws.amazon.com/blogs/machine-learning/announcing-support-for-llama-2-models-and-streaming-responses-in-amazon-sagemaker-canvas/
- :are
- :este
- :Unde
- $UP
- 100
- 13
- 2021
- 7
- 70
- a
- capacitate
- Despre Noi
- mai sus
- Cont
- Obține
- Suplimentar
- adopta
- progresele
- din nou
- împotriva
- vârstă
- AI
- Modele AI
- AI-alimentat
- AI / ML
- TOATE
- permite
- uimitor
- Amazon
- Amazon SageMaker
- Amazon SageMaker Canvas
- Amazon Web Services
- printre
- sumă
- an
- și
- anunța
- anunțare
- răspunsuri
- Orice
- aplicaţia
- aplicație
- aplicatii
- SUNT
- în jurul
- AS
- Asistent
- At
- atenţie
- disponibil
- evitarea
- AWS
- bazat
- BE
- fost
- de mai jos
- Beneficiile
- CEL MAI BUN
- Mai bine
- mai mare
- Miliard
- Blog
- aduce
- Bruxelles
- construi
- Clădire
- construit
- afaceri
- by
- CAN
- pânză
- capacități
- capacitate
- capabil
- caz
- cazuri
- Centru
- provocări
- taxe
- Chat
- chatbot
- verifica
- Alege
- alegere
- îndeaproape
- cod
- COERENT
- combinate
- Comun
- comunitate
- companie
- comparabil
- comparaţie
- comparație
- comparații
- luand in considerare
- consistent
- construi
- contactați-ne
- centru de contact
- conţinut
- Generare de conținut
- continuă
- Conversație
- conversații
- A costat
- crea
- creează
- clienţii care
- ultima generație
- adânc
- scufundare adâncă
- democratiza
- Implementarea
- dezvoltat
- Dezvoltator
- diferit
- discuta
- scufunda
- scufundare
- do
- documente
- fiecare
- Eficace
- eficient
- împuternici
- permite
- permițând
- captivant
- sporită
- consolidarea
- se bucura
- Afacere
- evalua
- toată lumea
- excitat
- captivant
- existent
- experienţă
- explora
- extrage
- Căzut
- mai repede
- Caracteristică
- DESCRIERE
- feedback-ul
- Ficţiune
- Găsi
- se potrivește
- debit
- Pentru
- formă
- găsit
- Fundație
- Franceză
- din
- genai
- în general
- generator
- generaţie
- generativ
- AI generativă
- obține
- glob
- Goluri
- Avea
- he
- ajutor
- ajutor
- aici
- superior
- extrem de
- găzduit
- oră
- Cum
- Totuși
- HTTPS
- imediat
- îmbunătățit
- îmbunătăţeşte
- in
- a crescut
- informații
- intrare
- perspective
- instanță
- clipă
- Instituţional
- investitori instituționali
- integrare
- interacţiona
- interacţiuni
- interactiv
- interactivitate
- interfaţă
- în
- Introducere
- intuitiv
- Investitori
- IT
- ESTE
- jpg
- Cheie
- limbă
- mare
- Latență
- Ultimele
- Cele mai recente actualizări
- lansa
- conducere
- AFLAȚI
- învăţare
- Linie
- Lamă
- log
- logare
- cautati
- dragoste
- maşină
- masina de învățare
- face
- Efectuarea
- administra
- manager
- manieră
- semnificativ
- mijloace
- Meniu
- meta
- ML
- model
- Modele
- mai mult
- în mişcare
- nativ
- Natural
- Navigaţi
- Nevoie
- Nou
- notițe
- acum
- număr
- of
- promoții
- on
- dată
- ONE
- deschide
- open-source
- optimă
- or
- Altele
- al nostru
- afară
- producție
- exterior
- global
- propriu
- pagină
- parametrii
- pentru
- Efectua
- performanță
- spectacole
- efectuarea
- imagine
- platformă
- Platforme
- Plato
- Informații despre date Platon
- PlatoData
- joc
- portofolii
- Post
- postări
- puternic
- precedent
- de stabilire a prețurilor
- model de stabilire a prețurilor
- Problemă
- Produs
- manager de produs
- Proiecte
- furniza
- furnizează
- întrebare
- gamă
- Citind
- real
- în timp real
- a primi
- primit
- primire
- Recomandare
- trimite
- reflectă
- eliberaţi
- Lansări
- Raportat
- cereri de
- Necesită
- Resurse
- răspuns
- răspunsuri
- sensibil
- mai bogat
- Risc
- SaaS
- sagemaker
- acelaşi
- satisfacție
- scalabilitate
- Scară
- Ştiinţă
- Romane științifico-fantastice
- fără sudură
- vedea
- selecta
- selectarea
- trimite
- senior
- serviciu
- Servicii
- să
- Arăta
- indicat
- semnificativ
- întrucât
- singur
- mai mici
- So
- soluţii
- rezolvă
- Sursă
- specialist
- Discovery
- început
- Pornire
- de ultimă oră
- simplu
- curent
- transmise în flux
- de streaming
- astfel de
- rezuma
- a sustine
- Sprijină
- sigur
- sistem
- Lua
- sarcini
- Tehnologii
- test
- mulțumesc
- acea
- lor
- Lor
- se
- apoi
- prin urmare
- Acestea
- acest
- trei
- încântat
- debit
- timp
- ori
- la
- astăzi
- semn
- De două ori
- Două
- ui
- universitate
- actualizări
- Folosire
- utilizare
- carcasa de utilizare
- utilizat
- Utilizator
- Experiența de utilizare
- utilizatorii
- folosind
- varietate
- versatilitate
- foarte
- Virtual
- asistent virtual
- Vizita
- vizual
- aștepta
- vrea
- vrea
- a fost
- Cale..
- we
- web
- servicii web
- BINE
- care
- larg
- Gamă largă
- voi
- cu
- fără
- Apartamente
- fluxuri de lucru
- fabrică
- scrie
- scris
- Tu
- tineri
- Ta
- zephyrnet