Käynnistettiin vuonna 2021, Amazon SageMaker Canvas on visuaalinen osoita ja napsauta -palvelu koneoppimismallien (ML) rakentamiseen ja käyttöönottoon ilman koodin kirjoittamista. SageMaker Canvasissa saatavilla olevat käyttövalmiit perusmallit (FM:t) antavat asiakkaille mahdollisuuden käyttää luovaa tekoälyä esimerkiksi sisällön luomiseen ja yhteenvedon tekemiseen.
Olemme innoissamme voidessamme ilmoittaa Amazon SageMaker Canvasin viimeisimmistä päivityksistä, jotka tuovat alustalle jännittäviä uusia luovia tekoälyominaisuuksia. Meta Llama 2- ja Mistral.AI-mallien tuen ja suoratoistovastausten julkaisun ansiosta SageMaker Canvas antaa jatkossakin mahdollisuuden kaikille, jotka haluavat aloittaa generatiivisen tekoälyn kirjoittamatta riviäkään koodia. Tässä viestissä käsittelemme näitä päivityksiä ja niiden etuja.
Esittelyssä Meta Llama 2 ja Mistral -mallit
Llama 2 on Metan huippuluokan perusmalli, joka tarjoaa parannetun skaalautuvuuden ja monipuolisuuden monenlaisiin generatiivisiin tekoälytehtäviin. Käyttäjät ovat raportoineet, että Llama 2 pystyy käymään mielekkäitä ja johdonmukaisia keskusteluja, luomaan uutta sisältöä ja poimimaan vastauksia olemassa olevista muistiinpanoista. Llama 2 on yksi huippuluokan suurista kielimalleista (LLM), jotka ovat nykyään saatavilla avoimen lähdekoodin yhteisölle omien tekoälypohjaisten sovellusten rakentamiseen.
Mistral.AI, johtava ranskalainen AI-start-up, on kehittänyt Mistral 7B:n, tehokkaan kielimallin, jossa on 7.3 miljardia parametria. Avoimen lähdekoodin yhteisö on ottanut Mistral-mallit erittäin hyvin vastaan, koska ryhmäkyselyn huomiointia (GQA) on käytetty nopeampaan päättelyyn, mikä tekee siitä erittäin tehokkaan ja suorituskyvyn verrattuna malliin, jossa on kaksin- tai kolme kertaa enemmän parametreja.
Tänään meillä on ilo ilmoittaa, että SageMaker Canvas tukee nyt kolmea Llama 2 -malliversiota ja kahta Mistral 7B -versiota:
Voit testata näitä malleja siirtymällä SageMaker Canvasille Käyttövalmiit mallit sivu ja valitse sitten Luo, pura ja tee yhteenveto sisällöstä. Täältä löydät SageMaker Canvas GenAI -chat-kokemuksen. Täällä voit käyttää mitä tahansa Amazon Bedrockin tai SageMaker JumpStartin mallia valitsemalla ne mallin pudotusvalikosta.
Meidän tapauksessamme valitsemme yhden Llama 2 -malleista. Nyt voit antaa syötteen tai kyselyn. Kun lähetät syötteen, SageMaker Canvas välittää syötteesi mallille.
Valitsemalla, mikä SageMaker Canvasissa olevista malleista sopii parhaiten käyttötilanteeseesi, sinun on otettava huomioon tiedot itse malleista: Llama-2-70B-chat-malli on suurempi malli (70 miljardia parametria verrattuna 13 miljardiin). Llama-2-13B-chatin kanssa, mikä tarkoittaa, että sen suorituskyky on yleensä suurempi kuin pienemmän, hieman korkeamman viiveen ja tokenin hinnan nousun kustannuksella. Mistral-7B:n suorituskyky on verrattavissa Llama-2-7B:hen tai Llama-2-13B:hen, mutta sitä isännöi Amazon SageMaker. Tämä tarkoittaa, että hinnoittelumalli on erilainen ja siirtyy dollari-tuntihinnoittelumallista dollari-tuntimalliin. Tämä voi olla kustannustehokkaampaa, kun pyyntöjä on paljon tunnissa ja käyttö on jatkuvaa. Kaikki yllä mainitut mallit voivat toimia hyvin erilaisissa käyttötapauksissa, joten ehdotuksemme on arvioida, mikä malli ratkaisee ongelmasi parhaiten ottaen huomioon tehon, suorituskyvyn ja kustannusten kompromissit.
Jos etsit suoraviivaista tapaa verrata mallien käyttäytymistä, SageMaker Canvas tarjoaa tämän mahdollisuuden mallien vertailujen muodossa. Voit valita enintään kolme eri mallia ja lähettää saman kyselyn niille kaikille kerralla. SageMaker Canvas saa sitten vastaukset jokaiselta mallilta ja näyttää ne vierekkäisessä chat-käyttöliittymässä. Voit tehdä tämän valitsemalla Verrata ja valitse muita malleja verrattavaksi alla olevan kuvan mukaisesti:
Esittelyssä vastausten suoratoisto: Reaaliaikainen vuorovaikutus ja parannettu suorituskyky
Yksi tämän julkaisun tärkeimmistä edistysaskeleista on suoratoistettujen vastausten käyttöönotto. Vastausten suoratoisto tarjoaa käyttäjälle monipuolisemman kokemuksen ja heijastaa paremmin chat-kokemusta. Suoratoistovastausten avulla käyttäjät voivat saada välitöntä palautetta ja saumattoman integroinnin chatbot-sovelluksiinsa. Tämä mahdollistaa interaktiivisemman ja reagoivamman käyttökokemuksen, mikä parantaa chatbotin yleistä suorituskykyä ja käyttäjätyytyväisyyttä. Mahdollisuus saada välittömiä vastauksia chattimaisesti luo luonnollisemman keskusteluvirran ja parantaa käyttökokemusta.
Tämän ominaisuuden avulla voit nyt olla vuorovaikutuksessa tekoälymalliesi kanssa reaaliajassa, vastaanottaen välittömiä vastauksia ja mahdollistaen saumattoman integroinnin erilaisiin sovelluksiin ja työnkulkuihin. Kaikki mallit, joista voi tehdä kyselyjä SageMaker Canvasissa – Amazon Bedrockista ja SageMaker JumpStartista – voivat suoratoistaa vastauksia käyttäjälle.
Aloita tänään
Rakennatpa sitten chatbotia, suositusjärjestelmää tai virtuaalista avustajaa, Llama 2- ja Mistral-mallit yhdistettynä suoratoistovastauksiin tuovat parempaa suorituskykyä ja interaktiivisuutta projekteihisi.
Jos haluat käyttää SageMaker Canvasin uusimpia ominaisuuksia, muista poistaa sovellus ja luoda se uudelleen. Voit tehdä tämän kirjautumalla ulos sovelluksesta valitsemalla Kirjaudu ulosja avaa sitten SageMaker Canvas uudelleen. Sinun pitäisi nähdä uudet mallit ja nauttia uusimmista julkaisuista. Kirjautuminen ulos SageMaker Canvas -sovelluksesta vapauttaa kaikki työtilan ilmentymän käyttämät resurssit, mikä välttää tahattomat lisäkulut.
Yhteenveto
Pääset alkuun uusien suoratoistovastausten kanssa Llama 2- ja Mistral-malleille SageMaker Canvasissa käymällä SageMaker-konsoli ja tutkia intuitiivista käyttöliittymää. Lisätietoja siitä, kuinka SageMaker Canvas ja generatiivinen tekoäly voivat auttaa sinua saavuttamaan liiketoimintatavoitteesi, on osoitteessa Auta yrityskäyttäjiäsi poimimaan oivalluksia yrityksen asiakirjoista Amazon SageMaker Canvasin ja Generatiivisen tekoälyn avulla ja Voit voittaa yleiset yhteyskeskuksen haasteet generatiivisen tekoälyn ja Amazon SageMaker Canvasin avulla.
Jos haluat oppia lisää SageMaker Canvas -ominaisuuksista ja tutustua muihin ML-käyttötapauksiin, tutustu muihin julkaisuihin SageMaker Canvas -luokka AWS ML -blogista. Emme malta odottaa, että pääsemme näkemään upeita tekoälysovelluksia, joita luot näillä uusilla ominaisuuksilla!
Tietoja kirjoittajista
Davide Gallitelli on AI/ML:n vanhempi asiantuntijaratkaisuarkkitehti. Hän työskentelee Brysselissä ja tekee tiivistä yhteistyötä asiakkaiden kanssa ympäri maailmaa, jotka haluavat ottaa käyttöön Low-Code/No-Code koneoppimistekniikoita ja generatiivista tekoälyä. Hän on ollut kehittäjä pienestä pitäen, aloitti koodaamisen 7-vuotiaana. Hän aloitti tekoälyn/ML:n opiskelun yliopistossa ja on siitä lähtien rakastunut siihen.
Dan Sinnreich on AWS:n vanhempi tuotepäällikkö, joka auttaa demokratisoimaan matalakoodia/kooditonta koneoppimista. Ennen AWS:ää Dan rakensi ja kaupallisti yrityssaaS-alustoja ja aikasarjamalleja, joita institutionaaliset sijoittajat käyttivät riskien hallintaan ja optimaalisten portfolioiden rakentamiseen. Työn ulkopuolella hänet voi tavata pelaamassa jääkiekkoa, sukeltamassa ja lukemassa tieteiskirjallisuutta.
- SEO-pohjainen sisällön ja PR-jakelu. Vahvista jo tänään.
- PlatoData.Network Vertical Generatiivinen Ai. Vahvista itseäsi. Pääsy tästä.
- PlatoAiStream. Web3 Intelligence. Tietoa laajennettu. Pääsy tästä.
- PlatoESG. hiili, CleanTech, energia, ympäristö, Aurinko, Jätehuolto. Pääsy tästä.
- PlatonHealth. Biotekniikan ja kliinisten kokeiden älykkyys. Pääsy tästä.
- Lähde: https://aws.amazon.com/blogs/machine-learning/announcing-support-for-llama-2-models-and-streaming-responses-in-amazon-sagemaker-canvas/
- :on
- :On
- :missä
- $ YLÖS
- 100
- 13
- 2021
- 7
- 70
- a
- kyky
- Meistä
- edellä
- Tili
- Saavuttaa
- lisä-
- hyväksyä
- edistysaskeleet
- uudelleen
- vastaan
- ikä
- AI
- AI-mallit
- AI-käyttöinen
- AI / ML
- Kaikki
- mahdollistaa
- hämmästyttävä
- Amazon
- Amazon Sage Maker
- Amazon SageMaker Canvas
- Amazon Web Services
- keskuudessa
- määrä
- an
- ja
- Ilmoittaa
- Ilmoittaa
- vastauksia
- Kaikki
- sovelluksen
- Hakemus
- sovellukset
- OVAT
- noin
- AS
- Avustaja
- At
- huomio
- saatavissa
- välttämällä
- AWS
- perustua
- BE
- ollut
- alle
- Hyödyt
- PARAS
- Paremmin
- suurempi
- Miljardi
- Blogi
- tuoda
- Bryssel
- rakentaa
- Rakentaminen
- rakennettu
- liiketoiminta
- by
- CAN
- kangas
- kyvyt
- valmiudet
- kykenee
- tapaus
- tapauksissa
- keskus
- haasteet
- maksut
- jutella
- chatbot
- tarkastaa
- Valita
- valita
- tarkasti
- koodi
- JOHDONMUKAINEN
- yhdistetty
- Yhteinen
- yhteisö
- yritys
- vertailukelpoinen
- verrata
- verrattuna
- vertailuja
- ottaen huomioon
- johdonmukainen
- rakentaa
- ottaa yhteyttä
- yhteyskeskukseen
- pitoisuus
- Sisällön luominen
- jatkuu
- Keskustelu
- keskustelut
- Hinta
- luoda
- luo
- Asiakkaat
- leikkaamisreuna
- syvä
- syväsukellus
- demokratisoida
- levityspinnalta
- kehitetty
- Kehittäjä
- eri
- pohtia
- sukellus
- sukellus
- do
- asiakirjat
- kukin
- Tehokas
- tehokas
- valtuuttaa
- mahdollistaa
- mahdollistaa
- harjoittaa
- tehostettu
- parantaa
- nauttia
- yritys
- arvioida
- jokainen
- innoissaan
- jännittävä
- olemassa
- experience
- tutkia
- uute
- Fallen
- nopeampi
- Ominaisuus
- Ominaisuudet
- palaute
- Kaunokirjallisuus
- Löytää
- sopii
- virtaus
- varten
- muoto
- löytyi
- perusta
- Ranskan
- alkaen
- genai
- yleensä
- tuottaa
- sukupolvi
- generatiivinen
- Generatiivinen AI
- saada
- maapallo
- Tavoitteet
- Olla
- he
- auttaa
- auttaa
- tätä
- korkeampi
- erittäin
- isännöi
- tunti
- Miten
- Kuitenkin
- HTTPS
- Välitön
- parani
- parantaa
- in
- kasvoi
- tiedot
- panos
- oivalluksia
- esimerkki
- välitön
- institutionaalinen
- institutionaalisten sijoittajien
- integraatio
- olla vuorovaikutuksessa
- vuorovaikutukset
- vuorovaikutteinen
- interaktiivisuus
- liitäntä
- tulee
- esittely
- intuitiivinen
- Sijoittajat
- IT
- SEN
- jpg
- avain
- Kieli
- suuri
- Viive
- uusin
- Viimeisimmät päivitykset
- käynnistää
- johtava
- OPPIA
- oppiminen
- linja
- liekki
- log
- hakkuu
- näköinen
- rakkaus
- kone
- koneoppiminen
- tehdä
- Tekeminen
- hoitaa
- johtaja
- tapa
- mielekäs
- välineet
- valikko
- Meta
- ML
- malli
- mallit
- lisää
- liikkuvat
- natiivisti
- Luonnollinen
- Navigoida
- Tarve
- Uusi
- Huomautuksia
- nyt
- numero
- of
- Tarjoukset
- on
- kerran
- ONE
- avata
- avoimen lähdekoodin
- optimaalinen
- or
- Muut
- meidän
- ulos
- ulostulo
- ulkopuolella
- yleinen
- oma
- sivulla
- parametrit
- varten
- Suorittaa
- suorituskyky
- Esitykset
- esittävä
- kuva
- foorumi
- Platforms
- Platon
- Platonin tietotieto
- PlatonData
- pelaa
- salkut
- Kirje
- Viestejä
- voimakas
- edellinen
- hinnoittelu
- hinnoittelumalli
- Ongelma
- Tuotteet
- tuotepäällikkö
- hankkeet
- toimittaa
- tarjoaa
- kysymys
- alue
- Lukeminen
- todellinen
- reaaliaikainen
- vastaanottaa
- sai
- vastaanottava
- Suositus
- katso
- heijastaa
- vapauta
- Tiedotteet
- raportoitu
- pyynnöt
- Vaatii
- Esittelymateriaalit
- vastaus
- vasteet
- herkkä
- rikkaampi
- Riski
- SaaS
- sagemaker
- sama
- tyytyväisyys
- skaalautuvuus
- Asteikko
- tiede
- Tieteiskirjallisuus
- saumaton
- nähdä
- valita
- valitsemalla
- lähettää
- vanhempi
- palvelu
- Palvelut
- shouldnt
- näyttää
- esitetty
- merkittävä
- koska
- single
- pienempiä
- So
- Ratkaisumme
- Ratkaisee
- lähde
- asiantuntija
- Käynnistys
- alkoi
- Aloita
- huippu-
- suora
- virta
- virtasi
- streaming
- niin
- yhteenveto
- tuki
- Tukee
- varma
- järjestelmä
- ottaa
- tehtävät
- Technologies
- testi
- Kiitos
- että
- -
- heidän
- Niitä
- itse
- sitten
- siksi
- Nämä
- tätä
- kolmella
- innoissaan
- suoritusteho
- aika
- kertaa
- että
- tänään
- symbolinen
- Kahdesti
- kaksi
- ui
- yliopisto
- Päivitykset
- Käyttö
- käyttää
- käyttölaukku
- käytetty
- käyttäjä
- Käyttäjäkokemus
- Käyttäjät
- käyttämällä
- lajike
- monipuolisuus
- hyvin
- Virtual
- virtuaaliassistentti
- Vierailla
- visuaalinen
- odottaa
- haluta
- haluaa
- oli
- Tapa..
- we
- verkko
- verkkopalvelut
- HYVIN
- joka
- leveä
- Laaja valikoima
- tulee
- with
- ilman
- Referenssit
- työnkulkuja
- toimii
- kirjoittaa
- kirjoittaminen
- Voit
- nuori
- Sinun
- zephyrnet