Amazonase aluspõhi on AWS-i täielikult hallatav teenus, mis pakub arendajatele juurdepääsu vundamendi mudelid (FM-id) ja tööriistu nende kohandamiseks konkreetsete rakenduste jaoks. See võimaldab arendajatel luua ja skaleerida generatiivseid AI-rakendusi, kasutades API kaudu FM-e, ilma infrastruktuuri haldamata. Saate valida erinevate Amazoni FM-ide ja juhtivate tehisintellekti idufirmade (nt AI21 Labs, Anthropic, Cohere ja Stability AI) hulgast, et leida teie kasutusjuhtumile kõige sobivam mudel. Amazon Bedrocki serverita kogemusega saate kiiresti alustada, lihtsalt katsetada FM-e, kohandada neid privaatselt oma andmetega ning integreerida ja juurutada need sujuvalt oma rakendustesse, kasutades AWS-i tööriistu ja võimalusi.
Kliendid loovad uuenduslikke generatiivseid AI-rakendusi, kasutades Amazon Bedrocki API-sid, kasutades nende endi patenteeritud andmeid. Amazon Bedrocki API-dele juurde pääsedes otsivad kliendid mehhanismi andmete perimeetri seadistamiseks ilma oma andmeid Internetti avaldamata, et nad saaksid leevendada Internetiga kokkupuutest tulenevaid potentsiaalseid ohuvektoreid. Amazon Bedrocki VPC lõpp-punkti toidab AWS PrivateLink võimaldab teil luua privaatse ühenduse teie konto VPC ja Amazon Bedrocki teenusekonto vahel. See võimaldab VPC eksemplaridel suhelda teenuseressurssidega, ilma et oleks vaja avalikke IP-aadresse.
Selles postituses näitame, kuidas seadistada privaatne juurdepääs oma AWS-i kontole, et pääseda juurde Amazon Bedrocki API-dele VPC lõpp-punktid toiteallikaks PrivateLink, mis aitab teil luua generatiivseid AI-rakendusi turvaliselt teie enda andmetega.
Lahenduse ülevaade
Saate kasutada generatiivset AI-d, et arendada mitmesuguseid rakendusi, nagu teksti kokkuvõte, sisu modereerimine ja muud võimalused. Selliste generatiivsete tehisintellekti rakenduste loomisel FM-ide või baasmudelite abil soovivad kliendid luua vastuse ilma avalikku Internetti minemata või oma ettevõtte andmebaasides leiduvate varaliste andmete põhjal.
Järgmisel diagrammil kujutame teie infrastruktuuri seadistamise arhitektuuri, et lugeda teie riigis asuvaid varalisi andmeid. Amazoni relatsioonide andmebaasiteenus (Amazon RDS) ja täiendage Amazon Bedrock API päringut tooteteabega, kui vastate oma generatiivsest AI-rakendusest tootega seotud päringutele. Kuigi kasutame selles diagrammis illustreerimiseks Amazon RDS-i, saate Amazon Bedrocki API-de privaatset juurdepääsu testida, kasutades selles postituses esitatud juhiseid.
Töövoo etapid on järgmised.
- AWS Lambda töötab teie privaatses VPC alamvõrgus, saab generatiivselt AI-rakenduselt viipapäringu.
- Lambda helistab patenteeritud RDS-andmebaasi ja täiendab viipade päringu konteksti (näiteks lisab tooteteavet) ja kutsub välja Amazon Bedrocki API koos laiendatud päringupäringuga.
- API-kõne suunatakse Amazon Bedrocki VPC lõpp-punkti, mis on seotud VPC lõpp-punkti poliitikaga Amazon Bedrocki API-de lubamise õigustega.
- Amazon Bedrocki teenuse API lõpp-punkt võtab API päringu vastu PrivateLinki kaudu ilma avalikku Internetti läbimata.
- Saate muuta Amazon Bedrocki VPC lõpp-punkti reegliks Keela load, et kinnitada, kas Amazon Bedrocki API-de kõned on keelatud.
- Amazon Bedrocki API-dele pääsete privaatselt juurde ka VPC lõpp-punkti kaudu oma ettevõtte võrgust, kasutades AWS Direct Connect värav.
Eeldused
Enne alustamist veenduge, et teil on järgmised eeltingimused.
- An AWS-i konto
- An AWS-i identiteedi- ja juurdepääsuhaldus (IAM) föderatsiooniroll, millel on juurdepääs järgmiste toimingute tegemiseks:
- Looge, redigeerige, vaadake ja kustutage VPC võrguressursse
- Looge, redigeerige, vaadake ja kustutage Lambda funktsioone
- Looge, redigeerige, vaadake ja kustutage IAM-i rolle ja eeskirju
- Loetlege vundamendimudelid ja käivitage Amazon Bedrocki vundamendimudel
- Selle postituse jaoks kasutame
us-east-1
regioon - Küsi sihtasutuse mudeli juurdepääs Amazon Bedrocki konsooli kaudu
Seadistage privaatjuurdepääsu infrastruktuur
Selles jaotises seadistame infrastruktuuri, nagu VPC, privaatsed alamvõrgud, turvarühmad ja Lambda funktsioonid, kasutades AWS CloudFormation mall.
Kasutage järgmist šabloon infrastruktuuri virna loomiseks Bedrock-GenAI-Stack
oma AWS-i kontol.
CloudFormationi mall loob teie nimel järgmised ressursid.
- VPC kahe privaatse alamvõrguga eraldi saadavustsoonides
- Turvagrupid ja marsruutimistabelid
- IAM-i roll ja eeskirjad, mida kasutavad Lambda, Amazon Bedrock ja Amazon Elastic Compute Cloud (Amazon EC2)
Seadistage Amazon Bedrocki VPC lõpp-punkt
Selles jaotises kasutame Amazoni virtuaalne privaatpilv (Amazon VPC), et seadistada Amazon Bedrocki VPC lõpp-punkt, et hõlbustada privaatset ühendust teie VPC-lt Amazon Bedrockiga.
- Amazon VPC konsoolil, all Virtuaalne privaatpilv valige navigeerimispaanil Lõpp-punktid.
- Vali Loo lõpp-punkt.
- eest Nimesilt, sisenema
bedrock-vpce
. - alla Teenused, otsige aluspõhja käitusaeg ja valige
com.amazonaws.<region>.bedrock-runtime
. - eest VPC, määrake VPC
Bedrock-GenAI-Project-vpc
mille lõite eelmises jaotises CloudFormationi virna kaudu. - aasta Alamvõrgud jaotist ja valige Kättesaadavuse tsoonid ja valige rippmenüüst vastavad alamvõrgu ID-d.
- eest Turvarühmad, valige rühma nimega turvagrupp
Bedrock-GenAI-Stack-VPCEndpointSecurityGroup-
ja kirjeldusAllow TLS for VPC Endpoint
.
Turvarühm toimib teie eksemplari virtuaalse tulemüürina, mis kontrollib sissetulevat ja väljaminevat liiklust. Pange tähele, et see VPC lõpp-punkti turberühm lubab ainult teie VPC privaatsete alamvõrkudega ühendatud turvarühmast pärinevat liiklust, lisades kaitsekihi.
- Vali Loo lõpp-punkt.
- aasta Poliitika jaotises valige tava ja sisestage järgmine vähimate õiguste poliitika tagamaks, et määratud sihtmudeli ressursis on lubatud ainult teatud toimingud,
arn:aws:bedrock:*::foundation-model/anthropic.claude-instant-v1
antud põhimõtte jaoks (nt lambda funktsiooni IAM roll).
Liidese lõpp-punkti loomiseni ja oleku olekuks Saadaval olekuks võib kuluda kuni 2 minutit. Viimase oleku kontrollimiseks saate lehte värskendada.
Seadistage Lambda funktsioon privaatsete VPC alamvõrkude kaudu
Lambda funktsiooni konfigureerimiseks toimige järgmiselt.
- Valige Lambda konsoolil Funktsioonid navigeerimispaanil.
- Valige funktsioon
gen-ai-lambda-stack-BedrockTestLambdaFunction-XXXXXXXXXXXX
. - Kohta konfiguratsioon valige vahekaart Õigused vasakul paanil.
- alla Täitmise roll¸ vali rolli jaoks link
gen-ai-lambda-stack-BedrockTestLambdaFunctionRole-XXXXXXXXXXXX
.
Teid suunatakse ümber IAM-konsooli.
- aasta Lubade eeskirjad Valige jaotises Lisa õigused Ja vali Loo tekstisisene poliitika.
- Kohta JSON vahekaardil muutke poliitikat järgmiselt.
- Vali järgmine.
- eest Poliitika nimi, sisenema
enivpce-policy
. - Vali Loo poliitika.
- Lisage järgmine sisemine poliitika (esitage oma lähte-VPC lõpp-punktid), et piirata Lambda juurdepääsu Amazon Bedrocki API-dele ainult VPC lõpp-punktide kaudu:
- Lambda funktsiooni lehel konfiguratsioon valige vahekaart VPC vasakpoolsel paanil, seejärel valige Edit.
- eest VPC, vali
Bedrock-GenAI-Project-vpc
. - eest Alamvõrgud, valige privaatsed alamvõrgud.
- eest Turvarühmad, vali
gen-ai-lambda-stack-SecurityGroup-
(privaatsete alamvõrkude Amazon Bedrocki töökoormuse turberühm). - Vali Säästa.
Testige privaatset juurdepääsu juhtelemente
Nüüd saate testida privaatset juurdepääsu juhtelemente (Amazon Bedrocki API-sid VPC lõpp-punktide kaudu).
- Valige Lambda konsoolil Funktsioonid navigeerimispaanil.
- Valige funktsioon
gen-ai-lambda-stack-BedrockTestLambdaFunction-XXXXXXXXXXXX
. - Kohta kood valige vahekaart test.
Peaksite nägema järgmist vastust Amazon Bedrocki API kõnest (olek: õnnestus).
- Amazon Bedrocki API-dele juurdepääsu keelamiseks VPC lõpp-punktide kaudu navigeerige Amazon VPC konsooli.
- alla Virtuaalne privaatpilv valige navigeerimispaanil Lõpp-punktid.
- Valige oma poliitika ja liikuge lehele Vahekaart Eeskirjad.
Praegu on VPC lõpp-punkti poliitika seatud Allow
.
- Juurdepääsu keelamiseks valige Redigeeri poliitikat.
- Muutma
Allow
etDeny
Ja vali Säästa.
VPC lõpp-punkti poliitika värskendamiseks võib kuluda kuni 2 minutit.
- Naaske lambda funktsioonide lehele ja kood valige vahekaart test.
Nagu on näidatud järgmisel ekraanipildil, lükati Amazon Bedrocki juurdepääsutaotlus VPC lõpp-punkti kaudu tagasi (olek: ebaõnnestus).
Selle testimisprotsessi käigus näitasime, kuidas liiklus teie VPC-st Amazon Bedrock API lõpp-punktini liigub PrivateLinki ühenduse kaudu, mitte Interneti-ühenduse kaudu.
Koristage
Edaspidiste tasude vältimiseks järgige neid samme.
Järeldus
Selles postituses demonstreerisime, kuidas seadistada ja käivitada privaatne ühendus teie kliendi VPC-le juurutatud generatiivse AI töökoormuse ja Amazon Bedrocki vahel, kasutades PrivateLinki toitega liidese VPC lõpp-punkti. Kui kasutate selles postituses käsitletud arhitektuuri, ei lahku teie kliendi VPC ja Amazon Bedrocki vaheline liiklus Amazoni võrgust, tagades, et teie andmed ei puutuks kokku avalikus Internetis ja aidates sellega kaasa teie vastavusnõuete täitmisele.
Järgmise sammuna proovige lahendust oma kontol ja jagage oma tagasisidet.
Autoritest
Ram Vital on AWS-i peamine ML-lahenduste arhitekt. Tal on üle 3 aastakümne pikkune kogemus hajutatud, hübriid- ja pilverakenduste kujundamisel ja ehitamisel. Ta on kirglik turvaliste ja skaleeritavate tehisintellekti/ML-i ja suurandmete lahenduste loomise vastu, et aidata ettevõtte klientidel pilveteenuse kasutuselevõtul ja optimeerimisel oma äritulemusi parandada. Vabal ajal sõidab ta mootorrattaga ja jalutab oma 3-aastase Sheepadoodle'iga!
Ray Khorsandi on AWS-i AI/ML-spetsialist, kes toetab strateegilisi kliente AI/ML-i parimate tavadega. M.Sc. ja Ph.D. Elektrotehnika ja arvutiteaduse erialal juhatab ta ettevõtteid ehitama turvalisi, skaleeritavaid tehisintellekti/ML-i ja suurandmete lahendusi, et optimeerida oma pilve kasutuselevõttu. Tema kirgede hulka kuuluvad arvutinägemine, NLP, generatiivne AI ja MLOps. Rayle meeldib jalgpalli mängida ja perega kvaliteetaega veeta.
Michael Daniels on AWS-i AI/ML-spetsialist. Tema teadmised seisnevad AI/ML-i ja generatiivsete AI-lahenduste loomises ja juhtimises keeruliste ja väljakutseid pakkuvate äriprobleemide jaoks, mida täiendab tema doktorikraad. ülikoolist. Texasest ja tema M.Sc. arvutiteaduse erialal masinõppes Georgia Tehnoloogiainstituudist. Ta oskab suurepäraselt rakendada tipptasemel pilvetehnoloogiaid, et innoveerida, inspireerida ja muuta valdkonna juhtivaid organisatsioone, suheldes samal ajal tõhusalt sidusrühmadega mis tahes tasemel või ulatuses. Vabal ajal võite Michaeli mägedes suusatamas või lumelauaga sõitmas püüda.
- SEO-põhise sisu ja PR-levi. Võimenduge juba täna.
- PlatoData.Network Vertikaalne generatiivne Ai. Jõustage ennast. Juurdepääs siia.
- PlatoAiStream. Web3 luure. Täiustatud teadmised. Juurdepääs siia.
- PlatoESG. Süsinik, CleanTech, Energia, Keskkond päikeseenergia, Jäätmekäitluse. Juurdepääs siia.
- PlatoTervis. Biotehnoloogia ja kliiniliste uuringute luureandmed. Juurdepääs siia.
- Allikas: https://aws.amazon.com/blogs/machine-learning/use-aws-privatelink-to-set-up-private-access-to-amazon-bedrock/
- :on
- :on
- :mitte
- $ UP
- 1
- 100
- 13
- 16
- 225
- 7
- 8
- 9
- 937
- a
- MEIST
- juurdepääs
- Ligipääs
- konto
- tegevus
- meetmete
- õigusaktid
- lisades
- aadressid
- Vastuvõtmine
- AI
- AI / ML
- võimaldama
- lubatud
- võimaldab
- Ka
- Kuigi
- Amazon
- Amazon EC2
- Amazoni RDS
- Amazon Web Services
- an
- ja
- Antroopne
- mistahes
- API
- API-liidesed
- taotlus
- rakendused
- Rakendades
- arhitektuur
- OLEME
- AS
- seotud
- At
- suurendama
- suurendatud
- suurendab
- kättesaadavus
- saadaval
- vältima
- AWS
- baas
- põhineb
- nimel
- BEST
- parimaid tavasid
- vahel
- Suur
- Big andmed
- ehitama
- Ehitus
- äri
- by
- helistama
- Kutsub
- CAN
- võimeid
- juhul
- maadlus
- kindel
- raske
- muutma
- Vaidluste lahendamine
- koormuste
- kontrollima
- Vali
- Cloud
- pilve adopteerimine
- edastama
- suhtlemine
- keeruline
- Vastavus
- Arvutama
- arvuti
- Arvutiteadus
- Arvuti visioon
- seisund
- ühendus
- Side
- konsool
- sisu
- kontekst
- kontrollida
- kontrolli
- Korporatiivne
- Vastav
- looma
- loodud
- loob
- klient
- Kliendid
- kohandada
- viimase peal
- andmed
- andmebaas
- andmebaasid
- aastakümnete
- näitama
- Näidatud
- keeldutakse
- juurutada
- lähetatud
- kirjeldus
- arendama
- Arendajad
- otsene
- arutatud
- jagatud
- mitu
- do
- kergesti
- mõju
- tõhusalt
- võimaldab
- lõpp
- Lõpp-punkt
- Lõpp-punkti turvalisus
- Inseneriteadus
- tõhustatud
- tagama
- tagades
- sisene
- ettevõte
- ettevõtete
- looma
- näide
- kogemus
- eksperiment
- teadmised
- avatud
- Säritus
- hõlbustada
- Ebaõnnestunud
- pere
- Föderatsioon
- tagasiside
- leidma
- tulemüüri
- Järel
- järgneb
- eest
- Sihtasutus
- Alates
- täielikult
- funktsioon
- tulevik
- värav
- tekitama
- generatiivne
- Generatiivne AI
- Georgia
- saama
- antud
- läheb
- Grupp
- Grupi omad
- Olema
- he
- aitama
- aidates
- tema
- Kuidas
- Kuidas
- HTML
- http
- HTTPS
- hübriid
- ID
- Identity
- IDd
- parandama
- in
- sisaldama
- juhtivad
- info
- Infrastruktuur
- uuendama
- uuenduslik
- inspireerima
- Näiteks
- Instituut
- juhised
- integreerima
- Interface
- Internet
- internetiühendus
- sisse
- kutsub
- IP
- IP-aadressid
- IT
- teekond
- jpg
- Labs
- hiljemalt
- kiht
- juhtivate
- Leads
- õppimine
- kõige vähem
- Lahkuma
- lahkus
- Tase
- peitub
- LINK
- otsin
- masin
- masinõpe
- tegema
- TEEB
- juhitud
- juhtiv
- mai..
- mehhanism
- menüü
- Michael
- protokoll
- Leevendada
- ML
- MLOps
- mudel
- mudelid
- mõõdukus
- muutma
- mootorratas
- nimi
- Navigate
- NAVIGATSIOON
- Vajadus
- võrk
- järgmine
- nlp
- of
- Pakkumised
- on
- ainult
- optimeerimine
- optimeerima
- or
- organisatsioonid
- päritolu
- Muu
- välja
- tulemusi
- üle
- enda
- lehekülg
- pane
- kirglik
- Õigused
- Platon
- Platoni andmete intelligentsus
- PlatoData
- mängimine
- Poliitika
- poliitika
- post
- potentsiaal
- sisse
- tavad
- eeldused
- eelmine
- Peamine
- era-
- privileeg
- probleeme
- protsess
- Toode
- Toote informatsioon
- varaline
- kaitse
- anda
- tingimusel
- avalik
- eesmärkidel
- kvaliteet
- päringud
- kiiresti
- valik
- RAY
- Lugenud
- saab
- taotleda
- Nõuded
- ressurss
- Vahendid
- vastus
- piirav
- seljas
- Roll
- rollid
- Marsruutimine
- jooksmine
- SC
- skaalautuvia
- Skaala
- teadus
- sujuvalt
- Otsing
- Osa
- kindlustama
- kindlalt
- turvalisus
- vaata
- eri
- Serverita
- teenus
- Teenused
- komplekt
- Jaga
- peaks
- näidatud
- So
- jalgpall
- lahendus
- Lahendused
- allikas
- spetsialist
- konkreetse
- määratletud
- Kulutused
- Stabiilsus
- Kestab
- huvirühmad
- alustatud
- Alustavatel
- väljavõte
- olek
- Samm
- Sammud
- Strateegiline
- alamvõrgu
- alamvõrgud
- selline
- Toetamine
- kindel
- Võtma
- Tehnoloogiad
- Tehnoloogia
- šabloon
- test
- Testimine
- texas
- tekst
- et
- .
- oma
- Neile
- SIIS
- sellega
- Need
- nad
- see
- oht
- Läbi
- aeg
- et
- töövahendid
- liiklus
- Muutma
- püüdma
- kaks
- all
- kuni
- Värskendused
- kasutama
- kasutage juhtumit
- kasutamine
- KINNITAGE
- eri
- versioon
- kaudu
- vaade
- virtuaalne
- nägemus
- kõnnib
- tahan
- oli
- we
- web
- veebiteenused
- millal
- mis
- kuigi
- will
- koos
- ilma
- töövoog
- yaml
- sa
- Sinu
- sephyrnet
- tsoonid