Ettevõtted püüavad kiiresti avada generatiivse tehisintellekti potentsiaali, pakkudes juurdepääsu alusmudelitele (FM-idele) erinevatele ärivaldkondadele (LOB). IT-meeskonnad vastutavad selle eest, et aidata LOB-il kiiresti ja paindlikult uuendusi teha, pakkudes samas tsentraliseeritud juhtimist ja jälgitavust. Näiteks võib neil olla vaja jälgida FM-ide kasutamist meeskondade lõikes, tagasimaksekulusid ja pakkuma nähtavust LOB-is vastavale kulukeskusele. Lisaks võib neil olla vaja reguleerida juurdepääsu erinevatele mudelitele meeskonna kohta. Näiteks kui kasutamiseks võib lubada anda ainult teatud FM-id.
Amazonase aluspõhi on täielikult hallatav teenus, mis pakub ühe API kaudu valikut suure jõudlusega alusmudeleid juhtivatelt tehisintellekti ettevõtetelt, nagu AI21 Labs, Anthropic, Cohere, Meta, Stability AI ja Amazon, ning laia valikut võimalusi generatiivse AI loomiseks. turvalisuse, privaatsuse ja vastutustundliku tehisintellektiga rakendused. Kuna Amazon Bedrock on serverita, ei pea te haldama mingit infrastruktuuri ning saate turvaliselt integreerida ja juurutada generatiivseid AI-võimalusi oma rakendustesse, kasutades teile juba tuttavaid AWS-teenuseid.
Vundamendimudelite tarkvara kui teenuse (SaaS) kiht võib pakkuda lõppkasutajatele lihtsat ja järjepidevat liidest, säilitades samal ajal juurdepääsu ja tarbimise tsentraliseeritud juhtimise. API-lüüsid võivad pakkuda mudelitarbijate ja mudeli lõpp-punkti teenuse vahelist lahtist sidet ning paindlikkust muutuvate mudelite, arhitektuuride ja kutsumismeetoditega kohanemiseks.
Selles postituses näitame teile, kuidas luua sisemine SaaS-kiht, et pääseda juurde Amazon Bedrocki vundamendimudelitele mitme rentniku (meeskonna) arhitektuuris. Keskendume konkreetselt kasutuse ja kulude jälgimisele üürniku kohta ning juhtelementidele, nagu kasutuse piiramine üürniku kohta. Kirjeldame, kuidas lahendus ja Amazon Bedrocki tarbimisplaanid sobituvad üldise SaaS-i teekonna raamistikuga. Lahenduse kood ja an AWS pilvearenduskomplekt (AWS CDK) mall on saadaval aadressil GitHubi hoidla.
Väljakutsed
AI platvormi administraator peab pakkuma mitmele arendusmeeskonnale standardiseeritud ja lihtsat juurdepääsu FM-idele.
Järgmised on mõned väljakutsed, mis on seotud sihtasutuste mudelitele reguleeritud juurdepääsu pakkumisega.
- Kulude ja kasutuse jälgimine – Jälgige ja auditeerige üksikute üürnike kulusid ja sihtasutuse mudelite kasutamist ning tagage kulud konkreetsetele kulukeskustele
- Eelarve ja kasutuse juhtelemendid – hallata API kvoote, eelarvet ja kasutuspiiranguid sihtasutuste mudelite lubatud kasutamiseks määratud sagedusega üürniku kohta
- Juurdepääsu kontroll ja mudeli juhtimine – Määratlege juurdepääsu juhtelemendid konkreetsetele lubatud loetletud mudelitele rentniku kohta
- Mitme rentniku standardiseeritud API – Tagada järjepidev juurdepääs vundamendimudelitele OpenAPI standardite
- API tsentraliseeritud haldamine – Pakkuge mudelitele juurdepääsuks API-võtmete haldamiseks ühte kihti
- Mudeli versioonid ja uuendused – Käsitsege uute ja värskendatud mudeliversioonide levitamist
Lahenduse ülevaade
Selles lahenduses viitame a mitme üürnikuga lähenemine. A üürnik see võib ulatuda üksikust kasutajast, konkreetsest projektist, meeskonnast või isegi tervest osakonnast. Lähenemise üle arutledes kasutame seda terminit meeskond, sest see on kõige levinum. Kasutame API-võtmeid, et piirata ja jälgida meeskondade API-juurdepääsu. Igale meeskonnale on FM-idele juurdepääsuks määratud API-võti. Organisatsioonis võib kasutada erinevaid kasutaja autentimis- ja autoriseerimismehhanisme. Lihtsuse huvides me neid sellesse lahendusse ei kaasa. Selle lahendusega saate integreerida ka olemasolevad identiteedipakkujad.
Järgmine diagramm võtab kokku lahenduse arhitektuuri ja põhikomponendid. Eraldi kulukeskustesse määratud meeskonnad (üürnikud) tarbivad API-teenuse kaudu Amazon Bedrocki FM-e. Tarbimise ja kulu jälgimiseks meeskonna kohta logib lahendus andmed iga üksiku väljakutse kohta, sealhulgas käivitatud mudeli, teksti genereerimise mudelite märkide arvu ja multimodaalsete mudelite kujutise mõõtmed. Lisaks koondab see iga meeskonna väljakutsed mudelite ja kulud.
Saate lahenduse juurutada oma kontol, kasutades AWS CDK-d. AWS CDK on avatud lähtekoodiga tarkvara arendusraamistik, mis võimaldab modelleerida ja varustada teie pilverakenduste ressursse, kasutades tuttavaid programmeerimiskeeli. AWS CDK kood on saadaval aadressil GitHubi hoidla.
Järgmistes osades käsitleme lahenduse põhikomponente üksikasjalikumalt.
Vundamendimudeli kasutamise jäädvustamine meeskonna kohta
FM-kasutuse jäädvustamise töövoog meeskonna kohta koosneb järgmistest sammudest (nagu on nummerdatud eelmisel diagrammil):
- Meeskonna rakendus saadab POST-päringu aadressile Amazon API värav koos mudeliga, mida kasutatakse
model_id
päringu parameeter ja kasutajaviiba päringu kehas. - API lüüs suunab päringu aadressile AWS Lambda funktsioon (
bedrock_invoke_model
), mis vastutab meeskonna kasutusteabe sisselogimise eest Amazon CloudWatch ja Amazon Bedrocki mudelile tuginemine. - Amazon Bedrock pakub VPC lõpp-punkti, mida toidab AWS PrivateLink. Selles lahenduses saadab funktsioon Lambda päringu Amazon Bedrockile, kasutades PrivateLinki, et luua privaatne ühendus teie kontol oleva VPC ja Amazon Bedrocki teenusekonto vahel. PrivateLinki kohta lisateabe saamiseks vaadake Kasutage Amazon Bedrocki privaatjuurdepääsu seadistamiseks AWS PrivateLinki.
- Pärast Amazonase aluspõhja üleskutset Amazon CloudTrail genereerib a CloudTraili sündmus.
- Kui Amazon Bedrocki kõne õnnestub, logib Lambda funktsioon sõltuvalt käivitatud mudeli tüübist järgmise teabe ja tagastab rakendusele loodud vastuse:
- meeskonna_id – päringu esitanud meeskonna kordumatu identifikaator.
- taotluse ID – päringu kordumatu identifikaator.
- mudeli_id – kutsutava mudeli ID.
- inputTokens – Viiba osana mudelile saadetud märkide arv (teksti genereerimise ja manustamismudelite jaoks).
- väljundmärgid – Mudeli poolt genereeritavate märkide maksimaalne arv (teksti genereerimise mudelite puhul).
- kõrgus – Nõutud pildi kõrgus (mitmemodaalsete mudelite ja mitmeliigiliste manustamismudelite puhul).
- laius – Nõutud pildi laius (ainult multimodaalsete mudelite puhul).
- samme – nõutavad sammud (stabiilsuse AI mudelite puhul).
Jälgimiskulud meeskonna kohta
Teistsugune voog koondab kasutusteabe, arvutab ja salvestab iga päev nõudmisel kulud meeskonna kohta. Eraldi voo kasutamisel tagame, et kulude jälgimine ei mõjuta mudeli kutsumisvoo latentsust ja läbilaskevõimet. Töövoo etapid on järgmised.
- An Amazon EventBridge reegel käivitab lambda funktsiooni (
bedrock_cost_tracking
) iga päev. - Lambda funktsioon hangib CloudWatchist eelmise päeva kasutusteabe, arvutab seotud kulud ja salvestab andmed, mis on koondatud
team_id
jamodel_id
in Amazoni lihtne salvestusteenus (Amazon S3) CSV-vormingus.
Amazon S3-sse salvestatud andmete päringute tegemiseks ja visualiseerimiseks on teil erinevaid võimalusi, sealhulgas S3 Valigeja Amazon Athena ja Amazon QuickSight.
Kasutamise juhtimine meeskonna kohta
Kasutusplaan määrab kindlaks, kes pääseb juurde ühele või mitmele juurutatud API-le, ja määrab valikuliselt päringu sihtmäära, et alustada taotluste piiramist. Plaan kasutab API võtmeid, et tuvastada API kliendid, kellel on iga võtme jaoks juurdepääs seotud API-le. Saate kasutada API lüüsi kasutusplaanid eelmääratletud lävesid ületavate taotluste piiramiseks. Võite ka kasutada API võtmed ja kvoodipiirangud, mis võimaldavad teil määrata maksimaalse taotluste arvu API-võtme kohta, mida igal meeskonnal on lubatud teatud ajaintervalli jooksul väljastada. See on lisaks Amazon Bedrocki teenusekvoodid mis on määratud ainult konto tasemel.
Eeldused
Enne lahenduse juurutamist veenduge, et teil on olemas järgmised asjad.
Juurutage AWS CDK virn
Järgige juhiseid README GitHubi hoidla fail, et konfigureerida ja juurutada AWS CDK pinu.
Virn juurutab järgmisi ressursse:
- Privaatne võrgukeskkond (VPC, privaatsed alamvõrgud, turvarühm)
- IAM-i roll mudeli juurdepääsu kontrollimiseks
- Lambda kihid vajalikele Pythoni moodulitele
- Lambda funktsioon
invoke_model
- Lambda funktsioon
list_foundation_models
- Lambda funktsioon
cost_tracking
- Rest API (API lüüs)
- API lüüsi kasutusplaan
- Kasutusplaaniga seotud API võti
Uue meeskonna pardal
Uutele meeskondadele juurdepääsu võimaldamiseks saate jagada sama API-võtit erinevate meeskondade vahel ja jälgida mudeli tarbimist, pakkudes erinevat team_id
API kutsumiseks või looge spetsiaalsed API võtmed, mida kasutatakse Amazon Bedrocki ressurssidele juurdepääsuks, järgides README.
Virn juurutab järgmisi ressursse:
- API lüüsi kasutusplaan, mis on seotud varem loodud REST API-ga
- API-võti, mis on seotud uue meeskonna kasutusplaaniga, API jaoks reserveeritud drossel- ja sarivõtte konfiguratsioonidega
Lisateavet API lüüsi piiramise ja sarivõtte konfiguratsioonide kohta leiate aadressilt Throttle API taotlused parema läbilaskevõime tagamiseks.
Pärast virna juurutamist näete, et uus API võti jaoks team-2
luuakse samuti.
Mudeli juurdepääsukontrolli konfigureerimine
Platvormi administraator saab lubada juurdepääsu konkreetsetele alusmudelitele, redigeerides funktsiooniga Lambda seotud IAM-i poliitikat invoke_model
.
IAM-i õigused on failis määratletud setup/stack_constructs/iam.py. Vaadake järgmist koodi:
Kutsu teenust
Pärast lahenduse juurutamist saate teenuse otse koodist välja kutsuda. Järgnev
on näide Pythonis selle tarbimiseks invoke_model
API teksti genereerimiseks POST-päringu kaudu:
Väljund: Amazon Bedrock on sisemine tehnoloogiaplatvorm, mille Amazon on välja töötanud paljude nende teenuste ja toodete käitamiseks ja käitamiseks. Mõned põhiasjad Bedrocki kohta …
Järgmine on Pythonis veel üks näide selle tarbimiseks invoke_model
API manustuste genereerimiseks POST-päringu kaudu:
model_id = "amazon.titan-embed-text-v1" #the model id for the Amazon Titan Embeddings Text model prompt = "What is Amazon Bedrock?" response = requests.post( f"{api_url}/invoke_model?model_id={model_id}", json={"inputs": prompt, "parameters": model_kwargs}, headers={ "x-api-key": api_key, #key for querying the API "team_id": team_id #unique tenant identifier, "embeddings": "true" #boolean value for the embeddings model }
) text = response.json()[0]["embedding"]
Väljund: 0.91796875, 0.45117188, 0.52734375, -0.18652344, 0.06982422, 0.65234375, -0.13085938, 0.056884766, 0.092285156, 0.06982422 . 1.03125, 0.8515625 …
Juurdepääs vundamendimudelitele keelatud
Järgmine on näide Pythonis selle tarbimiseks invoke_model
API teksti genereerimiseks POST-päringu kaudu juurdepääsu keelamise vastusega:
Traceback (viimane kõne viimane):n Fail ”/var/task/index.py”, rida 213, vastuses lambda_handlern = _invoke_text(bedrock_client, model_id, body, model_kwargs)n Fail ”/var/task/index.py ”, rida 146, in _invoke_textn raise et Fail ”/var/task/index.py”, rida 131, in _invoke_textn response = bedrock_client.invoke_model(n Fail ”/opt/python/botocore/client.py”, rida 535, _api_calln tagastab self._make_api_call(operatsiooni_nimi, kwargs)n Faili ”/opt/python/botocore/client.py”, rida 980, _make_api_calln tõsta error_class(parsed_response, operation_name)nbotocore.errorfactory.errorfactor Operatsiooni InvokeModel kutsumisel ilmnes viga (AccessDeniedException): teie kontol ei ole luba seda API-toimingut käivitada.n”
Kulude prognoosi näide
Tellitava hinnakujundusega Amazon Bedrocki mudelite kasutamisel arvutatakse kogukulu sisend- ja väljundkulude summana. Sisendkulud põhinevad mudelile saadetud sisendmärkide arvul ja väljundkulud genereeritud märkidel. Hinnad on 1,000 sisendmärgi ja 1,000 väljundmärgi kohta. Lisateabe saamiseks ja konkreetsete mudelihindade saamiseks vaadake Amazoni aluspõhja hinnakujundus.
Vaatame näidet, kus kaks meeskonda, team1 ja team2, pääsevad Amazon Bedrocki juurde selle postituse lahenduse kaudu. Ühe päeva jooksul Amazon S3-sse salvestatud kasutus- ja kuluandmed on näidatud järgmises tabelis.
Veerud input_tokens
ja output_tokens
salvestada sisend- ja väljundmärke kogu mudeli kutsete lõikes vastavalt mudelile ja meeskonnale antud päeva kohta.
Veerud input_cost
ja output_cost
salvestage vastavad kulud mudeli ja meeskonna kohta. Need arvutatakse järgmiste valemite abil:
input_cost = input_token_count * model_pricing["input_cost"] / 1000
output_cost = output_token_count * model_pricing["output_cost"] / 1000
meeskonna_id | mudeli_id | sisend_tokenid | väljundi_märgid | väljakutsed | sisend_kulu | väljundkulu |
Team1 | amazon.titan-tg1-large | 24000 | 2473 | 1000 | 0.0072 | 0.00099 |
Team1 | antropiline.claude-v2 | 2448 | 4800 | 24 | 0.02698 | 0.15686 |
Team2 | amazon.titan-tg1-large | 35000 | 52500 | 350 | 0.0105 | 0.021 |
Team2 | ai21.j2-grande-instruct | 4590 | 9000 | 45 | 0.05738 | 0.1125 |
Team2 | antropiline.claude-v2 | 1080 | 4400 | 20 | 0.0119 | 0.14379 |
Funktsionaalse mitme rentniku serverita SaaS-keskkonna otspunktvaade
Saame aru, milline võiks välja näha täisfunktsionaalse mitme rentniku serverita SaaS-i keskkond. Järgmine on arhitektuuri viiteskeem.
See arhitektuuriskeem on postituses varem selgitatud eelmise arhitektuuriskeemi väljasuumitud versioon, kus eelmine arhitektuuriskeem selgitab ühe mainitud mikroteenuse (põhimudeli teenus) üksikasju. See diagramm selgitab, et lisaks põhimudeliteenusele peavad teie mitme rentniku SaaS-i platvormil olema ka muud komponendid, et rakendada funktsionaalset ja skaleeritavat platvormi.
Käime läbi arhitektuuri üksikasjad.
Üürniku taotlused
Rentnikurakendused on esiotsa rakendused, mis suhtlevad keskkonnaga. Siin näitame mitut üürnikku, kes pääsevad juurde erinevatest kohalikest või AWS-i keskkondadest. Esiotsa rakendusi saab laiendada, et lisada registreerimisleht uutele üürnikele end registreerida ja administraatorikonsooli SaaS-i teenusekihi administraatoritele. Kui rentnikurakendused nõuavad kohandatud loogika rakendamist, mis vajab suhtlemist SaaS-i keskkonnaga, saavad nad rakendada rakenduseadapteri mikroteenuse spetsifikatsioone. Näidisstsenaariumid võivad olla kohandatud autoriseerimisloogika lisamine, järgides samal ajal SaaS-i keskkonna autoriseerimisspetsifikatsioone.
Jagatud teenused
Järgmised on jagatud teenused:
- Üürnike ja kasutajate haldusteenused – Need teenused vastutavad üürnike registreerimise ja haldamise eest. Need pakuvad valdkondadevahelist funktsionaalsust, mis on rakendusteenustest eraldiseisev ja jagatud kõigi rentnike vahel.
- Vundamendi mudeliteenus -Selle postituse alguses selgitatud lahenduse arhitektuuri diagramm esindab seda mikroteenust, kus API Gateway ja Lambda funktsioonide interaktsioon toimub selle mikroteenuse raames. Kõik üürnikud kasutavad seda mikroteenust Anthropicu, AI21, Cohere'i, Stability'i, Meta ja Amazoni vundamentide mudelite ning peenhäälestatud mudelite käivitamiseks. Samuti salvestab see CloudWatchi logidesse kasutuse jälgimiseks vajaliku teabe.
- Kulude jälgimise teenus – See teenus jälgib iga üürniku kulusid ja kasutust. See mikroteenus töötab ajakava alusel, et teha päringuid CloudWatchi logidest ja väljastada koondkasutusjälgimine ja tuletatud kulud andmesalvestusruumi. Kulude jälgimise teenust saab laiendada, et luua täiendavaid aruandeid ja visualiseerimist.
Rakenduse adapteri teenus
See teenus pakub komplekti spetsifikatsioone ja API-sid, mida rentnik võib rakendada, et integreerida oma kohandatud loogika SaaS-i keskkonda. Olenevalt sellest, kui palju kohandatud integreerimist on vaja, võib see komponent olla rentnike jaoks valikuline.
Mitme rentniku andmesalv
Jagatud teenused salvestavad oma andmed andmesalves, mida saab jagada ühekordselt Amazon DynamoDB tabel rentniku partitsioonivõtmega, mis seostab DynamoDB üksused üksikute rentnikega. Kulude jälgimise jagatud teenus väljastab Amazon S3-le koondkasutus- ja kulude jälgimise andmed. Sõltuvalt kasutusjuhtumist võib olla ka rakendusepõhine andmesalv.
Mitme rentnikuga SaaS-i keskkonnas võib olla palju rohkem komponente. Lisateabe saamiseks vaadake Mitme rentniku SaaS-lahenduse loomine AWS-i serverita teenuste abil.
Mitme juurutusmudeli tugi
SaaS-i raamistikud kirjeldavad tavaliselt kahte juurutusmudelit: bassein ja silo. Plaadimudeli puhul pääsevad kõik üürnikud FM-idele juurde ühisest salvestus- ja arvutustaristuga jagatud keskkonnast. Silomudelis on igal rentnikul oma spetsiaalsete ressursside komplekt. Isolatsioonimudelite kohta saate lugeda SaaS-i üürnike isoleerimisstrateegiate valge raamat.
Pakutud lahendust saab kasutada mõlema SaaS-i juurutusmudeli jaoks. Puuli lähenemisviisi korral hostib API, salvestusruumi ja arvutusressursse tsentraliseeritud AWS-i keskkond. Silorežiimis pääseb iga meeskond juurde API-dele, salvestusruumile ja arvutusressurssidele spetsiaalses AWS-i keskkonnas.
Lahendus sobib ka Amazon Bedrocki pakutavate saadaolevate tarbimisplaanidega. AWS pakub järelduste tegemiseks kahte tarbimisplaani:
- On-Demand - See režiim võimaldab teil kasutada vundamendimudeleid jaotuspõhiselt, ilma et peaksite võtma mingeid ajapõhiseid tähtajalisi kohustusi
- Ettenähtud läbilaskevõime – See režiim võimaldab teil pakkuda oma rakenduse jõudlusnõuete täitmiseks piisavat läbilaskevõimet vastutasuks ajapõhise tähtajalise kohustuse eest
Nende valikute kohta lisateabe saamiseks vaadake Amazoni aluspõhja hinnakujundus.
Selles postituses kirjeldatud serverita SaaS-i võrdluslahendus võib rakendada Amazon Bedrocki tarbimisplaane, et pakkuda lõppkasutajatele põhilisi ja esmaklassilisi tasemevalikuid. Põhiline võib hõlmata Amazon Bedrocki tellitavat või ette nähtud läbilaskevõimet ning konkreetseid kasutus- ja eelarvepiiranguid. Üürnike piiranguid saab lubada päringute piiramisega, mis põhinevad taotlustel, loa suurusel või eelarveeraldisel. Premium taseme üürnikel võivad olla oma spetsiaalsed ressursid Amazon Bedrocki läbilaskevõimega. Need üürnikud on tavaliselt seotud tootmistöökoormustega, mis nõuavad suurt läbilaskevõimet ja madalat latentsust juurdepääsu Amazon Bedrocki FM-idele.
Järeldus
Selles postituses arutasime, kuidas luua sisemist SaaS-i platvormi, et pääseda juurde Amazon Bedrocki alusmudelitele mitme rentniku seadistuses, keskendudes kulude ja kasutuse jälgimisele ning iga rentniku piirangutele. Täiendavad uuritavad teemad hõlmavad olemasolevate autentimis- ja autoriseerimislahenduste integreerimist organisatsiooni, API kihi täiustamist, et lisada veebipesad kahesuunaliste kliendiserveri interaktsioonide jaoks, sisu filtreerimise ja muude juhtimispiirete lisamine, mitme juurutustasandi kujundamine, muude mikroteenuste integreerimine SaaS-i. arhitektuur ja palju muud.
Kogu selle lahenduse kood on saadaval aadressil GitHubi hoidla.
SaaS-põhiste raamistike kohta lisateabe saamiseks vaadake SaaS-i teekonna raamistik: uue SaaS-i lahenduse loomine AWS-is.
Autoritest
Hasan Poonawala on AWS-i AI/ML-i spetsialistlahenduste vanemarhitekt, kes töötab tervishoiu- ja bioteaduste klientidega. Hasan aitab AWS-is kujundada, juurutada ja skaleerida generatiivseid AI- ja masinõpperakendusi. Tal on üle 15-aastane kombineeritud töökogemus masinõppe, tarkvaraarenduse ja pilvepõhise andmeteaduse vallas. Vabal ajal armastab Hasan loodust uurida ning sõprade ja perega aega veeta.
Anastasia Tzeveleka on AWS-i AI/ML-lahenduste vanemarhitekt. Osana oma tööst aitab ta klientidel üle EMEA luua alusmudeleid ning luua AWS-teenuseid kasutades skaleeritavaid generatiivseid tehisintellekti ja masinõppe lahendusi.
Brupole kolvi on Milanos asuva AWS-i generatiivse AI ja ML spetsialistilahenduste arhitekt. Ta töötab suurklientidega, aidates neil oma tehnilisi vajadusi põhjalikult mõista ning kavandada tehisintellekti ja masinõppe lahendusi, mis kasutavad AWS-i pilve ja Amazoni masinõppe pinu kõige paremini ära. Tema teadmised hõlmavad järgmist: masinõpe otsast lõpuni, masinõppe industrialiseerimine ja generatiivne AI. Talle meeldib veeta aega oma sõpradega ja avastada uusi kohti, aga ka reisida uutesse sihtkohtadesse.
Vikesh Pandey on Generative AI/ML Solutions arhitekt, kes on spetsialiseerunud finantsteenustele, kus ta aitab finantsklientidel luua ja skaleerida Generative AI/ML platvorme ja lahendusi, mis ulatuvad sadade kuni isegi tuhandeteni kasutajateni. Vabal ajal meeldib Vikeshile kirjutada erinevatesse ajaveebifoorumitesse ja ehitada koos lapsega legosid.
- SEO-põhise sisu ja PR-levi. Võimenduge juba täna.
- PlatoData.Network Vertikaalne generatiivne Ai. Jõustage ennast. Juurdepääs siia.
- PlatoAiStream. Web3 luure. Täiustatud teadmised. Juurdepääs siia.
- PlatoESG. Süsinik, CleanTech, Energia, Keskkond päikeseenergia, Jäätmekäitluse. Juurdepääs siia.
- PlatoTervis. Biotehnoloogia ja kliiniliste uuringute luureandmed. Juurdepääs siia.
- Allikas: https://aws.amazon.com/blogs/machine-learning/build-an-internal-saas-service-with-cost-and-usage-tracking-for-foundation-models-on-amazon-bedrock/
- :on
- :on
- :mitte
- : kus
- $ UP
- 000
- 1
- 120
- 15 aastat
- 15%
- 160
- 26%
- 500
- 7
- a
- MEIST
- juurdepääs
- Ligipääs
- konto
- üle
- kohandama
- lisades
- lisamine
- Täiendavad lisad
- Lisaks
- admin
- administraatorid
- vastu
- agregaatide
- AI
- AI mudelid
- AI platvorm
- AI / ML
- Materjal: BPA ja flataatide vaba plastik
- eraldamine
- võimaldama
- võimaldab
- mööda
- juba
- Ka
- Amazon
- Amazoni masinõpe
- Amazon QuickSight
- Amazon Web Services
- an
- ja
- Teine
- Antroopne
- mistahes
- lahus
- API
- API juurdepääs
- API VÕTMED
- API-liidesed
- taotlus
- rakendused
- kehtima
- lähenemine
- heaks
- arhitektuur
- Arhitektuurid
- OLEME
- AS
- määratud
- seotud
- kaastöötajad
- At
- audit
- Autentimine
- luba
- volitatud
- saadaval
- AWS
- põhineb
- põhiline
- alus
- BE
- sest
- Algus
- BEST
- Parem
- vahel
- Blogi
- keha
- mõlemad
- lai
- eelarve
- ehitama
- Ehitus
- äri
- by
- arvutatud
- arvutab
- helistama
- kutsudes
- CAN
- võimeid
- lüüa
- lööb
- juhul
- keskus
- Centers
- tsentraliseeritud
- väljakutseid
- muutuv
- valik
- klient
- kliendid
- Cloud
- kood
- Veerud
- kombineeritud
- ühine
- Ettevõtted
- komponent
- komponendid
- Arvutama
- konfiguratsioon
- ühendus
- järjepidev
- koosneb
- konsool
- tarbima
- Tarbijad
- tarbivad
- tarbimine
- sisu
- kontrollida
- kontroll
- kontrolli
- Maksma
- kulud
- võiks
- looma
- loodud
- tava
- Kliendid
- iga päev
- andmed
- andmeteadus
- andmete salvestamine
- päev
- pühendunud
- sügavalt
- määratlema
- määratletud
- keeldutakse
- osakond
- Olenevalt
- juurutada
- lähetatud
- kasutuselevõtu
- juurutab
- kirjeldama
- kirjeldatud
- Disain
- projekteerimine
- sihtkohtadesse
- detail
- detailid
- arenenud
- & Tarkvaraarendus
- arendusmeeskonnad
- skeem
- erinev
- mõõdud
- otse
- arutama
- arutatud
- do
- Ei tee
- Ära
- iga
- Ajalugu
- lihtne
- mõju
- kumbki
- kinnistamine
- EMEA
- võimaldama
- lubatud
- lõpp
- Lõpuks-lõpuni
- Lõpp-punkt
- suurendamine
- tagama
- Kogu
- keskkond
- keskkondades
- viga
- looma
- Isegi
- sündmus
- näide
- ületama
- vahetamine
- olemasolevate
- kogemus
- teadmised
- selgitas
- Selgitab
- uurima
- Avastades
- ekspress
- pikendatud
- tuttav
- pere
- fail
- filtreerimine
- finants-
- finantsteenused
- sobib
- Paindlikkus
- voog
- Keskenduma
- Järel
- järgneb
- eest
- formaat
- Foorumid
- Sihtasutus
- alus
- Sihtasutused
- Raamistik
- raamistikud
- Sagedus
- sõbrad
- Alates
- esi-
- Esiots
- täielikult
- funktsioon
- funktsionaalne
- funktsionaalsus
- funktsioonid
- edasi
- värav
- väravad
- Üldine
- loodud
- genereerib
- põlvkond
- generatiivne
- Generatiivne AI
- saab
- GitHub
- antud
- Go
- valitsemistava
- juhitakse
- Grupp
- käepide
- Juhtub
- Olema
- võttes
- he
- tervishoid
- kõrgus
- aidates
- aitab
- siin
- siin
- Suur
- suure jõudlusega
- tema
- hosts
- Kuidas
- Kuidas
- HTML
- http
- HTTPS
- sajad
- ID
- tunnus
- identifitseerima
- Identity
- if
- pilt
- mõju
- rakendada
- rakendatud
- in
- sisaldama
- Kaasa arvatud
- eraldi
- järeldada
- info
- Infrastruktuur
- uuendama
- sisend
- sisendite
- juhised
- integreerima
- Integreerimine
- integratsioon
- suhelda
- suhtlemist
- interaktsioonid
- Interface
- sisemine
- sisse
- kutsutud
- isolatsioon
- probleem
- väljaandmine
- IT
- kirjed
- ITS
- teekond
- jpg
- Võti
- võtmed
- laps
- Labs
- Keeled
- suur
- viimane
- Hilinemine
- kiht
- kihid
- juhtivate
- Õppida
- õppimine
- Tase
- elu
- Maaülikooli
- nagu
- meeldib
- piirid
- joon
- liinid
- Loetletud
- kohalik
- metsaraie
- loogika
- Vaata
- näeb välja
- Partii
- armastab
- Madal
- masin
- masinõpe
- säilitamine
- tegema
- juhtima
- juhitud
- juhtimine
- juhtiv
- palju
- kaart
- maksimaalne
- mai..
- mehhanismid
- Vastama
- mainitud
- Meta
- meetodid
- mikroteenus
- mikroteenused
- võib
- MILAN
- ML
- viis
- mudel
- mudelid
- Jälgida
- rohkem
- kõige
- palju
- mitmekordne
- loodus
- vajalik
- Vajadus
- vaja
- vajadustele
- võrgustike loomine
- Uus
- number
- nummerdatud
- toimunud
- of
- Pakkumised
- on
- On-Demand
- ONE
- ainult
- avatud
- avatud lähtekoodiga
- töötama
- töö
- Valikud
- or
- et
- organisatsioon
- Muu
- kontuur
- väljund
- väljundid
- üle
- enda
- lehekülg
- parameeter
- parameetrid
- osa
- kohta
- jõudlus
- Õigused
- Kohad
- kava
- plaanid
- inimesele
- Platvormid
- Platon
- Platoni andmete intelligentsus
- PlatoData
- poliitika
- ujula
- post
- potentsiaal
- sisse
- eelnev
- ettemääratud
- preemia
- kingitusi
- eelmine
- varem
- Hinnad
- hinnapoliitika
- privaatsus
- era-
- Produktsioon
- Toodet
- Programming
- programmeerimiskeeled
- projekt
- pakutud
- anda
- tingimusel
- pakkujad
- annab
- pakkudes
- säte
- Python
- päringu
- kiiresti
- tõstma
- valik
- määr
- Lugenud
- hiljuti
- viitama
- viide
- registreerima
- registreerimine
- Registreerimine
- Reguleerige
- asjakohane
- Aruanded
- Hoidla
- esindab
- taotleda
- Taotlusi
- nõudma
- Nõuded
- reserveeritud
- Vahendid
- austades
- need
- vastavalt
- vastus
- vastutav
- REST
- piirata
- tagasipöördumine
- Tulu
- Roll
- liinidel
- Eeskiri
- jooks
- jookseb
- SaaS
- sama
- salvestatud
- skaalautuvia
- Skaala
- Kaalud
- stsenaariumid
- ajakava
- teadus
- TEADUSED
- ulatus
- lõigud
- kindlalt
- turvalisus
- vaata
- otsib
- SELF
- saadab
- vanem
- Saadetud
- eri
- server
- Serverita
- teenus
- teenused
- komplekt
- Komplektid
- seade
- Jaga
- jagatud
- ta
- näitama
- näidatud
- lihtne
- lihtsus
- ühekordne
- suurused
- tarkvara
- tarkvara
- tarkvaraarenduse
- lahendus
- Lahendused
- mõned
- allikas
- spetsialiseerunud
- spetsialist
- konkreetse
- eriti
- spetsifikatsioonid
- määratletud
- kiirus
- kulutama
- Kulutused
- Stabiilsus
- Kestab
- algus
- Sammud
- ladustamine
- salvestada
- ladustatud
- kauplustes
- strateegiad
- alamvõrgud
- edukas
- selline
- piisav
- kindel
- tabel
- sihtmärk
- meeskond
- meeskonnad
- Tehniline
- Tehnoloogia
- šabloon
- üürnik
- termin
- tekst
- et
- .
- teave
- oma
- Neile
- ennast
- SIIS
- Seal.
- Need
- nad
- asjad
- see
- tuhandeid
- Läbi
- läbilaskevõime
- rida
- aeg
- Titan
- et
- sümboolne
- märgid
- Teemasid
- Summa
- jälgida
- Jälgimine
- Lood
- tõsi
- kaks
- tüüp
- tüüpiliselt
- mõistma
- ainulaadne
- avamine
- ajakohastatud
- Kasutus
- kasutama
- kasutage juhtumit
- Kasutatud
- Kasutaja
- Kasutajad
- kasutusalad
- kasutamine
- v1
- väärtus
- eri
- versioon
- versioonid
- kaudu
- vaade
- nähtavus
- visualiseerimine
- visualiseeri
- we
- web
- veebiteenused
- Veebipesad
- Hästi
- M
- Mis on
- millal
- mis
- kuigi
- WHO
- laius
- koos
- jooksul
- ilma
- Töö
- töövoog
- töö
- töötab
- oleks
- kirjutama
- aastat
- sa
- Sinu
- sephyrnet