Määritä yritystason kustannusten allokointi ML-ympäristöille ja työkuormille käyttämällä resurssien taggausta Amazon SageMakerissa

Julkaissut Platon

seuraajia: 0

Samalla kun yritykset ja IT-johtajat pyrkivät nopeuttamaan koneoppimisen (ML) käyttöönottoa, on kasvava tarve ymmärtää ML-ympäristösi kulujen ja kustannusten allokointi, jotta se vastaa yrityksen vaatimuksia. Ilman asianmukaista kustannusten hallintaa ja hallintoa ML-kulutuksesi voivat aiheuttaa yllätyksiä kuukausittaisessa AWS-laskussasi. Amazon Sage Maker on täysin hallittu ML-alusta pilvessä, joka varustaa yritysasiakkaamme työkaluilla ja resursseilla kustannusten allokointitoimenpiteiden määrittämiseen ja parantaa näkyvyyttä yksityiskohtaisiin kustannuksiin ja tiimeihisi, liiketoimintayksiköihisi, tuotteidesi ja muuhun käyttöön.

Tässä viestissä jaamme vinkkejä ja parhaita käytäntöjä kustannusten kohdentamisesta SageMaker-ympäristössäsi ja työkuormissa. Lähes kaikissa AWS-palveluissa, mukaan lukien SageMaker, tunnisteiden lisääminen resursseihin on tavallinen tapa seurata kustannuksia. Nämä tunnisteet voivat auttaa sinua seuraamaan, raportoimaan ja seuraamaan ML-kulutustasi käyttämällä valmiita ratkaisuja, kuten AWS-kustannuslaskuri ja AWS-budjetit, sekä räätälöityjä ratkaisuja, jotka on rakennettu peräisin olevien tietojen perusteella AWS-kustannus- ja käyttöraportit (CUR:t).

Kustannusten kohdistusmerkintä

Kustannusten allokointi AWS:ssä on kolmivaiheinen prosessi:

Liittää kustannusten kohdentamistagit resursseihisi.
Aktivoi tunnisteet Kustannusten kohdistustunnisteet AWS-laskutuskonsolin osiossa.
Käytä tunnisteita kustannusten kohdistusraportoinnin seuraamiseen ja suodattamiseen.

Kun olet luonut ja liittänyt tunnisteita resursseihin, ne näkyvät AWS-laskutuskonsolissa Kustannusten kohdistustunnisteet osan Käyttäjän määrittämät kustannusten kohdistustunnisteet. Tunnisteiden näkyminen luomisen jälkeen voi kestää jopa 24 tuntia. Sinun on sitten aktivoitava nämä tunnisteet AWS:lle, jotta voit alkaa seurata niitä resursseissasi. Tyypillisesti tunnisteen aktivoinnin jälkeen kestää noin 24–48 tuntia, ennen kuin tunnisteet tulevat näkyviin Cost Explorerissa. Helpoin tapa tarkistaa, toimivatko tagit, on etsiä uusi tunniste Cost Explorerin tagisuodattimesta. Jos se on siellä, olet valmis käyttämään tunnisteita kustannusten kohdistusraportoinnissa. Voit sitten ryhmitellä tulokset tunnisteavainten mukaan tai suodattaa tunnistearvojen mukaan seuraavan kuvakaappauksen mukaisesti.

Yksi huomioitava asia: jos käytät AWS-organisaatiot ja niillä on linkitetyt AWS-tilit, tunnisteet voidaan aktivoida vain ensisijaisella maksajan tilillä. Vaihtoehtoisesti voit myös aktivoida AWS-tilien CUR-arvoja, jotka mahdollistavat kustannusten kohdistusraportit CSV-tiedostona, jossa käyttö- ja kustannukset on ryhmitelty aktiivisten tunnisteiden mukaan. Tämä antaa sinulle yksityiskohtaisemman kustannusseurannan ja helpottaa omien mukautettujen raportointiratkaisujen määrittämistä.

Merkintä SageMakerissa

Korkealla tasolla SageMaker-resurssien merkitseminen voidaan ryhmitellä kahteen ryhmään:

Joko SageMaker-muistikirjaympäristön merkitseminen Amazon SageMaker Studio verkkotunnuksia ja verkkotunnuksen käyttäjiä tai SageMaker-muistikirjan esiintymiä
SageMakerin ohjaamien töiden (merkintä, käsittely, koulutus, hyperparametrien viritys, erämuunnos ja paljon muuta) ja resurssien (kuten mallien, työryhmien, päätepistemäärittelyjen ja päätepisteiden) merkitseminen

Käsittelemme näitä yksityiskohtaisemmin tässä viestissä ja tarjoamme ratkaisuja hallintavalvontaan hyvän merkintähygienian varmistamiseksi.

SageMaker Studio -verkkotunnusten ja -käyttäjien merkitseminen

Studio on verkkopohjainen, integroitu kehitysympäristö (IDE) ML:lle, jonka avulla voit rakentaa, kouluttaa, jäljittää, ottaa käyttöön ja valvoa ML-mallejasi. Voit käynnistää Studio-muistikirjoja nopeasti ja soittaa dynaamisesti ylös- tai alaspäin taustalla oleviin laskentaresursseihin keskeyttämättä työtäsi.

Jotta voit merkitä nämä dynaamiset resurssit automaattisesti, sinun on määritettävä tunnisteet SageMaker-verkkotunnuksen ja verkkotunnuksen käyttäjille, joilla on pääsy näihin resursseihin. Voit määrittää nämä tunnisteet tags-parametrissa luo-verkkotunnus or luo käyttäjäprofiili profiilin tai verkkotunnuksen luomisen aikana tai voit lisätä ne myöhemmin käyttämällä lisää tageja API. Studio kopioi ja määrittää nämä tunnisteet automaattisesti toimialueella tai tiettyjen käyttäjien luomiin Studio-muistikirjoihin. Voit myös lisätä tunnisteita SageMaker-verkkotunnuksiin muokkaamalla toimialueen asetuksia Studion ohjauspaneelissa.

Seuraavassa on esimerkki tunnisteiden määrittämisestä profiiliin luonnin aikana.

aws sagemaker create-user-profile --domain-id  --user-profile-name data-scientist-full --tags Key=studiouserid,Value= --user-settings ExecutionRole=arn:aws:iam:::role/SageMakerStudioExecutionRole_datascientist-full

Voit merkitä olemassa olevia verkkotunnuksia ja käyttäjiä käyttämällä add-tags API. Tunnisteet lisätään sitten kaikkiin uusiin muistikirjoihin. Jotta nämä tunnisteet voidaan liittää olemassa oleviin muistikirjoihin, sinun on käynnistettävä uudelleen kyseiseen käyttäjäprofiiliin kuuluva Studio-sovellus (Kernel Gateway ja Jupyter Server). Tämä ei aiheuta muistikirjan tietojen menetystä. Katso tästä Sammuta ja päivitä SageMaker Studio ja Studio-sovellukset saadaksesi lisätietoja Studio-sovellusten poistamisesta ja uudelleenkäynnistämisestä.

SageMaker-muistikirjan esiintymien merkitseminen

SageMaker-muistikirjan ilmentymän tapauksessa koodausta käytetään itse ilmentymään. Tunnisteet on määritetty kaikille samassa ilmentymässä oleville resursseille. Voit määrittää tunnisteita ohjelmallisesti käyttämällä tags-parametria luo-muistikirja-instanssi API tai lisää ne SageMaker-konsolin kautta ilmentymän luomisen aikana. Voit myös lisätä tai päivittää tunnisteita milloin tahansa käyttämällä lisää tageja API tai SageMaker-konsolin kautta.

Huomaa, että tämä ei sisällä SageMakerin hallinnoimia töitä ja resursseja, kuten koulutus- ja käsittelytyöt, koska ne ovat palveluympäristössä eikä ilmentymässä. Seuraavassa osiossa käymme läpi yksityiskohtaisemmin, kuinka käyttää tunnisteita näihin resursseihin.

SageMakerin hallinnoimien töiden ja resurssien merkitseminen

SageMakerin hallinnoimien töiden ja resurssien kohdalla tunnisteita on käytettävä tags määrite osana jokaista API-pyyntöä. An SKLearnProcessor esimerkki on kuvattu seuraavassa koodissa. Löydät lisää esimerkkejä tunnisteiden määrittämisestä muille SageMakerin hallinnoimille töille ja resursseille GitHub repo.

from sagemaker import get_execution_role
from sagemaker.sklearn.processing import SKLearnProcessor

processing_tags = [{' Key':"cost-center','Value':'TF2WorkflowProcessing'}]
sklearn_processorl = SKLearnProcessor(framework_version='0.23-1' ,
									 role=get_execution_role(),
									 instance_type='ml.m5.xlarge',
									 instance_count=2,
									 tags=processing_tags)

SageMaker-putkien merkitseminen

SageMaker-putkien tapauksessa voit merkitä koko liukuhihnan kokonaisuudeksi kunkin yksittäisen vaiheen sijaan. SageMaker-liukuhihna lisää tunnisteet automaattisesti jokaiseen liukuhihnan vaiheeseen. Voit silti tarvittaessa lisätä yksittäisiin vaiheisiin lisätunnisteita. Studion käyttöliittymässä liukuhihnatunnisteet näkyvät metatieto-osiossa.

Käytä SageMaker Python SDK:ta lisätäksesi tunnisteita liukuhihnaan:

pipeline_tags = [ {'Key': 'pipeline-type', 'Value': 'TF2WorkflowPipeline'}]
pipeline.upsert(role_arn=role, tags=pipeline_tags)
execution = pipeline.start()

Pakota tunnisteet IAM-käytäntöjen avulla

Vaikka koodaus on tehokas mekanismi pilvenhallinta- ja hallintostrategioiden toteuttamiseen, oikean merkintäkäyttäytymisen pakottaminen voi olla haastavaa, jos jätät sen vain loppukäyttäjille. Kuinka estät ML-resurssien luomisen, jos tietty tunniste puuttuu, miten varmistat, että oikeat tunnisteet käytetään ja miten estät käyttäjiä poistamasta olemassa olevia tunnisteita?

Voit suorittaa tämän käyttämällä AWS-henkilöllisyyden ja käyttöoikeuksien hallinta (IAM) käytännöt. Seuraava koodi on esimerkki käytännöstä, joka estää SageMaker-toiminnot, kuten CreateDomain or CreateNotebookInstance jos pyyntö ei sisällä ympäristöavainta ja yhtä luetteloarvoista. The ForAllValues modifikaattorin kanssa aws:TagKeys kuntoavain osoittaa, että vain avain environment on pyynnössä sallittu. Tämä estää käyttäjiä käyttämästä muita avaimia, kuten käyttämästä niitä vahingossa Environment sijasta environment.

"sagemaker:CreateTrainingJob"
      ],
      "{
      "Sid": "SageMakerEnforceEnvtOnCreate",
      "Action": [
        "sagemaker:CreateDomain",
        "sagemaker:CreateEndpoint",
        "sagemaker:CreateNotebookInstance",
        Effect": "Allow",
      "Resource": "*",
  "Condition": {
            "StringEquals": {
                "aws:RequestTag/environment": [
                    "dev","staging","production"
                ]
            },
            "ForAllValues:StringEquals": {"aws:TagKeys": "environment"}
        }
      }

Tunnistekäytännöt ja palvelun ohjauskäytännöt (SCP) voi myös olla hyvä tapa standardoida ML-resurssien luonti ja merkitseminen. Lisätietoja merkintästrategian toteuttamisesta, joka pakottaa ja vahvistaa merkinnät organisaatiotasolla, on kohdassa Kustannusten allokointiblogisarja #3: AWS-resurssitunnisteiden pakottaminen ja vahvistaminen.

Kustannusten kohdistusraportointi

Voit tarkastella tunnisteita suodattamalla näkymiä Cost Explorerissa ja katsomalla a kuukausittainen kustannusten jakautumisraportti, tai tutkimalla CUR.

Tunnisteiden visualisointi Cost Explorerissa

Cost Explorer on työkalu, jonka avulla voit tarkastella ja analysoida kulujasi ja käyttöäsi. Voit tutkia käyttöäsi ja kustannuksiasi käyttämällä pääkaaviota: Kustannusarvioinnin kustannus- ja käyttöraportteja. Katso nopea video Cost Explorerin käytöstä Kuinka voin käyttää Cost Exploreria kulutukseni ja käytön analysoimiseen?

Cost Explorerin avulla voit suodattaa AWS-kulujesi tarkastelutapaa tunnisteiden mukaan. Ryhmän mukaan avulla voimme suodattaa tulokset pois tunnisteavainten, kuten Environment, Deploymenttai Cost Center. Tunnistesuodatin auttaa meitä valitsemaan haluamamme arvon avaimesta riippumatta. Esimerkkejä ovat mm Production ja Staging. Muista, että sinun on suoritettava resurssit tunnisteiden lisäämisen ja aktivoinnin jälkeen. muuten Cost Explorerilla ei ole käyttötietoja eikä tunnisteen arvoa näytetä suodattimena tai ryhmän mukaan.

Seuraava kuvakaappaus on esimerkki suodatuksesta kaikkien arvojen mukaan BusinessUnit tunnisteita.

Tarkastellaan tunnisteita CUR:ssa

Kustannus- ja käyttöraportti sisältää kattavimmat saatavilla olevat kustannus- ja käyttötiedot. Raportti sisältää rivikohdat kullekin ainutlaatuiselle AWS-tuotteen, käyttötyypin ja toiminnon yhdistelmälle, jota AWS-tilisi käyttää. Voit mukauttaa CUR:ää kokoamaan tiedot joko tunneittain tai päiväkohtaisesti. Kuukausittainen kustannusten kohdistusraportti on yksi tapa määrittää kustannusten kohdistusraportointi. Voit määrittää a kuukausittainen kustannusten jakautumisraportti joka luettelee tilisi AWS-käytön tuoteluokan ja linkitetyn tilin käyttäjän mukaan. Raportti sisältää samat rivikohdat kuin yksityiskohtainen laskutusraportti ja lisäsarakkeita tunnisteavaimille. Voit määrittää sen ja ladata raportin noudattamalla ohjeita Kuukausittainen kustannusten jakautumisraportti.

Seuraava kuvakaappaus näyttää, kuinka käyttäjän määrittämät tunnisteavaimet näkyvät CUR:ssa. Käyttäjän määrittämillä tunnisteavaimilla on etuliite user, Kuten user:Department ja user:CostCenter. AWS:n luomilla tunnisteavaimilla on etuliite aws.

Visualisoi CUR käyttämällä Amazon Athenaa ja Amazon QuickSightia

Amazon Athena on interaktiivinen kyselypalvelu, jonka avulla on helppo analysoida tietoja Amazon S3:ssa tavallisella SQL:llä. Athena on palvelimeton, joten hallittavaa infrastruktuuria ei ole, ja maksat vain suorittamistasi kyselyistä. Katso lisätietoja Athenen integroinnista CUR:ien kanssa Kustannus- ja käyttöraporttien kysely Amazon Athenalla. Voit sitten rakentaa mukautettuja kyselyitä CUR-tietojen kyselyä varten tavallisella SQL:llä. Seuraava kuvakaappaus on esimerkki kyselystä, jolla suodatetaan kaikki resurssit, joiden arvo on TF2WorkflowTraining cost-center tunnisteita.

select * from {$table_name} where resource_tags_user_cost-center= 'TF2WorkflowTraining'

Seuraavassa esimerkissä yritämme selvittää, mistä resursseista puuttuu arvoja alta cost-center tunnisteita.

SELECT
 bill_payer_account_id, line_item_usage_account_id, DATE_FORMAT((line_item_usage_start_date), '%Y-%m-%d') AS day_line_item_usage_start_date, line_item_resource_id, line_item_usage_type, resource_tags_user_cost-center
FROM
{$table_name} 
WHERE
 resource_tags_user_cost-center IS NULL
AND line_item_product_code = 'AmazonSageMaker'

Lisätietoja ja esimerkkikyselyitä löytyy osoitteesta AWS CUR -kyselykirjasto.

Voit myös syöttää CUR-tietoja Amazon QuickSight, jossa voit viipaloida sen haluamallasi tavalla raportointi- tai visualisointitarkoituksiin. Katso ohjeet CUR-tietojen syöttämisestä QuickSightiin Kuinka saan ja visualisoin AWS-kustannus- ja käyttöraportin (CUR) Amazon QuickSightiin.

Budjetin seuranta tunnisteiden avulla

AWS-budjetit ovat erinomainen tapa varoittaa varhaisessa vaiheessa, jos kulutus nousee yllättäen. Voit luoda mukautettuja budjetteja, jotka hälyttävät, kun ML-kustannukset ja käyttö ylittävät (tai niiden ennustetaan ylittävän) käyttäjän määrittämäsi kynnysarvot. AWS-budjettien avulla voit seurata kuukausittaisten ML-kustannusten kokonaismäärää tai suodattaa budjettejasi seurataksesi tiettyihin käyttömittoihin liittyviä kustannuksia. Voit esimerkiksi määrittää budjetin laajuuden sisältämään SageMaker-resurssikustannukset, jotka on merkitty nimellä cost-center: ML-Marketing, kuten seuraavassa kuvakaappauksessa näkyy. Katso lisämitat ja yksityiskohtaiset ohjeet AWS-budjettien määrittämiseen tätä.

Kanssa budjettihälytykset, voit lähettää ilmoituksia, kun budjettisi rajat ylittyvät (tai ovat ylittymässä). Nämä hälytykset voidaan lähettää myös osoitteeseen Amazonin yksinkertainen ilmoituspalvelu (Amazon SNS) aihe. An AWS Lambda toiminto, joka tilaa SNS-aiheen, käynnistyy, ja kaikki ohjelmallisesti toteutettavissa olevat toimet voidaan suorittaa.

AWS-budjettien avulla voit myös määrittää budjettitoimet, jotka ovat toimenpiteitä, joihin voit ryhtyä, kun budjettikynnys ylittyy (todelliset tai ennustetut määrät). Tämän tason hallinta mahdollistaa tilisi tahattoman ylikulutuksen vähentämisen. Voit määrittää tilillesi erityisiä kustannuksia ja käyttöä koskevia reaktioita, jotka otetaan käyttöön automaattisesti tai työnkulun hyväksymisprosessin kautta, kun budjettitavoite ylittyy. Tämä on todella tehokas ratkaisu varmistaaksesi, että ML-kulutuksesi ovat sopusoinnussa liiketoiminnan tavoitteiden kanssa. Voit valita minkä tyyppisen toimenpiteen haluat tehdä. Esimerkiksi kun budjettikynnys ylittyy, voit siirtää tiettyjä IAM-käyttäjiä järjestelmänvalvojan käyttöoikeuksista vain luku -oikeuksiin. Organisaatioita käyttäville asiakkaille voit soveltaa toimintoja koko organisaatioyksikköön siirtämällä ne järjestelmänvalvojasta vain luku -tilaan. Lisätietoja kustannusten hallinnasta budjettitoimintojen avulla on kohdassa Kustannusylitysten hallinta AWS-monitilin ympäristössä – Osa 1.

Voit myös määrittää raportin nykyisten budjettiesi tehokkuuden seuraamiseksi päivittäin, viikoittain tai kuukausittain ja toimittaa raportin jopa 50 sähköpostiosoitteeseen. Kanssa AWS Budgets -raportit, voit yhdistää kaikki SageMakeriin liittyvät budjetit yhdeksi raportiksi. Tämän ominaisuuden avulla voit seurata SageMaker-jalanjälkeäsi yhdestä paikasta, kuten seuraavassa kuvakaappauksessa näkyy. Voit valita, haluatko vastaanottaa nämä raportit päivittäin, viikoittain tai kuukausittain (olen valinnut Viikoittain tässä esimerkissä) ja valitse viikonpäivä, jolloin haluat vastaanottaa ne.

Tämä ominaisuus on hyödyllinen, kun haluat pitää sidosryhmäsi ajan tasalla SageMaker-kuluistasi ja -käytöstäsi ja auttaa heitä näkemään, milloin kulutus ei ole odotetulla tavalla.

Kun olet määrittänyt tämän määrityksen, sinun pitäisi saada seuraavanlainen sähköposti.

Yhteenveto

Tässä viestissä osoitimme, kuinka voit määrittää SageMakerin kustannusten allokoinnin taggauksen, ja jaoimme vinkkejä SageMaker-ympäristön ja työkuormien merkitsemisen parhaista käytännöistä. Keskustelimme sitten erilaisista raportointivaihtoehdoista, kuten Cost Explorer ja CUR, jotta voit parantaa ML-kulujesi näkyvyyttä. Lopuksi esitimme AWS-budjetit ja budjetin yhteenvetoraportin, jotta voit seurata organisaatiosi ML-kuluja.

Lisätietoja kustannusten kohdistustunnisteiden käyttöönotosta ja aktivoimisesta on kohdassa Käyttäjän määrittämät kustannusten kohdistustunnisteet.

Tietoja kirjoittajista

Sean Morgan on AI/ML Solutions -arkkitehti AWS:ssä. Hänellä on kokemusta puolijohteiden ja akateemisen tutkimuksen aloilta, ja hän käyttää kokemustaan auttaakseen asiakkaita saavuttamaan tavoitteensa AWS:ssä. Vapaa-ajallaan Sean on aktiivinen avoimen lähdekoodin avustaja ja ylläpitäjä sekä TensorFlow-lisäosien sidosryhmien johtaja.

Brent Rabowsky keskittyy AWS: n tietotekniikkaan ja hyödyntää asiantuntemustaan auttaakseen AWS-asiakkaita omilla tietotiedeprojekteilla.

Nilesh Shetty on AWS:n Senior Technical Account Manager, jossa hän auttaa yritystukiasiakkaita virtaviivaistamaan pilvitoimintojaan AWS:ssä. Hän on intohimoinen koneoppimiseen ja hänellä on kokemusta konsulttina, arkkitehtina ja kehittäjänä. Työn ulkopuolella hän nauttii musiikin kuuntelusta ja urheilun katselusta.

James Wu on AWS:n vanhempi AI/ML-asiantuntijaratkaisuarkkitehti. auttaa asiakkaita suunnittelemaan ja rakentamaan AI/ML-ratkaisuja. Jamesin työ kattaa laajan valikoiman ML-käyttötapauksia, ja hänen ensisijaisena kiinnostuksena ovat tietokonenäkö, syväoppiminen ja ML:n skaalaaminen koko yrityksessä. Ennen AWS:ään liittymistään James oli arkkitehti, kehittäjä ja teknologiajohtaja yli 10 vuoden ajan, joista 6 vuotta suunnittelussa ja 4 vuotta markkinointi- ja mainontateollisuudessa.