Richten Sie die Kostenzuordnung auf Unternehmensebene für ML-Umgebungen und Workloads mithilfe von Ressourcen-Tagging in Amazon SageMaker ein

Neuauflage von Plato

Verfolger: 0

Da Unternehmen und IT-Führungskräfte versuchen, die Einführung von maschinellem Lernen (ML) zu beschleunigen, besteht ein wachsender Bedarf, die Ausgaben- und Kostenzuordnung für Ihre ML-Umgebung zu verstehen, um die Unternehmensanforderungen zu erfüllen. Ohne angemessenes Kostenmanagement und Governance können Ihre ML-Ausgaben zu Überraschungen in Ihrer monatlichen AWS-Rechnung führen. Amazon Sage Maker ist eine vollständig verwaltete ML-Plattform in der Cloud, die unsere Unternehmenskunden mit Tools und Ressourcen ausstattet, um Maßnahmen zur Kostenzuordnung festzulegen und die Transparenz der detaillierten Kosten und Nutzung durch Ihre Teams, Geschäftsbereiche, Produkte und mehr zu verbessern.

In diesem Beitrag teilen wir Tipps und Best Practices zur Kostenzuordnung für Ihre SageMaker-Umgebung und Workloads. Bei fast allen AWS-Services, einschließlich SageMaker, ist das Anwenden von Tags auf Ressourcen eine Standardmethode zur Kostenverfolgung. Diese Tags können Ihnen dabei helfen, Ihre ML-Ausgaben durch sofort einsatzbereite Lösungen wie zu verfolgen, zu melden und zu überwachen AWS-Kosten-Explorer und AWS-Budgets, sowie benutzerdefinierte Lösungen, die auf den Daten von aufbauen AWS-Kosten- und Nutzungsberichte (CURs).

Kennzeichnung der Kostenzuordnung

Die Kostenzuordnung auf AWS ist ein dreistufiger Prozess:

Anfügen Kostenzuordnungs-Tags zu Ihren Ressourcen.
Aktivieren Sie Ihre Tags in der Kostenzuordnungs-Tags Abschnitt der AWS-Abrechnungskonsole.
Verwenden Sie die Tags zum Nachverfolgen und Filtern von Kostenzuordnungsberichten.

Nachdem Sie Tags erstellt und an Ressourcen angehängt haben, werden sie in der AWS-Fakturierungskonsole angezeigt Kostenzuordnungs-Tags Abschnitt unter Benutzerdefinierte Kostenzuordnungs-Tags. Es kann bis zu 24 Stunden dauern, bis Tags nach ihrer Erstellung angezeigt werden. Anschließend müssen Sie diese Tags für AWS aktivieren, um sie für Ihre Ressourcen zu verfolgen. Nachdem ein Tag aktiviert wurde, dauert es in der Regel etwa 24 bis 48 Stunden, bis die Tags in Cost Explorer angezeigt werden. Der einfachste Weg, um zu überprüfen, ob Ihre Tags funktionieren, besteht darin, nach Ihrem neuen Tag im Tag-Filter in Cost Explorer zu suchen. Wenn es vorhanden ist, können Sie die Tags für Ihre Kostenzuordnungsberichte verwenden. Sie können Ihre Ergebnisse dann nach Tag-Schlüsseln gruppieren oder nach Tag-Werten filtern, wie im folgenden Screenshot gezeigt.

Eine Sache zu beachten: Wenn Sie verwenden AWS-Organisationen und verknüpfte AWS-Konten haben, können Tags nur im primären Zahlerkonto aktiviert werden. Optional können Sie auch CURs für die AWS-Konten aktivieren, die Kostenzuordnungsberichte als CSV-Datei mit Ihrer Nutzung und Ihren Kosten, gruppiert nach Ihren aktiven Tags, ermöglichen. Dies ermöglicht Ihnen eine detailliertere Verfolgung Ihrer Kosten und erleichtert die Einrichtung Ihrer eigenen benutzerdefinierten Berichtslösungen.

Taggen in SageMaker

Auf hoher Ebene kann das Markieren von SageMaker-Ressourcen in zwei Bereiche eingeteilt werden:

Auch das Markieren der SageMaker-Notebook-Umgebung Amazon SageMaker-Studio Domänen und Domänenbenutzer oder SageMaker-Notebook-Instances
Tagging von SageMaker-verwalteten Jobs (Kennzeichnung, Verarbeitung, Training, Hyperparameter-Tuning, Batch-Transformation und mehr) und Ressourcen (wie Modelle, Arbeitsteams, Endpunktkonfigurationen und Endpunkte)

Wir behandeln diese in diesem Beitrag ausführlicher und bieten einige Lösungen zur Anwendung von Governance-Kontrollen, um eine gute Tagging-Hygiene sicherzustellen.

Markieren von SageMaker Studio-Domänen und -Benutzern

Studio ist eine webbasierte, integrierte Entwicklungsumgebung (IDE) für ML, mit der Sie Ihre ML-Modelle erstellen, trainieren, debuggen, bereitstellen und überwachen können. Sie können Studio-Notebooks schnell starten und die zugrunde liegenden Rechenressourcen dynamisch hoch- oder runterwählen, ohne Ihre Arbeit zu unterbrechen.

Um diese dynamischen Ressourcen automatisch zu taggen, müssen Sie SageMaker-Domänen und Domänenbenutzern, denen Zugriff auf diese Ressourcen gewährt wird, Tags zuweisen. Sie können diese Tags im Tags-Parameter von angeben Domäne erstellen or Benutzerprofil erstellen während der Profil- oder Domänenerstellung, oder Sie können sie später mit hinzufügen Tags hinzufügen API. Studio kopiert diese Tags automatisch und weist sie den Studio-Notizbüchern zu, die in der Domäne oder von bestimmten Benutzern erstellt wurden. Sie können SageMaker-Domänen auch Tags hinzufügen, indem Sie die Domäneneinstellungen in der Studio-Systemsteuerung bearbeiten.

Im Folgenden finden Sie ein Beispiel für die Zuweisung von Tags zum Profil während der Erstellung.

aws sagemaker create-user-profile --domain-id  --user-profile-name data-scientist-full --tags Key=studiouserid,Value= --user-settings ExecutionRole=arn:aws:iam:::role/SageMakerStudioExecutionRole_datascientist-full

Um vorhandene Domänen und Benutzer zu markieren, verwenden Sie die add-tags API. Die Tags werden dann auf alle neuen Notizbücher angewendet. Damit diese Tags auf Ihre vorhandenen Notebooks angewendet werden, müssen Sie die Studio-App (Kernel Gateway und Jupyter Server) neu starten, die zu diesem Benutzerprofil gehört. Dies führt zu keinem Verlust von Notebook-Daten. Beziehen Sie sich darauf Beenden und aktualisieren Sie SageMaker Studio und Studio-Apps um zu erfahren, wie Sie Ihre Studio-Apps löschen und neu starten.

Markieren von SageMaker-Notebookinstanzen

Bei einer SageMaker-Notebookinstanz wird das Tagging auf die Instanz selbst angewendet. Die Tags werden allen Ressourcen zugewiesen, die in derselben Instanz ausgeführt werden. Sie können Tags programmgesteuert mit dem Tags-Parameter in der angeben Create-Notebook-Instanz API oder fügen Sie sie während der Instanzerstellung über die SageMaker-Konsole hinzu. Sie können Tags auch jederzeit mit hinzufügen oder aktualisieren Tags hinzufügen API oder über die SageMaker-Konsole.

Beachten Sie, dass dies von SageMaker verwaltete Jobs und Ressourcen wie Trainings- und Verarbeitungsjobs ausschließt, da sie sich in der Dienstumgebung und nicht auf der Instanz befinden. Im nächsten Abschnitt gehen wir detaillierter darauf ein, wie man Tagging auf diese Ressourcen anwendet.

Markieren von SageMaker-verwalteten Jobs und Ressourcen

Für von SageMaker verwaltete Jobs und Ressourcen muss Tagging auf die angewendet werden tags -Attribut als Teil jeder API-Anfrage. Ein SKLearnProcessor Beispiel wird im folgenden Code veranschaulicht. Weitere Beispiele zum Zuweisen von Tags zu anderen von SageMaker verwalteten Jobs und Ressourcen finden Sie auf der GitHub Repo.

from sagemaker import get_execution_role
from sagemaker.sklearn.processing import SKLearnProcessor

processing_tags = [{' Key':"cost-center','Value':'TF2WorkflowProcessing'}]
sklearn_processorl = SKLearnProcessor(framework_version='0.23-1' ,
									 role=get_execution_role(),
									 instance_type='ml.m5.xlarge',
									 instance_count=2,
									 tags=processing_tags)

Markieren von SageMaker-Pipelines

Im Fall von SageMaker-Pipelines können Sie anstelle jedes einzelnen Schritts die gesamte Pipeline als Ganzes taggen. Die SageMaker-Pipeline gibt die Tags automatisch an jeden Pipeline-Schritt weiter. Sie haben weiterhin die Möglichkeit, bei Bedarf zusätzliche, separate Tags zu einzelnen Schritten hinzuzufügen. In der Studio-Benutzeroberfläche werden die Pipeline-Tags im Metadatenabschnitt angezeigt.

Um Tags auf eine Pipeline anzuwenden, verwenden Sie das SageMaker Python SDK:

pipeline_tags = [ {'Key': 'pipeline-type', 'Value': 'TF2WorkflowPipeline'}]
pipeline.upsert(role_arn=role, tags=pipeline_tags)
execution = pipeline.start()

Tagging mit IAM-Richtlinien erzwingen

Obwohl Tagging ein effektiver Mechanismus für die Implementierung von Cloud-Management- und Governance-Strategien ist, kann die Durchsetzung des richtigen Tagging-Verhaltens schwierig sein, wenn Sie es nur den Endbenutzern überlassen. Wie verhindern Sie die Erstellung von ML-Ressourcen, wenn ein bestimmtes Tag fehlt, wie stellen Sie sicher, dass die richtigen Tags angewendet werden, und wie verhindern Sie, dass Benutzer vorhandene Tags löschen?

Sie können dies mit erreichen AWS Identity and Access Management and (IAM)-Richtlinien. Der folgende Code ist ein Beispiel für eine Richtlinie, die SageMaker-Aktionen wie z CreateDomain or CreateNotebookInstance wenn die Anfrage den Umgebungsschlüssel und einen der Listenwerte nicht enthält. Das ForAllValues Modifikator mit dem aws:TagKeys Bedingung Schlüssel gibt an, dass nur der Schlüssel environment ist in der Anfrage erlaubt. Dadurch wird verhindert, dass Benutzer andere Schlüssel einbeziehen, z. B. versehentlich verwenden Environment statt environment.

"sagemaker:CreateTrainingJob"
      ],
      "{
      "Sid": "SageMakerEnforceEnvtOnCreate",
      "Action": [
        "sagemaker:CreateDomain",
        "sagemaker:CreateEndpoint",
        "sagemaker:CreateNotebookInstance",
        Effect": "Allow",
      "Resource": "*",
  "Condition": {
            "StringEquals": {
                "aws:RequestTag/environment": [
                    "dev","staging","production"
                ]
            },
            "ForAllValues:StringEquals": {"aws:TagKeys": "environment"}
        }
      }

Tag-Richtlinien und Dienstkontrollrichtlinien (SCPs) können auch eine gute Möglichkeit sein, die Erstellung und Bezeichnung Ihrer ML-Ressourcen zu standardisieren. Weitere Informationen zum Implementieren einer Tagging-Strategie, die das Tagging auf Organisationsebene erzwingt und validiert, finden Sie unter Blog-Serie Nr. 3 zur Kostenzuordnung: Durchsetzung und Validierung von AWS-Ressourcen-Tags.

Berichterstattung über die Kostenzuordnung

Sie können die Tags anzeigen, indem Sie die Ansichten in Cost Explorer filtern, indem Sie a monatlicher Kostenzuordnungsbericht, oder durch Prüfung des CUR.

Visualisierung von Tags in Cost Explorer

Cost Explorer ist ein Tool, mit dem Sie Ihre Kosten und Nutzung anzeigen und analysieren können. Sie können Ihre Nutzung und Kosten mithilfe des Hauptdiagramms untersuchen: den Cost Explorer-Kosten- und Nutzungsberichten. Ein kurzes Video zur Verwendung von Cost Explorer finden Sie hier Wie kann ich Cost Explorer verwenden, um meine Ausgaben und Nutzung zu analysieren?

Mit Cost Explorer können Sie die Anzeige Ihrer AWS-Kosten nach Tags filtern. Gruppiere nach ermöglicht es uns, Ergebnisse nach Tag-Schlüsseln wie z Environment, Deployment, oder Cost Center. Der Tag-Filter hilft uns, den gewünschten Wert unabhängig vom Schlüssel auszuwählen. Beispiele beinhalten Production und Staging. Denken Sie daran, dass Sie die Ressourcen ausführen müssen, nachdem Sie Tags hinzugefügt und aktiviert haben. Andernfalls verfügt Cost Explorer über keine Nutzungsdaten und der Tag-Wert wird nicht als Filter oder Gruppieren nach-Option angezeigt.

Der folgende Screenshot ist ein Beispiel für das Filtern nach allen Werten der BusinessUnit -Tag.

Untersuchen von Tags im CUR

Der Kosten- und Nutzungsbericht enthält den umfassendsten Satz an verfügbaren Kosten- und Nutzungsdaten. Der Bericht enthält Einzelposten für jede eindeutige Kombination aus AWS-Produkt, Nutzungsart und Vorgang, die Ihr AWS-Konto verwendet. Sie können den CUR so anpassen, dass die Informationen entweder nach Stunden oder nach Tagen aggregiert werden. Ein monatlicher Kostenzuordnungsbericht ist eine Möglichkeit, die Kostenzuordnungsberichte einzurichten. Sie können eine einrichten monatlicher Kostenzuordnungsbericht die die AWS-Nutzung für Ihr Konto nach Produktkategorie und Benutzer des verknüpften Kontos auflistet. Der Bericht enthält die gleichen Einzelposten wie der ausführlicher Abrechnungsbericht und zusätzliche Spalten für Ihre Tag-Schlüssel. Sie können es einrichten und Ihren Bericht herunterladen, indem Sie die Schritte in befolgen Monatlicher Kostenzuordnungsbericht.

Der folgende Screenshot zeigt, wie benutzerdefinierte Tag-Schlüssel im CUR angezeigt werden. Benutzerdefinierte Tag-Schlüssel haben das Präfix user, sowie user:Department und user:CostCenter. Von AWS generierte Tag-Schlüssel haben das Präfix aws.

Visualisieren Sie den CUR mit Amazon Athena und Amazon QuickSight

Amazonas Athena ist ein interaktiver Abfragedienst, der es einfach macht, Daten in Amazon S3 mit Standard-SQL zu analysieren. Athena ist serverlos, sodass keine Infrastruktur verwaltet werden muss und Sie nur für die von Ihnen ausgeführten Abfragen bezahlen. Informationen zur Integration von Athena in CURs finden Sie unter Abfragen von Kosten- und Nutzungsberichten mit Amazon Athena. Sie können dann benutzerdefinierte Abfragen erstellen, um CUR-Daten mit Standard-SQL abzufragen. Der folgende Screenshot ist ein Beispiel für eine Abfrage zum Filtern aller Ressourcen, die den Wert TF2WorkflowTraining für die haben cost-center -Tag.

select * from {$table_name} where resource_tags_user_cost-center= 'TF2WorkflowTraining'

Im folgenden Beispiel versuchen wir herauszufinden, bei welchen Ressourcen Werte unter fehlen cost-center -Tag.

SELECT
 bill_payer_account_id, line_item_usage_account_id, DATE_FORMAT((line_item_usage_start_date), '%Y-%m-%d') AS day_line_item_usage_start_date, line_item_resource_id, line_item_usage_type, resource_tags_user_cost-center
FROM
{$table_name} 
WHERE
 resource_tags_user_cost-center IS NULL
AND line_item_product_code = 'AmazonSageMaker'

Weitere Informationen und Beispielabfragen finden Sie in der AWS CUR-Abfragebibliothek.

Sie können auch CUR-Daten einspeisen Amazon QuickSight, wo Sie es für Berichts- oder Visualisierungszwecke nach Belieben aufteilen können. Anweisungen zum Erfassen von CUR-Daten in QuickSight finden Sie unter Wie kann ich den AWS Cost and Usage Report (CUR) in Amazon QuickSight aufnehmen und visualisieren.

Budgetüberwachung mit Tags

AWS-Budgets ist eine hervorragende Möglichkeit, frühzeitig zu warnen, wenn die Ausgaben unerwartet steigen. Sie können benutzerdefinierte Budgets erstellen, die Sie benachrichtigen, wenn Ihre ML-Kosten und -Nutzung Ihre benutzerdefinierten Schwellenwerte überschreiten (oder voraussichtlich überschreiten werden). Mit AWS Budgets können Sie Ihre monatlichen ML-Gesamtkosten überwachen oder Ihre Budgets filtern, um die mit bestimmten Nutzungsdimensionen verbundenen Kosten zu verfolgen. Beispielsweise können Sie den Budgetumfang so festlegen, dass er die mit gekennzeichneten SageMaker-Ressourcenkosten enthält cost-center: ML-Marketing, wie im folgenden Screenshot gezeigt. Weitere Dimensionen und detaillierte Anweisungen zum Einrichten von AWS-Budgets finden Sie unter hier.

Mit der Budgetbenachrichtigungenkönnen Sie Benachrichtigungen senden, wenn Ihre Budgetgrenzen überschritten werden (oder kurz davor stehen). Diese Warnungen können auch an eine gesendet werden Amazon Simple Notification Service (Amazon SNS) Thema. Ein AWS Lambda Die Funktion, die das SNS-Thema abonniert, wird dann aufgerufen, und alle programmgesteuert implementierbaren Aktionen können durchgeführt werden.

Mit AWS Budgets können Sie auch konfigurieren Haushaltsmaßnahmen, das sind Schritte, die Sie ausführen können, wenn ein Budgetschwellenwert überschritten wird (tatsächliche oder prognostizierte Beträge). Dieses Maß an Kontrolle ermöglicht es Ihnen, unbeabsichtigte Mehrausgaben auf Ihrem Konto zu reduzieren. Sie können spezifische Reaktionen auf Kosten und Nutzung in Ihrem Konto konfigurieren, die automatisch oder über einen Workflow-Genehmigungsprozess angewendet werden, wenn ein Budgetziel überschritten wurde. Dies ist eine wirklich leistungsstarke Lösung, um sicherzustellen, dass Ihre ML-Ausgaben mit den Zielen des Unternehmens übereinstimmen. Sie können auswählen, welche Art von Aktion ausgeführt werden soll. Wenn beispielsweise ein Budgetschwellenwert überschritten wird, können Sie bestimmte IAM-Benutzer von Administratorberechtigungen auf schreibgeschützt verschieben. Für Kunden, die Organisationen verwenden, können Sie Aktionen auf eine gesamte Organisationseinheit anwenden, indem Sie sie von „Admin“ auf „Schreibgeschützt“ verschieben. Weitere Informationen zum Verwalten von Kosten mithilfe von Budgetaktionen finden Sie unter So verwalten Sie Kostenüberschreitungen in Ihrer AWS-Umgebung mit mehreren Konten – Teil 1.

Sie können auch einen Bericht einrichten, um die Leistung Ihrer vorhandenen Budgets täglich, wöchentlich oder monatlich zu überwachen, und diesen Bericht an bis zu 50 E-Mail-Adressen senden. Mit AWS-Budgets-Berichtekönnen Sie alle SageMaker-bezogenen Budgets in einem einzigen Bericht zusammenfassen. Mit dieser Funktion können Sie Ihren SageMaker-Fußabdruck von einem einzigen Ort aus verfolgen, wie im folgenden Screenshot gezeigt. Sie können sich dafür entscheiden, diese Berichte täglich, wöchentlich oder monatlich zu erhalten (ich habe gewählt Wöchentliche für dieses Beispiel) und wählen Sie den Wochentag aus, an dem Sie sie erhalten möchten.

Diese Funktion ist nützlich, um Ihre Stakeholder über Ihre SageMaker-Kosten und -Nutzung auf dem Laufenden zu halten und ihnen zu helfen, zu erkennen, wenn die Ausgaben nicht wie erwartet verlaufen.

Nachdem Sie diese Konfiguration eingerichtet haben, sollten Sie eine E-Mail ähnlich der folgenden erhalten.

Zusammenfassung

In diesem Beitrag haben wir gezeigt, wie Sie das Kostenzuordnungs-Tagging für SageMaker einrichten können, und Tipps zu Best Practices für das Tagging für Ihre SageMaker-Umgebung und Workloads gegeben. Anschließend haben wir verschiedene Berichtsoptionen wie Cost Explorer und CUR besprochen, um Ihnen zu helfen, die Sichtbarkeit Ihrer ML-Ausgaben zu verbessern. Zuletzt haben wir AWS-Budgets und den Budgetzusammenfassungsbericht demonstriert, um Ihnen bei der Überwachung der ML-Ausgaben Ihrer Organisation zu helfen.

Weitere Informationen zum Anwenden und Aktivieren von Kostenzuordnungs-Tags finden Sie unter Benutzerdefinierte Kostenzuordnungs-Tags.

Über die Autoren

SeanMorgan ist KI/ML-Lösungsarchitekt bei AWS. Er verfügt über Erfahrung in den Bereichen Halbleiter und akademische Forschung und nutzt seine Erfahrung, um Kunden dabei zu helfen, ihre Ziele auf AWS zu erreichen. In seiner Freizeit ist Sean ein aktiver Open-Source-Mitwirkender und -Betreuer und der Leiter der Special Interest Group für TensorFlow-Add-ons.

Brent Rabowsky konzentriert sich bei AWS auf Data Science und nutzt sein Fachwissen, um AWS-Kunden bei ihren eigenen Data Science-Projekten zu unterstützen.

Nilesh Shetty ist Senior Technical Account Manager bei AWS, wo er Enterprise-Support-Kunden hilft, ihre Cloud-Operationen auf AWS zu rationalisieren. Er hat eine Leidenschaft für maschinelles Lernen und verfügt über Erfahrung als Berater, Architekt und Entwickler. Außerhalb der Arbeit hört er gerne Musik und schaut Sport.

James Wu ist Senior AI/ML Specialist Solution Architect bei AWS. Unterstützung von Kunden bei der Entwicklung und Erstellung von KI/ML-Lösungen. Die Arbeit von James deckt ein breites Spektrum von ML-Anwendungsfällen ab, wobei sein Hauptinteresse auf Computer Vision, Deep Learning und der Skalierung von ML im gesamten Unternehmen liegt. Bevor er zu AWS kam, war James über 10 Jahre lang Architekt, Entwickler und Technologieführer, davon 6 Jahre im Ingenieurwesen und 4 Jahre in der Marketing- und Werbebranche.