Amazon SageMaker'da Kaynak Etiketlemeyi Kullanarak ML Ortamları ve İş Yükleri İçin Kurumsal Düzeyde Maliyet Tahsisini Ayarlayın

Plato tarafından yeniden yayınlandı

İzleyiciler: 0

İşletmeler ve BT liderleri, makine öğreniminin (ML) benimsenmesini hızlandırmaya çalışırken, kurumsal gereksinimleri karşılamak için makine öğrenimi ortamınızın harcamalarını ve maliyet tahsisini anlama konusunda artan bir ihtiyaç vardır. Uygun maliyet yönetimi ve yönetimi olmadan makine öğrenimi harcamalarınız aylık AWS faturanızda sürprizlere yol açabilir. Amazon Adaçayı Yapıcı kurumsal müşterilerimizi maliyet tahsisi önlemleri oluşturmak ve ekipleriniz, iş birimleriniz, ürünleriniz ve daha fazlası tarafından ayrıntılı maliyet ve kullanıma ilişkin görünürlüğü geliştirmek için araçlar ve kaynaklarla donatan, bulutta tam olarak yönetilen bir makine öğrenimi platformudur.

Bu yazıda, SageMaker ortamınız ve iş yükleriniz için maliyet tahsisine ilişkin ipuçlarını ve en iyi uygulamaları paylaşıyoruz. SageMaker da dahil olmak üzere neredeyse tüm AWS hizmetlerinde kaynaklara etiket uygulamak, maliyetleri izlemenin standart bir yoludur. Bu etiketler, aşağıdaki gibi kullanıma hazır çözümler aracılığıyla ML harcamanızı izlemenize, raporlamanıza ve izlemenize yardımcı olabilir: AWS Maliyet Gezgini ve AWS Bütçelerive ayrıca veriler üzerine inşa edilen özel çözümler AWS Maliyet ve Kullanım Raporları (CUR'lar).

Maliyet tahsisi etiketlemesi

AWS'de maliyet tahsisi üç adımlı bir süreçtir:

iliştirmek maliyet tahsis etiketleri kaynaklarınıza.
Etiketlerinizi şurada etkinleştirin: Maliyet tahsisi etiketleri AWS Faturalandırma konsolunun bölümü.
Maliyet tahsisi raporlamasını izlemek ve filtrelemek için etiketleri kullanın.

Etiketler oluşturup kaynaklara ekledikten sonra bunlar AWS Faturalandırma konsolunda görünür. Maliyet tahsisi etiketleri altındaki bölümü Kullanıcı tanımlı maliyet tahsis etiketleri. Etiketlerin oluşturulduktan sonra görünmesi 24 saati bulabilir. Daha sonra kaynaklarınız için bunları izlemeye başlamak üzere AWS için bu etiketleri etkinleştirmeniz gerekir. Genellikle bir etiket etkinleştirildikten sonra etiketlerin Cost Explorer'da görünmesi yaklaşık 24-48 saat sürer. Etiketlerinizin çalışıp çalışmadığını kontrol etmenin en kolay yolu, yeni etiketinizi Cost Explorer'daki etiketler filtresinde aramaktır. Eğer oradaysa, maliyet tahsisi raporlamanız için etiketleri kullanmaya hazırsınız demektir. Daha sonra aşağıdaki ekran görüntüsünde gösterildiği gibi sonuçlarınızı etiket tuşlarına göre gruplandırmayı veya etiket değerlerine göre filtrelemeyi seçebilirsiniz.

Dikkat edilmesi gereken bir nokta: eğer kullanıyorsanız AWS Kuruluşları ve bağlantılı AWS hesaplarına sahipseniz, etiketler yalnızca birincil ödeme yapan hesapta etkinleştirilebilir. İsteğe bağlı olarak, kullanımınız ve maliyetlerinizin etkin etiketlerinize göre gruplandırıldığı bir CSV dosyası olarak maliyet tahsisi raporlarını etkinleştiren AWS hesapları için CUR'ları da etkinleştirebilirsiniz. Bu, maliyetlerinizin daha ayrıntılı takibini sağlar ve kendi özel raporlama çözümlerinizi oluşturmanızı kolaylaştırır.

SageMaker'da etiketleme

Yüksek düzeyde, SageMaker kaynaklarının etiketlenmesi iki gruba ayrılabilir:

SageMaker dizüstü bilgisayar ortamını etiketleme Amazon SageMaker Stüdyosu etki alanları ve etki alanı kullanıcıları veya SageMaker not defteri örnekleri
SageMaker tarafından yönetilen işleri (etiketleme, işleme, eğitim, hiperparametre ayarlama, toplu dönüştürme ve daha fazlası) ve kaynakları (modeller, çalışma ekipleri, uç nokta yapılandırmaları ve uç noktalar gibi) etiketleme

Bu yazıda bunları daha ayrıntılı olarak ele alıyoruz ve iyi etiketleme hijyeni sağlamak için yönetişim kontrolünün nasıl uygulanacağına ilişkin bazı çözümler sunuyoruz.

SageMaker Studio alan adlarını ve kullanıcılarını etiketleme

Studio, ML modellerinizi oluşturmanıza, eğitmenize, hata ayıklamanıza, dağıtmanıza ve izlemenize olanak tanıyan, ML'ye yönelik web tabanlı, entegre bir geliştirme ortamıdır (IDE). Studio not defterlerini hızlı bir şekilde başlatabilir ve çalışmanızı kesintiye uğratmadan temeldeki bilgi işlem kaynaklarını dinamik olarak yukarı veya aşağı çevirebilirsiniz.

Bu dinamik kaynakları otomatik olarak etiketlemek için SageMaker etki alanına ve bu kaynaklara erişim izni verilen etki alanı kullanıcılarına etiketler atamanız gerekir. Bu etiketleri, tags parametresinde belirtebilirsiniz. etki alanı oluştur or kullanıcı profili oluştur profil veya etki alanı oluşturma sırasında veya bunları daha sonra kullanarak ekleyebilirsiniz. etiket ekle API'dir. Studio, bu etiketleri otomatik olarak etki alanında veya belirli kullanıcılar tarafından oluşturulan Studio not defterlerine kopyalar ve atar. Ayrıca Studio Kontrol Panelinde alan ayarlarını düzenleyerek SageMaker alan adlarına etiketler ekleyebilirsiniz.

Aşağıda, oluşturma sırasında profile etiket atamanın bir örneği verilmiştir.

aws sagemaker create-user-profile --domain-id  --user-profile-name data-scientist-full --tags Key=studiouserid,Value= --user-settings ExecutionRole=arn:aws:iam:::role/SageMakerStudioExecutionRole_datascientist-full

Mevcut alanları ve kullanıcıları etiketlemek için add-tags API'dir. Etiketler daha sonra tüm yeni not defterlerine uygulanır. Bu etiketlerin mevcut not defterlerinize uygulanması için o kullanıcı profiline ait Studio uygulamasını (Kernel Gateway ve Jupyter Server) yeniden başlatmanız gerekir. Bu, not defteri verilerinde herhangi bir kayba neden olmaz. Buna bakın SageMaker Studio ve Studio Uygulamalarını Kapatın ve Güncelleyin Studio uygulamalarınızı nasıl sileceğinizi ve yeniden başlatacağınızı öğrenmek için.

SageMaker not defteri örneklerini etiketleme

SageMaker not defteri örneği durumunda, etiketleme örneğin kendisine uygulanır. Etiketler aynı örnekte çalışan tüm kaynaklara atanır. Etiketler parametresini kullanarak etiketleri programlı olarak belirtebilirsiniz. not defteri örneği oluştur API'yi kullanın veya bunları örnek oluşturma sırasında SageMaker konsolu aracılığıyla ekleyin. Ayrıca istediğiniz zaman etiketleri ekleyebilir veya güncelleyebilirsiniz. etiket ekle API veya SageMaker konsolu aracılığıyla.

Bunun, SageMaker tarafından yönetilen işleri ve eğitim ve iş işleme gibi kaynakları hariç tuttuğunu unutmayın; çünkü bunlar örnekte değil hizmet ortamındadır. Bir sonraki bölümde etiketlemenin bu kaynaklara nasıl uygulanacağını daha ayrıntılı olarak ele alacağız.

SageMaker tarafından yönetilen işleri ve kaynakları etiketleme

SageMaker tarafından yönetilen işler ve kaynaklar için etiketlemenin tags her API isteğinin bir parçası olarak özellik. Bir SKLearnProcessor örnek aşağıdaki kodda gösterilmektedir. SageMaker tarafından yönetilen diğer işlere ve kaynaklara nasıl etiket atanacağına ilişkin daha fazla örneği şurada bulabilirsiniz: GitHub repo.

from sagemaker import get_execution_role
from sagemaker.sklearn.processing import SKLearnProcessor

processing_tags = [{' Key':"cost-center','Value':'TF2WorkflowProcessing'}]
sklearn_processorl = SKLearnProcessor(framework_version='0.23-1' ,
									 role=get_execution_role(),
									 instance_type='ml.m5.xlarge',
									 instance_count=2,
									 tags=processing_tags)

SageMaker işlem hatlarını etiketleme

SageMaker işlem hatları durumunda, her bir adım yerine tüm işlem hattını bir bütün olarak etiketleyebilirsiniz. SageMaker işlem hattı, etiketleri her işlem hattı adımına otomatik olarak yayar. Gerekirse bireysel adımlara ek, ayrı etiketler ekleme seçeneğiniz hâlâ vardır. Studio kullanıcı arayüzünde, ardışık düzen etiketleri meta veri bölümünde görünür.

Etiketleri bir ardışık düzene uygulamak için SageMaker Python SDK'sını kullanın:

pipeline_tags = [ {'Key': 'pipeline-type', 'Value': 'TF2WorkflowPipeline'}]
pipeline.upsert(role_arn=role, tags=pipeline_tags)
execution = pipeline.start()

IAM politikalarını kullanarak etiketlemeyi zorunlu kılın

Etiketleme, bulut yönetimi ve yönetişim stratejilerini uygulamak için etkili bir mekanizma olsa da, bunu son kullanıcılara bırakırsanız doğru etiketleme davranışını uygulamak zor olabilir. Belirli bir etiket eksikse makine öğrenimi kaynağı oluşturulmasını nasıl engellersiniz, doğru etiketlerin uygulandığından nasıl emin olursunuz ve kullanıcıların mevcut etiketleri silmesini nasıl önlersiniz?

Bunu kullanarak başarabilirsiniz AWS Kimlik ve Erişim Yönetimi (IAM) politikaları. Aşağıdaki kod, aşağıdaki gibi SageMaker eylemlerini engelleyen bir politika örneğidir: CreateDomain or CreateNotebookInstance istek ortam anahtarını ve liste değerlerinden birini içermiyorsa. ForAllValues ile değiştirici aws:TagKeys koşul anahtarı yalnızca anahtarın geçerli olduğunu gösterir environment istekte izin verilir. Bu, kullanıcıların yanlışlıkla kullanmak gibi diğer anahtarları eklemelerini engeller. Environment yerine environment.

"sagemaker:CreateTrainingJob"
      ],
      "{
      "Sid": "SageMakerEnforceEnvtOnCreate",
      "Action": [
        "sagemaker:CreateDomain",
        "sagemaker:CreateEndpoint",
        "sagemaker:CreateNotebookInstance",
        Effect": "Allow",
      "Resource": "*",
  "Condition": {
            "StringEquals": {
                "aws:RequestTag/environment": [
                    "dev","staging","production"
                ]
            },
            "ForAllValues:StringEquals": {"aws:TagKeys": "environment"}
        }
      }

Etiket politikaları ve hizmet kontrol politikaları (SCP'ler), ML kaynaklarınızın oluşturulmasını ve etiketlenmesini standartlaştırmanın da iyi bir yolu olabilir. Kuruluş düzeyinde etiketlemeyi uygulayan ve doğrulayan bir etiketleme stratejisinin nasıl uygulanacağı hakkında daha fazla bilgi için bkz. Maliyet Tahsisi Blogu Serisi #3: AWS Kaynak Etiketlerini Zorunlu Hale Getirin ve Doğrulayın.

Maliyet tahsisi raporlaması

Etiketleri Cost Explorer'daki görünümleri filtreleyerek, bir aylık maliyet tahsis raporuveya CUR'u inceleyerek.

Cost Explorer'da etiketleri görselleştirme

Maliyet Gezgini, maliyetlerinizi ve kullanımınızı görüntülemenizi ve analiz etmenizi sağlayan bir araçtır. Kullanımınızı ve maliyetlerinizi ana grafiği kullanarak keşfedebilirsiniz: Maliyet Gezgini maliyet ve kullanım raporları. Cost Explorer'ın nasıl kullanılacağına ilişkin kısa bir video için şuraya göz atın: Harcamalarımı ve kullanımımı analiz etmek için Cost Explorer'ı nasıl kullanabilirim?

Maliyet Gezgini ile AWS maliyetlerinizi etiketlere göre nasıl görüntüleyeceğinizi filtreleyebilirsiniz. Tarafından gruba göre gibi etiket tuşlarına göre sonuçları filtrelememize olanak tanır Environment, Deploymentya da Cost Center. Etiket filtresi, anahtardan bağımsız olarak istediğimiz değeri seçmemize yardımcı olur. Örnekler şunları içerir: Production ve Staging. Etiketleri ekleyip etkinleştirdikten sonra kaynakları çalıştırmanız gerektiğini unutmayın; aksi takdirde, Maliyet Gezgini'nde herhangi bir kullanım verisi bulunmaz ve etiket değeri, filtre veya gruplandırma ölçütü seçeneği olarak görüntülenmez.

Aşağıdaki ekran görüntüsü, tüm değerlere göre filtrelemenin bir örneğidir. BusinessUnit etiketi.

CUR'daki etiketleri inceleme

Maliyet ve Kullanım Raporu mevcut en kapsamlı maliyet ve kullanım verilerini içerir. Rapor, AWS hesabınızın kullandığı her benzersiz AWS ürünü, kullanım türü ve işlem kombinasyonuna ilişkin satır öğelerini içerir. Bilgileri saate veya güne göre toplamak için CUR'yi özelleştirebilirsiniz. Aylık maliyet tahsisi raporu, maliyet tahsisi raporlamasını ayarlamanın bir yoludur. Bir kurulum yapabilirsiniz aylık maliyet tahsis raporu Hesabınızın AWS kullanımını ürün kategorisine ve bağlı hesap kullanıcısına göre listeleyen. Rapor, aşağıdakilerle aynı satır öğelerini içeriyor: ayrıntılı faturalandırma raporu ve etiket anahtarlarınız için ek sütunlar. Aşağıdaki adımları takip ederek kurulumunu yapabilir ve raporunuzu indirebilirsiniz. Aylık maliyet tahsisi raporu.

Aşağıdaki ekran görüntüsü, kullanıcı tanımlı etiket anahtarlarının CUR'da nasıl göründüğünü gösterir. Kullanıcı tanımlı etiket anahtarlarında önek bulunur userGibi user:Department ve user:CostCenter. AWS tarafından oluşturulan etiket anahtarlarında şu önek bulunur: aws.

Amazon Athena ve Amazon QuickSight'ı kullanarak CUR'yi görselleştirin

Amazon Atina Amazon S3'teki verileri standart SQL kullanarak analiz etmeyi kolaylaştıran etkileşimli bir sorgu hizmetidir. Athena sunucusuz olduğundan yönetilmesi gereken bir altyapı yoktur ve yalnızca çalıştırdığınız sorgular için ödeme yaparsınız. Athena'yı CUR'larla entegre etmek için bkz. Amazon Athena kullanarak Maliyet ve Kullanım Raporlarını Sorgulama. Daha sonra standart SQL kullanarak CUR verilerini sorgulamak için özel sorgular oluşturabilirsiniz. Aşağıdaki ekran görüntüsü, TF2WorkflowTraining değerine sahip tüm kaynakları filtrelemeye yönelik bir sorgu örneğidir. cost-center etiketi.

select * from {$table_name} where resource_tags_user_cost-center= 'TF2WorkflowTraining'

Aşağıdaki örnekte, hangi kaynakların değerlerinin eksik olduğunu bulmaya çalışıyoruz. cost-center etiketi.

SELECT
 bill_payer_account_id, line_item_usage_account_id, DATE_FORMAT((line_item_usage_start_date), '%Y-%m-%d') AS day_line_item_usage_start_date, line_item_resource_id, line_item_usage_type, resource_tags_user_cost-center
FROM
{$table_name} 
WHERE
 resource_tags_user_cost-center IS NULL
AND line_item_product_code = 'AmazonSageMaker'

Daha fazla bilgi ve örnek sorguları şurada bulabilirsiniz: AWS CUR Sorgu Kitaplığı.

Ayrıca CUR verilerini de Amazon QuickSight, burada raporlama veya görselleştirme amacıyla istediğiniz şekilde dilimleyebilir ve zar atabilirsiniz. CUR verilerini QuickSight'a almayla ilgili talimatlar için bkz. AWS Maliyet ve Kullanım Raporunu (CUR) Amazon QuickSight'a nasıl alır ve görselleştiririm.

Etiketleri kullanarak bütçe izleme

AWS Budgets, harcamaların beklenmedik şekilde artması durumunda erken uyarı sağlamanın mükemmel bir yoludur. Makine öğrenimi maliyetleriniz ve kullanımınız kullanıcı tanımlı eşiklerinizi aştığında (veya aşması tahmin edildiğinde) sizi uyaran özel bütçeler oluşturabilirsiniz. AWS Budgets ile toplam aylık makine öğrenimi maliyetlerinizi izleyebilir veya belirli kullanım boyutlarıyla ilişkili maliyetleri takip etmek için bütçelerinizi filtreleyebilirsiniz. Örneğin, bütçe kapsamını şu şekilde etiketlenen SageMaker kaynak maliyetlerini içerecek şekilde ayarlayabilirsiniz: cost-center: ML-Marketingaşağıdaki ekran görüntüsünde gösterildiği gibi. AWS Bütçelerinin nasıl ayarlanacağına ilişkin ek boyutlar ve ayrıntılı talimatlar için bkz. okuyun.

İle bütçe uyarılarıile bütçe limitleriniz aşıldığında (veya aşılmak üzereyken) bildirim gönderebilirsiniz. Bu uyarılar aynı zamanda bir Amazon Basit Bildirim Servisi (Amazon SNS) konusu. Bir AWS Lambda Daha sonra SNS konusuna abone olan işlev çağrılır ve programlı olarak uygulanabilir herhangi bir eylem gerçekleştirilebilir.

AWS Budgets ayrıca yapılandırmanıza da olanak tanır bütçe eylemleriBunlar, bir bütçe eşiği (gerçek veya tahmini tutarlar) aşıldığında uygulayabileceğiniz adımlardır. Bu kontrol düzeyi, hesabınızdaki kasıtsız aşırı harcamaları azaltmanıza olanak tanır. Hesabınızda, bütçe hedefi aşıldığında otomatik olarak veya iş akışı onay süreci aracılığıyla uygulanacak maliyet ve kullanıma yönelik belirli yanıtları yapılandırabilirsiniz. Bu, makine öğrenimi harcamalarınızın işletmenin hedefleriyle tutarlı olmasını sağlamak için gerçekten güçlü bir çözümdür. Hangi eylem türünü gerçekleştireceğinizi seçebilirsiniz. Örneğin, bir bütçe eşiği aşıldığında belirli IAM kullanıcılarını yönetici izinlerinden salt okunur izinlere taşıyabilirsiniz. Kuruluşları kullanan müşteriler için, işlemleri yöneticiden salt okunura taşıyarak kuruluş biriminin tamamına uygulayabilirsiniz. Bütçe eylemlerini kullanarak maliyetin nasıl yönetileceğine ilişkin daha fazla ayrıntı için bkz. AWS çoklu hesap ortamınızda maliyet aşımlarını nasıl yönetebilirsiniz – Bölüm 1.

Ayrıca mevcut bütçelerinizin performansını günlük, haftalık veya aylık aralıklarla izlemek için bir rapor oluşturabilir ve bu raporu en fazla 50 e-posta adresine gönderebilirsiniz. İle AWS Bütçe raporlarıile SageMaker ile ilgili tüm bütçeleri tek bir raporda birleştirebilirsiniz. Bu özellik, aşağıdaki ekran görüntüsünde gösterildiği gibi SageMaker ayak izinizi tek bir konumdan takip etmenizi sağlar. Bu raporları günlük, haftalık veya aylık aralıklarla almayı seçebilirsiniz (ben bunu seçtim) Haftalık bu örnek için) ve bunları almak istediğiniz haftanın gününü seçin.

Bu özellik, paydaşlarınızı SageMaker maliyetleriniz ve kullanımınız konusunda güncel tutmak ve harcamaların beklendiği gibi bir eğilim göstermediğini görmelerine yardımcı olmak için kullanışlıdır.

Bu yapılandırmayı kurduktan sonra aşağıdakine benzer bir e-posta almalısınız.

Sonuç

Bu yazıda, SageMaker için maliyet tahsisi etiketlemesini nasıl ayarlayabileceğinizi gösterdik ve SageMaker ortamınız ve iş yükleriniz için en iyi etiketleme uygulamalarına ilişkin ipuçları paylaştık. Daha sonra makine öğrenimi harcamalarınızın görünürlüğünü artırmanıza yardımcı olmak için Maliyet Gezgini ve CUR gibi farklı raporlama seçeneklerini tartıştık. Son olarak, kuruluşunuzun ML harcamasını izlemenize yardımcı olacak AWS Bütçelerini ve bütçe özeti raporunu gösterdik.

Maliyet tahsis etiketlerini uygulama ve etkinleştirme hakkında daha fazla bilgi için bkz. Kullanıcı Tanımlı Maliyet Tahsisi Etiketleri.

yazarlar hakkında

Sean Morgan AWS'de AI/ML Çözümleri Mimarıdır. Yarı iletken ve akademik araştırma alanlarında deneyimi vardır ve bu deneyimini müşterilerin AWS'deki hedeflerine ulaşmalarına yardımcı olmak için kullanır. Sean boş zamanlarında aktif bir açık kaynak katılımcısı ve bakımcısıdır ve TensorFlow Eklentileri için özel ilgi grubu lideridir.

Brent Rabowsky AWS'deki veri bilimine odaklanır ve AWS müşterilerine kendi veri bilimi projelerinde yardımcı olacak uzmanlığından yararlanır.

Nilesh Shetty AWS'de Kıdemli Teknik Hesap Yöneticisi olarak görev yapıyor ve burada kurumsal destek müşterilerinin AWS'deki bulut operasyonlarını kolaylaştırmasına yardımcı oluyor. Makine öğrenimi konusunda tutkuludur ve danışman, mimar ve geliştirici olarak çalışma deneyimine sahiptir. İş dışında müzik dinlemekten ve spor izlemekten hoşlanıyor.

James Wu AWS'de Kıdemli AI/ML Uzman Çözüm Mimarıdır. müşterilerin AI/ML çözümleri tasarlamasına ve oluşturmasına yardımcı olur. James'in çalışması, bilgisayar vizyonu, derin öğrenme ve kurum genelinde ML'yi ölçeklendirmeye ilgi duyan çok çeşitli ML kullanım durumlarını kapsar. AWS'ye katılmadan önce James, 10 yılı mühendislik ve 6 yılı pazarlama ve reklamcılık sektörlerinde olmak üzere 4 yılı aşkın bir süredir mimar, geliştirici ve teknoloji lideriydi.