Hogyan használja a Yara az Amazon SageMaker MLOps funkcióit az ammóniagyáraik energiaoptimalizálásának skálázására

Yara a világ vezető növénytápláló vállalata, valamint környezetvédelmi és mezőgazdasági megoldások szolgáltatója. A Yara ambíciója egy olyan természet-pozitív élelmiszerjövő kialakítására irányul, amely értéket teremt az ügyfelek, a részvényesek és a társadalom egésze számára, és fenntarthatóbb élelmiszer-értékláncot biztosít. Az éhínség nélküli világról és a tiszteletben tartott bolygóról alkotott víziónkat támogatva a Yara a fenntartható értéknövekedés stratégiáját követi, előmozdítja a klímabarát növényi táplálkozást és a zéró kibocsátású energiamegoldásokat. A Yara emellett a világ legnagyobb ammónia-, nitrát- és NPK műtrágyák. Gyártási szegmensük ezért a küldetésük teljesítésének szerves építőköve – világosan megfogalmazott ambíciójukkal, hogy világelsővé váljanak olyan mutatók tekintetében, mint a biztonság, a környezeti lábnyom, a minőség és a gyártási költségek. A Yara hosszú távú célja a „Jövő Üzeme” nulla károsanyag-kibocsátással és alacsony költségekkel.

A karcsú átalakulásra építve a Yara a digitális megoldásokra helyezi a hangsúlyt, hogy segítsen elérni ambícióikat. Ennek az erőfeszítésnek a vezetésére a Yara létrehozta a Digital Production nevű globális egységet. A digitális gyártás és megoldásai sikere kulcsfontosságú prioritás a Yara számára, és a Yara jelentősen növelte erőfeszítéseit ezen a területen. A kritikus fókuszterület az, hogy kihasználják a műveleteik részeként generált hatalmas mennyiségű adatot. Ezért a Yara olyan adatvezérelt termékeket épít, amelyek segítenek nekik optimalizálni a termelést, növelni a termékek minőségét, növelni a gyártóhelyek megbízhatóságát, csökkenteni a kibocsátást, növelni a dolgozók biztonságát és termelékenységét, automatizálni a kézi folyamatokat stb.

Az energia sok termelőüzem számára jelentős költségelem; így az energiahatékonyság jelentős hatással van a jövedelmezőségre. Azonban gyakran hiányoznak a szilárd referenciák arra vonatkozóan, hogyan néz ki a jó teljesítmény, és hogyan juthatunk el oda. A Yara energiaterhelési görbéje (ELC) egy olyan megoldás, amely a korábbi legjobb energiafogyasztási teljesítményt használja a jelenlegi teljesítménnyel szemben. Ha az aktuális fogyasztás túlságosan eltér a történelmi legjobbtól, az eszköz ajánlásokat ad a kezelőknek az energiafogyasztás irányítására.

Ahhoz, hogy az ELC-t a gyártóüzemekben telepítse, és a világ több telephelyére is kiterjessze, a Yarának egy MLOps platformot kellett felépítenie. Ez biztosítaná, hogy a Yara megbízhatóan és hatékonyan képezze ki, telepítse és tartsa karban a modelleket. Ezen túlmenően, hogy ezt több helyszínre skálázhassa, a Yarának automatizálnia kellett a telepítési és karbantartási folyamatokat. Ebben a bejegyzésben megbeszéljük, hogyan használja a Yara Amazon SageMaker funkciók, beleértve a modellnyilvántartást, Amazon SageMaker Model Monitorés Amazon SageMaker csővezetékek a gépi tanulás (ML) életciklusának egyszerűsítése az MLOps gyakorlatok automatizálásával és szabványosításával. Áttekintést adunk a beállításról, bemutatva az ML-modellek építésének, betanításának, telepítésének és megfigyelésének folyamatát a világ minden táján működő üzemek számára.

A megoldás áttekintése

Az ELC az Internet of Things (IoT) érzékelők adatait használja egy üzemből. Ezek az érzékelők olyan mérőszámokat mérnek, mint a termelési teljesítmény, a környezeti feltételek és a nyersanyagkörülmények stb. Ezek az adatok egy energia-előrejelzési modell betanítására szolgálnak, amelyet azután óránkénti előrejelzések generálására használnak. Az üzemek üzemeltetői figyelemmel kísérik a tényleges energiafogyasztást, és összehasonlítják az ELC által előre jelzett optimális fogyasztással. Ha az aktuális energiafogyasztás túlságosan eltér az optimálistól, az ELC műveletet biztosít a belső folyamatváltozók beállítására az energiahatékonyság optimalizálása érdekében, analitikai modellek alapján.

Az ELC a felhőben található. Annak érdekében, hogy valós időben streamelje az érzékelőadatokat egy üzemből, a Yara ezt használja AWS IoT Greengrass biztonságosan kommunikálni AWS IoT Core és exportálja az IoT-adatokat az AWS felhőbe. AWS IoT SiteWise egy felügyelt szolgáltatás, amely képes gyűjteni, rendszerezni, keresni és felhasználni az ipari berendezésekről származó berendezések adatait nagy méretekben. A Yara API-kat készített Amazon API átjáró hogy az érzékelő adatait olyan alkalmazásoknak tegye ki, mint például az ELC.

Az ELC-alkalmazás hátterét az Amazon ECS-n keresztül telepítik, és az üzemi üzemeltetők által használt ELC-műszerfalakat látja el az előlapon. Az ELC alkalmazás feladata, hogy óránként előrejelző energiafogyasztási mutatókat biztosítson az üzemek üzemeltetői számára. Minden üzem saját modellel van felszerelve, mert energiafogyasztási jellemzőik eltérőek. Ezenkívül az üzemek különböző AWS-régiókba vannak csoportosítva elhelyezkedésük alapján.

A következő diagram ezt az architektúrát szemlélteti.

Az ELC építéséhez és több üzemre való méretezéshez olyan MLOps megoldásra volt szükségünk, amely támogatja a következőket:

• skálázhatóság – Az adatmennyiség függvényében skálázható. Egyes üzemek több adatot termelnek, mint mások; minden üzem több gigabájt adatot tud termelni naponta.
• Bővíthetőség – Új régiókban és fiókokban telepíthető.
• Ismétlési – Vannak közös sablonjai, amelyek segítségével új üzemet építhetünk be.
• Rugalmasság – Az egyes üzemek igényei szerint módosíthatja a telepítési konfigurációt.
• Megbízhatóság és felügyelet – Teszteket tud futtatni, és jól átlátja az összes aktív növény állapotát. Meghibásodás esetén visszaállhat az előző stabil állapotba.
• karbantartás – A megoldásnak alacsony karbantartási költséggel kell rendelkeznie. Lehetőség szerint kiszolgáló nélküli szolgáltatásokat kell használnia az infrastruktúra lábnyomának csökkentése érdekében.

Az ML esetében a Yara a SageMaker használata mellett döntött. A SageMaker egy teljesen felügyelt szolgáltatás, amely lefedi a teljes ML munkafolyamatot. A SageMaker kiválasztásakor a következő funkciók voltak kritikusak:

• SageMaker keretkonténerek – A Yara betanította az ELC prediktív modelleket a TensorFlow-on, és a SageMaker keretkonténerekkel a Yara képes volt felemelni és áthelyezni ezeket a modelleket minimális kódmódosítással a SageMakerbe.
• SageMaker csővezetékek – A SageMaker Pipelines Python felületet kínál az adattudósok számára ML-folyamatok írásához. Az ELC-kód nagy része egy tanítási és egy következtetési folyamatból áll, amelyek Pythonban vannak definiálva.
• SageMaker modellnyilvántartás – A SageMaker modellnyilvántartás lehetővé teszi a modellek katalógusba helyezését és verziókezelését. Ezenkívül megkönnyíti a modell metaadatainak, például a képzési metrikák kezelését.
• SageMaker Model Monitor – A Yara a beérkező adatok minőségét és eloszlását, valamint az ELC-modell teljesítményét kívánta nyomon követni. A SageMaker Model Monitor API-k adat- és modellminőség-figyelést kínálnak.

Az ML-folyamatok folyamatos integrációjának és folyamatos szállításának (CI/CD) kezelésére a Yara ezt használja Amazon telepítési keretrendszer (ADF). Az ADF egy nyílt forráskódú keretrendszer, amelyet az AWS fejlesztett ki, hogy kezelje és telepítse az erőforrásokat több AWS-fiókban és -régióban egy AWS-szervezeten belül. Az ADF lehetővé teszi az alkalmazások vagy erőforrások szakaszos, párhuzamos, többfiókos és régiók közötti telepítését a következőben meghatározott struktúrán keresztül. AWS szervezetek, miközben olyan szolgáltatásokat vesz igénybe, mint pl AWS CodePipeline, AWS CodeBuild, AWS CodeCommités AWS felhőképződés a nehéz emelés és kezelés enyhítése a hagyományos CI/CD beállításhoz képest.

Megoldás áttekintése

Az MLOps platform teljes megoldása két hónapon belül készült el, együttműködésben AWS professzionális szolgáltatások. A projekten dolgozó csapat adattudósokból, adatmérnökökből és DevOps-specialistákból állt. A többcsapatos környezetben történő gyorsabb fejlesztés elősegítése érdekében a Yara a használatát választotta AWS Landing Zone és szervezetek a különböző AWS-fiókok központi létrehozásához, kezeléséhez és irányításához. Például a Yara központi telepítési fiókkal rendelkezik, és munkaterhelési fiókokat használ az üzleti alkalmazások tárolására. Az ELC egy folyamatoptimalizálási használati eset, amelyet a munkaterhelés-fiókok optimalizálására alkalmaznak. A Yara Digital Production csapata az optimalizáláson kívüli területeken is dolgozik az ML felhasználási eseteken. Az MLOps keretrendszer támogatja az üzembe helyezést bármely munkaterhelési fiókban, mindaddig, amíg a fiókokat a szervezeteken keresztül hozzák létre.

A következő diagram ezt az architektúrát szemlélteti.

A központi telepítési fiók használata megkönnyíti a gyakori melléktermékek és CI/CD-folyamatok kezelését. Ami a hozzáférés-kezelést és a gyakori melléktermékek biztonságát illeti, ez egy egyszerűbb kialakítás, mivel az engedélyhatárokat és a titkosítási kulcsokat központilag, egy helyen kezelik. A következő szakaszokban végigvezetjük azokon a lépéseken, amelyek szükségesek ahhoz, hogy egy új használati esetet beépítsünk a Yara MLOps platformjára.

Ami a fiókstratégiát illeti, a Yara rendelkezik homokozó, fejlesztői, TESZT és PROD beállításokkal. A sandbox fiók kísérletezésre és új ötletek kipróbálására szolgál. A DEV-fiók a CI/CD-folyamatok kiindulópontja, és minden fejlesztés itt kezdődik. A telepítési fiók tartalmazza a CI/CD folyamatdefiníciót, és képes a DEV, TEST és PROD fiókokra telepíteni. Ezt a fiókbeállítást a következő ábra mutatja be.

Új használati eset bevezetése

Ennél a bejegyzésnél feltételezzük, hogy rendelkezünk egy használati eset működő prototípusával, és most szeretnénk működésbe hozni. Abban az esetben, ha ez a használati eset egy új termékterülethez tartozik, először ki kell építeni a fiókokat a Szervezetek segítségével, amely automatikusan elindítja az ADF-et a fiókok rendszerindítására a telepítéshez. A Yara a DEV>TEST>PROD fiókstratégiát követi; ez a konfiguráció azonban nem kötelező. Az adatfiókok API-kat tesznek elérhetővé az adatokhoz való hozzáféréshez, és egy új felhasználási esethez a szükséges szerepköröket kell megadni AWS Identity and Access Management (IAM) engedélyeket, hogy hozzáférhessenek a Data API-khoz.

Ezután meg kell határoznunk, hogy ez a használati eset mely fiókokhoz kerül telepítésre. Ez az ADF-ben található telepítési térkép segítségével történik. A telepítési térkép egy konfigurációs fájl, amely a folyamat szakaszainak és céljainak leképezését tartalmazza. A telepítési térkép futtatásához az ADF a CodePipeline-t használja. Az ADF rugalmasságot biztosít a paraméterek kezeléséhez a verem célkörnyezeténként. Ez megkönnyíti a telepítések kezelését és a kisebb példányokkal végzett tesztelést.

Az összes műtermék, például kód-, adat- és modellfájlok titkosításához létrehozunk egy AWS kulcskezelési szolgáltatás (AWS KMS) kulcsot. Használhat szerveroldali titkosítást is. Mivel azonban a generált melléktermékek egy része több fiókban is elérhető, saját kulcsunkat kell létrehoznunk, és kezelnünk kell az engedélyházirendeket a több fiókra kiterjedő hozzáférés biztosításához.

Végül létre kell hoznunk egy modellcsomag-csoportot a modell különböző verzióinak csoportosításához a SageMaker modellnyilvántartás használatával, amely a SageMaker képesség a modellek nyomon követésére és kezelésére, amint azok az ML életcikluson keresztül haladnak.

Modell képzési csővezeték

Minden ELC számára beépített új üzemhez új SageMaker képzési folyamatot hozunk létre. Ez a folyamat adat-előfeldolgozási és modell betanítási lépésekből áll. A SageMaker folyamatok jól illeszkednek a Yara számára, mert Python felületet kínálnak az ML munkafolyamatok meghatározásához. Ezenkívül a munkafolyamat különböző lépései eltérő méretezésre konfigurálhatók. Például meghatározhat egy sokkal nagyobb példányt a betanításhoz, mint a modellértékelési lépéshez. A folyamat minden lépéséhez a bemeneti és kimeneti paraméterek tárolódnak, ami megkönnyíti az egyes futások és kimeneteik nyomon követését. A képzési munkafolyamat magas szintű vázlata a következő.

A modellértékelési szakasz részeként egy kiértékelési adatkészletet használnak a metrikák, például a pontosság és az átlagos négyzetes hiba (RMSE) eltérésének generálására a betanított modellen. Ezeket a mérőszámokat a rendszer hozzáadja a modell metaadataihoz, mielőtt regisztrálná a modellt a modellnyilvántartásba. Jelenleg a modellek manuálisan kerülnek előléptetésre magasabb környezetekbe, és a modell jóváhagyója megtekintheti a modell mérőszámait, hogy megbizonyosodjon arról, hogy az új verzió jobban teljesít, mint a jelenlegi modell.

A modellek verzióvezérlése a modellnyilvántartással történik, és minden üzemnek saját modellcsomag-csoportja van. Ezenkívül a modell-nyilvántartás segítségével nyomon követheti, hogy mely modellverziók melyik környezetekben vannak telepítve. Egy modell lehet a Elutasítva, Kézi jóváhagyás függőbenvagy jóváhagyott állapot, és csak olyan modellek, amelyek a jóváhagyott állapot bevethető. Ez védelmet nyújt a modell nem jóváhagyott verziójának véletlen telepítése ellen is.

Modellkövetkeztetési és megfigyelési csővezeték

A modell üzembe helyezéséhez és a modellfigyelés beállításához beállítottunk egy második SageMaker folyamatot. Az ELC alkalmazás igény szerint előrejelzéseket ad az üzemi üzemeltetőknek, ezért a modellek az ELC háttérrendszerről indított API-hívásokon keresztül érhetők el. A SageMaker következtetési végpontok teljes körűen felügyelt modell hosting megoldást biztosítanak API réteggel; a végpontok a modell bemenetét hasznos terhelésként és visszatérési előrejelzésként veszik fel. Mivel a késleltetés a végfelhasználók számára is kulcsfontosságú tényező, akik nem akarnak sokat várni a frissített előrejelzések megszerzésével, a Yara a SageMaker valós idejű következtetési végpontjait választotta, amelyek különösen alkalmasak nagyon alacsony késleltetési követelményekkel járó munkaterhelésekhez. Végül, mivel az ELC alkalmazásnak nem lehet leállása a frissített modellek telepítése közben, a SageMaker valós idejű végpontjainak kék/zöld üzembe helyezési képességére támaszkodik annak biztosítására, hogy a régi modellverzió továbbra is előrejelzéseket szolgáltasson az új verzió telepítéséig. .

A következő diagram a telepítési és felügyeleti beállításokat mutatja be.

A modellfigyeléshez a Yara a SageMaker programot futtatja adatminőség, modell minőségeés modell magyarázhatóság megfigyelés. Az adatminőség-felügyelet ellenőrzi a konzisztenciát, és adatelosztási statisztikákat készít. A modellminőség-figyelés ellenőrzi a modell teljesítményét, és összehasonlítja a modell pontosságát a betanítási mérőszámokkal. A modellfigyelési jelentések óránként készülnek. Ezeket a jelentéseket a modell teljesítményének nyomon követésére használják a termelésben. A modell magyarázhatóságának megfigyelése arra szolgál, hogy megértsük, mely jellemzők járulnak hozzá leginkább az előrejelzéshez.

A modell magyarázhatóságának ezen eredményei megosztásra kerülnek az ELC műszerfalon, hogy az üzemek üzemeltetői jobban megismerhessék az energiafogyasztást. Ez azt is támogatja, hogy meghatározzuk a belső folyamat beállítását abban az esetben, ha az energiafogyasztás eltér az optimálistól.

CI/CD áramlás

A képzési folyamatok CI/CD-folyama a DEV-fiókban kezdődik. A Yara egy szolgáltatásalapú fejlesztési modellt követ, és amikor új szolgáltatást fejlesztenek ki, a szolgáltatási ág beolvad a törzsbe, ami elindítja a telepítést. Az ELC-modellek betanítása a DEV-fiókban történik, majd a modell betanítása és kiértékelése után regisztrálásra kerül a modellnyilvántartásban. A modell-jóváhagyó józansági ellenőrzéseket végez, mielőtt frissíti a modell állapotát jóváhagyott. Ez a művelet egy eseményt generál, amely elindítja a modellkövetkeztetési folyamat telepítését. A modellkövetkeztetési folyamat az új modellverziót egy SageMaker-végpontra telepíti a DEV-ben.

A végpont telepítése után elindulnak a telepítés viselkedésének ellenőrzésére szolgáló tesztek. A teszteléshez a Yara használja CodeBuild tesztjelentések. Ez a funkció lehetővé teszi a fejlesztők számára egységtesztek, konfigurációs tesztek és funkcionális tesztek futtatását a telepítés előtt és után. Ebben az esetben a Yara funkcionális teszteket futtat le úgy, hogy a teszt hasznos adatokat továbbítja a SageMaker végpontjainak, és kiértékeli a választ. Miután ezek a tesztek sikeresek, a folyamat folytatja a SageMaker-végpontok TEST-re történő telepítését. Az ELC-háttérrendszer a TEST-hez is telepítve van, ami lehetővé teszi az alkalmazás végpontok közötti tesztelését ebben a környezetben. Ezenkívül a Yara felhasználói elfogadási tesztet futtat a TEST-ben. A TESZT és a PROD üzembe helyezés közötti eseményindító kézi jóváhagyási művelet. Miután az új modellverzió mind a funkcionális, mind a felhasználói elfogadási teszten átment a TEST-ben, a mérnöki csapat jóváhagyja a modell bevezetését a PROD-ba.

A következő ábra ezt a munkafolyamatot mutatja be.

Közös elemek

Az ELC-hez több olyan összetevőt használunk, amelyek közösek az összes telepítési szakaszban (DEV, TEST, PROD) és modellben. Ezek az összetevők a telepítési fiókunkban találhatók, és magukban foglalják a modell verziójának vezérlését, a tárolókép-tárat, a titkosítási kulcsot és a gyakori melléktermékek tárolására szolgáló tárolót.

A gyakori műtermékek használatának számos előnye van. Például az erőforrásokat nem kell minden fiókhoz létrehozni, ami kikényszeríti a fiókok közötti kompatibilitást. Ez azt jelenti, hogy egyszer elkészítjük a tárolóképeket, és újra felhasználjuk őket az összes célfiókban, csökkentve ezzel az összeállítási időt.

Ez a folyamat a különböző modellverziókat egy közös modellnyilvántartásban tárolja a telepítési fiókban. Erről a központi helyről a modellek átvitel nélkül telepíthetők az összes fiókba. Hasonlóképpen, a központilag tárolt titkosítási kulcs használata megkönnyíti a kulcsok és a több fiókra vonatkozó engedélyek kezelését.

A gyakori műtermékek használatának egyik hátránya, hogy az új használati esetek bevezetése bonyolultabbá válhat. Egy új használati eset bevezetéséhez létre kell hozni egy új modell-nyilvántartást, és szükség esetén egy új tárolókép-tárat. Azt is javasoljuk, hogy hozzon létre egy új titkosítási kulcsot az erőforrások és a tárolt adatok szigorú elkülönítéséhez.

Következtetés

Ebben a bejegyzésben bemutattuk, hogyan használta a Yara a SageMaker-t és az ADF-et egy rendkívül méretezhető MLOps platform felépítéséhez. Az ML egy többfunkciós képesség, és a csapatok modelleket telepítenek különböző üzleti egység fiókokhoz. Ezért az ADF, amely natív integrációt kínál a Szervezetekkel, ideális jelöltté teszi a fiókok rendszerindítására a CI/CD folyamatok beállításához. Működési szempontból az ADF-folyamatok a központi telepítési fiókban futnak, ami megkönnyíti a telepítések általános állapotának áttekintését. Végül, az ADF olyan AWS által felügyelt szolgáltatásokat használ, mint a CodeBuild, CodeDeploy, CodePipeline és CloudFormation, ami megkönnyíti a konfigurálást és a karbantartást.

A SageMaker az ML képességek széles spektrumát kínálja, amely lehetővé teszi a csapatok számára, hogy többet összpontosítsanak az üzleti problémák megoldására, és kevésbé az infrastruktúra kiépítésére és karbantartására. Ezenkívül a SageMaker Pipelines API-k gazdag készletét kínálja az ML munkafolyamatok létrehozásához, frissítéséhez és telepítéséhez, így kiválóan illeszkedik az MLOp-okhoz.

Végül az MLOps a legjobb gyakorlatokat kínálja az ML-modellek üzemben történő megbízható és hatékony üzembe helyezéséhez és karbantartásához. Ez kritikus fontosságú azon csapatok számára, akik nagyarányú ML-megoldásokat készítenek és telepítenek az MLOp-k megvalósításához. A Yara esetében az MLOps jelentősen csökkenti az új üzembe való beépítéshez, az ELC frissítéseinek bevezetéséhez és a modellek minőségének ellenőrzéséhez szükséges erőfeszítéseket.

Az alkalmazások ADF használatával történő telepítésével kapcsolatos további információkért lásd a példák.

---

A szerzőkről

Shaheer Mansoor az AWS adattudósa. Fókuszában olyan gépi tanulási platformok építése áll, amelyek nagyszabású AI-megoldásokat képesek befogadni. Érdeklődési területe az MLOps, a szolgáltatásboltok, a modelltárolás és a modellfigyelés.

Tim Becker a Yara International vezető adattudósa. A Digitális Termelésen belül az ammónia- és salétromsavgyártás folyamatoptimalizálására összpontosít. PhD fokozatot szerzett termodinamikából, és szenvedélyesen ötvözi a folyamattervezést és a gépi tanulást.

Yongyos Kaewpitakkun vezető adattudós a Yara International digitális gyártási csapatában. PhD fokozattal rendelkezik a mesterséges intelligencia/gépi tanulás területén, és sok éves gyakorlati tapasztalattal rendelkezik a gépi tanulás, a számítógépes látás és a természetes nyelvi feldolgozási modellek felhasználásában a kihívást jelentő üzleti problémák megoldásában.