Ezt a bejegyzést Anthony Medeirosszal, az észak-amerikai mesterséges intelligencia megoldásmérnöki és építészeti igazgatójával és Blake Santschivel, a Schneider Electric üzleti intelligencia menedzserével közösen írták. A Schneider Electric további szakértői közé tartozik Jesse Miller, Somik Chowdhury, Shaswat Babhulgaonkar, David Watkins, Mark Carlson és Barbara Sleczkowski.
Az Enterprise Resource Planning (ERP) rendszereket a vállalatok több üzleti funkció, például könyvelés, értékesítés vagy rendeléskezelés egy rendszerben történő kezelésére használják. Különösen az ügyfélszámlákkal kapcsolatos információk tárolására használják őket rutinszerűen. A vállalaton belüli különböző szervezetek különböző ERP rendszereket használhatnak, és ezek összevonása összetett technikai kihívást jelent, és területspecifikus ismereteket igényel.
A Schneider Electric vezető szerepet tölt be az energiagazdálkodás és az ipari automatizálás digitális átalakításában. Ügyfelei igényeinek legjobb kiszolgálása érdekében a Schneider Electricnek nyomon kell követnie a kapcsolódó ügyfelek fiókjai közötti kapcsolatokat az ERP rendszereiben. Ügyfélbázisuk növekedésével naponta új ügyfeleket kell hozzáadni, és a fiókcsapatoknak manuálisan kell rendezniük ezeket az új ügyfeleket, és össze kell kapcsolniuk őket a megfelelő szülő entitással.
Az összekapcsolási döntés az interneten vagy a médiában nyilvánosan elérhető legfrissebb információkon alapul, és a közelmúltbeli felvásárlások, piaci hírek vagy divízió-átalakítások befolyásolhatják. A fiókok összekapcsolásának példája az Amazon és leányvállalata, a Whole Foods Market közötti kapcsolat azonosítása [forrás].
A Schneider Electric nagy nyelvi modelleket alkalmaz a különféle tudásspecifikus területeken felmerülő kérdések megválaszolására vonatkozó képességeik miatt, a modell betanításának dátuma korlátozza tudását. Ezt a kihívást a Retriever-Augmented Generation nyílt forráskódú, nagy nyelvi modell használatával oldották meg, amely a következő helyen érhető el Amazon SageMaker JumpStart nagy mennyiségű külső tudás feldolgozására és vállalati vagy nyilvános kapcsolatok bemutatására az ERP rekordok között.
2023 elején, amikor a Schneider Electric úgy döntött, hogy a fiókok összekapcsolási folyamatának egy részét mesterséges intelligencia (AI) segítségével automatizálja, a vállalat partnerséget kötött az AWS Machine Learning Solutions Lab-ral (MLSL). Az MLSL ML tanácsadásban és végrehajtásban szerzett szakértelmével a Schneider Electric olyan mesterséges intelligencia architektúrát tudott kifejleszteni, amely csökkenti a munkafolyamatok összekapcsolása során szükséges manuális erőfeszítést, és gyorsabb adathozzáférést biztosít a downstream elemzőcsapatoknak.
Generatív AI
A generatív mesterséges intelligencia és a nagy nyelvi modellek (LLM) átalakítják azt a módot, ahogyan az üzleti szervezetek képesek megoldani a természetes nyelv feldolgozásával és megértésével kapcsolatos, hagyományosan összetett kihívásokat. Az LLM-ek által kínált előnyök közé tartozik a szöveg nagy részének megértése és a kapcsolódó kérdések megválaszolása emberszerű válaszok készítésével. Az AWS megkönnyíti az ügyfelek számára az LLM-munkaterhelések kísérletezését és előállítását azáltal, hogy számos lehetőséget tesz elérhetővé az Amazon SageMaker JumpStart segítségével, Amazon alapkőzetés Amazon Titan.
Külső tudásszerzés
Az LLM-ek arról ismertek, hogy képesek tömöríteni az emberi tudást, és figyelemre méltó képességekről tettek tanúbizonyságot a kérdések megválaszolásában különböző tudásspecifikus területeken, de tudásukat korlátozza a modell betanításának időpontja. Ezt az információs korlátot úgy kezeljük, hogy összekapcsoljuk az LLM-et a Google Search API-val, hogy egy hatékony Retrieval Augmented LLM-et (RAG) biztosítsunk, amely megfelel a Schneider Electric kihívásainak. A RAG képes feldolgozni a Google keresésből származó nagy mennyiségű külső tudást, és vállalati vagy nyilvános kapcsolatokat mutatni az ERP rekordok között.
Lásd a következő példát:
Kérdés: Ki a One Medical anyacége?
Google lekérdezés: „One Medical anyacég” → információ → LLM
Válasz: A One Medical, az Amazon leányvállalata…
Az előző példa (amely a Schneider Electric ügyféladatbázisából származik) egy olyan felvásárlásra vonatkozik, amely 2023 februárjában történt, és így a tudáskorlátozások miatt egyedül az LLM nem fog rajta. Az LLM Google kereséssel történő kiegészítése garantálja a legfrissebb információkat.
Flan-T5 modell
Ebben a projektben a Flan-T5-XXL modellt használtuk Flan-T5 modellcsalád.
A Flan-T5 modellek utasítás-hangolásúak, ezért képesek különféle nullapontos NLP feladatok végrehajtására. A mi lefelé irányuló feladatunkban nem volt szükség nagy mennyiségű világismeret befogadására, hanem a keresési eredményeken keresztül biztosított szövegkörnyezetben a kérdések megválaszolására volt szükség, ezért a 11B paraméteres T5 modell jól teljesített.
A JumpStart segítségével kényelmesen telepíthető ez a modellcsalád Amazon SageMaker Studio és a SageMaker SDK. Ide tartozik a Flan-T5 Small, a Flan-T5 Base, a Flan-T5 Large, a Flan-T5 XL és a Flan-T5 XXL. Ezenkívül a JumpStart a Flan-T5 XXL néhány verzióját kínálja különböző kvantálási szinteken. A Flan-T5-XXL-t egy végpontra telepítettük a következtetések levonására Amazon SageMaker Studio Jumpstart.
Kibővített LLM visszakeresés LangChain segítségével
LangChain népszerű és gyorsan növekvő keretrendszer, amely lehetővé teszi az LLM-ek által működtetett alkalmazások fejlesztését. A koncepción alapul láncok, amelyek különböző összetevők kombinációi, amelyek célja az LLM-ek funkcionalitásának javítása egy adott feladathoz. Például lehetővé teszi számunkra a testreszabást utasításokat és integrálja az LLM-eket különböző eszközökkel, például külső keresőmotorokkal vagy adatforrásokkal. Használati esetünkben a Google-t használtuk Serper összetevőt a weben való kereséshez, és telepítette a következő címen elérhető Flan-T5-XXL modellt Amazon SageMaker Studio Jumpstart. A LangChain elvégzi a teljes hangszerelést, és lehetővé teszi a keresési eredményoldalak betáplálását a Flan-T5-XXL példányba.
A Retrieval-Augmented Generation (RAG) két lépésből áll:
- visszakeresés külső forrásokból származó releváns szövegrészek
- nagyobbodás az LLM-nek adott promptban a kontextussal rendelkező darabok közül.
A Schneider Electric használati esetére az RAG a következőképpen jár el:
- A megadott cégnevet kombinálják egy olyan kérdéssel, mint „Ki az X anyavállalata”, ahol X az adott cég), és a Serper AI segítségével továbbítják a Google lekérdezéséhez.
- A kinyert információkat kombináljuk a gyors és eredeti kérdéssel, és átadjuk az LLM-nek válaszért.
A következő diagram ezt a folyamatot szemlélteti.
Végpont létrehozásához használja a következő kódot:
Azonnali keresőeszköz:
A következő kódban összeláncoljuk a visszakeresési és bővítési összetevőket:
Az azonnali tervezés
A kontextus és a kérdés kombinációját promptnak nevezzük. Észrevettük, hogy az általunk használt átfogó prompt (változatok az anyavállalat kérésének körülményei között) jól teljesített a legtöbb állami szektorban (domain), de nem általánosított jól az oktatásra vagy az egészségügyre, mivel ott az anyavállalat fogalma nem értelmezhető. Az oktatáshoz az „X”-et, míg az egészségügyben az „Y”-t használtuk.
A domainspecifikus prompt kiválasztásának engedélyezéséhez azonosítanunk kellett azt a domaint is, amelyhez az adott fiók tartozik. Ehhez egy RAG-t is használtunk, ahol egy feleletválasztós kérdés „Mi a {fiók} domainje?” első lépésként, a válasz alapján pedig a megfelelő prompt segítségével érdeklődtünk a fiók szülőjénél. Lásd a következő kódot:
Az ágazatspecifikus utasítások az általános teljesítményt 55%-ról 71%-ra növelték. Összességében a hatékony fejlesztésbe fektetett erőfeszítés és idő utasításokat úgy tűnik, hogy jelentősen javítja az LLM válasz minőségét.
RAG táblázatos adatokkal (SEC-10k)
A SEC 10K bejelentések egy másik megbízható információforrás a leányvállalatok és alegységek számára, amelyeket egy nyilvánosan jegyzett társaság évente nyújt be. Ezek a bejelentések közvetlenül elérhetők a SEC-en EDGAR Vagy keresztül CorpWatch API.
Feltételezzük, hogy az információkat táblázatos formában adjuk meg. Az alábbiakban egy pszeudo csv adatkészlet, amely utánozza a SEC-10K adatkészlet eredeti formátumát. Lehetőség van több egyesítésére is csv adatforrásokat egy kombinált panda adatkeretbe:
# A pseudo dataset similar by schema to the CorpWatch API dataset
df.head()
- SEO által támogatott tartalom és PR terjesztés. Erősödjön még ma.
- PlatoData.Network Vertical Generative Ai. Erősítse meg magát. Hozzáférés itt.
- PlatoAiStream. Web3 Intelligence. Felerősített tudás. Hozzáférés itt.
- PlatoESG. Carbon, CleanTech, Energia, Környezet, Nap, Hulladékgazdálkodás. Hozzáférés itt.
- PlatoHealth. Biotechnológiai és klinikai vizsgálatok intelligencia. Hozzáférés itt.
- Forrás: https://aws.amazon.com/blogs/machine-learning/schneider-electric-leverages-retrieval-augmented-llms-on-sagemaker-to-ensure-real-time-updates-in-their-erp-systems/
- :van
- :is
- :nem
- :ahol
- $ UP
- 1
- 10
- 100
- 10K
- 11
- 15 év
- 15%
- 160
- 17
- 2023
- 7
- 710
- a
- képesség
- Képes
- Rólunk
- felett
- absztrakció
- gyorsul
- hozzáférés
- elhelyezésére
- Fiók
- számvitel
- Fiókok
- pontosság
- pontos
- beszerzés
- felvásárlások
- át
- Akció
- hozzáadott
- mellett
- További
- cím
- címzett
- címek
- előnyei
- érintett
- Ügynök
- AI
- AI / ML
- lehetővé téve
- lehetővé teszi, hogy
- kizárólag
- Is
- amazon
- Amazon gépi tanulás
- Amazon SageMaker
- Amazon SageMaker JumpStart
- Az Amazon Web Services
- Amerika
- között
- összeg
- Összegek
- an
- analitika
- és a
- Évente
- Másik
- válasz
- Anthony
- api
- megjelenik
- alkalmazások
- alkalmazott
- Alkalmazása
- építészet
- VANNAK
- körül
- mesterséges
- mesterséges intelligencia
- Mesterséges intelligencia (AI)
- AS
- kérdez
- kér
- feltételezni
- At
- fokozza
- bővített
- automatizált
- Automatizálás
- elérhető
- közvetlenül elérhető
- AWS
- AWS gépi tanulás
- Banking
- bázis
- alapján
- BE
- óta
- előtt
- tartozik
- lent
- Előnyök
- BEST
- között
- Blocks
- Javítottak
- Bring
- épít
- Épület
- üzleti
- üzleti funkciók
- üzleti intelligencia
- de
- by
- hívott
- TUD
- képességek
- képes
- Carlson
- elkapott
- lánc
- kihívás
- kihívások
- választás
- Város
- osztályoz
- CNBC
- kód
- Oszlop
- kombináció
- kombinációk
- kombinált
- Companies
- vállalat
- bonyolult
- összetevő
- alkatrészek
- megért
- koncepció
- aggodalmak
- áll
- tanácsadó
- fogyasztó
- kontextus
- Kényelmes
- Társasági
- teremt
- Érték létrehozása
- vevő
- Ügyfelek
- napi
- dátum
- adat hozzáférés
- adatalapú
- adatbázis
- adatkészletek
- találka
- David
- határozott
- döntés
- szállít
- átadó
- igazolták
- telepített
- bevezetéséhez
- bevetés
- Design
- tervezett
- részlet
- részletes
- Fejleszt
- fejlesztése
- Fejlesztés
- különböző
- digitális
- digitális átalakítás
- közvetlenül
- do
- dokumentum
- domain
- domainek
- két
- Korai
- könnyű
- Oktatás
- erőfeszítés
- elektromos
- lehetővé
- Endpoint
- energia
- Mérnöki
- Motorok
- biztosítására
- belépés
- Vállalatok
- egység
- ERP
- példa
- végrehajtás
- kiállít
- tapasztalat
- kísérlet
- szakvélemény
- szakértők
- terjed
- külső
- Exxon Mobil
- család
- GYORS
- gyorsabb
- február
- Fed
- kevés
- iktatott
- reszelék
- utolsó
- Találjon
- vezetéknév
- Összpontosít
- összpontosított
- következő
- következik
- élelmiszerek
- A
- formátum
- Keretrendszer
- ból ből
- funkcionalitás
- funkciók
- további
- Továbbá
- GAS
- generáció
- nemző
- Generatív AI
- adott
- Globális
- Google keresés
- grafikonok
- Növekvő
- növekszik
- garanciák
- kellett
- történt
- Legyen
- he
- egészségügyi
- segít
- neki
- <p></p>
- övé
- Hogyan
- HTML
- http
- HTTPS
- emberi
- i
- Azonosítás
- azonosítani
- illusztrálja
- javul
- javuló
- in
- tartalmaz
- magában foglalja a
- inkubátor
- ipari
- ipar
- információ
- kezdetben
- kezdeményezések
- bemenet
- meglátások
- példa
- integrálni
- Intelligencia
- kölcsönhatásba
- érdekek
- Internet
- bele
- befektetett
- IT
- ITS
- joshua
- jpg
- Tart
- Kulcs
- Ismer
- tudás
- ismert
- labor
- nyelv
- nagy
- réteg
- vezető
- vezető
- tanulás
- szintek
- kihasználja
- illeték
- mint
- Korlátozott
- korlátozó
- LINK
- Összekapcsolása
- linkek
- LLM
- gép
- gépi tanulás
- fenntartása
- KÉSZÍT
- Gyártás
- kezelése
- vezetés
- menedzser
- kézikönyv
- kézzel
- sok
- jel
- piacára
- Piaci hírek
- jelentőségteljes
- Média
- orvosi
- orvosi adatok
- megy
- egyesülő
- mód
- esetleg
- Molnár
- ML
- modell
- modellek
- több
- a legtöbb
- többszörös
- név
- elnevezési
- Természetes
- Természetes nyelvi feldolgozás
- Szükség
- igények
- Új
- New York
- new york city
- hír
- NLP
- nem
- Északi
- Észak Amerika
- fogalom
- Most
- megfigyelés
- of
- felajánlott
- Olaj
- Olaj és gáz
- on
- ONE
- Egy Orvos
- nyitva
- nyílt forráskódú
- Opciók
- or
- hangszerelés
- érdekében
- szervezet
- szervezeti
- szervezetek
- eredeti
- Más
- mi
- ki
- teljesítmény
- átfogó
- saját
- oldalak
- pandák
- paraméterek
- anyavállalat
- rész
- különös
- társult
- Elmúlt
- szenvedélyes
- ösvény
- Teljesít
- teljesítmény
- teljesített
- előadó
- Előadja
- Pharma
- phd
- csővezeték
- tervezés
- Plató
- Platón adatintelligencia
- PlatoData
- Népszerű
- lehetséges
- állás
- powered
- erős
- korábban
- Fő
- problémák
- bevétel
- folyamat
- feldolgozás
- termelő
- program
- megfelelő
- feltéve,
- biztosít
- nyilvános
- nyilvánosan
- világítás
- kérdés
- Kérdések
- Inkább
- real-time
- új
- nyilvántartások
- csökkenteni
- összefüggő
- kapcsolat
- Kapcsolatok
- megbízható
- figyelemre méltó
- megköveteli,
- kutatás
- kutató
- forrás
- válasz
- válaszok
- eredményez
- Eredmények
- visszatérés
- erős
- rutinszerűen
- SOR
- futás
- sagemaker
- értékesítés
- Skála
- Schneider Electric
- Tudomány
- Tudós
- sdk
- Keresés
- Keresők
- SEC
- Második
- szektor
- ágazatok
- biztonság
- lát
- kiválasztás
- idősebb
- szolgál
- Szolgáltatások
- számos
- ő
- jelentősen
- hasonló
- óta
- kicsi
- megoldások
- Megoldások
- SOLVE
- néhány
- forrás
- Források
- specializálódott
- különleges
- Centrifugálás
- fonott
- csúcs-
- statisztikai
- Lépés
- Lépései
- tárolni
- struktúrák
- stúdió
- alosztályok
- leányvállalat
- ilyen
- Támogató
- rendszer
- Systems
- meghozott
- Feladat
- feladatok
- csapat
- csapat
- Műszaki
- szöveg
- mint
- hogy
- A
- az információ
- azok
- Őket
- elméleti
- Ott.
- ebből adódóan
- Ezek
- ők
- ezt
- gondoltam
- Keresztül
- Így
- idő
- nak nek
- együtt
- szerszám
- szerszámok
- felső
- vágány
- forgalmazott
- hagyományosan
- kiképzett
- Átalakítás
- transzformáló
- megbízható
- Rángatózik
- kettő
- feltárni
- megértés
- kinyit
- up-to-date
- Frissítés
- us
- használ
- használt
- segítségével
- érték
- különféle
- Hatalmas
- verzió
- függőlegesek
- keresztül
- volt
- Út..
- módon
- we
- Vagyon
- háló
- webes szolgáltatások
- JÓL
- Mit
- Mi
- amikor
- ami
- míg
- WHO
- egész
- lesz
- val vel
- belül
- munkafolyamat
- munkafolyamatok
- művek
- világ
- lenne
- X
- év
- york
- te
- zephyrnet