Az Amazon SageMaker Canvas Generative AI segítségével képessé teheti üzleti felhasználóit, hogy betekintést nyerjenek a vállalati dokumentumokból | Amazon webszolgáltatások

A vállalatok arra törekszenek, hogy kihasználják a gépi tanulásban (ML) rejlő lehetőségeket összetett problémák megoldására és az eredmények javítására. Egészen a közelmúltig az ML-modellek felépítése és üzembe helyezése mély szintű technikai és kódolási ismereteket igényelt, beleértve az ML-modellek hangolását és a működési folyamatok karbantartását. 2021-es bevezetése óta Amazon SageMaker Canvas lehetővé tette az üzleti elemzők számára, hogy számos ML-modellt – köztük táblázatos, számítógépes látásmódot és természetes nyelvi feldolgozást – építsenek, telepítsenek és alkalmazzanak anélkül, hogy egy sor kódot írnának. Ez felgyorsította a vállalkozások azon képességét, hogy alkalmazzák az ML-t olyan esetekben, mint az idősoros előrejelzés, az ügyfelek lemorzsolódásának előrejelzése, a hangulatelemzés, az ipari hibák észlelése és sok más.

Amint bejelentették Október 5, 2023, a SageMaker Canvas kiterjesztette a modellek támogatását az alapmodellekre (FM) – a tartalom generálására és összegzésére használt nagy nyelvi modellekre. A ... val 12. október 2023-i megjelenés, a SageMaker Canvas lehetővé teszi a felhasználóknak, hogy kérdéseket tegyenek fel, és válaszokat kapjanak, amelyek vállalati adataikon alapulnak. Ez biztosítja, hogy az eredmények kontextus-specifikusak legyenek, és további használati esetek nyílnak meg, ahol a kód nélküli ML alkalmazható az üzleti problémák megoldására. Például az üzleti csapatok mostantól a szervezet sajátos szókincsének és alapelveinek megfelelő válaszokat tudnak megfogalmazni, és gyorsabban lekérdezhetik a hosszadalmas dokumentumokat, hogy konkrét és a dokumentumok tartalmára alapozott válaszokat kapjanak. Mindezek a tartalmak privát és biztonságos módon kerülnek megjelenítésre, biztosítva, hogy minden érzékeny adathoz megfelelő irányítás és biztosítékok mellett hozzáférjenek.

A kezdéshez egy felhőrendszergazda konfigurálja és feltölti Amazon Kendra vállalati adatokkal indexel adatforrásként a SageMaker Canvas számára. A vászonfelhasználók kiválasztják azt az indexet, ahol a dokumentumaik vannak, és ötletelhetnek, kutathatnak és felfedezhetnek, tudván, hogy a kimenetet mindig az igazságforrásaik fogják alátámasztani. A SageMaker Canvas a legkorszerűbb FM-eket használ Amazon alapkőzet és a Amazon SageMaker JumpStart. A beszélgetések elindíthatók több FM-mel egymás mellett, összehasonlítva a kimeneteket, és valóban mindenki számára elérhetővé téve a generatív mesterséges intelligenciát.

Ebben a bejegyzésben áttekintjük a nemrégiben kiadott funkciót, megvitatjuk az architektúrát, és lépésről lépésre bemutatunk egy útmutatót, amely lehetővé teszi a SageMaker Canvas számára, hogy lekérdezze a dokumentumokat a tudásbázisából, amint azt a következő képernyőkép mutatja.

Megoldás áttekintése

Az alapozó modellek hallucinációkat idézhetnek elő – általános, homályos, nem kapcsolódó vagy tényszerűen helytelen válaszokat. Retrieval Augmented Generation (RAG) gyakran használt módszer a hallucinációk csökkentésére. A RAG architektúrák az FM-en kívülről származó adatok lekérésére szolgálnak, amelyeket azután a kontextuson belüli tanulás végrehajtására használnak a felhasználói lekérdezések megválaszolásához. Ez biztosítja, hogy az FM megbízható tudásbázisból származó adatokat felhasználhasson, és ezt a tudást felhasználja a felhasználók kérdéseinek megválaszolására, csökkentve a hallucinációk kockázatát.

A RAG segítségével az FM-en kívüli és a felhasználói kérések kiegészítésére használt adatok több különböző adatforrásból származhatnak, például dokumentumtárakból, adatbázisokból vagy API-kból. Az első lépés a dokumentumok és a felhasználói lekérdezések kompatibilis formátumba konvertálása a relevancia szemantikai keresése érdekében. A formátumok kompatibilitása érdekében egy dokumentumgyűjteményt vagy tudástárat, valamint a felhasználók által benyújtott lekérdezéseket a rendszer numerikus reprezentációkká alakítja beágyazott modellek segítségével.

Ezzel a kiadással a RAG funkciókat kód nélkül és zökkenőmentesen biztosítjuk. A vállalatok gazdagíthatják a csevegési élményt a Canvasban az Amazon Kendra mint mögöttes tudásmenedzsment rendszerrel. A következő ábra a megoldás architektúráját mutatja be.

A SageMaker Canvas és az Amazon Kendra csatlakoztatása egyszeri beállítást igényel. A beállítási folyamatot részletesen leírjuk a Vászon beállítása dokumentumok lekérdezéséhez című részben. Ha még nem állította be SageMaker tartományát, tekintse meg a Bekapcsolva az Amazon SageMaker domainbe.

A tartománykonfiguráció részeként a felhőrendszergazda kiválaszthat egy vagy több Kendra-indexet, amelyet az üzleti elemző lekérdezhet, amikor a SageMaker Canvason keresztül kommunikál az FM-mel.

A Kendra-indexek hidratálása és konfigurálása után az üzleti elemzők a SageMaker Canvas segítségével új csevegést indítva és a „Dokumentumok lekérdezése” kapcsoló kiválasztásával használják őket. A SageMaker Canvas ezután kezelni fogja a mögöttes kommunikációt az Amazon Kendra és a kiválasztott FM között a következő műveletek végrehajtásához:

1. Kérdezze le a Kendra indexeket a felhasználótól érkező kérdéssel.
2. Keresse ki a részleteket (és a forrásokat) a Kendra indexekből.
3. Tervezze meg a promptot a töredékekkel az eredeti lekérdezéssel, hogy az alapmodell választ tudjon generálni a visszakeresett dokumentumokból.
4. Adja meg a felhasználónak a generált választ, a válasz megfogalmazásához használt oldalakra/dokumentumokra való hivatkozásokkal együtt.

A Canvas beállítása dokumentumok lekérdezéséhez

Ebben a részben végigvezetjük a Canvas beállításának lépésein a Kendra indexeken keresztül kiszolgált dokumentumok lekérdezéséhez. A következő előfeltételekkel kell rendelkeznie:

• SageMaker domain beállítása – Bekapcsolva az Amazon SageMaker domainbe
• Hozzon létre egy Kendra index (vagy több)
• Állítsa be a Kendra Amazon S3 csatlakozót – kövesse a Amazon S3 csatlakozó – és töltsön fel PDF fájlokat és egyéb dokumentumokat a Kendra indexhez társított Amazon S3 tárolóba
• Állítsa be az IAM-et úgy, hogy a Canvas rendelkezzen a megfelelő jogosultságokkal, beleértve az Amazon Bedrock és/vagy a SageMaker végpontok hívásához szükséges engedélyeket – kövesse a A Canvas Chat beállítása dokumentáció

Most frissítheti a Domaint, hogy hozzáférjen a kívánt indexekhez. A SageMaker konzolon az adott tartományhoz válassza a Szerkesztés lehetőséget a Tartománybeállítások lapon. Engedélyezze a „Lekérdezési dokumentumok engedélyezése az Amazon Kendra segítségével” kapcsolót, amely a Vászonbeállítások lépésben található. Az aktiválás után válasszon ki egy vagy több Kendra-indexet, amelyet használni szeretne a Canvas-szal.

Csak ennyire van szükség a Canvas-lekérdezési dokumentumok funkció konfigurálásához. A felhasználók most cseveghetnek a Canvason belül, és elkezdhetik használni azokat a tudásbázisokat, amelyek a Kendra-indexeken keresztül a domainhez kapcsolódnak. A tudásbázis fenntartói továbbra is frissíthetik az igazság forrását, és a Kendra szinkronizálási lehetőségével a chat felhasználók automatikusan, zökkenőmentesen használhatják a naprakész információkat.

A Dokumentumok lekérdezése funkció használata csevegésre

SageMaker Canvas-felhasználóként a Dokumentumok lekérdezése funkció elérhető egy csevegésen belül. A csevegés elindításához kattintson vagy keressen rá a „Tartalom létrehozása, kibontása és összegzése” gombra a SageMaker Canvas Használatra kész modellek lapján.

Ha ott van, be- és kikapcsolhatja a Dokumentumok lekérdezését a képernyő tetején található kapcsolóval. A funkcióval kapcsolatos további információkért tekintse meg az információs ablakot.

Ha a Dokumentumok lekérdezése engedélyezve van, választhat a felhő rendszergazdája által engedélyezett Kendra-indexek listája közül.

Új csevegés indításakor kiválaszthat egy indexet. Ezután kérdéseket tehet fel az UX-ben, miközben a tudás automatikusan a kiválasztott indexből származik. Vegye figyelembe, hogy miután egy beszélgetés egy adott indexről indult, nem lehet másik indexre váltani.

A feltett kérdésekre a chat az FM által generált választ, valamint a válasz generálásához hozzájáruló forrásdokumentumokat mutatja. Ha valamelyik forrásdokumentumra kattint, a Canvas megnyitja a dokumentum előnézetét, kiemelve az FM által használt részletet.

Következtetés

A társalgási mesterséges intelligencia óriási lehetőségeket rejt magában az ügyfelek és az alkalmazottak élményének átalakítására azáltal, hogy egy emberszerű asszisztenst biztosít természetes és intuitív interakciókkal, például:

• Kutatások végzése egy témában vagy keresés és böngészés a szervezet tudásbázisában
• Tartalmi mennyiségek összegzése a gyors betekintés érdekében
• Entitások, érzelmek, személyazonosító adatok és egyéb hasznos adatok keresése, valamint a strukturálatlan tartalom üzleti értékének növelése
• Piszkozatok generálása dokumentumokhoz és üzleti levelezésekhez
• Tudáscikkek készítése különböző belső forrásokból (incidensek, chatnaplók, wikik)

A csevegési felületek, a tudásvisszakeresés és az FM-ek innovatív integrációja lehetővé teszi a vállalkozások számára, hogy pontos, releváns válaszokat adjanak a felhasználói kérdésekre a tartományi ismereteik és az igazságforrások felhasználásával.

A SageMaker Canvast az Amazon Kendra tudásbázisaihoz csatlakoztatva a szervezetek saját környezetükön belül tarthatják védett adataikat, miközben továbbra is élvezhetik az FM-ek legkorszerűbb természetes nyelvi képességeit. A SageMaker Canvas Query Documents funkciójának elindításával minden vállalkozás számára megkönnyítjük az LLM-ek és vállalati tudásuk felhasználását az igazság forrásaként a biztonságos csevegési élmény biztosításához. Mindezek a funkciók kód nélküli formátumban érhetők el, lehetővé téve a vállalkozások számára, hogy elkerüljék az ismétlődő és nem speciális feladatokat.

Ha többet szeretne megtudni a SageMaker Canvasról, és arról, hogy miként segíti mindenki számára könnyebben elkezdeni a gépi tanulást, tekintse meg a A SageMaker Canvas bejelentése. Ha többet szeretne megtudni arról, hogy a SageMaker Canvas hogyan segíti elő az adattudósok és az üzleti elemzők közötti együttműködést, olvassa el a Bejegyzés létrehozása, megosztása és telepítése. Végül, ha meg szeretné tudni, hogyan hozhatja létre saját visszakeresési kiterjesztett generációs munkafolyamatát, tekintse meg a SageMaker JumpStart RAG.

Referenciák

Lewis, P., Perez, E., Piktus, A., Petroni, F., Karpukhin, V., Goyal, N., Küttler, H., Lewis, M., Yih, W., Rocktäschel, T., Riedel, S., Kiela, D. (2020). Retrieval-Augmented Generation tudásintenzív NLP-feladatokhoz. A neurális információfeldolgozó rendszerek fejlődése, 33, 9459-9474.

---

A szerzőkről

Davide Gallitelli az AI/ML vezető megoldások szakértője. Székhelye Brüsszelben van, és világszerte szorosan együttműködik azokkal az ügyfelekkel, akik az alacsony kódú/kód nélküli gépi tanulási technológiákat és a generatív mesterséges intelligenciát kívánják alkalmazni. Egészen kicsi kora óta fejlesztő, 7 évesen kezdett el kódolni. Az AI/ML-t az egyetemen kezdte tanulni, és azóta beleszeretett.

Bilal Alam az AWS vállalati megoldások építészmérnöke, aki a pénzügyi szolgáltatások ágazatára összpontosít. A legtöbb napon a Bilal segíti az ügyfeleket az AWS-környezet felépítésében, fejlesztésében és biztonságossá tételében a legkritikusabb munkaterhelések telepítéséhez. Nagy tapasztalattal rendelkezik a Telco, a hálózatépítés és a szoftverfejlesztés területén. Az utóbbi időben az AI/ML felhasználásával foglalkozik üzleti problémák megoldására.

Pashmeen Mistry az AWS vezető termékmenedzsere. A munkán kívül Pashmeen élvezi a kalandos túrákat, a fotózást, és a családjával tölti az idejét.

Dan Sinnreich az AWS vezető termékmenedzsere, aki segít az alacsony kódú/kód nélküli gépi tanulás demokratizálásában. Az AWS-t megelőzően Dan vállalati SaaS-platformokat és idősoros modelleket épített és értékesített, amelyeket intézményi befektetők használtak a kockázatok kezelésére és az optimális portfóliók felépítésére. Munkán kívül jégkorongozni, búvárkodni és tudományos-fantasztikus regényeket olvasni.

• SEO által támogatott tartalom és PR terjesztés. Erősödjön még ma.
• PlatoData.Network Vertical Generative Ai. Erősítse meg magát. Hozzáférés itt.
• PlatoAiStream. Web3 Intelligence. Felerősített tudás. Hozzáférés itt.
• PlatoESG. Carbon, CleanTech, Energia, Környezet, Nap, Hulladékgazdálkodás. Hozzáférés itt.
• PlatoHealth. Biotechnológiai és klinikai vizsgálatok intelligencia. Hozzáférés itt.
• Forrás: https://aws.amazon.com/blogs/machine-learning/empower-your-business-users-to-extract-insights-from-company-documents-using-amazon-sagemaker-canvas-generative-ai/