Organizațiile din diverse industrii doresc să clasifice și să extragă informații din volume mari de documente de diferite formate. Procesarea manuală a acestor documente pentru a clasifica și extrage informații rămâne costisitoare, predispusă la erori și dificil de scalat. Avanseaza in inteligență artificială generativă (AI) au dat naștere la soluții inteligente de procesare a documentelor (IDP) care pot automatiza clasificarea documentelor și pot crea un nivel de clasificare rentabil, capabil să gestioneze documente diverse, nestructurate ale întreprinderii.
Clasificarea documentelor este un prim pas important în sistemele IDP. Vă ajută să determinați următorul set de acțiuni de întreprins în funcție de tipul de document. De exemplu, în timpul procesului de adjudecare a daunelor, echipa de conturi de plătibile primește factura, în timp ce departamentul de daune gestionează documentele contractului sau ale poliței. Motoarele de reguli tradiționale sau clasificarea bazată pe ML pot clasifica documentele, dar adesea ajung la o limită pentru tipurile de formate de document și suport pentru adăugarea dinamică a unor noi clase de documente. Pentru mai multe informații, vezi Clasificatorul de documente Amazon Comprehend adaugă suport pentru aspect pentru o precizie mai mare.
În această postare, discutăm despre clasificarea documentelor folosind Modelul Amazon Titan Multimodal Embeddings pentru a clasifica orice tip de document fără a fi nevoie de instruire.
Embeddings multimodale Amazon Titan
Amazon a fost recent introdus Embeddings multimodale Titan in Amazon Bedrock. Acest model poate crea înglobări pentru imagini și text, permițând crearea de înglobări de documente care să fie utilizate în noile fluxuri de lucru de clasificare a documentelor.
Acesta generează reprezentări vectoriale optimizate ale documentelor scanate ca imagini. Prin codificarea atât componentelor vizuale, cât și textuale în vectori numerici unificați care încapsulează semnificația semantică, permite indexarea rapidă, căutarea contextuală puternică și clasificarea precisă a documentelor.
Pe măsură ce noi șabloane și tipuri de documente apar în fluxurile de lucru de afaceri, puteți invoca pur și simplu API-ul Amazon Bedrock pentru a le vectoriza dinamic și a le atașa la sistemele lor IDP pentru a îmbunătăți rapid capacitățile de clasificare a documentelor.
Prezentare generală a soluțiilor
Să examinăm următoarea soluție de clasificare a documentelor cu modelul Amazon Titan Multimodal Embeddings. Pentru o performanță optimă, ar trebui să personalizați soluția în funcție de cazul dvs. de utilizare specific și de configurația existentă a conductei IDP.
Această soluție clasifică documentele folosind căutarea semantică prin încorporare vectorială prin potrivirea unui document de intrare cu o galerie de documente deja indexată. Folosim următoarele componente cheie:
- Încorporări - Încorporări sunt reprezentări numerice ale obiectelor din lumea reală pe care sistemele de învățare automată (ML) și AI le folosesc pentru a înțelege domenii complexe de cunoaștere, așa cum o fac oamenii.
- Baze de date vectoriale - Baze de date vectoriale sunt folosite pentru stocarea înglobărilor. Bazele de date vectoriale indexează și organizează eficient înglobările, permițând regăsirea rapidă a vectorilor similari pe baza unor metrici de distanță, cum ar fi distanța euclidiană sau asemănarea cosinusului.
- Căutare semantică – Căutarea semantică funcționează luând în considerare contextul și semnificația interogării de intrare și relevanța acesteia pentru conținutul căutat. Înglobarile vectoriale sunt o modalitate eficientă de a capta și de a reține sensul contextual al textului și imaginilor. În soluția noastră, atunci când o aplicație dorește să efectueze o căutare semantică, documentul de căutare este mai întâi convertit într-o încorporare. Baza de date vectorială cu conținut relevant este apoi interogată pentru a găsi cele mai asemănătoare înglobări.
În procesul de etichetare, un set de mostre de documente comerciale, cum ar fi facturi, extrase de cont sau rețete, sunt convertite în înglobări folosind modelul Amazon Titan Multimodal Embeddings și stocate într-o bază de date vectorială pe etichete predefinite. Modelul Amazon Titan Multimodal Embedding a fost antrenat folosind algoritmul Euclidean L2 și, prin urmare, pentru cele mai bune rezultate, baza de date vectorială utilizată ar trebui să accepte acest algoritm.
Următoarea diagramă de arhitectură ilustrează modul în care puteți utiliza modelul Amazon Titan Multimodal Embeddings cu documente într-un Serviciul Amazon de stocare simplă (Amazon S3) găleată pentru crearea unei galerii de imagini.
Fluxul de lucru constă din următorii pași:
- Un utilizator sau o aplicație încarcă un exemplu de imagine de document cu metadate de clasificare într-o galerie de imagini de document. Un prefix S3 sau metadatele obiectului S3 pot fi folosite pentru a clasifica imaginile galeriei.
- Un eveniment de notificare de obiect Amazon S3 invocă încorporarea AWS Lambdas Funcția.
- Funcția Lambda citește imaginea documentului și traduce imaginea în înglobări apelând Amazon Bedrock și utilizând modelul Amazon Titan Multimodal Embeddings.
- Încorporarea imaginilor, împreună cu clasificarea documentelor, sunt stocate în baza de date vectorială.
Când un document nou necesită clasificare, același model de încorporare este utilizat pentru a converti documentul de interogare într-o încorporare. Apoi, o căutare de similaritate semantică este efectuată în baza de date vectorială folosind încorporarea interogării. Eticheta extrasă în raport cu potrivirea de încorporare de sus va fi eticheta de clasificare pentru documentul de interogare.
Următoarea diagramă de arhitectură ilustrează modul de utilizare a modelului Amazon Titan Multimodal Embeddings cu documente într-o găleată S3 pentru clasificarea imaginilor.
Fluxul de lucru constă din următorii pași:
- Documentele care necesită clasificare sunt încărcate într-un compartiment S3 de intrare.
- Funcția de clasificare Lambda primește notificarea obiectului Amazon S3.
- Funcția Lambda traduce imaginea într-o încorporare apelând API-ul Amazon Bedrock.
- Baza de date vectorială este căutată pentru un document care se potrivește folosind căutarea semantică. Clasificarea documentului de potrivire este utilizată pentru a clasifica documentul de intrare.
- Documentul de intrare este mutat în directorul sau prefixul țintă S3 folosind clasificarea preluată din căutarea în baza de date vectorială.
Pentru a vă ajuta să testați soluția cu propriile documente, am creat un exemplu de blocnotes Python Jupyter, care este disponibil pe GitHub.
Cerințe preliminare
Pentru a rula notebook-ul, aveți nevoie de un Cont AWS cu adecvat Gestionarea identității și accesului AWS permisiuni (IAM) pentru a apela Amazon Bedrock. În plus, pe Acces model pagina consolei Amazon Bedrock, asigurați-vă că accesul este acordat pentru modelul Amazon Titan Multimodal Embeddings.
Punerea în aplicare
În următorii pași, înlocuiți fiecare substituent introdus de utilizator cu propriile informații:
- Creați baza de date vectorială. În această soluție, folosim o bază de date FAISS în memorie, dar puteți utiliza o bază de date vectorială alternativă. Dimensiunea implicită a Amazon Titan este 1024.
- După ce baza de date vectorială este creată, enumerați peste documentele eșantion, creând înglobări ale fiecăruia și stocați-le în baza de date vectorială
- Testați cu documentele dvs. Înlocuiți folderele din următorul cod cu propriile dosare care conțin tipuri de documente cunoscute:
- Folosind biblioteca Boto3, apelați Amazon Bedrock. Variabila
inputImageB64
este o matrice de octeți codificată în baza 64 care reprezintă documentul dvs. Răspunsul de la Amazon Bedrock conține încorporarea.
- Adăugați înglobările în baza de date vectorială, cu un ID de clasă care reprezintă un tip de document cunoscut:
- Cu baza de date vectorială populată cu imagini (reprezentând galeria noastră), puteți descoperi asemănări cu documente noi. De exemplu, următoarea este sintaxa folosită pentru căutare. K=1 îi spune FAISS să returneze primul meci.
În plus, este returnată și distanța euclidiană L2 dintre imaginea disponibilă și imaginea găsită. Dacă imaginea este o potrivire exactă, această valoare ar fi 0. Cu cât această valoare este mai mare, cu atât imaginile sunt mai depărtate în similaritate.
Considerații suplimentare
În această secțiune, discutăm considerații suplimentare pentru utilizarea eficientă a soluției. Aceasta include confidențialitatea datelor, securitatea, integrarea cu sistemele existente și estimările de costuri.
Confidențialitatea și securitatea datelor
AWS model de responsabilitate partajată se aplică la protejarea datelor în Amazon Bedrock. După cum este descris în acest model, AWS este responsabil pentru protejarea infrastructurii globale care rulează întregul AWS Cloud. Clienții sunt responsabili pentru menținerea controlului asupra conținutului lor care este găzduit pe această infrastructură. În calitate de client, sunteți responsabil pentru configurarea securității și sarcinile de gestionare pentru serviciile AWS pe care le utilizați.
Protecția datelor în Amazon Bedrock
Amazon Bedrock evită utilizarea solicitărilor și continuărilor clienților pentru a instrui modele AWS sau a le partaja terților. Amazon Bedrock nu stochează și nu înregistrează datele clienților în jurnalele sale de servicii. Furnizorii de modele nu au acces la jurnalele Amazon Bedrock sau acces la solicitările și continuările clienților. Ca urmare, imaginile utilizate pentru generarea de înglobări prin modelul Amazon Titan Multimodal Embeddings nu sunt stocate sau utilizate în formarea modelelor AWS sau distribuției externe. În plus, alte date de utilizare, cum ar fi marcajele de timp și ID-urile contului înregistrat, sunt excluse din instruirea modelului.
Integrare cu sistemele existente
Modelul Amazon Titan Multimodal Embeddings a fost instruit cu algoritmul Euclidean L2, astfel încât baza de date vectorială utilizată ar trebui să fie compatibilă cu acest algoritm.
Cost estimat
La momentul scrierii acestei postări, conform Prețuri Amazon Bedrock pentru modelul Amazon Titan Multimodal Embeddings, următoarele sunt costurile estimate folosind prețul la cerere pentru această soluție:
- Cost unic de indexare – 0.06 USD pentru o singură serie de indexare, presupunând o galerie de 1,000 de imagini
- Costul de clasificare – 6 USD pentru 100,000 de imagini de intrare pe lună
A curăța
Pentru a evita costurile viitoare, ștergeți resursele pe care le-ați creat, cum ar fi Instanță de notebook Amazon SageMaker, când nu este utilizat.
Concluzie
În această postare, am explorat modul în care puteți utiliza modelul Amazon Titan Multimodal Embeddings pentru a construi o soluție ieftină pentru clasificarea documentelor în fluxul de lucru IDP. Am demonstrat cum să creați o galerie de imagini cu documente cunoscute și să efectuați căutări de similaritate cu documente noi pentru a le clasifica. De asemenea, am discutat despre beneficiile utilizării înglobărilor de imagini multimodale pentru clasificarea documentelor, inclusiv capacitatea lor de a gestiona diverse tipuri de documente, scalabilitate și latență scăzută.
Pe măsură ce noi șabloane și tipuri de documente apar în fluxurile de lucru de afaceri, dezvoltatorii pot invoca API-ul Amazon Bedrock pentru a le vectoriza dinamic și pentru a le atașa sistemelor lor IDP pentru a îmbunătăți rapid capabilitățile de clasificare a documentelor. Acest lucru creează un nivel de clasificare ieftin, infinit scalabil, care poate gestiona chiar și cele mai diverse, nestructurate documente ale întreprinderii.
În general, această postare oferă o foaie de parcurs pentru construirea unei soluții ieftine pentru clasificarea documentelor în fluxul de lucru IDP folosind Amazon Titan Multimodal Embeddings.
Ca următorii pași, verificați Ce este Amazon Bedrock pentru a începe să utilizați serviciul. Și urmează Amazon Bedrock pe blogul AWS Machine Learning pentru a fi la curent cu noile capabilități și cazuri de utilizare pentru Amazon Bedrock.
Despre Autori
Sumit Bhati este manager senior de soluții pentru clienți la AWS, specializat în accelerarea călătoriei în cloud pentru clienții întreprinderilor. Sumit este dedicat asistenței clienților în fiecare fază a adoptării lor în cloud, de la accelerarea migrațiilor la modernizarea sarcinilor de lucru și facilitarea integrării practicilor inovatoare.
David Girling este un arhitect senior de soluții AI/ML cu peste 20 de ani de experiență în proiectarea, conducerea și dezvoltarea sistemelor de întreprindere. David face parte dintr-o echipă de specialiști care se concentrează pe a ajuta clienții să învețe, să inoveze și să utilizeze aceste servicii de înaltă capacitate cu datele lor pentru cazurile lor de utilizare.
Ravi Avula este arhitect senior de soluții în AWS, concentrându-se pe arhitectura întreprinderii. Ravi are 20 de ani de experiență în inginerie software și a deținut mai multe roluri de conducere în inginerie software și arhitectură software în industria plăților.
George Belsian este arhitect senior de aplicații cloud la AWS. Este pasionat de a ajuta clienții să-și accelereze călătoria de modernizare și adoptare a cloud-ului. În rolul său actual, George lucrează alături de echipele de clienți pentru a elabora strategii, arhitectură și dezvolta soluții inovatoare, scalabile.
- Distribuție de conținut bazat pe SEO și PR. Amplifică-te astăzi.
- PlatoData.Network Vertical Generative Ai. Împuterniciți-vă. Accesați Aici.
- PlatoAiStream. Web3 Intelligence. Cunoștințe amplificate. Accesați Aici.
- PlatoESG. carbon, CleanTech, Energie, Mediu inconjurator, Solar, Managementul deșeurilor. Accesați Aici.
- PlatoHealth. Biotehnologie și Inteligență pentru studii clinice. Accesați Aici.
- Sursa: https://aws.amazon.com/blogs/machine-learning/cost-effective-document-classification-using-the-amazon-titan-multimodal-embeddings-model/
- :are
- :este
- :nu
- $UP
- 000
- 06
- 1
- 100
- 14
- 19
- 20
- ani 20
- 7
- 8
- a
- capacitate
- Despre Noi
- accelera
- accelerarea
- acces
- Cont
- Conturi
- creanţe
- precis
- peste
- acțiuni
- plus
- Suplimentar
- În plus,
- Adaugă
- Adoptare
- avans
- împotriva
- AI
- Sisteme AI
- AI / ML
- Algoritmul
- TOATE
- de-a lungul
- pe langa
- deja
- de asemenea
- alternativă
- Amazon
- Amazon Web Services
- an
- și
- Orice
- separat
- api
- aplicație
- se aplică
- adecvat
- arhitectură
- SUNT
- Mulțime
- artificial
- inteligență artificială
- AS
- asistarea
- At
- automatizarea
- disponibil
- evita
- Împiedică
- AWS
- Învățare automată AWS
- Bancă
- bazat
- BE
- fiind
- Beneficiile
- CEL MAI BUN
- între
- corp
- atât
- construi
- Clădire
- afaceri
- dar
- by
- apel
- apel
- CAN
- capacități
- capabil
- captura
- card
- caz
- cazuri
- clasifica
- taxe
- verifica
- creanțe
- clasă
- clase
- clasificare
- clasifica
- Clasifica
- închidere
- Cloud
- adoptarea norului
- cod
- compatibil
- complex
- componente
- înţelege
- Configuraţie
- Considerații
- luand in considerare
- constă
- Consoleze
- conţine
- conține
- conţinut
- context
- contextual
- contract
- Control
- converti
- convertit
- A costat
- cost-eficiente
- Cheltuieli
- ar putea
- crea
- a creat
- creează
- Crearea
- creaţie
- Curent
- client
- datele despre consumator
- Soluții pentru clienți
- clienţii care
- personaliza
- de date
- confidențialitatea datelor
- Baza de date
- baze de date
- Data
- David
- dedicat
- Mod implicit
- demonstrat
- Departament
- În funcție
- descris
- proiect
- Determina
- dezvolta
- Dezvoltatorii
- în curs de dezvoltare
- diagramă
- diferit
- dificil
- Dimensiune
- director
- dezvăluire
- discuta
- discutat
- distanţă
- distribuire
- diferit
- do
- document
- documente
- Nu
- domenii
- Dont
- în timpul
- dinamic
- dinamic
- fiecare
- Eficace
- în mod eficient
- eficient
- Încorporarea
- apărea
- angajat
- permite
- permițând
- codificat
- codare
- Inginerie
- Motoare
- spori
- Afacere
- eroare
- estimativ
- estimări
- Chiar
- eveniment
- Fiecare
- exact
- examina
- exemplu
- exclus
- existent
- scump
- experienţă
- explorat
- extern
- extrage
- facilitând
- FAST
- Găsi
- First
- se concentrează
- concentrându-se
- urma
- următor
- Pentru
- găsit
- din
- funcţie
- mai mult
- viitor
- Galerie
- generează
- generator
- George
- dat
- Caritate
- acordate
- mână
- manipula
- Manipularea
- Avea
- he
- Held
- ajutor
- ajutor
- ajută
- Înalt
- superior
- extrem de
- lui
- găzduit
- Cum
- Cum Pentru a
- HTML
- HTTPS
- Oamenii
- ID
- Identitate
- ID-uri
- if
- ilustrează
- imagine
- Clasificarea imaginilor
- imagini
- important
- in
- include
- Inclusiv
- index
- indexate
- industrii
- industrie
- infinit
- informații
- Infrastructură
- inova
- inovatoare
- intrare
- perspective
- integrare
- Inteligență
- Inteligent
- Procesarea inteligentă a documentelor
- în
- introdus
- factură
- facturi
- invocă
- IT
- ESTE
- călătorie
- jpg
- JSON
- A pastra
- Cheie
- cunoştinţe
- cunoscut
- l2
- Etichetă
- etichetarea
- etichete
- mai mare
- Latență
- strat
- Aspect
- Conducere
- conducere
- AFLAȚI
- învăţare
- Bibliotecă
- ca
- LIMITĂ
- log
- autentificat
- Jos
- maşină
- masina de învățare
- Mentine
- face
- administrare
- manager
- gestionează
- manual
- Meci
- potrivire
- sens
- Metadata
- Metrici
- ML
- model
- Modele
- modernizare
- modernizarea
- mai mult
- cele mai multe
- mutat
- Nevoie
- nevoilor
- Nou
- următor
- Nici unul
- caiet
- notificare
- obiect
- obiecte
- of
- de multe ori
- on
- La cerere
- optimă
- optimizate
- or
- Altele
- al nostru
- afară
- peste
- propriu
- parte
- petreceri
- pasionat
- plăți
- pentru
- Efectua
- performanță
- efectuată
- permisiuni
- fază
- conducte
- înlocuitor
- Plato
- Informații despre date Platon
- PlatoData
- Politica
- populat
- Post
- puternic
- practicile
- predefinite
- de stabilire a prețurilor
- intimitate
- proces
- prelucrare
- solicitări
- protectoare
- protecţie
- furnizori
- furnizează
- Piton
- întrebare
- rapid
- repede
- ajunge
- lumea reală
- primește
- recent
- relevanţa
- rămășițe
- înlocui
- reprezentând
- reprezintă
- necesita
- Resurse
- răspuns
- responsabilitate
- responsabil
- rezultat
- REZULTATE
- reține
- regăsire
- reveni
- Ridica
- foaie de parcurs
- Rol
- rolurile
- Regula
- Alerga
- ruleaza
- sagemaker
- acelaşi
- probă
- scalabilitate
- scalabil
- Scară
- Caută
- Cautari
- Secțiune
- securitate
- vedea
- semantică
- senior
- serviciu
- Servicii
- set
- configurarea
- câteva
- Distribuie
- să
- asemănător
- asemănări
- simplu
- pur şi simplu
- singur
- Mărimea
- So
- Social
- Software
- Inginerie software
- soluţie
- soluţii
- specialist
- specializată
- specific
- Începe
- Declarație
- Declarații
- Pas
- paşi
- depozitare
- stoca
- stocate
- astfel de
- a sustine
- sigur
- sintaxă
- sisteme
- Lua
- Ţintă
- sarcini
- echipă
- echipe
- spune
- şabloane
- test
- a) Sport and Nutrition Awareness Day in Manasia Around XNUMX people from the rural commune Manasia have participated in a sports and healthy nutrition oriented activity in one of the community’s sports ready yards. This activity was meant to gather, mainly, middle-aged people from a Romanian rural community and teach them about the benefits that sports have on both their mental and physical health and on how sporting activities can be used to bring people from a community closer together. Three trainers were made available for this event, so that the participants would get the best possible experience physically and so that they could have the best access possible to correct information and good sports/nutrition practices. b) Sports Awareness Day in Poiana Țapului A group of young participants have taken part in sporting activities meant to teach them about sporting conduct, fairplay, and safe physical activities. The day culminated with a football match.
- textual
- acea
- lor
- Lor
- apoi
- prin urmare
- Acestea
- Al treilea
- terțe părți
- acest
- aceste
- Prin
- timp
- gigant
- la
- top
- tradiţional
- Tren
- dresat
- Pregătire
- tip
- Tipuri
- descoperi
- înţelege
- a suferit
- unificat
- nestructurat
- încărcat
- Folosire
- utilizare
- carcasa de utilizare
- utilizat
- Utilizator
- folosind
- folosi
- valoare
- variabil
- vizual
- volume
- vrea
- vrea
- a fost
- Cale..
- we
- web
- servicii web
- cand
- întrucât
- care
- voi
- cu
- fără
- flux de lucru
- fluxuri de lucru
- de lucru
- fabrică
- ar
- scris
- ani
- Tu
- Ta
- zephyrnet