Această postare este scrisă împreună cu Chaoyang He, Al Nevarez și Salman Avestimehr de la FedML.
Multe organizații implementează învățarea automată (ML) pentru a-și îmbunătăți procesul de luare a deciziilor de afaceri prin automatizare și utilizarea unor seturi de date mari distribuite. Cu acces sporit la date, ML are potențialul de a oferi perspective și oportunități de afaceri de neegalat. Cu toate acestea, partajarea de informații sensibile brute, neigienizate în diferite locații prezintă riscuri semnificative de securitate și confidențialitate, în special în industriile reglementate, cum ar fi asistența medicală.
Pentru a rezolva această problemă, învățarea federată (FL) este o tehnică de instruire ML descentralizată și colaborativă care oferă confidențialitatea datelor, păstrând în același timp acuratețea și fidelitatea. Spre deosebire de instruirea ML tradițională, instruirea FL are loc într-o locație izolată a clientului, folosind o sesiune securizată independentă. Clientul își partajează parametrii modelului de ieșire doar cu un server centralizat, cunoscut sub numele de coordonator de instruire sau server de agregare, și nu datele reale utilizate pentru antrenamentul modelului. Această abordare atenuează multe probleme legate de confidențialitatea datelor, permițând în același timp o colaborare eficientă la formarea modelului.
Deși FL este un pas către obținerea unei mai bune confidențialitate și securitate a datelor, nu este o soluție garantată. Rețelele nesigure care nu dispun de controlul accesului și de criptare pot expune în continuare informații sensibile atacatorilor. În plus, informațiile instruite la nivel local pot expune date private dacă sunt reconstruite printr-un atac de inferență. Pentru a atenua aceste riscuri, modelul FL utilizează algoritmi de antrenament personalizați și mascarea și parametrizarea eficientă înainte de a partaja informații cu coordonatorul de instruire. Controalele puternice ale rețelei în locații locale și centralizate pot reduce și mai mult riscurile de inferență și exfiltrare.
În această postare, împărtășim o abordare FL folosind FedML, Serviciul Amazon Elastic Kubernetes (Amazon EKS) și Amazon SageMaker pentru a îmbunătăți rezultatele pacienților, abordând în același timp preocupările privind confidențialitatea și securitatea datelor.
Nevoia de învățare federată în domeniul sănătății
Asistența medicală se bazează în mare măsură pe surse de date distribuite pentru a face predicții și evaluări precise despre îngrijirea pacienților. Limitarea surselor de date disponibile pentru a proteja confidențialitatea afectează negativ acuratețea rezultatelor și, în cele din urmă, calitatea îngrijirii pacienților. Prin urmare, ML creează provocări pentru clienții AWS care trebuie să asigure confidențialitatea și securitatea între entitățile distribuite fără a compromite rezultatele pacienților.
Organizațiile din domeniul sănătății trebuie să navigheze prin reglementări stricte de conformitate, cum ar fi Legea privind portabilitatea și responsabilitatea asigurărilor de sănătate (HIPAA) din Statele Unite, în timp ce implementează soluții FL. Asigurarea confidențialității datelor, a securității și a conformității devine și mai critică în domeniul sănătății, necesitând criptare robustă, controale de acces, mecanisme de audit și protocoale de comunicare sigure. În plus, seturile de date din domeniul sănătății conțin adesea tipuri de date complexe și eterogene, ceea ce face ca standardizarea datelor și interoperabilitatea să fie o provocare în setările FL.
Prezentare generală a cazului de utilizare
Cazul de utilizare prezentat în această postare este al datelor despre bolile de inimă din diferite organizații, pe care un model ML va rula algoritmi de clasificare pentru a prezice bolile de inimă la pacient. Deoarece aceste date sunt în toate organizațiile, folosim învățarea federată pentru a aduna rezultatele.
Set de date privind bolile de inimă Depozitul de învățare automată de la Universitatea din California Irvine este un set de date utilizat pe scară largă pentru cercetarea cardiovasculară și modelarea predictivă. Este alcătuit din 303 probe, fiecare reprezentând un pacient, și conține o combinație de atribute clinice și demografice, precum și prezența sau absența bolilor de inimă.
Acest set de date multivariate are 76 de atribute în informațiile despre pacient, dintre care 14 atribute sunt cel mai frecvent utilizate pentru dezvoltarea și evaluarea algoritmilor ML pentru a prezice prezența bolilor de inimă pe baza atributelor date.
Cadrul FedML
Există o selecție largă de cadre FL, dar am decis să folosim Cadrul FedML pentru acest caz de utilizare deoarece este open source și acceptă mai multe paradigme FL. FedML oferă o bibliotecă open source populară, o platformă MLOps și un ecosistem de aplicații pentru FL. Acestea facilitează dezvoltarea și implementarea soluțiilor FL. Oferă o suită cuprinzătoare de instrumente, biblioteci și algoritmi care permit cercetătorilor și practicienilor să implementeze și să experimenteze algoritmi FL într-un mediu distribuit. FedML abordează provocările legate de confidențialitatea datelor, de comunicare și de agregare a modelelor în FL, oferind o interfață ușor de utilizat și componente personalizabile. Cu accent pe colaborare și partajarea cunoștințelor, FedML își propune să accelereze adoptarea FL și să stimuleze inovația în acest domeniu emergent. Cadrul FedML este independent de model, incluzând suport adăugat recent pentru modele de limbaj mari (LLM). Pentru mai multe informații, consultați Lansarea FedLLM: construiți-vă propriile modele lingvistice mari pe date proprietare folosind platforma FedML.
FedML Octopus
Ierarhia și eterogenitatea sistemului reprezintă o provocare cheie în cazurile reale de utilizare FL, unde diferite silozuri de date pot avea infrastructură diferită cu CPU și GPU. În astfel de scenarii, puteți utiliza FedML Octopus.
FedML Octopus este platforma industrială de cross-silo FL pentru cross-organization și cross-count-training. Împreună cu FedML MLOps, le permite dezvoltatorilor sau organizațiilor să desfășoare o colaborare deschisă de oriunde, la orice scară, într-o manieră sigură. FedML Octopus rulează o paradigmă de instruire distribuită în fiecare siloz de date și utilizează antrenamente sincrone sau asincrone.
FedML MLOps
FedML MLOps permite dezvoltarea locală a codului care poate fi implementat ulterior oriunde folosind cadrele FedML. Înainte de a începe antrenamentul, trebuie să creați un cont FedML, precum și să creați și să încărcați pachetele de server și client în FedML Octopus. Pentru mai multe detalii, consultați paşi și Prezentarea FedML Octopus: scalarea învățării federate în producție cu MLOps simplificate.
Prezentare generală a soluțiilor
Implementăm FedML în mai multe clustere EKS integrate cu SageMaker pentru urmărirea experimentelor. Folosim Planuri Amazon EKS pentru Terraform pentru a implementa infrastructura necesară. EKS Blueprints ajută la compunerea clusterelor EKS complete care sunt complet bootstrap cu software-ul operațional necesar pentru implementarea și operarea sarcinilor de lucru. Cu EKS Blueprints, configurația pentru starea dorită a mediului EKS, cum ar fi planul de control, nodurile de lucru și suplimentele Kubernetes, este descrisă ca o infrastructură ca plan de cod (IaC). După ce un plan este configurat, acesta poate fi folosit pentru a crea medii consistente în mai multe conturi AWS și regiuni folosind automatizarea implementării continue.
Conținutul distribuit în această postare reflectă situații și experiențe din viața reală, dar este important de reținut că implementarea acestor situații în diferite locații poate varia. Deși utilizăm un singur cont AWS cu VPC-uri separate, este esențial să înțelegem că circumstanțele și configurațiile individuale pot diferi. Prin urmare, informațiile furnizate trebuie utilizate ca ghid general și pot necesita adaptare în funcție de cerințele specifice și condițiile locale.
Următoarea diagramă ilustrează arhitectura soluției noastre.
Pe lângă urmărirea oferită de FedML MLOps pentru fiecare cursă de antrenament, folosim Experimente Amazon SageMaker pentru a urmări performanța fiecărui model de client și a modelului centralizat (agregator).
SageMaker Experiments este o capacitate a SageMaker care vă permite să creați, să gestionați, să analizați și să comparați experimentele ML. Înregistrând detaliile experimentului, parametrii și rezultatele, cercetătorii își pot reproduce și valida munca cu acuratețe. Permite compararea și analiza eficientă a diferitelor abordări, conducând la luarea deciziilor în cunoștință de cauză. În plus, urmărirea experimentelor facilitează îmbunătățirea iterativă, oferind perspective asupra progresiei modelelor și permițând cercetătorilor să învețe din iterațiile anterioare, accelerând în cele din urmă dezvoltarea de soluții mai eficiente.
Trimitem următoarele către SageMaker Experiments pentru fiecare rulare:
- Măsuri de evaluare a modelului - Pierdere la antrenament și zona sub curbă (AUC)
- Hiperparametrele – Epocă, rata de învățare, dimensiunea lotului, optimizator și scăderea greutății
Cerințe preliminare
Pentru a urma această postare, ar trebui să aveți următoarele condiții preliminare:
Implementați soluția
Pentru a începe, clonează depozitul care găzduiește exemplul de cod la nivel local:
Apoi implementați infrastructura cazului de utilizare folosind următoarele comenzi:
Șablonul Terraform poate dura 20-30 de minute pentru a se implementa complet. După ce este implementat, urmați pașii din secțiunile următoare pentru a rula aplicația FL.
Creați un pachet de implementare MLOps
Ca parte a documentației FedML, trebuie să creăm pachetele client și server, pe care platforma MLOps le va distribui serverului și clienților pentru a începe instruirea.
Pentru a crea aceste pachete, rulați următorul script găsit în directorul rădăcină:
Aceasta va crea pachetele respective în următorul director din directorul rădăcină al proiectului:
Încărcați pachetele pe platforma FedML MLOps
Parcurgeți următorii pași pentru a încărca pachetele:
- În interfața de utilizare FedML, alegeți Aplicațiile mele în panoul de navigare.
- Alege Aplicatie noua.
- Încărcați pachetele client și server de pe stația dvs. de lucru.
- De asemenea, puteți ajusta hiperparametrii sau creați alții noi.
Declanșează antrenamentul federat
Pentru a desfășura antrenament federal, parcurgeți următorii pași:
- În interfața de utilizare FedML, alegeți Lista de proiecte în panoul de navigare.
- Alege Creați un proiect nou.
- Introduceți un nume de grup și un nume de proiect, apoi alegeți OK.
- Alege proiectul nou creat și alege Creați o nouă rulare pentru a declanșa o cursă de antrenament.
- Selectați dispozitivele client edge și serverul central de agregare pentru această cursă de antrenament.
- Alegeți aplicația pe care ați creat-o în pașii anteriori.
- Actualizați oricare dintre hiperparametri sau utilizați setările implicite.
- Alege acasă pentru a începe antrenamentul.
- Alege statutul de antrenament fila și așteptați finalizarea cursei de antrenament. De asemenea, puteți naviga la filele disponibile.
- Când antrenamentul este complet, alegeți Sistem pentru a vedea duratele timpului de antrenament pe serverele edge și evenimentele de agregare.
Vedeți rezultatele și detaliile experimentului
După finalizarea instruirii, puteți vizualiza rezultatele utilizând FedML și SageMaker.
Pe interfața de utilizare FedML, pe modele fila, puteți vedea modelul de agregator și client. De asemenea, puteți descărca aceste modele de pe site.
De asemenea, vă puteți conecta la Amazon SageMaker Studio Și alegeți Experimente în panoul de navigare.
Următoarea captură de ecran arată experimentele înregistrate.
Cod de urmărire a experimentului
În această secțiune, explorăm codul care integrează urmărirea experimentului SageMaker cu instruirea cadrului FL.
Într-un editor la alegere, deschideți următorul folder pentru a vedea modificările aduse codului pentru a injecta codul de urmărire a experimentului SageMaker ca parte a instruirii:
Pentru urmărirea antrenamentului, noi creați un experiment SageMaker cu parametrii și valorile înregistrate folosind log_parameter
și log_metric
comandă așa cum este prezentată în următorul exemplu de cod.
O intrare în config/fedml_config.yaml
fișierul declară prefixul experimentului, care este referit în cod pentru a crea nume unice de experiment: sm_experiment_name: "fed-heart-disease"
. Puteți actualiza acest lucru la orice valoare dorită.
De exemplu, consultați următorul cod pentru heart_disease_trainer.py
, care este folosit de fiecare client pentru a antrena modelul pe propriul set de date:
Pentru fiecare rulare client, detaliile experimentului sunt urmărite folosind următorul cod din heart_disease_trainer.py:
În mod similar, puteți utiliza codul în heart_disease_aggregator.py
pentru a efectua un test pe datele locale după actualizarea greutăților modelului. Detaliile sunt înregistrate după fiecare comunicare cu clienții.
A curăța
Când ați terminat cu soluția, asigurați-vă că curățați resursele utilizate pentru a asigura utilizarea eficientă a resurselor și gestionarea costurilor și pentru a evita cheltuielile inutile și risipa de resurse. Curățarea activă a mediului, cum ar fi ștergerea instanțelor neutilizate, oprirea serviciilor inutile și eliminarea datelor temporare, contribuie la o infrastructură curată și organizată. Puteți folosi următorul cod pentru a vă curăța resursele:
Rezumat
Folosind Amazon EKS ca infrastructură și FedML ca cadru pentru FL, suntem capabili să oferim un mediu scalabil și gestionat pentru instruirea și implementarea modelelor partajate, respectând în același timp confidențialitatea datelor. Cu natura descentralizată a FL, organizațiile pot colabora în siguranță, pot debloca potențialul datelor distribuite și pot îmbunătăți modelele ML fără a compromite confidențialitatea datelor.
Ca întotdeauna, AWS salută feedback-ul dvs. Vă rugăm să lăsați gândurile și întrebările dvs. în secțiunea de comentarii.
Despre Autori
Randy DeFauw este arhitect principal principal de soluții la AWS. El deține un MSEE de la Universitatea din Michigan, unde a lucrat la viziunea computerizată pentru vehicule autonome. De asemenea, deține un MBA de la Universitatea de Stat din Colorado. Randy a ocupat o varietate de poziții în spațiul tehnologic, de la inginerie software la managementul produselor. A intrat în spațiul big data în 2013 și continuă să exploreze acea zonă. Lucrează activ la proiecte în spațiul ML și a prezentat la numeroase conferințe, inclusiv Strata și GlueCon.
Arnab Sinha este arhitect senior de soluții pentru AWS, acționând ca CTO de teren pentru a ajuta organizațiile să proiecteze și să construiască soluții scalabile care să susțină rezultatele afacerii prin migrarea centrelor de date, transformarea digitală și modernizarea aplicațiilor, big data și învățarea automată. El a sprijinit clienți dintr-o varietate de industrii, inclusiv energie, retail, producție, asistență medicală și științe ale vieții. Arnab deține toate certificările AWS, inclusiv certificarea de specialitate ML. Înainte de a se alătura AWS, Arnab a fost lider tehnologic și a ocupat anterior roluri de conducere de arhitect și inginerie.
Prachi Kulkarni este arhitect senior de soluții la AWS. Specializarea ei este învățarea automată și lucrează activ la proiectarea de soluții folosind diverse oferte AWS ML, date mari și analize. Prachi are experiență în mai multe domenii, inclusiv asistență medicală, beneficii, comerț cu amănuntul și educație și a lucrat într-o serie de poziții în ingineria și arhitectura de produs, management și succesul clienților.
Tamer Sherif este arhitect principal de soluții la AWS, cu o experiență diversă în domeniul tehnologiei și al serviciilor de consultanță pentru întreprinderi, cu o perioadă de peste 17 ani ca arhitect de soluții. Cu accent pe infrastructură, expertiza Tamer acoperă un spectru larg de sectoare industriale, inclusiv comercial, asistență medicală, auto, sectorul public, producție, petrol și gaze, servicii media și multe altele. Competențele sale se extind la diferite domenii, cum ar fi arhitectura cloud, edge computing, rețele, stocare, virtualizare, productivitate în afaceri și leadership tehnic.
Hans Nesbitt este arhitect senior de soluții la AWS, cu sediul în California de Sud. El lucrează cu clienți din vestul SUA pentru a crea arhitecturi cloud extrem de scalabile, flexibile și rezistente. În timpul liber, îi place să petreacă timpul cu familia, să gătească și să cânte la chitară.
Chaoyang El este co-fondator și CTO al FedML, Inc., un startup care funcționează pentru o comunitate de IA deschisă și colaborativă de oriunde, la orice scară. Cercetările sale se concentrează pe algoritmi, sisteme și aplicații de învățare automată distribuite și federate. Și-a luat doctoratul în știința calculatoarelor de la Universitatea din California de Sud.
Al Nevarez este director de management de produs la FedML. Înainte de FedML, a fost manager de produs de grup la Google și manager senior de știință a datelor la LinkedIn. El are mai multe brevete legate de produse de date și a studiat ingineria la Universitatea Stanford.
Salman Avestimehr este co-fondator și CEO al FedML. A fost profesor decan la USC, director al USC-Amazon Center on Trustworthy AI și Amazon Scholar în Alexa AI. Este un expert în învățarea automată federalizată și descentralizată, teoria informațiilor, securitate și confidențialitate. Este membru al IEEE și și-a luat doctoratul în EECS de la UC Berkeley.
Samir Lad este un tehnolog de întreprindere desăvârșit cu AWS, care lucrează îndeaproape cu directorii de nivel C ai clienților. În calitate de fost director executiv care a condus transformări în mai multe companii Fortune 100, Samir împărtășește experiențele sale neprețuite pentru a-și ajuta clienții să reușească în propria lor călătorie de transformare.
Stephen Kraemer este consilier al consiliului de administrație și CxO și fost director executiv la AWS. Stephen susține cultura și leadershipul ca fundamente ale succesului. El declară că securitatea și inovația sunt motoarele transformării în cloud, permițând organizații extrem de competitive, bazate pe date.
- Distribuție de conținut bazat pe SEO și PR. Amplifică-te astăzi.
- PlatoData.Network Vertical Generative Ai. Împuterniciți-vă. Accesați Aici.
- PlatoAiStream. Web3 Intelligence. Cunoștințe amplificate. Accesați Aici.
- PlatoESG. carbon, CleanTech, Energie, Mediu inconjurator, Solar, Managementul deșeurilor. Accesați Aici.
- PlatoHealth. Biotehnologie și Inteligență pentru studii clinice. Accesați Aici.
- Sursa: https://aws.amazon.com/blogs/machine-learning/federated-learning-on-aws-using-fedml-amazon-eks-and-amazon-sagemaker/
- :are
- :este
- :nu
- :Unde
- $UP
- 10
- 100
- 14
- 154
- 17
- 20
- 2013
- 247
- 300
- 7
- a
- Capabil
- Despre Noi
- absență
- accelera
- accelerarea
- acces
- Acces la date
- realizat
- Cont
- responsabilitate
- Conturi
- precizie
- precis
- precis
- realizarea
- peste
- act
- actorie
- activ
- activ
- curent
- adaptare
- adăuga
- adăugat
- plus
- În plus,
- adresa
- adrese
- adresare
- regla
- Adoptare
- consilier
- avocaţi
- După
- agregare
- Agregator
- AI
- isi propune
- AL
- Alexa
- algoritmi
- TOATE
- permite
- de-a lungul
- de asemenea
- Cu toate ca
- mereu
- Amazon
- Amazon SageMaker
- Amazon Web Services
- an
- analiză
- Google Analytics
- analiza
- și
- Orice
- oriunde
- aplicație
- aplicatii
- abordare
- abordari
- arhitectură
- arhitecturi
- SUNT
- ZONĂ
- AS
- evaluări
- At
- ataca
- atribute
- Wow
- audit
- Automatizare
- auto
- autonom
- autovehicule autonome
- disponibil
- evita
- AWS
- fundal
- bazat
- BE
- deoarece
- devine
- fost
- înainte
- începe
- Beneficiile
- Berkeley
- Mai bine
- Mare
- Datele mari
- plan
- bord
- larg
- construi
- Clădire
- afaceri
- dar
- by
- C-suite
- California
- CAN
- capacitate
- pasă
- caz
- cazuri
- Centru
- central
- centralizat
- CEO
- Certificare
- certificări
- contesta
- provocări
- alegere
- Alege
- împrejurări
- clasificare
- curat
- client
- clientii
- clinic
- îndeaproape
- Cloud
- Co-fondator
- cod
- colabora
- colaborare
- colaborativ
- Colorado
- combinaţie
- comentarii
- comercial
- în mod obișnuit
- Comunicare
- comunitate
- construirea comunității
- Companii
- comparaţie
- comparație
- competitiv
- Completă
- complex
- conformitate
- componente
- cuprinzător
- compromisor
- calculator
- Informatică
- Computer Vision
- tehnica de calcul
- preocupările
- Condiții
- Conduce
- conferințe
- Configuraţie
- configurat
- consistent
- constă
- consultant
- conţine
- conține
- conţinut
- continuă
- continuu
- contribuie
- Control
- controale
- Coordonator
- A costat
- Managementul costurilor
- cuplat
- Covers
- ambarcaţiunilor
- crea
- a creat
- creează
- critic
- crucial
- CTO
- Cultură
- curba
- client
- Succesul clienților
- clienţii care
- personalizabil
- CXO
- de date
- Data Center
- confidențialitatea datelor
- Confidențialitatea și securitatea datelor
- știința datelor
- Pe bază de date
- seturi de date
- descentralizată
- hotărât
- Luarea deciziilor
- declară
- Mod implicit
- demografic
- implementa
- dislocate
- Implementarea
- desfășurarea
- descris
- Amenajări
- proiect
- dorit
- distruge
- detalii
- dev
- Dezvoltatorii
- în curs de dezvoltare
- Dezvoltare
- dispozitiv
- Dispozitive
- diagramă
- diferi
- diferit
- digital
- Transformarea digitală
- Director
- director
- Boală
- distribui
- distribuite
- instruire distribuită
- diferit
- documentaţie
- domenii
- făcut
- Descarca
- conduce
- condus
- drivere
- fiecare
- ecosistem
- Margine
- marginea de calcul
- editor
- Educaţie
- Eficace
- eficient
- șmirghel
- permite
- permite
- permițând
- criptare
- energie
- Inginerie
- spori
- asigura
- asigurare
- a intrat
- Afacere
- entități
- intrare
- Mediu inconjurator
- medii
- epocă
- epoci
- mai ales
- evaluarea
- evaluare
- Chiar
- evenimente
- exemplu
- executiv
- directori
- exfiltrațiile
- cheltuieli
- experienţă
- Experiențe
- experiment
- experimente
- expert
- expertiză
- explora
- extinde
- facilita
- facilitează
- familie
- federat
- feedback-ul
- membru
- fidelitate
- camp
- Fișier
- constatările
- flexibil
- Concentra
- se concentrează
- urma
- următor
- Pentru
- Fost
- Avere
- găsit
- Fundații
- Cadru
- cadre
- din
- complet
- funcţie
- mai mult
- GAS
- General
- GitHub
- dat
- unități de procesare grafică
- grup
- garantat
- ghida
- Avea
- he
- Sănătate
- de asigurări de sănătate
- de asistență medicală
- inimă
- Boala de inima
- puternic
- Held
- ajutor
- ajută
- ei
- ierarhie
- extrem de
- lui
- deține
- găzduire
- Totuși
- HTML
- HTTPS
- i
- IEEE
- if
- ilustrează
- punerea în aplicare a
- Punere în aplicare a
- important
- îmbunătăţi
- îmbunătățire
- in
- Inc
- Inclusiv
- a crescut
- independent
- individ
- industrii
- industrie
- informații
- informat
- Infrastructură
- injecta
- Inovaţie
- nesigur
- în interiorul
- perspective
- asigurare
- integrate
- integreaza
- interfaţă
- Interoperabilitate
- în
- neprețuit
- izolat
- problema
- IT
- iterații
- ESTE
- aderarea
- călătorie
- jpeg
- jpg
- Cheie
- cunoştinţe
- cunoscut
- lipsit
- limbă
- mare
- mai tarziu
- lider
- Conducere
- conducere
- AFLAȚI
- învăţare
- Părăsi
- Permite
- biblioteci
- Bibliotecă
- Viaţă
- Life Sciences
- limitativ
- local
- la nivel local
- locaţie
- Locații
- log
- autentificat
- de pe
- maşină
- masina de învățare
- Mentine
- face
- Efectuarea
- administra
- gestionate
- administrare
- manager
- manieră
- de fabricaţie
- multe
- Mai..
- mecanisme
- Mass-media
- Metrici
- Michigan
- minute
- diminua
- ML
- MLOps
- model
- modelare
- Modele
- Module
- mai mult
- cele mai multe
- multiplu
- trebuie sa
- nume
- nume
- Natură
- Navigaţi
- Navigare
- Nevoie
- necesar
- negativ
- reţea
- rețele
- rețele
- Nou
- recent
- următor
- noduri
- nota
- numeroși
- of
- oferind
- ofertele
- promoții
- de multe ori
- Ulei
- Petrol și gaze
- on
- cele
- afară
- deschide
- open-source
- funcionar
- operațional
- Oportunităţi
- or
- organizații
- Organizat
- al nostru
- afară
- rezultate
- a subliniat
- producție
- peste
- propriu
- ofertele
- pâine
- paradigmă
- paradigme
- parametrii
- parte
- Care trece
- Brevete de inventie
- pacient
- performanță
- Personalizat
- PhD
- plan
- platformă
- Plato
- Informații despre date Platon
- PlatoData
- joc
- "vă rog"
- Popular
- portabilitate
- ridică
- poziţii
- Post
- potenţial
- prezice
- Predictii
- premise
- prezenţă
- prezentat
- precedent
- în prealabil
- Principal
- anterior
- intimitate
- Confidențialitate și securitate
- privat
- Produs
- management de produs
- manager de produs
- producere
- productivitate
- Profesor
- progresie
- proiect
- Proiecte
- proprietate
- proteja
- protocoale
- furniza
- prevăzut
- furnizează
- furnizarea
- public
- calitate
- Întrebări
- gamă
- variind
- rank
- rată
- Crud
- tărâm
- primit
- recent
- înregistrare
- reduce
- trimite
- referință
- reflectă
- regiuni
- reglementate
- industriile reglementate
- regulament
- se bazează
- eliminarea
- depozit
- reprezentând
- necesita
- necesar
- Cerinţe
- cercetare
- cercetători
- elastic
- resursă
- Resurse
- respectare
- respectiv
- rezultat
- REZULTATE
- cu amănuntul
- Riscurile
- robust
- rolurile
- rădăcină
- rotund
- Alerga
- funcţionare
- ruleaza
- sagemaker
- salman
- probă
- scalabil
- Scară
- scalare
- scenarii
- Savant
- Ştiinţă
- ȘTIINȚE
- scenariu
- Secțiune
- secțiuni
- sector
- sigur
- în siguranță,
- securitate
- vedea
- selecţie
- trimite
- senior
- sensibil
- distinct
- serverul
- Servere
- Servicii
- sesiune
- setări
- câteva
- Distribuie
- comun
- Acțiuni
- partajarea
- ea
- să
- Emisiuni
- semnificativ
- silozuri
- simplificată
- singur
- situații
- Mărimea
- Software
- Inginerie software
- soluţie
- soluţii
- Sursă
- Surse
- Sudic
- Spaţiu
- tensiune
- Specialitate
- specific
- Spectru
- Cheltuire
- standardizare
- stanford
- Universitatea Stanford
- Începe
- lansare
- Stat
- Statele
- Pas
- Stephen
- paşi
- Încă
- oprire
- depozitare
- Strict
- puternic
- studiat
- reuși
- succes
- astfel de
- suită
- a sustine
- Suportat
- De sprijin
- Sprijină
- sigur
- sisteme
- Lua
- Tehnic
- tehnică
- tehnolog
- Tehnologia
- șablon
- temporar
- Terraform
- test
- acea
- informațiile
- lor
- apoi
- teorie
- prin urmare
- Acestea
- acest
- Prin
- timp
- la
- Unelte
- față de
- urmări
- Urmărire
- tradiţional
- Tren
- dresat
- Pregătire
- traininguri
- Transformare
- transformări
- declanşa
- demn de încredere
- Tipuri
- ui
- în cele din urmă
- în
- înţelege
- unic
- Unit
- Statele Unite
- universitate
- Universitatea din California
- spre deosebire de
- deschide
- inutil
- incomparabil
- nefolosit
- Actualizează
- actualizarea
- us
- utilizare
- carcasa de utilizare
- utilizat
- ușor de utilizat
- utilizări
- folosind
- folosi
- VALIDA
- validare
- valoare
- varietate
- diverse
- varia
- Vehicule
- verticalele
- Vizualizare
- viziune
- aștepta
- a fost
- we
- web
- servicii web
- website
- greutate
- Salută
- BINE
- Vestic
- care
- în timp ce
- OMS
- larg
- pe larg
- voi
- cu
- în
- fără
- Apartamente
- a lucrat
- lucrător
- de lucru
- fabrică
- Statie de lucru
- ani
- Tu
- Ta
- zephyrnet