I en värld av datadrivet beslutsfattande, prognoser för tidsserier är nyckeln till att göra det möjligt för företag att använda historiska datamönster för att förutse framtida resultat. Oavsett om du arbetar med tillgångsriskhantering, handel, väderprognoser, energiefterfrågan, övervakning av vitala tecken eller trafikanalys, är förmågan att prognostisera exakt avgörande för framgång.
I dessa applikationer kan tidsseriedata ha tungsvansad distributioner, där svansar representerar extrema värden. Noggranna prognoser i dessa regioner är viktiga för att avgöra hur sannolikt en extrem händelse är och om man ska larma. Dessa extremvärden påverkar dock avsevärt uppskattningen av basfördelningen, vilket gör robusta prognoser utmanande. Finansiella institutioner förlitar sig på robusta modeller för att förutsäga extremvärden som marknadskrascher. Inom energi-, väder- och hälsovårdssektorerna möjliggör exakta prognoser av sällsynta men höginverkande händelser som naturkatastrofer och pandemier effektiv planering och resursallokering. Att försumma svansbeteende kan leda till förluster, missade möjligheter och äventyrad säkerhet. Att prioritera noggrannhet vid svansarna hjälper till att leda till tillförlitliga och genomförbara prognoser. I det här inlägget tränar vi en robust tidsserieprognosmodell som kan fånga sådana extrema händelser med hjälp av Amazon SageMaker.
För att effektivt träna denna modell etablerar vi en MLOps-infrastruktur för att effektivisera modellutvecklingsprocessen genom att automatisera dataförbearbetning, funktionsteknik, hyperparameterjustering och modellval. Denna automatisering minskar mänskliga fel, förbättrar reproducerbarheten och accelererar modellutvecklingscykeln. Med en utbildningspipeline kan företag effektivt införliva ny data och anpassa sina modeller till förändrade förhållanden, vilket hjälper till att säkerställa att prognoser förblir tillförlitliga och uppdaterade.
Efter att tidsserieprognosmodellen har tränats, ger implementering av den inom en slutpunkt realtidsförutsägelsemöjligheter. Detta ger dig möjlighet att fatta välinformerade och lyhörda beslut baserat på de senaste uppgifterna. Dessutom möjliggör implementering av modellen i en slutpunkt skalbarhet, eftersom flera användare och applikationer kan komma åt och använda modellen samtidigt. Genom att följa dessa steg kan företag utnyttja kraften i robusta tidsserieprognoser för att fatta välgrundade beslut och ligga steget före i en snabbt föränderlig miljö.
Översikt över lösningen
Denna lösning visar utbildningen av en tidsserieprognosmodell, speciellt utformad för att hantera extremvärden och variationer i data med hjälp av en Temporal Convolutional Network (TCN) med en Spliced Binned Pareto-distribution (SBP).. För mer information om en multimodal version av denna lösning, se Vetenskapen bakom NFL Next Gen Stats nya passningsmått. För att ytterligare illustrera effektiviteten av SBP-fördelningen jämför vi den med samma TCN-modell men använder istället en Gauss-fördelning.
Denna process drar avsevärt nytta av MLOps funktioner av SageMaker, som effektiviserar datavetenskapens arbetsflöde genom att utnyttja AWS kraftfulla molninfrastruktur. I vår lösning använder vi Amazon SageMaker Automatisk modellinställning för hyperparametersökning, Amazon SageMaker-experiment för att hantera experiment, Amazon SageMaker Model Registry att hantera modellversioner, och Amazon SageMaker-rörledningar att orkestrera processen. Vi distribuerar sedan vår modell till en SageMaker-slutpunkt för att få förutsägelser i realtid.
Följande diagram illustrerar utbildningspipelinens arkitektur.
Följande diagram illustrerar inferenspipelinen.
Du hittar hela koden i GitHub repo. För att implementera lösningen kör du in cellerna SBP_main.ipynb
.
Klicka här för att öppna AWS-konsolen och följa med.
SageMaker pipeline
SageMaker Pipelines erbjuder en användarvänlig Python SDK för att skapa integrerade arbetsflöden för maskininlärning (ML). Dessa arbetsflöden, representerade som Directed Acyclic Graphs (DAGs), består av steg med olika typer och beroenden. Med SageMaker Pipelines kan du effektivisera hela processen för utbildning och utvärdering av modeller, vilket förbättrar effektiviteten och reproducerbarheten i dina ML-arbetsflöden.
Utbildningspipelinen börjar med att generera en syntetisk datauppsättning som är uppdelad i utbildnings-, validerings- och testuppsättningar. Träningssetet används för att träna två TCN-modeller, varav en använder Splitsad Binned-Pareto distribution och den andra använder Gaussisk distribution. Båda modellerna går igenom hyperparameterjustering med hjälp av valideringsuppsättningen för att optimera varje modell. Därefter utförs en utvärdering mot testuppsättningen för att bestämma modellen med det lägsta rotmedelkvadratfelet (RMSE). Modellen med bäst noggrannhetsmått laddas upp till modellregistret.
Följande diagram illustrerar pipelinestegen.
Låt oss diskutera stegen mer detaljerat.
Datagenerering
Det första steget i vår pipeline genererar en syntetisk datauppsättning, som kännetecknas av en sinusformad vågform och asymmetriskt tungt svansbrus. Data skapades med hjälp av ett antal parametrar, såsom frihetsgrader, en brusmultiplikator och en skalparameter. Dessa element påverkar formen på datadistributionen, modulerar den slumpmässiga variationen i våra data respektive justerar spridningen av vår datadistribution.
Detta databearbetningsjobb utförs med hjälp av en PyTorchProcessor, som kör PyTorch-kod (generera_data.py) i en behållare som hanteras av SageMaker. Data och andra relevanta artefakter för felsökning finns som standard Amazon enkel lagringstjänst (Amazon S3) hink som är kopplad till SageMaker-kontot. Loggar för varje steg i pipelinen finns i amazoncloudwatch.
Följande figur är ett exempel på data som genereras av pipeline.
Du kan ersätta indata med en mängd olika tidsseriedata, såsom symmetrisk, asymmetrisk, lättsvansad, tungsvansad eller multimodal distribution. Modellens robusthet gör att den kan tillämpas på ett brett spektrum av tidsserieproblem, förutsatt att tillräckliga observationer finns tillgängliga.
Modellutbildning
Efter datagenerering tränar vi två TCN:er: en med SBP-distribution och en annan med Gauss-distribution. SBP-distribution använder en diskret arkiverad distribution som sin prediktiva bas, där den verkliga axeln är uppdelad i diskreta fack, och modellen förutsäger sannolikheten för en observation som faller inom varje bin. Denna metod möjliggör infångning av asymmetrier och flera lägen eftersom sannolikheten för varje fack är oberoende. Ett exempel på den lagrade distributionen visas i följande figur.
Den prediktiva arkiverade fördelningen till vänster är robust för extrema händelser eftersom log-sannolikheten inte är beroende av avståndet mellan det förutsagda medelvärdet och den observerade punkten, och skiljer sig från parametriska fördelningar som Gaussisk eller Students t. Därför kommer den extrema händelsen som representeras av den röda punkten inte att påverka det inlärda medelvärdet av fördelningen. Den extrema händelsen kommer dock att ha noll sannolikhet. För att fånga extrema händelser bildar vi en SBP-fördelning genom att definiera den nedre svansen vid den 5:e kvantilen och den övre svansen vid den 95:e kvantilen, och ersätter båda svansarna med viktade generaliserade paretodistributioner (GPD), som kan kvantifiera sannolikheten för händelsen. TCN kommer att mata ut parametrarna för den lagrade distributionsbasen och GPD-svansarna.
Hyperparametersökning
För optimal produktion använder vi automatisk modelljustering för att hitta den bästa versionen av en modell genom hyperparameterinställning. Detta steg är integrerat i SageMaker Pipelines och möjliggör parallell körning av flera träningsjobb, med olika metoder och fördefinierade hyperparameterintervall. Resultatet är valet av den bästa modellen baserat på det specificerade modellmåttet, vilket är RMSE. I vår pipeline justerar vi specifikt inlärningshastigheten och antalet träningsepoker för att optimera vår modells prestanda. Med hyperparameterjusteringsförmågan i SageMaker ökar vi sannolikheten för att vår modell uppnår optimal noggrannhet och generalisering för den givna uppgiften.
På grund av vår datas syntetiska natur, behåller vi kontextlängd och ledtid som statiska parametrar. Context Length hänvisar till antalet historiska tidssteg som matats in i modellen, och Lead Time representerar antalet tidssteg i vår prognoshorisont. För exempelkoden justerar vi bara inlärningshastigheten och antalet epoker för att spara tid och kostnader.
SBP-specifika parametrar hålls konstanta baserat på omfattande tester av författarna på originalpapperet över olika datamängder:
- Antal papperskorgar (100) – Den här parametern bestämmer antalet fack som används för att modellera basen för distributionen. Den hålls på 100, vilket har visat sig vara mest effektivt i flera branscher.
- Percentil svans (0.05) – Detta anger storleken på de generaliserade Pareto-fördelningarna vid svansen. Liksom föregående parameter har denna testats uttömmande och visat sig vara mest effektiv.
Experiment
Hyperparameterprocessen är integrerad med SageMaker-experiment, som hjälper till att organisera, analysera och jämföra iterativa ML-experiment, vilket ger insikter och underlättar spårning av de bäst presterande modellerna. Maskininlärning är en iterativ process som involverar många experiment som omfattar datavariationer, algoritmval och hyperparameterjustering. Dessa experiment tjänar till att stegvis förfina modellnoggrannheten. Det stora antalet träningskörningar och modelliterationer kan dock göra det utmanande att identifiera de bäst presterande modellerna och göra meningsfulla jämförelser mellan nuvarande och tidigare experiment. SageMaker Experiments åtgärdar detta genom att automatiskt spåra våra hyperparameterjusteringsjobb och tillåta oss att få ytterligare detaljer och insikt i justeringsprocessen, som visas i följande skärmdump.
Modellutvärdering
Modellerna genomgår träning och hyperparameterjustering och utvärderas därefter via evaluate.py manus. Detta steg använder testsetet, skilt från hyperparameterjusteringssteget, för att mäta modellens verkliga noggrannhet. RMSE används för att bedöma noggrannheten i förutsägelserna.
För distributionsjämförelse använder vi en sannolikhets-sannolikhet (PP) plot, som bedömer passformen mellan de faktiska kontra förutsagda fördelningarna. Punkternas närhet till diagonalen indikerar en perfekt passform. Våra jämförelser mellan SBP:s och Gaussians förutsagda fördelningar mot den faktiska fördelningen visar att SBP:s förutsägelser överensstämmer mer med de faktiska uppgifterna.
Som vi kan observera har SBP lägre RMSE på basen, nedre svansen och övre svansen. SBP-fördelningen förbättrade noggrannheten hos den Gaussiska fördelningen med 61 % på basen, 56 % på den nedre svansen och 30 % på den övre svansen. Sammantaget har SBP-fördelningen betydligt bättre resultat.
Modellval
Vi använder ett villkorssteg i SageMaker Pipelines för att analysera modellutvärderingsrapporter, och väljer modellen med lägst RMSE för förbättrad distributionsnoggrannhet. Den valda modellen konverteras till ett SageMaker-modellobjekt, vilket gör den redo för driftsättning. Detta innebär att skapa ett modellpaket med avgörande parametrar och paketera det till en ModelStep.
Modellregister
Den valda modellen laddas sedan upp till SageMaker modellregister, som spelar en avgörande roll för att hantera modeller redo för produktion. Den lagrar modeller, organiserar modellversioner, fångar viktiga metadata och artefakter som containerbilder och styr godkännandestatusen för varje modell. Genom att använda registret kan vi effektivt distribuera modeller till åtkomliga SageMaker-miljöer och skapa en grund för kontinuerlig integration och kontinuerlig driftsättning (CI/CD) pipelines.
Slutledning
När vår utbildningspipeline har slutförts, distribueras vår modell sedan med hjälp av SageMaker värdtjänster, vilket möjliggör skapandet av en slutpunkt för slutpunkt för realtidsförutsägelser. Denna slutpunkt möjliggör sömlös integration med applikationer och system, vilket ger tillgång på begäran till modellens prediktiva kapacitet genom ett säkert HTTPS-gränssnitt. Realtidsförutsägelser kan användas i scenarier som aktiekurs och energiefterfrågan. Vårt slutpunkt tillhandahåller en enstegsprognos för de tillhandahållna tidsseriedata, presenterade som percentiler och medianen, som visas i följande figur och tabell.
1st percentilen | 5th percentilen | median | 95th percentilen | 99th percentilen |
1.12 | 3.16 | 4.70 | 7.40 | 9.41 |
Städa upp
När du har kört den här lösningen, se till att du rensar upp alla onödiga AWS-resurser för att undvika oväntade kostnader. Du kan rensa upp dessa resurser med SageMaker Python SDK, som finns i slutet av anteckningsboken. Genom att ta bort dessa resurser förhindrar du ytterligare avgifter för resurser som du inte längre använder.
Slutsats
Att ha en korrekt prognos kan i hög grad påverka ett företags framtidsplanering och kan också ge lösningar på en mängd olika problem inom olika branscher. Vår utforskning av robusta tidsserieprognoser med MLOps på SageMaker har visat en metod för att få en korrekt prognos och effektiviteten hos en strömlinjeformad träningspipeline.
Vår modell, som drivs av ett Temporal Convolutional Network med Spliced Binned Pareto-distribution, har visat noggrannhet och anpassningsförmåga till extremvärden genom att förbättra RMSE med 61 % på basen, 56 % på den nedre svansen och 30 % på den övre svansen över samma TCN med Gaussisk distribution. Dessa siffror gör det till en pålitlig lösning för verkliga prognosbehov.
Pipelinen visar värdet av att automatisera MLOps-funktioner. Detta kan minska den manuella mänskliga ansträngningen, möjliggöra reproducerbarhet och påskynda modelldistributionen. SageMaker-funktioner som SageMaker Pipelines, automatisk modellinställning, SageMaker Experiments, SageMaker Model Registry och endpoints gör detta möjligt.
Vår lösning använder en miniatyr-TCN, som optimerar bara några få hyperparametrar med ett begränsat antal lager, vilket är tillräckligt för att effektivt lyfta fram modellens prestanda. För mer komplexa användningsfall, överväg att använda PyTorch eller andra PyTorch-baserade bibliotek för att konstruera ett mer anpassat TCN som passar dina specifika behov. Dessutom skulle det vara fördelaktigt att utforska andra SageMaker funktioner för att förbättra din pipelines funktionalitet ytterligare. För att helt automatisera distributionsprocessen kan du använda AWS Cloud Development Kit (AWS CDK) eller AWS molnformation.
För mer information om tidsserieprognoser på AWS, se följande:
Lämna gärna en kommentar med funderingar eller frågor!
Om författarna
Nick Biso är en maskininlärningsingenjör på AWS Professional Services. Han löser komplexa organisatoriska och tekniska utmaningar med hjälp av datavetenskap och ingenjörskonst. Dessutom bygger och distribuerar han AI/ML-modeller på AWS-molnet. Hans passion sträcker sig till hans benägenhet för resor och olika kulturella upplevelser.
Alston Chan är en mjukvaruutvecklingsingenjör på Amazon Ads. Han bygger pipelines för maskininlärning och rekommendationssystem för produktrekommendationer på detaljsidan. Utanför jobbet tycker han om spelutveckling och bergsklättring.
Maria Masood specialiserar sig på att bygga datapipelines och datavisualiseringar på AWS Commerce Platform. Hon har expertis inom maskininlärning, som täcker naturlig språkbehandling, datorseende och tidsserieanalys. Maria är en hållbarhetsentusiast i hjärtat och tycker om trädgårdsarbete och att leka med sin hund under hennes stillestånd.
- SEO-drivet innehåll och PR-distribution. Bli förstärkt idag.
- PlatoData.Network Vertical Generative Ai. Styrka dig själv. Tillgång här.
- PlatoAiStream. Web3 Intelligence. Kunskap förstärkt. Tillgång här.
- Platoesg. Kol, CleanTech, Energi, Miljö, Sol, Avfallshantering. Tillgång här.
- PlatoHealth. Biotech och kliniska prövningar Intelligence. Tillgång här.
- Källa: https://aws.amazon.com/blogs/machine-learning/robust-time-series-forecasting-with-mlops-on-amazon-sagemaker/
- : har
- :är
- :inte
- :var
- $UPP
- 100
- 5:e
- 7
- a
- förmåga
- Om Oss
- accelerera
- accelererar
- tillgång
- tillgänglig
- åstadkommit
- Konto
- noggrannhet
- exakt
- exakt
- uppnår
- tvärs
- faktiska
- acyklisk
- anpassa
- Dessutom
- Dessutom
- adresser
- annonser
- mot
- framåt
- AI / ML
- larm
- algoritm
- rikta
- Justerar
- fördelning
- tillåta
- tillåter
- längs
- också
- amason
- Amazon SageMaker
- Amazon Web Services
- an
- analys
- analysera
- och
- förutse
- vilken som helst
- tillämplig
- tillämpningar
- godkännande
- arkitektur
- ÄR
- AS
- bedöma
- utvärderar
- tillgång
- associerad
- At
- Författarna
- automatisera
- Automat
- automatiskt
- automatisera
- Automation
- tillgänglig
- undvika
- AWS
- AWS professionella tjänster
- Axis
- bas
- baserat
- BE
- därför att
- varit
- beteende
- bakom
- fördelaktigt
- Fördelarna
- BÄST
- Bättre
- mellan
- förspänning
- SOPTUNNA
- båda
- bred
- Byggnad
- bygger
- företag
- men
- Knappen
- by
- KAN
- kapacitet
- kapacitet
- kapabel
- fånga
- fångar
- Fångande
- fall
- Celler
- utmaningar
- utmanande
- byte
- känne
- avgifter
- val
- klick
- Klättring
- nära
- cloud
- molninfrastruktur
- koda
- kommentar
- Commerce
- jämföra
- jämförelse
- fullborda
- fullbordan
- komplex
- Äventyras
- dator
- Datorsyn
- tillstånd
- villkor
- genomfördes
- Tänk
- Konsol
- konstant
- konstruera
- Behållare
- sammanhang
- kontinuerlig
- konverterad
- Pris
- Kostar
- beläggning
- skapa
- skapas
- Skapa
- skapande
- kritisk
- avgörande
- kultur
- Aktuella
- kundanpassad
- cykel
- datum
- databehandling
- datavetenskap
- data driven
- datauppsättningar
- Datum
- Beslutsfattande
- beslut
- Standard
- definierande
- Efterfrågan
- Förfrågan om efterfrågan
- demonstreras
- demonstrerar
- betecknar
- beroenden
- beroende
- distribuera
- utplacerade
- utplacera
- utplacering
- vecklas ut
- utformade
- detalj
- detaljer
- Bestämma
- bestämd
- bestämmande
- Utveckling
- olika
- olika
- riktad
- katastrofer
- diskutera
- avstånd
- distinkt
- fördelning
- Distributioner
- flera
- dividerat
- Dog
- DOT
- stilleståndstid
- under
- varje
- Effektiv
- effektivt
- effektivitet
- effektivitet
- effektiv
- effektivt
- ansträngning
- element
- utnyttjande
- sysselsätter
- bemyndigar
- möjliggöra
- möjliggör
- möjliggör
- encompassing
- änden
- början till slut
- Slutpunkt
- energi
- ingenjör
- Teknik
- förbättra
- förbättra
- säkerställa
- entusiast
- Miljö
- miljöer
- epoker
- fel
- väsentlig
- etablera
- utvärderade
- utvärdering
- utvärdering
- händelse
- händelser
- utvecklas
- exempel
- Erfarenheter
- experiment
- expertis
- utforskning
- utforska
- sträcker
- omfattande
- extrem
- underlättande
- Fallande
- Leverans
- Funktioner
- få
- Figur
- siffror
- finansiella
- Finansiella institut
- hitta
- Förnamn
- passa
- följer
- efter
- För
- Prognos
- prognoser
- formen
- hittade
- fundament
- Fri
- Frihet
- från
- fullständigt
- funktionalitet
- ytterligare
- Vidare
- framtida
- Få
- lek
- spelutveckling
- mätare
- Gen
- genereras
- genererar
- generera
- generering
- ges
- Go
- reglerar
- GPD
- bidrag
- grafer
- hantera
- sele
- Utnyttja
- Har
- he
- hälso-och sjukvård
- Hjärta
- hjälper
- här
- här.
- belysa
- höggradigt
- hans
- historisk
- horisonten
- värd
- Hur ser din drömresa ut
- Men
- html
- HTTPS
- humant
- Inställning av hyperparameter
- identifiera
- illustrerar
- bilder
- Inverkan
- genomföra
- med Esport
- förbättras
- förbättrar
- förbättra
- in
- införliva
- Öka
- oberoende
- pekar på
- industrier
- påverka
- informationen
- informeras
- Infrastruktur
- ingång
- insikt
- insikter
- istället
- institutioner
- integrerade
- integrering
- Gränssnitt
- in
- involverar
- IT
- iterationer
- DESS
- Jobb
- Lediga jobb
- jpg
- bara
- hålla
- hålls
- Nyckel
- språk
- Large
- skikt
- leda
- lärt
- inlärning
- Lämna
- vänster
- Längd
- bibliotek
- tycka om
- sannolikhet
- sannolikt
- Begränsad
- belägen
- längre
- förluster
- lägre
- lägst
- Maskinen
- maskininlärning
- göra
- Framställning
- hantera
- förvaltade
- ledning
- hantera
- manuell
- Mary
- marknad
- marknaden kraschar
- betyda
- meningsfull
- metadata
- metod
- Metodik
- metoder
- metriska
- missade
- ML
- MLOps
- modell
- modeller
- lägen
- övervakning
- mer
- mest
- multipel
- Natural
- Naturlig språkbehandling
- Natur
- behov
- försumma
- nät
- Nya
- Nästa
- nästa generation
- NFL
- Nej
- Brus
- anteckningsbok
- antal
- talrik
- objektet
- observera
- få
- of
- Erbjudanden
- on
- On-Demand
- ONE
- endast
- öppet
- möjligheter
- optimala
- Optimera
- optimera
- or
- organisatoriska
- organiserar
- ursprungliga
- Övriga
- vår
- utfall
- produktion
- utanför
- över
- övergripande
- paket
- förpackning
- sida
- pandemier
- Papper
- Parallell
- parameter
- parametrar
- Pareto
- Förbi
- brinner
- Tidigare
- mönster
- perfekt
- prestanda
- rörledning
- planering
- plattform
- plato
- Platon Data Intelligence
- PlatonData
- i
- spelar
- Punkt
- poäng
- möjlig
- Inlägg
- kraft
- drivs
- den mäktigaste
- förutse
- förutsagda
- förutsägelse
- Förutsägelser
- Förutspår
- presenteras
- förhindra
- föregående
- pris
- prioritering
- problem
- process
- bearbetning
- Produkt
- Produktion
- professionell
- beprövade
- ge
- förutsatt
- ger
- tillhandahålla
- Python
- pytorch
- höja
- slumpmässig
- område
- snabbt
- Betygsätta
- redo
- Redo
- verklig
- verkliga världen
- realtid
- senaste
- Rekommendation
- rekommendationer
- Red
- minska
- minskar
- hänvisa
- hänvisar
- förfina
- regioner
- register
- relevanta
- pålitlig
- förlita
- förblir
- ersätta
- Rapport
- representerar
- representerade
- representerar
- resurs
- Resurser
- respektive
- mottaglig
- resultera
- Resultat
- Risk
- riskhanterings
- robusta
- robusthet
- sten
- Roll
- rot
- Körning
- kör
- Säkerhet
- sagemaker
- SageMaker-rörledningar
- Samma
- Save
- skalbarhet
- Skala
- scenarier
- Vetenskap
- skript
- sDK
- sömlös
- Sök
- Sektorer
- säkra
- vald
- Val
- Serier
- tjänar
- Tjänster
- in
- uppsättningar
- Forma
- hon
- show
- visas
- signera
- signifikant
- Enkelt
- samtidigt
- Storlek
- Mjukvara
- mjukvaruutveckling
- lösning
- Lösningar
- Löser
- specialiserat
- specifik
- specifikt
- specificerade
- delas
- spridning
- squared
- Etapp
- status
- bo
- Steg
- Steg
- lager
- förvaring
- lagrar
- effektivisera
- strömlinjeformad
- Senare
- framgång
- sådana
- tillräcklig
- säker
- Hållbarhet
- syntetisk
- System
- bord
- uppgift
- Teknisk
- testa
- testade
- Testning
- den där
- Smakämnen
- världen
- deras
- sedan
- därför
- Dessa
- detta
- Genom
- tid
- Tidsföljder
- till
- Spårning
- Handel
- trafik
- Tåg
- tränad
- Utbildning
- färdas
- två
- typer
- genomgå
- Oväntat
- onödig
- uppladdad
- us
- användning
- Begagnade
- användarvänligt
- användare
- med hjälp av
- utnyttja
- Återvinnare
- Använda
- godkännande
- värde
- Värden
- mängd
- olika
- version
- versioner
- via
- syn
- avgörande
- vs
- var
- we
- Väder
- webb
- webbservice
- om
- som
- bred
- kommer
- med
- inom
- Arbete
- arbetsflöde
- arbetsflöden
- arbetssätt
- världen
- skulle
- Om er
- Din
- zephyrnet
- noll-