Få GPU-bruken til NVIDIA-kort med Linux dstat-verktøyet PlatoBlockchain Data Intelligence. Vertikalt søk. Ai.

Få GPU-bruk av NVIDIA-kort med Linux dstat-verktøyet

Tidsstempel: 11. februar 2017 6:21

De dstat er et kjempebra lite verktøy som lar deg få ressursstatistikk for Linux-boksen din. Den har en modulær arkitektur som lar deg utvikle flere plugins og den er enkel å bruke. Nylig profilerte jeg en Deep Learning-pipeline utviklet med Keras og Tensorflow, og jeg trengte detaljert statistikk om CPU, harddisk og GPU-bruk. De to første er tilgjengelige ut av esken av dstat, men så vidt jeg vet er det ingen plugin for å overvåke GPU-bruk for NVIDIA-grafikkort.

Heldigvis er det superenkelt å skrive en python-plugin for dstat. Jeg har allerede sendt en pull-forespørsel på den offisielle repoen, men siden nye versjoner utgis relativt sjelden, er her noen instruksjoner om hvordan du setter opp dstat NVIDIA GPU-bruksplugin på boksen din.

Installasjon

Følgende kommandoer er testet på Ubuntu 16.04 og de vil hjelpe deg med å installere dstat, Python NVIDIA Management Library og min dstat nvidia plugin:

sudo apt-get install dstat #install dstat
sudo pip install nvidia-ml-py #install Python NVIDIA Management Library
wget https://raw.githubusercontent.com/datumbox/dstat/master/plugins/dstat_nvidia_gpu.py
sudo mv dstat_nvidia_gpu.py /usr/share/dstat/ #move file to the plugins directory of dstat

For å få all standardstatistikk sammen med GPU-bruk (prosent), skriv inn følgende kommando:

dstat -a --nvidia-gpu

----total-cpu-usage---- -dsk/total- -net/total- ---paging-- ---system-- gpu-u
usr sys idl wai hiq siq| read  writ| recv  send|  in   out | int   csw |total
  2   1  96   0   0   0|5816k   15M|   0     0 |   0     0 |  45k   98k|   68
  0   1  98   0   0   0|  57M  128k| 104B  902B|   0     0 |  42k   85k|   50
  8   7  84   1   0   0| 152M    0 | 292B  448B|   0     0 |  52k   93k|   39
  1   1  97   1   0   0| 111M    0 |  52B  374B|   0     0 |  51k  116k|   62
  0   1  98   1   0   0| 129M    0 |  80B  416B|   0     0 |  43k   85k|   92
  0   2  98   0   0   0|   0     0 |  52B  374B|   0     0 |  41k   83k|   81

For å få all bruksstatistikk for hver GPU, bruk følgende kommando:

dstat --nvidia-gpu -f
-------------------------------------------gpu-usage-nvidia------------------------------------------
total  gpu0  gpu1  gpu2  gpu3  gpu4  gpu5  gpu6  gpu7  gpu8  gpu9 gpu10 gpu11 gpu12 gpu13 gpu14 gpu15
   19    23    22    21    21    20    22    23    25    15    18    16    16    16    18    16    14
   18    21    20    18    22    21    21    22    21    15    15    14    14    14    15    16    13
   10    14     9    13     8     9    11     9    12     9     9    10    10     8     7     9     9
   18    20    22    19    21    20    21    21    22    14    15    14    15    14    15    15    15
   20    24    22    23    24    25    22    22    22    16    16    16    16    16    16    18    16
   15    21    18    19    18    17    17    16    18    14    13    13    14    13    12    11    11
   20    24    22    22    24    25    23    24    22    16    18    16    14    17    17    17    15
   19    29    18    23    21    22    21    20    21    18    16    16    18    14    14    17    17

Hvordan fungerer det

Programtillegget henter antall tilgjengelige GPUer på systemet og prøver 10 ganger bruksverdien for hver GPU. Sampling flere ganger vil forhåpentligvis gi jevnere beregninger enn å få en enkelt måling. Etter det beregner den gjennomsnittlig bruk på tvers av alle GPUer og returnerer resultatene til brukeren. Kildekoden til plugin er tilgjengelig her..

Håper du liker det, glad GPU-programmering! 🙂

Tidstempel:

Mer fra Datoboks