Få GPU-brugen af ​​NVIDIA-kort med Linux dstat-værktøjet PlatoBlockchain Data Intelligence. Lodret søgning. Ai.

Få GPU-brugen af ​​NVIDIA-kort med Linux dstat-værktøjet

Tidsstempel: 11. februar 2017 kl. 6:21

dstat er et fantastisk lille værktøj, som giver dig mulighed for at få ressourcestatistik til din Linux-boks. Den har en modulær arkitektur, som giver dig mulighed for at udvikle yderligere plugins, og den er nem at bruge. For nylig profilerede jeg en Deep Learning-pipeline udviklet med Keras og Tensorflow, og jeg havde brug for detaljerede statistikker om CPU, harddisk og GPU-brug. De to første er tilgængelige ud af kassen af ​​dstat, men så vidt jeg ved, er der ikke desto mindre noget plugin til overvågning af GPU-brug til NVIDIA-grafikkort.

Heldigvis er det super nemt at skrive et python-plugin til dstat. Jeg har allerede sendt en pull-anmodning på den officielle repo, men da nye versioner udgives relativt sjældent er her nogle instruktioner om, hvordan man konfigurerer dstat NVIDIA GPU-brugsplugin på din boks.

Installation

Følgende kommandoer er testet på Ubuntu 16.04, og de vil hjælpe dig med at installere dstat, Python NVIDIA Management Library og mit dstat nvidia plugin:

sudo apt-get install dstat #install dstat
sudo pip install nvidia-ml-py #install Python NVIDIA Management Library
wget https://raw.githubusercontent.com/datumbox/dstat/master/plugins/dstat_nvidia_gpu.py
sudo mv dstat_nvidia_gpu.py /usr/share/dstat/ #move file to the plugins directory of dstat

For at få alle standardstatistikker sammen med GPU-brug (procent), skriv følgende kommando:

dstat -a --nvidia-gpu

----total-cpu-usage---- -dsk/total- -net/total- ---paging-- ---system-- gpu-u
usr sys idl wai hiq siq| read  writ| recv  send|  in   out | int   csw |total
  2   1  96   0   0   0|5816k   15M|   0     0 |   0     0 |  45k   98k|   68
  0   1  98   0   0   0|  57M  128k| 104B  902B|   0     0 |  42k   85k|   50
  8   7  84   1   0   0| 152M    0 | 292B  448B|   0     0 |  52k   93k|   39
  1   1  97   1   0   0| 111M    0 |  52B  374B|   0     0 |  51k  116k|   62
  0   1  98   1   0   0| 129M    0 |  80B  416B|   0     0 |  43k   85k|   92
  0   2  98   0   0   0|   0     0 |  52B  374B|   0     0 |  41k   83k|   81

For at få al brugsstatistik for hver GPU skal du bruge følgende kommando:

dstat --nvidia-gpu -f
-------------------------------------------gpu-usage-nvidia------------------------------------------
total  gpu0  gpu1  gpu2  gpu3  gpu4  gpu5  gpu6  gpu7  gpu8  gpu9 gpu10 gpu11 gpu12 gpu13 gpu14 gpu15
   19    23    22    21    21    20    22    23    25    15    18    16    16    16    18    16    14
   18    21    20    18    22    21    21    22    21    15    15    14    14    14    15    16    13
   10    14     9    13     8     9    11     9    12     9     9    10    10     8     7     9     9
   18    20    22    19    21    20    21    21    22    14    15    14    15    14    15    15    15
   20    24    22    23    24    25    22    22    22    16    16    16    16    16    16    18    16
   15    21    18    19    18    17    17    16    18    14    13    13    14    13    12    11    11
   20    24    22    22    24    25    23    24    22    16    18    16    14    17    17    17    15
   19    29    18    23    21    22    21    20    21    18    16    16    18    14    14    17    17

Sådan fungerer det

Pluginnet henter antallet af tilgængelige GPU'er på systemet og prøver 10 gange brugsmetrikken for hver GPU. Sampling flere gange vil forhåbentlig returnere jævnere metrics end at få en enkelt måling. Derefter beregner den et gennemsnit af brugen på tværs af alle GPU'er og returnerer resultaterne til brugeren. Kildekoden til plugin'et er tilgængelig link..

Håber du nyder det, glad GPU-programmering! 🙂

Tidsstempel:

Mere fra Datumboks