Få GPU-användningen av NVIDIA-kort med Linux dstat-verktyget PlatoBlockchain Data Intelligence. Vertikal sökning. Ai.

Få GPU-användning av NVIDIA-kort med Linux-dstat-verktyget

Tidsstämpel: 11 februari 2017 6:21

Smakämnen dstat är ett fantastiskt litet verktyg som låter dig få resursstatistik för din Linux-ruta. Den har en modulär arkitektur som låter dig utveckla ytterligare plugins och det är lätt att använda. Nyligen profilerade jag en Deep Learning-pipeline utvecklad med Keras och Tensorflow och jag behövde detaljerad statistik om CPU, hårddisk och GPU-användning. De två första är tillgängliga utanför boxen av dstat, men så vitt jag vet finns det ingen plugin för övervakning av GPU-användning för NVIDIA-grafikkort.

Tack och lov är det superlätt att skriva ett python-plugin för dstat. Jag har redan skickat en pull-begäran på den officiella repo men eftersom nya versioner släpps relativt sällan här är några instruktioner för hur man ställer in dstat NVIDIA GPU användning plugin på din låda.

Installation

Följande kommandon testas på Ubuntu 16.04 och de hjälper dig att installera dstat, Python NVIDIA Management Library och mitt dstat nvidia-plugin:

sudo apt-get install dstat #install dstat
sudo pip install nvidia-ml-py #install Python NVIDIA Management Library
wget https://raw.githubusercontent.com/datumbox/dstat/master/plugins/dstat_nvidia_gpu.py
sudo mv dstat_nvidia_gpu.py /usr/share/dstat/ #move file to the plugins directory of dstat

För att få all standardstatistik tillsammans med GPU-användning (procent) skriver du följande kommando:

dstat -a --nvidia-gpu

----total-cpu-usage---- -dsk/total- -net/total- ---paging-- ---system-- gpu-u
usr sys idl wai hiq siq| read  writ| recv  send|  in   out | int   csw |total
  2   1  96   0   0   0|5816k   15M|   0     0 |   0     0 |  45k   98k|   68
  0   1  98   0   0   0|  57M  128k| 104B  902B|   0     0 |  42k   85k|   50
  8   7  84   1   0   0| 152M    0 | 292B  448B|   0     0 |  52k   93k|   39
  1   1  97   1   0   0| 111M    0 |  52B  374B|   0     0 |  51k  116k|   62
  0   1  98   1   0   0| 129M    0 |  80B  416B|   0     0 |  43k   85k|   92
  0   2  98   0   0   0|   0     0 |  52B  374B|   0     0 |  41k   83k|   81

För att få all användningsstatistik för varje GPU använder du följande kommando:

dstat --nvidia-gpu -f
-------------------------------------------gpu-usage-nvidia------------------------------------------
total  gpu0  gpu1  gpu2  gpu3  gpu4  gpu5  gpu6  gpu7  gpu8  gpu9 gpu10 gpu11 gpu12 gpu13 gpu14 gpu15
   19    23    22    21    21    20    22    23    25    15    18    16    16    16    18    16    14
   18    21    20    18    22    21    21    22    21    15    15    14    14    14    15    16    13
   10    14     9    13     8     9    11     9    12     9     9    10    10     8     7     9     9
   18    20    22    19    21    20    21    21    22    14    15    14    15    14    15    15    15
   20    24    22    23    24    25    22    22    22    16    16    16    16    16    16    18    16
   15    21    18    19    18    17    17    16    18    14    13    13    14    13    12    11    11
   20    24    22    22    24    25    23    24    22    16    18    16    14    17    17    17    15
   19    29    18    23    21    22    21    20    21    18    16    16    18    14    14    17    17

Hur det fungerar

Plugin hämtar antalet tillgängliga GPU: er på systemet och samplar 10 gånger användningsmetriken för varje GPU. Provtagning flera gånger ger förhoppningsvis smidigare mätvärden än att få en enda mätning. Efter det ger det medelvärdet för alla GPU: er och ger resultaten till användaren. Källkoden för plugin är tillgängligt här..

Hoppas att du gillar det, glad GPU-programmering! 🙂

Tidsstämpel:

Mer från Datumbox