Ottenere l'utilizzo della GPU delle schede NVIDIA con lo strumento Linux dstat PlatoBlockchain Data Intelligence. Ricerca verticale. Ai.

Ottenere l'utilizzo della GPU delle schede NVIDIA con lo strumento dstat Linux

I dstat è un piccolo strumento fantastico che ti permette di ottenere statistiche sulle risorse per il tuo box Linux. Ha un'architettura modulare che ti consente di sviluppare plugin aggiuntivi ed è facile da usare. Di recente ho creato una pipeline di Deep Learning sviluppata con Keras e Tensorflow e avevo bisogno di statistiche dettagliate sull'utilizzo di CPU, disco rigido e GPU. I primi due sono disponibili immediatamente da dstat, tuttavia per quanto ne so non esiste un plug-in per il monitoraggio dell'utilizzo della GPU per le schede grafiche NVIDIA.

Per fortuna è semplicissimo scrivere un plugin Python per dstat. Ho già inviato una richiesta pull sul repository ufficiale ma poiché le nuove versioni vengono rilasciate relativamente raramente ecco alcune istruzioni su come impostare il dstat Plugin per l'utilizzo della GPU NVIDIA sulla tua scatola.

Installazione

I seguenti comandi sono testati su Ubuntu 16.04 e ti aiuteranno a installare dstat, la libreria di gestione Python NVIDIA e il mio plugin dstat nvidia:

sudo apt-get install dstat #install dstat
sudo pip install nvidia-ml-py #install Python NVIDIA Management Library
wget https://raw.githubusercontent.com/datumbox/dstat/master/plugins/dstat_nvidia_gpu.py
sudo mv dstat_nvidia_gpu.py /usr/share/dstat/ #move file to the plugins directory of dstat

Per ottenere tutte le statistiche predefinite insieme all'utilizzo della GPU (percentuale) digitare il comando seguente:

dstat -a --nvidia-gpu

----total-cpu-usage---- -dsk/total- -net/total- ---paging-- ---system-- gpu-u
usr sys idl wai hiq siq| read  writ| recv  send|  in   out | int   csw |total
  2   1  96   0   0   0|5816k   15M|   0     0 |   0     0 |  45k   98k|   68
  0   1  98   0   0   0|  57M  128k| 104B  902B|   0     0 |  42k   85k|   50
  8   7  84   1   0   0| 152M    0 | 292B  448B|   0     0 |  52k   93k|   39
  1   1  97   1   0   0| 111M    0 |  52B  374B|   0     0 |  51k  116k|   62
  0   1  98   1   0   0| 129M    0 |  80B  416B|   0     0 |  43k   85k|   92
  0   2  98   0   0   0|   0     0 |  52B  374B|   0     0 |  41k   83k|   81

Per ottenere tutte le statistiche di utilizzo per ciascuna GPU utilizzare il seguente comando:

dstat --nvidia-gpu -f
-------------------------------------------gpu-usage-nvidia------------------------------------------
total  gpu0  gpu1  gpu2  gpu3  gpu4  gpu5  gpu6  gpu7  gpu8  gpu9 gpu10 gpu11 gpu12 gpu13 gpu14 gpu15
   19    23    22    21    21    20    22    23    25    15    18    16    16    16    18    16    14
   18    21    20    18    22    21    21    22    21    15    15    14    14    14    15    16    13
   10    14     9    13     8     9    11     9    12     9     9    10    10     8     7     9     9
   18    20    22    19    21    20    21    21    22    14    15    14    15    14    15    15    15
   20    24    22    23    24    25    22    22    22    16    16    16    16    16    16    18    16
   15    21    18    19    18    17    17    16    18    14    13    13    14    13    12    11    11
   20    24    22    22    24    25    23    24    22    16    18    16    14    17    17    17    15
   19    29    18    23    21    22    21    20    21    18    16    16    18    14    14    17    17

Come funziona

Il plug-in recupera il numero di GPU disponibili sul sistema e campiona 10 volte la metrica di utilizzo per ciascuna GPU. Si spera che il campionamento più volte restituisca metriche più fluide rispetto a ottenere una singola misurazione. Successivamente, calcola la media dell'utilizzo su tutte le GPU e restituisce i risultati all'utente. Il codice sorgente del plugin è disponibile qui.

Spero ti piaccia, buona programmazione GPU! 🙂

Timestamp:

Di più da Databox