Driver Nvidia Tesla T4 per server DELL PowerEdge R7425 in ambiente Windows Server 2019

Nonostante sia possibile acquistare un server DELL con schede grafiche aggiuntive Nvidia Tesla T4 sul sito DELL al momento non è possibile scaricare per il DELL PowerEdge R7425 i driver Nvidia per Windows Server 2019 dal sito del supporto tecnico.

Volendo è possibile scaricare i driver dal sito Nvidia https://www.nvidia.com/Download/index.aspx che al momento sono i CUDA Toolkit 10.2 in versione 442.50 (il file fornito al momento è il 442.50-tesla-desktop-winserver-2019-2016-international.exe), a riguardo si vedano anche le NVIDIA CUDA Toolkit Release Notes.

Va però precisato tali driver sono driver di tipo desktop non hanno la modalità WDDM (Windows Display Driver Model) attivata, ma solo la modalità TCC (Tesla Compute Cluster), per maggiori informazioni a riguardo è possibile vedere il seguente documento Tesla Compute Cluster (TCC) dove viene anche spiegato come eseguire lo switch tra la modalità TCC e WDDM con l’utility a riga di comando nvidia-smi:

The NVIDIA Control Panel will show you what mode your GPUs are in; alternately, you can use the nvidia-smi command to generate a table that will display your GPUs and what mode they are using.

 

To change the TCC mode, use the NVIDIA SMI utility. This is located by default at C:\Program Files\NVIDIA Corporation\NVSMI. Use the following syntax to change the TCC mode:

 

nvidia-smi -g {GPU_ID} -dm {0|1}

0 = WDDM

1 = TCC

Per ulteriori informazioni sull’utility a riga di comando nvidia-smi si veda Useful nvidia-smi Queries.

Avviando l’utility nvidia-smi è possibile vedere la modalità impostata sulla scheda, di seguito un esempio di un server DELL PowerEdge R7425 con due schede Nvidia Tesla T4 aggiuntive:

Come riportato sempre nel documento Tesla Compute Cluster (TCC) vi sono alcune differente tra la modalità WDDM e TCC:

NVIDIA GPUs can exist in one of two modes: TCC or WDDM. TCC mode disables Windows graphics and is used in headless configurations, whereas WDDM mode is required for Windows graphics. NVIDIA GPUs also come in three classes:

  • GeForce — typically defaults to WDDM mode; used in gaming graphics.
  • Quadro — typically defaults to WDDM mode, but often used as TCC compute devices as well.
  • Tesla — typically defaults to TCC mode. Current drivers require a GRID license to enable WDDM on Tesla devices.

Una delle differenze immediatamente percepibile è che se il driver non ha la modalità WDDM attiva le GPU non saranno visualizzate nel Task Manager, ma sarà comunque possibile visualizzare i counter delle GPU nel Permance Monitor:

Si noti che se a provare a cambiare la modalità in WDDM tramite l’utility nvidia-smi non sarà comunque possibile perchè come riportato nel documento Tesla Compute Cluster (TCC) i device Tesla necessitano di una GRID license per abilitare la modalità WDDM. In altre parole non è possibile utilizzare la modalità WDDM tramite driver desktop:

Per utilizzare la modalità WDDM è necessario installare i driver NVIDIA GRID e Virtual GPU (vGPU) che hanno la GRID license, a riguardo si veda NVIDIA® Virtual GPU (vGPU) Software Documentation. Per ottenere i driver Virtual GPU (vGPU) è necessario avere accesso al NVIDIA Enterprise Support che richiede un NVIDIA Enterprise Account. Volendo è possibile creare un account NVIDIA Enterprise Account Registration trial di 90 giorni al seguente link https://enterpriseproductregistration.nvidia.com/?LicType=EVAL&ProductFamily=vGPU e scaricare i driver NVIDIA GRID e Virtual GPU (vGPU) per Windows Server 2019 che al momento sono i vGPU Software 10.2, vGPU Manager 440.87 in versione 443.05 (il file fornito al momento è il NVIDIA-GRID-Windows-440.87-443.05.zip)

I driver NVIDIA GRID e Virtual GPU (vGPU) hanno la modalità WDDM abilitata per default e quindi il Task Manager visualizza anche le GPU:

Inoltre i driver NVIDIA GRID e Virtual GPU (vGPU) permettono la modifica della modalità da WDDM a TCC e viceversa tramite l’utility nvidia-smi, tale modifica richiede il riavvio del sistema:

Per ulteriori informazioni sulla modalità WDDM si faccia riferimento alla Windows Display Driver Model (WDDM) Design Guide.