Chi è abituato a utilizzare la finestra del terminale Linux conosce certamente lo strumento top
: fornisce una vista in tempo reale sulle attività di sistema, inclusi i processi in esecuzione, l’utilizzo della CPU, della memoria e altre risorse. È utile per monitorare le prestazioni del sistema e individuare eventuali processi che potrebbero comportarsi in maniera anomala.
Oltre a top
c’è anche l’utilità htop
che offre alcune interessanti migliorie e maggiore flessibilità. A partire dall’interfaccia grafica, più colorata e intuitiva, che consente di riconoscere più facilmente i processi e le relative informazioni.
Monitorare la GPU su Linux è sempre più cruciale: come farlo con nvtop
Con l’avvento di modelli generativi sempre più complessi e potenti, si fa sempre più affidamento sulle GPU anche per la gestione della fase di inferenza.
La fase di inferenza è quella che interessa maggiormente agli utenti finali che si servono di modelli e li implementano nelle app basate sull’intelligenza artificiale. È il processo attraverso il quale un modello addestrato è utilizzato per fare predizioni, generare nuovi dati o compiere decisioni su nuovi input. Durante questa fase, il modello utilizza le informazioni acquisite durante l’addestramento per elaborare nuove informazioni e produrre output il più possibile pertinenti e argomentati.
Cos’è e come funziona l’utilità nvtop
nvtop, acronimo di Neat Videocard TOP, si ispira al funzionamento delle utilità di sistema citate in apertura ma è progettato per monitorare le GPU e gli acceleratori.
Al momento, nvtop supporta AMD (driver amdgpu per Linux), Apple (supporto limitato ai SoC M1 e M2), Huawei (Ascend), Intel (driver i915 per Linux), NVIDIA (driver proprietari per Linux) e Qualcomm Adreno (driver MSM per Linux). Va comunque tenuto in considerazione che, ad esempio, per le GPU AMD è necessario un kernel Linux con una versione pari o superiore alla 5.14, mentre per le GPU Intel è richiesto un kernel pari o superiore alla release 5.19. Per le GPU NVIDIA, nvtop utilizza la libreria NVML (NVIDIA Management Library), inclusa con i driver ufficiali.
L’interfaccia di nvtop fornisce un’ampia gamma di opzioni e comandi interattivi per monitorare il comportamento della GPU. Le funzionalità di configurazione integrate consentono di personalizzare l’interfaccia secondo le proprie esigenze premendo semplicemente F2
e selezionando le opzioni preferite. È possibile salvare le preferenze impostate premendo F12
, in modo che vengano caricate automaticamente alla successiva esecuzione di nvtop.
Come usare nvtop sulle principali distribuzioni Linux
nvtop può essere installato su diverse distribuzioni Linux utilizzando pacchetti precompilati, repository specifici o manualmente compilando il codice sorgente. Il modo più semplice per usare nvtop su Debian, Ubuntu e distribuzioni derivate consiste nel digitare il comando che segue:
sudo apt install nvtop
Consultando la pagina GitHub del progetto, tuttavia, si possono trovare le istruzioni di installazione per le altre distribuzioni come Fedora, Red Hat, CentOS, OpenSUSE e Arch Linux. Inoltre, sono disponibili alternative come AppImage, Snap e Docker per semplificare il processo di installazione e distribuzione.
nvtop è distribuito sotto licenza GPLv3, garantendo agli utenti la libertà di utilizzare, modificare e distribuire il software in conformità con le direttive della Free Software Foundation.
Credit immagine in apertura: Copilot Designer.