Les GPU (Graphics Processing Units) sont des composantes très puissantes qui aident les calculs de deep learning en accélérant la vitesse de calcul des modèles d’apprentissage profond.

Toutefois, la mémoire de cartes graphiques qui servent à réduire le temps de calcul est limitée.

Ainsi, lorsque l’on utilise des modèles avec de très nombreux paramètres et que l’on utilise des batches dont les tailles seront grandes, il arrive que notre librairie de deep learning préférée renvoie une erreur indiquant la saturation de la mémoire.

NVIDIA est un grand fournisseur de GPU et il existe justement une commande de terminal spécifique qui permet d’accéder à l’utilisation de la mémoire associée aux GPU NVIDIA.

C’est cette commande que vous allez découvrir ici pour voir l’utilisation de la mémoire d’un GPU NVIDIA.

Solution

Utiliser simplement la commande suivante

nvidia-smi

Vous pourrez alors voir la quantité de mémoire utilisée et la quantité totale à disposition :