La Data Science

Mémoire Utilisée par mon GPU

Si vous rencontrez souvent une erreur de PyTorch qui vous indique que vous n’avez plus de place mémoire libre, vous aurez certainement envie de connaître l’espace mémoire disponible et utilisé par votre GPU.

Mais comment faire?

Je vous propose la solution suivante.

import torch
free_GPU_mem, global_GPU_mem = torch.cuda.mem_get_info()
print(f"Free GPU memory: {free_GPU_mem/(1024 * 1024 * 1024)} GB")
print(f"Global GPU memory: {global_GPU_mem/(1024 * 1024 * 1024)} GB")
view raw GPU_torch.py hosted with ❤ by GitHub

La fonction mem_get_info de torch.cuda permet justement de récupérer un couple d’entiers donnant accès à l’espace mémoire utilisé par CUDA.

Le premier entier correspond à la mémoire disponible, donnée en kilo-octets. On divisera donc par 1024, trois fois, pour avoir le résultat en giga-octets.

Le second correspond à la mémoire totale existante. Là encore en kilo-octets, donc on divisera de même par 1024, trois fois, pour avoir la valeur en Go.

Jean MP

, , ,

Laisser un commentaire