How to read NVIDIA spec?

인턴 생활중 GPU 사용을 위해 서버를 접속해 사용하는데, GPU 사용현황을 확인하기 위해 해당 명령어를 입력하였다.

nvidia-smi

그러자 아래와 같은 정보가 출력되었는데 각 숫자가 무엇을 의미하는지 몰라 헤멨던 기억에 작성하였다.

 

---

Category

img from : https://travel.plusblog.co.kr

category image를 기반으로 terminal output을 위에서 아래로 왼쪽에서부터 살펴보자.

• Driver Version : nividia driver version
• CUDA version : 현재 설치버전이 아닌 현재 driver version에 맞는 cuda 추천 버전
• GPU : GPU number, cuda 사용을 위해 device 설정시 해당 index를 참고해야한다.
• Fan : N/A fan 이 없는 Tesla model, RTX 계열은 현재 사용률 표기 e.g. 56%, 0%
• Name : Nvidia GPU Model
• Temp : Current temperature
• Perf(performance) : P0-P12, P0에 가까울 수록 높은 performance
• Persistence-M : on/off mode, default = off, on -> control power limit
• Pwr : Usage/Cap
• Bus-Id : PCI slot 에 부여된 BUS-ID ~ OS관련 내용
• DIsp.A : RTX, Quadro 계열 GPU에서 사용, 모니터 연결시 On표시
• Memory-Usage : Current GPU memory usage / Whole GPU memory
• Voltaile GPU-Util : GPU Whole Usage
• Uncorr. ECC : default = on, if change -> 1,2,...
• Compute M. : computer Mode, 0-default / 1-exclusive_thread / 2-prohibited / 3-exclusive_process
• MIG M : GPU slice, support after NVIDIA GPU A100
• Processes : show running PID