GPU

대시보드의 GPU 메뉴는 노드별 GPU 디바이스의 사용률, 메모리 점유율, 할당 상태 등을 시각적으로 확인할 수 있으며, 모델 학습/추론 작업 중 리소스 병목 현상을 진단하는 데 활용됩니다.

GPU 상태

• GPU 서버 정보 : GPU 서버 이름 정보 및 GPU 전체 수 정보

• 학습 타입 정보 : 학습 타입에 쓸 수 있는 GPU 정보 및 사용 수 정보

• 서빙 타입 정보 : 서빙 타입에 쓸 수 있는 GPU 정보 및 사용 수 정보