> For the complete documentation index, see [llms.txt](https://genos-docs.gitbook.io/default/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://genos-docs.gitbook.io/default/v1.9.2/dashboard/overview/gpu.md).

# GPU

대시보드의 GPU 메뉴는 GPU 리소스 상세 정보를 제공하며, GPU 별 인덱스, GPU 활용률, GPU 메모리 사용량, 서비스 정보를 확인할 수 있습니다. 프로세스 단위로 GPU 사용량을 모니터링하여 리소스 사용 현황을 파악할 수 있습니다.

화면 상단의 탭으로 현재 상태, 사용 추이, vGPU 모니터링 세 화면을 전환합니다.

## 현재 상태

현재 시점의 GPU 서버별 상세 정보를 보여줍니다.

<figure><img src="/files/MSYd3LhDrDqnwJO6Fhmj" alt="GPU 대시보드"><figcaption><p>GPU 대시보드 현재 상태 화면</p></figcaption></figure>

* 대시보드의 **GPU** 메뉴를 선택하면 GPU 서버별 상세 정보를 확인할 수 있습니다.
* 각 GPU 노드(예: mncsvr01)의 이름과 총 GPU 개수가 표시됩니다.
* GPU는 **Serving**과 **Training** 유형으로 구분되어 표시됩니다.
* 각 GPU 카드는 고유한 인덱스 번호(예: 1)로 구분됩니다.

### 서비스 정보 확인

* GPU 카드를 클릭하면 상세 정보를 확인할 수 있습니다.
* **할당된 서비스**: 현재 GPU를 사용 중인 서비스 정보
  * **기본 할당명**: 서비스 식별자 (예: baai-bge-m3)
  * **관리 그룹**: 서비스를 관리하는 그룹 (예: 공통 관리 그룹)
* **GPU 활용률**: 현재 GPU 사용률을 퍼센트로 표시 (예: 0%)
* **GPU 메모리 사용량**: 사용 중인 GPU 메모리와 전체 용량 표시
  * 예: 9 GB / 31.7 GB (28.4%)
  * 메모리 사용률을 시각적 바 차트로 표시

### 리소스 요약 정보 및 프로세스 상세

* **리소스 요약 정보** 섹션에서 GPU의 추가 정보를 확인할 수 있습니다.

#### 메타 정보

* **할당량 GPU**: 할당된 GPU 타입 및 모델 (예: 서비스용 GPU V100)
* **할당 시각**: GPU가 할당된 시간 (예: 2025-12-15 18:04:42)

#### 프로세스 목록

* GPU를 사용 중인 프로세스들을 상세하게 확인할 수 있습니다.
* 각 프로세스별로 다음 정보를 제공합니다.
  * **GPU 인덱스**: GPU 번호 (예: 1)
  * **PID**: 프로세스 ID (예: 6785)
  * **프로세스명**: 실행 중인 명령어 및 파라미터
  * **GPU 메모리 실사용량**: 프로세스가 사용하는 GPU 메모리 (예: 3.4 GB, 10.8%)
* 여러 프로세스가 동일한 GPU를 사용하는 경우 각 프로세스별 메모리 사용량을 개별적으로 파악할 수 있습니다.
* 이를 통해 GPU 리소스의 효율적인 관리 및 병목 현상 진단이 가능합니다.

## 사용 추이

선택한 노드의 GPU 지표를 기간별 시계열로 보여줍니다.

* 상단에서 노드와 기간을 선택합니다. 기간은 1시간, 6시간, 24시간, 7일, 30일이며, 기본값은 노드 목록의 첫 노드와 24시간입니다.
* **지표 추이 차트**: 활용률 추이, 메모리 추이, 온도 추이, 전력 추이 네 개의 라인 차트가 표시됩니다. 선택한 노드의 각 물리 GPU가 별도의 선으로 구분되어 표시됩니다.
* **실제 리소스 점유**: 하단에 GPU별 도넛 차트가 표시되어, 선택한 기간 동안 각 GPU의 점유와 유휴 시간 비율을 보여줍니다.
* 노드나 기간을 바꾸면 모든 차트와 도넛이 자동으로 갱신됩니다.

<figure><img src="/files/qoHHSSih1eXzfJ0kBuPf" alt="GPU 사용 추이"><figcaption><p>GPU 사용 추이</p></figcaption></figure>

## vGPU 모니터링

HAMi 기반 vGPU 사용 현황을 보여줍니다. HAMi가 설치된 환경에서 제공되며, HAMi vGPU 전용 Grafana 모니터링 대시보드를 화면에 임베드합니다.

* dedicated GPU 사용량과 vGPU 사용량, vGPU 잔여량을 구분해 보여줍니다.
* 클러스터 vGPU 메모리 할당, GPU별 메모리 할당률, 코어 할당 대비 한도, 컨테이너별 vGPU 사용률, 할당 대비 실사용 갭 등을 확인할 수 있습니다.

<figure><img src="/files/VxycEez9ILwk2KAU3H7i" alt="vGPU 모니터링"><figcaption><p>HAMi vGPU 모니터링</p></figcaption></figure>


---

# Agent Instructions
This documentation is published with GitBook. GitBook is the documentation platform designed so that both humans and AI agents can read, navigate, and reason over technical content effectively. Learn more at gitbook.com.

## Querying This Documentation
If you need additional information that is not directly available in this page, you can query the documentation dynamically by asking a question.

Perform an HTTP GET request on the current page URL with the `ask` query parameter, and the optional `goal` query parameter:

```
GET https://genos-docs.gitbook.io/default/v1.9.2/dashboard/overview/gpu.md?ask=<question>&goal=<endgoal>
```

`ask` is the immediate question: it should be specific, self-contained, and written in natural language.
`goal` is optional and describes the broader end goal you are ultimately trying to accomplish on behalf of the user. GitBook uses it to tailor the answer towards what is most useful for that goal.

The response will contain a direct answer to the question and relevant excerpts and sources from the documentation.

Use this mechanism when the answer is not explicitly present in the current page, you need clarification or additional context, or you want to retrieve related documentation sections.