- Hypervisor

[Proxmox] vGPU 설정



1. 개요

Proxmox에서 vGPU를 설정하는 방법을 정리합니다.


2. 버전

Proxmox 8.2


3. vGPU란?

  • vGPU(Virtual GPU)는 물리적인 GPU를 가상화하여 여러 VM에서 나누어 사용할 수 있도록 하는 기술입니다.
  • GPU 리소스를 효율적으로 분배하여 AI, 머신러닝, 3D 렌더링 등 고성능 연산 환경을 제공합니다.


4. vGPU 설정




4-1. Proxmox 커널 업데이트 및 필수 패키지 설치

# echo "deb <http://download.proxmox.com/debian/pve> bookworm pve-no-subscription" >> /etc/apt/sources.list
# apt update
# apt -y install proxmox-kernel-6.5 proxmox-headers-6.5 build-essential dkms mdevctl zip


커널 목록 확인 후 특정 버전 고정:

# proxmox-boot-tool kernel list
# proxmox-boot-tool kernel pin 6.5.13-6-pve



4-2. GRUB 설정 변경

# nano /etc/default/grub


다음 내용을 추가 및 수정합니다:

+ GRUB_CMDLINE_LINUX_DEFAULT="quiet intel_iommu=on iommu=pt"


변경 사항 적용:

# update-grub
# reboot



4-3. VFIO 모듈 로드 및 드라이버 블랙리스트 설정

# echo -e "vfio\\nvfio_iommu_type1\\nvfio_pci\\nvfio_virqfd" >> /etc/modules
# echo "blacklist nouveau" >> /etc/modprobe.d/blacklist.conf


초기화 후 시스템 재부팅:

# update-initramfs -u -k all
# reboot


4-4. IOMMU 활성화 확인

# dmesg | grep -e DMAR -e IOMMU


출력 예시:

[    1.714214] DMAR: IOMMU enabled



4-5. NVIDIA vGPU 드라이버 설치

NVIDIA GRID vGPU 드라이버를 다운로드 후 압축 해제:

# cd ~/NVIDIA
# unzip NVIDIA-GRID-Linux-KVM-550.54.16-550.54.15-551.78.zip


호스트 드라이버 설치:

# cd Host_Drivers
# sh NVIDIA-Linux-x86_64-550.54.16-vgpu-kvm.run


설치 확인:

# nvidia-smi


출력 예시:

+-----------------------------------------------------------------------------------------+
| NVIDIA-SMI 550.54.16              Driver Version: 550.54.16      CUDA Version: N/A      |
|-----------------------------------------+------------------------+----------------------+
| GPU  Name                 Persistence-M | Bus-Id          Disp.A | Volatile Uncorr. ECC |
| Fan  Temp   Perf          Pwr:Usage/Cap |           Memory-Usage | GPU-Util  Compute M. |
|                                         |                        |               MIG M. |
|=========================================+========================+======================|
|   0  NVIDIA L40S                    Off |   00000000:0D:00.0 Off |                    0 |
| N/A   36C    P0            122W /  350W |       0MiB /  46068MiB |      2%      Default |
|                                         |                        |                  N/A |
+-----------------------------------------+------------------------+----------------------+
|   1  NVIDIA L40S                    Off |   00000000:B5:00.0 Off |                    0 |
| N/A   37C    P0            124W /  350W |       0MiB /  46068MiB |      3%      Default |
|                                         |                        |                  N/A |
+-----------------------------------------+------------------------+----------------------+

+-----------------------------------------------------------------------------------------+
| Processes:                                                                              |
|  GPU   GI   CI        PID   Type   Process name                              GPU Memory |
|        ID   ID                                                               Usage      |
|=========================================================================================|
|  No running processes found                                                             |
+-----------------------------------------------------------------------------------------+



4-6. vGPU 프로파일 확인

# nvidia-smi vgpu --supported


출력 예시:

GPU 00000000:0D:00.0
NVIDIA L40S-1B
NVIDIA L40S-2B
NVIDIA L40S-1Q
NVIDIA L40S-2Q
NVIDIA L40S-3Q
NVIDIA L40S-4Q
NVIDIA L40S-6Q
NVIDIA L40S-8Q
NVIDIA L40S-12Q
NVIDIA L40S-16Q
NVIDIA L40S-24Q
NVIDIA L40S-48Q
NVIDIA L40S-1A
NVIDIA L40S-2A
NVIDIA L40S-3A
NVIDIA L40S-4A
NVIDIA L40S-6A
NVIDIA L40S-8A
NVIDIA L40S-12A
NVIDIA L40S-16A
NVIDIA L40S-24A
NVIDIA L40S-48A



4-7. SR-IOV 활성화

# /usr/lib/nvidia/sriov-manage -e b5:00.0


설정 적용 후 다시 GPU 목록 확인:

# lspci | grep NVIDIA


출력 예시:

0d:00.0 3D controller: NVIDIA Corporation AD102GL [L40S] (rev a1)
b5:00.0 3D controller: NVIDIA Corporation AD102GL [L40S] (rev a1)
b5:00.4 3D controller: NVIDIA Corporation AD102GL [L40S] (rev a1)
b5:00.5 3D controller: NVIDIA Corporation AD102GL [L40S] (rev a1)
b5:00.6 3D controller: NVIDIA Corporation AD102GL [L40S] (rev a1)
b5:00.7 3D controller: NVIDIA Corporation AD102GL [L40S] (rev a1)
b5:01.0 3D controller: NVIDIA Corporation AD102GL [L40S] (rev a1)
b5:01.1 3D controller: NVIDIA Corporation AD102GL [L40S] (rev a1)
b5:01.2 3D controller: NVIDIA Corporation AD102GL [L40S] (rev a1)
b5:01.3 3D controller: NVIDIA Corporation AD102GL [L40S] (rev a1)
b5:01.4 3D controller: NVIDIA Corporation AD102GL [L40S] (rev a1)
b5:01.5 3D controller: NVIDIA Corporation AD102GL [L40S] (rev a1)
b5:01.6 3D controller: NVIDIA Corporation AD102GL [L40S] (rev a1)
b5:01.7 3D controller: NVIDIA Corporation AD102GL [L40S] (rev a1)
b5:02.0 3D controller: NVIDIA Corporation AD102GL [L40S] (rev a1)
b5:02.1 3D controller: NVIDIA Corporation AD102GL [L40S] (rev a1)
b5:02.2 3D controller: NVIDIA Corporation AD102GL [L40S] (rev a1)
b5:02.3 3D controller: NVIDIA Corporation AD102GL [L40S] (rev a1)
b5:02.4 3D controller: NVIDIA Corporation AD102GL [L40S] (rev a1)
b5:02.5 3D controller: NVIDIA Corporation AD102GL [L40S] (rev a1)
b5:02.6 3D controller: NVIDIA Corporation AD102GL [L40S] (rev a1)
b5:02.7 3D controller: NVIDIA Corporation AD102GL [L40S] (rev a1)
b5:03.0 3D controller: NVIDIA Corporation AD102GL [L40S] (rev a1)
b5:03.1 3D controller: NVIDIA Corporation AD102GL [L40S] (rev a1)
b5:03.2 3D controller: NVIDIA Corporation AD102GL [L40S] (rev a1)
b5:03.3 3D controller: NVIDIA Corporation AD102GL [L40S] (rev a1)
b5:03.4 3D controller: NVIDIA Corporation AD102GL [L40S] (rev a1)
b5:03.5 3D controller: NVIDIA Corporation AD102GL [L40S] (rev a1)
b5:03.6 3D controller: NVIDIA Corporation AD102GL [L40S] (rev a1)
b5:03.7 3D controller: NVIDIA Corporation AD102GL [L40S] (rev a1)
b5:04.0 3D controller: NVIDIA Corporation AD102GL [L40S] (rev a1)
b5:04.1 3D controller: NVIDIA Corporation AD102GL [L40S] (rev a1)
b5:04.2 3D controller: NVIDIA Corporation AD102GL [L40S] (rev a1)
b5:04.3 3D controller: NVIDIA Corporation AD102GL [L40S] (rev a1)



4-8. SR-IOV 자동 활성화 서비스 추가

# cat << EOF > /etc/systemd/system/nvidia-sriov.service
[Unit]
Description=Enable NVIDIA SR-IOV
After=network.target nvidia-vgpud.service nvidia-vgpu-mgr.service
Before=pve-guests.service

[Service]
Type=oneshot
ExecStart=/usr/lib/nvidia/sriov-manage -e ALL
ExecStartPre=/bin/sleep 5

[Install]
WantedBy=multi-user.target
EOF


서비스 적용 및 활성화:

# systemctl daemon-reload
# systemctl enable --now nvidia-sriov.service


설정 적용 후 재부팅:

# reboot


5. Proxmox에서 VM에 vGPU 추가

  1. Proxmox 웹 인터페이스에 접속해 주십시오.
  2. 원하는 VM을 선택하신 후 Hardware 탭으로 이동하십시오.
  3. Add를 클릭하신 뒤 PCI Device를 선택하십시오.


  1. Raw Device를 선택하신 후 사용할 가상 GPU(VF)를 선택하십시오.


  1. Mdev Type을 선택하신 후 사용할 vGPU 프로파일을 지정하십시오.


  1. Add 버튼을 클릭하여 설정을 적용하십시오.


  1. VM 내부에서 vGPU 인식 여부를 확인해 주십시오.


seuheu

코멘트를 남겨주세요
공유
출판된
seuheu
%일 전

최근 게시물

[Linux] Rocky Linux 9.5 KVM virt-manager를 이용한 Windowws 11 설치 가이드(VirtIO)

https://youtu.be/nNDRk8bt3c4 1. 개요 virt-manager를 사용하여 KVM/QEMU 가상화 환경에서 Windows 11을 설치하는 방법을 소개합니다. 설치 과정에서는 virtIO…

%일 전

[Windows] Windows 11 24H2 설치 가이드

https://youtu.be/YL23ogmZhuY 1. 개요 이 문서에서는 Windows 11 24H2 버전 설치 방법에 대해 설명합니다. USB 설치 디스크를…

%일 전

[Linux] Rocky Linux 9.5 KVM virt-install로 KVM 가상 머신 생성(CLI)

https://youtu.be/Nm9swsyeXlY 1. 개요 virt-install 명령어를 이용해 Rocky Linux 9.5 기반 KVM 가상 머신을 생성하는 방법을…

%일 전

[Linux] Rocky Linux 9.5 KVM virt-manager로 KVM 가상 머신 생성(GUI)

https://youtu.be/zZQl7OJZf7Q 1. 개요 virt-manager를 이용하여 KVM 가상 머신을 생성하는 방법을 설명합니다. Rocky Linux 9.5 ISO…

%일 전

[Linux] Rocky Linux 9.5 KVM 설치

https://youtu.be/UPeCJbP3UIE 1. 개요 KVM 기반의 가상화 시스템 설치하는 방법을 소개합니다. 2. 버전 Rocky Linux 9.5…

%일 전

[Linux] Rocky Linux 9.5 nmcli로 이중화(Bonding) 구성

https://youtu.be/wqTxt1H31y4 1. 개요 서버에 2개 이상의 NIC(Network Interface Card)가 있을 때, 고가용성과 장애 대응을 위해…

%일 전