- Hypervisor

[Proxmox] vGPU 설정



1. 개요

Proxmox에서 vGPU를 설정하는 방법을 정리합니다.


2. 버전

Proxmox 8.2


3. vGPU란?

  • vGPU(Virtual GPU)는 물리적인 GPU를 가상화하여 여러 VM에서 나누어 사용할 수 있도록 하는 기술입니다.
  • GPU 리소스를 효율적으로 분배하여 AI, 머신러닝, 3D 렌더링 등 고성능 연산 환경을 제공합니다.


4. vGPU 설정




4-1. Proxmox 커널 업데이트 및 필수 패키지 설치

# echo "deb <http://download.proxmox.com/debian/pve> bookworm pve-no-subscription" >> /etc/apt/sources.list
# apt update
# apt -y install proxmox-kernel-6.5 proxmox-headers-6.5 build-essential dkms mdevctl zip


커널 목록 확인 후 특정 버전 고정:

# proxmox-boot-tool kernel list
# proxmox-boot-tool kernel pin 6.5.13-6-pve



4-2. GRUB 설정 변경

# nano /etc/default/grub


다음 내용을 추가 및 수정합니다:

+ GRUB_CMDLINE_LINUX_DEFAULT="quiet intel_iommu=on iommu=pt"


변경 사항 적용:

# update-grub
# reboot



4-3. VFIO 모듈 로드 및 드라이버 블랙리스트 설정

# echo -e "vfio\\nvfio_iommu_type1\\nvfio_pci\\nvfio_virqfd" >> /etc/modules
# echo "blacklist nouveau" >> /etc/modprobe.d/blacklist.conf


초기화 후 시스템 재부팅:

# update-initramfs -u -k all
# reboot


4-4. IOMMU 활성화 확인

# dmesg | grep -e DMAR -e IOMMU


출력 예시:

[    1.714214] DMAR: IOMMU enabled



4-5. NVIDIA vGPU 드라이버 설치

NVIDIA GRID vGPU 드라이버를 다운로드 후 압축 해제:

# cd ~/NVIDIA
# unzip NVIDIA-GRID-Linux-KVM-550.54.16-550.54.15-551.78.zip


호스트 드라이버 설치:

# cd Host_Drivers
# sh NVIDIA-Linux-x86_64-550.54.16-vgpu-kvm.run


설치 확인:

# nvidia-smi


출력 예시:

+-----------------------------------------------------------------------------------------+
| NVIDIA-SMI 550.54.16              Driver Version: 550.54.16      CUDA Version: N/A      |
|-----------------------------------------+------------------------+----------------------+
| GPU  Name                 Persistence-M | Bus-Id          Disp.A | Volatile Uncorr. ECC |
| Fan  Temp   Perf          Pwr:Usage/Cap |           Memory-Usage | GPU-Util  Compute M. |
|                                         |                        |               MIG M. |
|=========================================+========================+======================|
|   0  NVIDIA L40S                    Off |   00000000:0D:00.0 Off |                    0 |
| N/A   36C    P0            122W /  350W |       0MiB /  46068MiB |      2%      Default |
|                                         |                        |                  N/A |
+-----------------------------------------+------------------------+----------------------+
|   1  NVIDIA L40S                    Off |   00000000:B5:00.0 Off |                    0 |
| N/A   37C    P0            124W /  350W |       0MiB /  46068MiB |      3%      Default |
|                                         |                        |                  N/A |
+-----------------------------------------+------------------------+----------------------+

+-----------------------------------------------------------------------------------------+
| Processes:                                                                              |
|  GPU   GI   CI        PID   Type   Process name                              GPU Memory |
|        ID   ID                                                               Usage      |
|=========================================================================================|
|  No running processes found                                                             |
+-----------------------------------------------------------------------------------------+



4-6. vGPU 프로파일 확인

# nvidia-smi vgpu --supported


출력 예시:

GPU 00000000:0D:00.0
NVIDIA L40S-1B
NVIDIA L40S-2B
NVIDIA L40S-1Q
NVIDIA L40S-2Q
NVIDIA L40S-3Q
NVIDIA L40S-4Q
NVIDIA L40S-6Q
NVIDIA L40S-8Q
NVIDIA L40S-12Q
NVIDIA L40S-16Q
NVIDIA L40S-24Q
NVIDIA L40S-48Q
NVIDIA L40S-1A
NVIDIA L40S-2A
NVIDIA L40S-3A
NVIDIA L40S-4A
NVIDIA L40S-6A
NVIDIA L40S-8A
NVIDIA L40S-12A
NVIDIA L40S-16A
NVIDIA L40S-24A
NVIDIA L40S-48A



4-7. SR-IOV 활성화

# /usr/lib/nvidia/sriov-manage -e b5:00.0


설정 적용 후 다시 GPU 목록 확인:

# lspci | grep NVIDIA


출력 예시:

0d:00.0 3D controller: NVIDIA Corporation AD102GL [L40S] (rev a1)
b5:00.0 3D controller: NVIDIA Corporation AD102GL [L40S] (rev a1)
b5:00.4 3D controller: NVIDIA Corporation AD102GL [L40S] (rev a1)
b5:00.5 3D controller: NVIDIA Corporation AD102GL [L40S] (rev a1)
b5:00.6 3D controller: NVIDIA Corporation AD102GL [L40S] (rev a1)
b5:00.7 3D controller: NVIDIA Corporation AD102GL [L40S] (rev a1)
b5:01.0 3D controller: NVIDIA Corporation AD102GL [L40S] (rev a1)
b5:01.1 3D controller: NVIDIA Corporation AD102GL [L40S] (rev a1)
b5:01.2 3D controller: NVIDIA Corporation AD102GL [L40S] (rev a1)
b5:01.3 3D controller: NVIDIA Corporation AD102GL [L40S] (rev a1)
b5:01.4 3D controller: NVIDIA Corporation AD102GL [L40S] (rev a1)
b5:01.5 3D controller: NVIDIA Corporation AD102GL [L40S] (rev a1)
b5:01.6 3D controller: NVIDIA Corporation AD102GL [L40S] (rev a1)
b5:01.7 3D controller: NVIDIA Corporation AD102GL [L40S] (rev a1)
b5:02.0 3D controller: NVIDIA Corporation AD102GL [L40S] (rev a1)
b5:02.1 3D controller: NVIDIA Corporation AD102GL [L40S] (rev a1)
b5:02.2 3D controller: NVIDIA Corporation AD102GL [L40S] (rev a1)
b5:02.3 3D controller: NVIDIA Corporation AD102GL [L40S] (rev a1)
b5:02.4 3D controller: NVIDIA Corporation AD102GL [L40S] (rev a1)
b5:02.5 3D controller: NVIDIA Corporation AD102GL [L40S] (rev a1)
b5:02.6 3D controller: NVIDIA Corporation AD102GL [L40S] (rev a1)
b5:02.7 3D controller: NVIDIA Corporation AD102GL [L40S] (rev a1)
b5:03.0 3D controller: NVIDIA Corporation AD102GL [L40S] (rev a1)
b5:03.1 3D controller: NVIDIA Corporation AD102GL [L40S] (rev a1)
b5:03.2 3D controller: NVIDIA Corporation AD102GL [L40S] (rev a1)
b5:03.3 3D controller: NVIDIA Corporation AD102GL [L40S] (rev a1)
b5:03.4 3D controller: NVIDIA Corporation AD102GL [L40S] (rev a1)
b5:03.5 3D controller: NVIDIA Corporation AD102GL [L40S] (rev a1)
b5:03.6 3D controller: NVIDIA Corporation AD102GL [L40S] (rev a1)
b5:03.7 3D controller: NVIDIA Corporation AD102GL [L40S] (rev a1)
b5:04.0 3D controller: NVIDIA Corporation AD102GL [L40S] (rev a1)
b5:04.1 3D controller: NVIDIA Corporation AD102GL [L40S] (rev a1)
b5:04.2 3D controller: NVIDIA Corporation AD102GL [L40S] (rev a1)
b5:04.3 3D controller: NVIDIA Corporation AD102GL [L40S] (rev a1)



4-8. SR-IOV 자동 활성화 서비스 추가

# cat << EOF > /etc/systemd/system/nvidia-sriov.service
[Unit]
Description=Enable NVIDIA SR-IOV
After=network.target nvidia-vgpud.service nvidia-vgpu-mgr.service
Before=pve-guests.service

[Service]
Type=oneshot
ExecStart=/usr/lib/nvidia/sriov-manage -e ALL
ExecStartPre=/bin/sleep 5

[Install]
WantedBy=multi-user.target
EOF


서비스 적용 및 활성화:

# systemctl daemon-reload
# systemctl enable --now nvidia-sriov.service


설정 적용 후 재부팅:

# reboot


5. Proxmox에서 VM에 vGPU 추가

  1. Proxmox 웹 인터페이스에 접속해 주십시오.
  2. 원하는 VM을 선택하신 후 Hardware 탭으로 이동하십시오.
  3. Add를 클릭하신 뒤 PCI Device를 선택하십시오.


  1. Raw Device를 선택하신 후 사용할 가상 GPU(VF)를 선택하십시오.


  1. Mdev Type을 선택하신 후 사용할 vGPU 프로파일을 지정하십시오.


  1. Add 버튼을 클릭하여 설정을 적용하십시오.


  1. VM 내부에서 vGPU 인식 여부를 확인해 주십시오.


seuheu

코멘트를 남겨주세요
공유
출판된
seuheu
%일 전

최근 게시물

Synology 스토리지 풀과 볼륨 만들기 – RAID 5와 Btrfs 구성

https://youtu.be/ZuSvgLfRZSk 1. 개요 DSM 설치를 마친 NAS에 저장 공간을 만드는 과정입니다. 드라이브 4개를 RAID 5로…

%일 전

Synology NAS 고정 IP 설정 – DHCP에서 수동 구성으로 바꾸기

https://youtu.be/S30V0Ua5Aqg 1. 개요 공유기가 자동으로 나눠 준 주소를 쓰던 NAS에 고정 IP를 지정하는 과정입니다. 주소가…

%일 전

Synology DS425+ 초기 설치 – DSM 설치부터 관리자 계정 생성까지

https://youtu.be/IlN8nsrFC_Y 1. 개요 디스크만 꽂아 둔 새 Synology NAS에 운영체제인 DSM을 설치하고, 관리자 계정을 만들어…

%일 전

Raspberry Pi OMV(OpenMediaVault) Rsync 자동 백업 설정과 동작 확인

https://youtu.be/EOAT80xj74M 1. 개요 공유 폴더의 내용을 다른 공유 폴더로 주기적으로 복사하도록 예약하는 과정입니다. 작업을 만들고…

%일 전

Raspberry Pi OMV(OpenMediaVault) SMB 공유 설정과 윈도우 네트워크 드라이브 연결

https://youtu.be/T8OBQ1V61J0 1. 개요 앞서 만든 공유 폴더를 SMB로 내보내 윈도우에서 네트워크 드라이브로 붙여 쓰는 과정입니다.…

%일 전

Raspberry Pi OMV(OpenMediaVault) NFS 공유 설정 – 서비스 활성화부터 클라이언트 마운트까지

https://youtu.be/3TWRTRd-Imo 1. 개요 앞서 만든 공유 폴더를 NFS로 내보내 다른 리눅스 장비에서 마운트해 쓰는 과정입니다.…

%일 전