• vGPU 소프트웨어: 18.0
• 호스트 드라이버: 570.124.03
• Linux 게스트 드라이버: 570.124.06
• Windows 게스트 드라이버: 572.60

우리는 이 프로젝트에 NVIDIA L40S와 Dell PowerEdge R760을 활용했습니다.

또한 게스트에서 vGPU 기능을 활성화하려면 전용 라이선싱 서버(DLS) 또는 클라우드 라이선싱 서버(CLS)가 필요합니다. 여기를 클릭하면 빠른 시작 가이드를 찾을 수 있습니다.

다음으로, 서버의 UEFI(BIOS) 설정이 적절한 가상화 기능을 활성화하는지 확인하십시오. 찾아보세요VT-d또는AMD-v,SR-IOV,4G 디코딩 이상,크기 조정 가능한 막대, 그리고대체 라우팅 ID 해석 (아리)설정을 확인하고 모두 활성화되어 있는지 확인하세요.

메모:일부 기능은 사용자에게 노출되지 않을 수 있으므로 UEFI 메뉴에서 이러한 기능을 모두 찾지 못할 수도 있습니다.

마지막으로, 적절한 버전의 Proxmox VE를 사용하고 있는지 확인하세요. vGPU 기능을 사용하려면 최소한 pve-manager 버전 8.3.4, 커널 6.18.12-8-pve 이상이 필요합니다. 아래와 같이 원하는 서버의 "요약" 탭으로 이동하여 PVE 노드의 소프트웨어 버전을 확인할 수 있습니다.

가장 많은 호스트(Proxmox 호스트 vGPU 설정)

이제 모든 것이 준비되었으므로 Proxmox VE 서버를 구성할 차례입니다. Proxmox VE 서버의 웹 인터페이스에서 화면 왼쪽에 있는 서버 이름을 클릭하고 “Shell” 탭을 선택하십시오. 나타나는 콘솔 창에 다음 명령을 입력하고 완료되면 Enter를 누르십시오.

적절한 pve-nvidia-vgpu-helper 설치

이렇게 하면 vGPU 설정 도구가 서버에 설치되어 Proxmox vGPU 지원을 준비하게 됩니다. 서버가 스크립트 설치를 완료하거나 스크립트가 이미 존재한다고 알리면 명령을 하나 더 실행하여 도구를 실행합니다.

pve-nvidia-vgpu-helper 설정

모든 질문에 "Y"라고 대답하고 콘솔 창이 반환되고 스크립트가 완료될 때까지 계속 진행합니다. 서버의 "요약" 탭으로 이동한 후 "재부팅" 버튼을 눌러 서버를 빠르게 다시 시작하거나, "셸" 탭 콘솔에 재부팅 명령을 입력하고 Enter를 누르세요.

다음으로 NVIDIA의 vGPU 호스트 드라이버를 서버에 로드해야 합니다. 서버 재부팅이 완료되면 SSH 또는 WinSCP와 같은 SCP 전송 도구를 사용하여 호스트 드라이버를 노드에 복사합니다.

메모:모든 드라이버를 압축(.zip) 폴더로 함께 다운로드한 경우 먼저 해당 내용을 추출하고 "Host_Drivers" 폴더에서 ".run" 파일을 선택해야 할 수도 있습니다.

파일을 서버의 "/home" 디렉터리에 배치하고 다음 명령을 사용하여 설치 프로그램 실행을 준비합니다.

cd /home chown 루트 NVIDIA-Linux-x86_64-570.124.03-vgpu-kvm.run chmod +X NVIDIA-Linux-x86_64-570.124.03-vgpu-kvm.run ./NVIDIA-Linux-x86_64-570.124.03-vgpu-kvm.run --dkms

메모:"NVIDIA-Linux-x86_64-570.124.03-vgpu-kvm.run"을 다운로드한 드라이버의 실제 이름으로 바꾸세요. 파일이 "/home" 디렉토리에 배치되면 "ls" 명령을 사용하여 파일 이름을 표시할 수 있습니다.

이제 드라이버가 서버에 설치되었으므로 몇 단계만 거치면 Proxmox vGPU 구성의 호스트 측이 완료됩니다! GPU를 가상 머신 간에 분할할 수 있는 장치로 표시하려면 먼저 SR-IOV(단일 루트 I/O 가상화)를 활성화해야 합니다. NVIDIA는 이 기능을 "...물리적 PCIe 장치가 PCIe 버스를 통해 여러 번 표시될 수 있게 하는 기술입니다. 이 기술은 별도의 리소스를 사용하여 장치의 여러 가상 인스턴스를 가능하게 합니다."라고 정의합니다. SR-IOV는 최신 GPU의 기본 vGPU 기능에 필요한 중요한 기술이므로 다음 명령을 사용하여 부팅 시 켜지도록 설정하십시오.

systemctl 활성화 --now pve-nvidia-sriov@ALL.service

마지막으로 GPU 리소스를 매핑하여 VM 간에 깔끔하게 분할할 수 있습니다. Proxmox VE 서버의 웹 인터페이스에서 왼쪽 상단 모서리에 있는 "데이터 센터"를 클릭하고 아래로 스크롤하여 "리소스 매핑" 탭을 선택합니다.

페이지의 "PCI 장치" 섹션 아래에 있는 "추가" 버튼을 클릭하고 다음 창의 "이름:" 필드에 매핑 중인 GPU를 설명하는 이름을 입력합니다.

그런 다음 "중재된 장치와 함께 사용" 상자를 선택하고 "노드 매핑" 드롭다운 메뉴에 매핑 중인 GPU가 있는 서버가 포함되어 있는지 확인하세요. 장치 목록을 아래로 스크롤하여 모든 장치 ID의 "공급업체" 열에 "NVIDIA Corporation"이 있는지 확인합니다. 이것이 사실이라면 표 왼쪽 상단의 체크박스를 클릭해 모든 장치를 선택하세요. 그렇지 않은 경우 공급업체로 "NVIDIA Corporation"이 포함된 장치만 선택하세요.

메모:시스템에 여러 개의 GPU가 설치된 경우 원하는 서버의 "Shell" 탭에서 "lspci" 명령을 사용하여 각 카드와 함께 제공되는 ID를 확인할 수 있습니다.

장치 선택이 완료되면 팝업 창 오른쪽 하단의 “만들기” 버튼을 클릭하여 선택을 확인하세요. 이제 Proxmox VE 서버 게스트를 위해 NVIDIA GPU를 vGPU로 분할할 준비가 되었습니다!

게스트 제공(가상 머신에 vGPU 할당)

가상 머신에서 vGPU를 할당하고 사용하기 위한 모든 준비가 완료되었습니다. 평소처럼 새 가상 머신을 생성하거나 기존 VM을 사용하여 시작하세요. 데모에서는 Windows Server 2025 가상 머신을 사용합니다.

Proxmox VE 서버의 웹 인터페이스에서 적절하다고 판단되는 방법(noVNC 콘솔, 게스트 전원 메뉴 등)을 사용하여 가상 머신을 종료하고 게스트의 "하드웨어" 탭을 클릭하세요.

"추가" 버튼을 클릭하면 나타나는 드롭다운 메뉴에서 "PCI 장치"를 선택합니다.

팝업 “추가: PCI 장치” 창의 “장치:” 필드에서 리소스 매핑 GPU에 할당한 이름을 선택합니다.

그런 다음 "MDev 유형:" 필드를 클릭하고 제시된 중재 장치 유형 옵션 목록을 살펴보세요. 각 선택 항목에는 숫자와 문자 지정이 있음을 알 수 있습니다. 숫자는 게스트에 할당된 VRAM의 양(기가바이트)을 나타내고 "A", "B" 및 "Q"는 vGPU의 사용 사례를 나타냅니다.

• Q – RTX Enterprise 드라이버가 포함된 가상 워크스테이션(RTX vWS 라이선스 필요)
• B – 가상 데스크탑(NVIDIA Virtual PC 라이센스 또는 RTX vWS 라이센스 필요)
• A – 애플리케이션 솔루션(NVIDIA 가상 애플리케이션 라이선스 필요)

메모:다양한 vGPU 프로필과 필요한 라이선스에 대한 자세한 내용은 여기에서 확인할 수 있습니다.

이 시연에서는 "NVIDIA L40S-12Q" 프로필을 사용했습니다. 원하는 조정 장치 유형을 선택한 후 "PCI-Express" 확인란을 선택하고 파란색 "추가" 버튼을 클릭하여 완료하세요.

이제 VM에 ​​vGPU가 할당되었지만 작업을 진행하려면 게스트 드라이버와 라이선스 토큰을 설치해야 합니다. 이제 가상 머신의 전원을 켜고 로그인할 수 있습니다.

로그인한 후 이전에 라이선스 포털에서 획득한 NVIDIA vGPU 게스트 드라이버를 원하는 방식(SMB, SCP, 직접 다운로드 등)으로 VM으로 전송합니다. 또는 ImgBurn과 같은 소프트웨어를 사용하여 드라이버가 포함된 가상 CD-ROM 파일(.iso)을 생성하고 PVE 서버 스토리지에 업로드하여 많은 vGPU 지원 게스트를 동시에 배포할 수 있습니다.

실행 파일을 두 번 클릭하여 드라이버 설치 프로그램 파일을 실행하고 나타나는 설치 메뉴의 지침을 따릅니다.

"추출 경로:" 필드의 기본 위치에 드라이버를 추출하고 메시지가 나타나면 "빠른" 설치 옵션을 선택합니다.

드라이버 설치가 완료되면 “CLOSE” 버튼을 클릭하여 메뉴를 종료하세요.

다음으로 게스트에서 vGPU 라이선스를 활성화해야 합니다. 활성화 방법은 전용 라이선스 서버(DLS) 또는 클라우드 라이선스 서버(CLS) 선택 여부와 운영 체제에 따라 크게 다를 수 있습니다. 특정 설정에 맞게 클라이언트를 활성화하는 자세한 단계는 NVIDIA의 라이선스 시스템 빠른 시작 가이드 및 클라이언트 라이선스 사용자 가이드를 따르세요.

우리는 클라우드 라이센스 서버를 사용했고 활성화를 위해 게스트에 배치할 토큰 파일을 받았습니다. 이 파일을 게스트로 이동하고 “C:Program FilesNVIDIA CorporationvGPU LicensingClientConfigToken” 폴더에 복사합니다.

다음으로 활성화 프로세스를 완료하려면 게스트를 재부팅해야 합니다.

여기에 설명된 모든 호스트 및 게스트 구성 단계를 따르면 GPU가 필요한 프로그램과 애플리케이션을 실행할 준비가 되어 있어야 합니다. GPU 가속 원격 보기 기능을 즐기려면 재부팅 후 RDP(원격 데스크톱 프로토콜)를 활성화하거나 즐겨찾는 원격 데스크톱 소프트웨어를 게스트에 설치하는 것을 잊지 마십시오!

엔진 개선(Proxmox vGPU 시험해 보기)

이제 가상 GPU를 갖춘 가상 서버가 생겼으니 한 번 사용해 보겠습니다! 각 VM은 8개의 고정된 Intel Xeon Platinum 8580 vCPU(하이퍼스레드 코어 4개), 32GB의 DDR5 4800MT/s 등록 ECC RAM, 12GB의 VRAM을 갖춘 NVIDIA L40S-12Q(가상 워크스테이션) vGPU 프로필로 구성되었습니다. 아래에서 가상 머신의 전체 하드웨어 구성을 볼 수 있습니다.

시네벤치 2024

Maxon의 Cinema 4D 모델링 및 애니메이션 소프트웨어를 기반으로 하는 Cinebench 2024는 vGPU의 렌더링 성능에 대한 흥미롭고 객관적인 시각을 제공합니다. 하나의 가상 머신과 "12Q" 프로필을 실행하는 4개의 VM을 사용하여 "48Q"(모두 48GB VRAM) 프로필에서 L40S의 전체 성능을 비교해 보겠습니다.

하나의 가상 머신이 전체 L40S를 차지하는 것은 별 의미가 없지만, 단일 패스 GPU 벤치마크에서 21,147포인트로 성능이 인상적이라는 것을 알 수 있습니다. 그러나 GPU를 네 가지 방식으로 분할하면 GPU의 CUDA 코어 공유에 대한 NVIDIA의 시분할 접근 방식의 영향을 알 수 있으며, 벤치마크가 모든 VM에서 동시에 실행되었을 때 개별 점수 범위는 2,514~2,567입니다.

"12Q" 프로필을 사용하고 다른 3개의 VM이 유휴 상태인 단일 가상 머신에서 테스트를 다시 실행하면 점수가 다시 최대 15,133으로 향상됩니다. 정확히는 전체 GPU 점수로의 복귀는 아니지만 분할된 vGPU에서는 여전히 존경할 만한 수준입니다.

블렌더 벤치마크

Blender를 사용하여 몇 가지 렌더링 벤치마크를 더 진행해 보겠습니다. Cinebench 2024와 유사한 추세에 따라 GPU를 4가지 방식으로 분할하면 동일한 프로필에서 동일한 워크로드를 실행하는 단일 가상 머신에 비해 총 성능이 크게 저하됩니다.

Monster 벤치마크에서 입증된 바와 같이, 단지 4개의 VM이 GPU의 컴퓨팅 성능을 공유한다는 것은 개별 렌더링 성능이 동일한 프로필을 가진 단일 VM의 8%에 불과하다는 것을 의미합니다. 그러나 우리는 한 가상 머신이 다른 가상 머신에 비해 상당히 앞서는 것을 관찰했습니다. 즉, 최악의 성능 점수를 최대 2.4배까지 얻었습니다.

Junkshop과 Classroom 벤치마크에서도 비슷한 결과가 나왔습니다. VM 4개 중 3개에 대한 성능이 크게 저하되었으며 단일 게스트가 다른 게스트보다 훨씬 더 높은 점수를 받았습니다.

베이징 Qianxing Jietong Technology Co., Ltd.
양샌디/글로벌 전략 이사
WhatsApp/위챗: +86 13426366826
이메일: yangyd@qianxingdata.com
웹사이트: www.qianxingdata.com/www.storagesserver.com

사업 초점:
ICT 제품 유통/시스템 통합 및 서비스/인프라 솔루션
20년 이상의 IT 유통 경험을 바탕으로 당사는 선도적인 글로벌 브랜드와 협력하여 신뢰할 수 있는 제품과 전문 서비스를 제공합니다.
“기술을 활용한 지능형 세상 구축” 신뢰할 수 있는 ICT 제품 서비스 제공업체!