Dell Pro Precision 9 T4는 Dell의 Pro Precision 라인업에서 플래그십 싱글 소켓 타워 워크스테이션이며, 이 리뷰 유닛은 대부분의 워크스테이션이 도달할 수 없는 규모의 로컬 AI를 위해 구성되었습니다. 86코어 Intel Xeon 698X와 256GB의 DDR5-6400 ECC 메모리, 각각 96GB의 GDDR7을 갖춘 두 개의 300W NVIDIA RTX PRO 6000 Blackwell Max-Q 카드, 두 개의 2TB Gen5 SSD 및 듀얼 포트 25GbE 어댑터를 페어링하며 2400W 전원 공급 장치를 사용합니다.
![]()
주요 내용
- 1. 두 번째 GPU는 한 카드에 맞지 않는 모델을 사용할 수 있게 만듭니다. 129.3GB의 MiniMax M2.7은 두 카드에 분산되었을 때 단일 사용자에게 초당 83.7 토큰을 생성했으며, 이는 한 카드와 시스템 메모리의 나머지 모델로 달성한 초당 30.3 토큰보다 2.8배 빠릅니다.
- 2. 두 번째 GPU는 서빙을 1.85~2.02배, 임베딩을 1.92배 확장했습니다. Ministral 3 3B에서 최대 llama.cpp 출력은 GPU당 한 대의 서버로 초당 582.5에서 1,176.1 토큰으로 증가했으며, gpt-oss 120B에서는 초당 424.8에서 787.9 토큰으로 증가했습니다. 백만 개의 위키피디아 구절을 임베딩하는 데는 890초에서 464초로 감소했습니다.
- 3. 두 번째 GPU는 LoRA 에포크를 37% 단축했습니다. Ministral 3 8B의 한 에포크는 한 GPU에서 31.5분, 두 GPU에서 19.7분이 걸렸으며, 검증 손실은 각각 1.169와 1.167로 끝났습니다.메모리 대역폭은 Xeon이 앞서는 부분입니다. STREAM Triad는 328GB/s를 기록하여 Precision 7875의 Threadripper PRO 9995WX보다 53% 앞섰고, T4는 OpenFOAM 드라이버 솔브를 293초 만에 완료하여 556초보다 빨랐으며, 100억 자리 y-cruncher 실행은 53.9초 만에 완료하여 83.7초보다 빨랐습니다.
- 4. Precision 7875는 코어 바운드 CPU 작업에서 선두를 달립니다. 96코어 Threadripper는 7-Zip에서 37%, Blender Monster에서 30% 더 빨랐으며, LLVM 빌드를 43.7초 만에 완료하여 58.4초보다 빨랐습니다.
T4의 위치
Dell은 T4를 최대 컴퓨팅 밀도와 확장성이 필요한 조직을 위한 플래그십 싱글 소켓 타워 워크스테이션으로 포지셔닝하며, AI 개발, 엔지니어링 시뮬레이션 및 과학 컴퓨팅을 주요 워크로드로 합니다. 이는 동일한 Xeon 6 워크스테이션 플랫폼을 더 작은 섀시와 GPU 하나로 사용하는 Pro Precision 9 T2보다 상위에 있습니다. T4는 최고 수준의 8채널 프로세서, 최대 86코어, 모델에 따라 최대 4개의 그래픽 카드용 공간을 추가합니다.
프로세서 옵션은 12코어 Xeon 634부터 시작하여 64코어 Xeon 696X를 거쳐 이 유닛의 86코어 Xeon 698X까지 있으며, 336MB 캐시, 2.0GHz 기본 클럭, 4.8GHz 최대 클럭, 350W 정격을 갖습니다. 메모리는 16개 슬롯에 걸쳐 최대 4TB의 DDR5 RDIMM으로 확장되며, 이 유닛은 6400MT/s의 32GB 모듈 8개를 채웁니다. 그래픽은 단일 RTX A400부터 시작하며, 카드 수는 모델에 따라 달라집니다. Dell의 구성기에는 RTX A1000 카드 4개, RTX PRO 4000 Blackwell 카드 3개, 300W RTX PRO 6000 Max-Q 카드 2개 또는 600W RTX PRO 6000 카드 1개가 나열되어 있습니다.
기본 구성 가격은 5,925달러입니다. 이 빌드는 Xeon 698X에 8,300달러, 256GB 메모리에 15,000달러, RTX PRO 6000 Max-Q 카드 한 쌍에 30,820달러가 추가되며, 스토리지, 네트워킹 및 이 수준에서 Dell이 자동으로 적용하는 36개월 ProSupport 업그레이드 전 가격입니다.
빌드, 디자인 및 사양
T4는 높이 449.8mm, 너비 203.7mm, 깊이 617.5mm의 풀 타워이며, 구성에 따라 최소 24.1kg에서 최대 33.6kg입니다. 이 유닛은 듀얼 RTX PRO 6000 빌드에 대해 Dell의 구성기가 선택하는 2400W Platinum 전원 공급 장치를 사용하며, 더 가벼운 구성의 기본값은 1500W 전원 공급 장치입니다.
서비스 용이성은 강점이며, 측면 패널 래치와 손으로 위쪽 후면에서 슬라이드 아웃되는 2400W 전원 공급 장치를 통한 도구 없는 접근으로 시작됩니다. 그래픽 카드 및 SSD를 포함한 나머지 모든 부품은 필립스 드라이버로 분리할 수 있으며, Dell의 파란색 터치 포인트는 손으로 분리되는 부품을 표시합니다. 실험실에서는 이 플랫폼이 현장에서 수리하기 쉽다는 것을 발견했으며, 이는 이 가격대에서 중요합니다.
냉각은 이 클래스의 타워에서 Dell이 본 최고의 실행입니다. 공기는 전면에서 후면으로 이동하며, 대형 맞춤형 카울이 프로세서와 메모리를 통해 공기를 아래로 보내고 채널을 PCIe 영역과 분리된 상태로 유지합니다. 이를 통해 두 개의 300W 카드는 350W Xeon에 의해 가열된 공기를 흡입하지 않는 독립적인 공기 흐름을 갖습니다. 프로세서 영역과 카드 베이 사이에 두 개의 팬이 있으며, 팬 어셈블리는 동일한 파란색 터치 포인트를 가지고 있으며 메모리 접근을 위해 들어 올릴 수 있습니다.
확장성은 6개의 풀 하이트 PCIe 슬롯을 통해 이루어집니다. GPU를 위한 2개의 Gen5 x16, 1개의 Gen5 x8, 1개의 Gen4 x8, 그리고 x8 커넥터와 x4 배선을 갖춘 2개의 Gen4 슬롯입니다. 스토리지에는 3개의 내부 M.2 Gen5 슬롯과 1개의 Gen4 슬롯, 2개의 내부 3.5인치 SATA 베이, 그리고 최대 4개의 NVMe 드라이브 또는 선택 사항인 슬림 광학 드라이브와 함께 2개의 3.5인치 드라이브를 수용하는 전면 FlexBay가 포함됩니다. 이 유닛은 내부 2TB Gen5 드라이브로 부팅되며 다른 내부 M.2 슬롯에 두 번째 2TB Gen5 드라이브를 가지고 있습니다.
전면 패널에는 헤드셋 잭, 두 개의 10Gbps USB-A 포트, PowerShare 기능이 있는 20Gbps USB-C 포트, 10Gbps USB-C 포트 및 선택 사항인 SD 카드 슬롯이 있습니다. 후면에는 10GbE 및 1GbE RJ-45 포트, 네 개의 10Gbps USB-A 포트, 두 개의 10Gbps USB-C 포트, 20Gbps USB-C 포트, 시리얼 포트, 두 개의 PS/2 포트 및 라인 아웃이 있습니다. 이 유닛은 Intel E810-XXV 듀얼 포트 25GbE SFP28 어댑터, MediaTek Wi-Fi 7 MT7925와 Bluetooth 5.4, 미디어 카드 리더 및 Dell의 듀얼 USB-C 애드인 카드를 추가합니다.
보안 및 관리 기능에는 TPM 2.0, Dell SafeBIOS, 섀시 침입 감지, 자체 암호화 드라이브 지원, BIOS 보안 삭제 및 Intel vPro Enterprise가 포함됩니다. Dell은 T4에 주요 부품에 최대 85% 재활용 플라스틱, 핸들에 90% 재활용 알루미늄, 섀시에 11% 재활용 강철을 사용하며, 구성은 ENERGY STAR 인증을 받았습니다.
| 항목 | 사양 |
|---|---|
| 모델 | Dell Pro Precision 9 T4 (PW9T4260) |
| 프로세서 (테스트 기준) |
Intel Xeon 698X, 86코어 / 172스레드, 336MB 캐시, 2.0GHz 기본, 최대 4.8GHz, 350W |
| 프로세서 옵션 | Xeon 634 (12코어) ~ Xeon 698X (86코어) |
| 메모리 | 256GB (8개 x 32GB) DDR5-6400 RDIMM ECC; 16개 슬롯, 최대 4TB |
| 그래픽 | 2개 x NVIDIA RTX PRO 6000 Blackwell Max-Q, 각각 96GB GDDR7, 각각 300W |
| 운영 체제 | Windows 11 Pro for Workstations (Ubuntu 26.04.1 LTS에서 테스트) |
| 구성된 스토리지 | 2개 x 2TB M.2 2280 Gen5 x4 TLC SED (모두 내부 M.2 슬롯에 장착) |
| 내부 스토리지 슬롯 | 3개 x M.2 2230/2280 Gen5 NVMe; 1개 x M.2 2230/2280 Gen4 NVMe; 2개 x 3.5인치 SATA |
| FlexBay | 최대 4개의 NVMe 드라이브 및 선택 사항인 슬림 ODD, 또는 2개 x 3.5인치 SATA |
| PCIe 슬롯 | 2개 x Gen5 x16; 1개 x Gen5 x8; 1개 x Gen4 x8; 2개 x Gen4 x8 (x4 전기) |
| 네트워킹 |
Intel E810-XXV 듀얼 포트 25GbE SFP28 (애드인); 온보드 10GbE 및 1GbE RJ-45; MediaTek Wi-Fi 7 MT7925, Bluetooth 5.4 |
| 전면 포트 |
1개 x USB-C 20Gbps (PowerShare 포함); 1개 x USB-C 10Gbps; 2개 x USB-A 10Gbps; 헤드셋 잭; 선택 사항인 SD 카드 슬롯 |
| 후면 포트 |
1개 x USB-C 20Gbps; 2개 x USB-C 10Gbps; 4개 x USB-A 10Gbps; 시리얼; 2개 x PS/2; 라인 아웃 |
| 전원 공급 장치 | 2400W Platinum (1500W 옵션) |
| 크기 | 449.8 x 203.7 x 617.5mm |
| 무게 | 구성별 24.1kg ~ 33.6kg |
| 보안 및 관리 |
TPM 2.0, Dell SafeBIOS, 섀시 침입 감지, 자체 암호화 드라이브 지원, BIOS 보안 삭제, Intel vPro Enterprise |
| 지속 가능성 |
주요 부품에 최대 85% 재활용 플라스틱, 90% 재활용 알루미늄 핸들, 11% 재활용 강철 섀시; ENERGY STAR 인증 |
| 보증 | 원격 진단 후 현장 서비스 포함 ProSupport, 36개월 |
| 가격 | $5,925 기본; 구성 시 약 $66,600 |
테스트 설정 및 방법론
모든 네 시스템은 커널 7.0.0-43, NVIDIA 드라이버 595.99.02, CUDA 13, llama.cpp 빌드 b11716 및 Ollama 0.40.3에서 Ubuntu 26.04.1 LTS를 실행했으며, Linux 성능 전원 프로필을 사용했습니다. 결과는 로컬 AI 및 클라이언트 워크로드에 대해 sr-client, 컴파일, 압축, 암호화, 웹 서빙 및 y-cruncher에 대해 sr-harness, GROMACS, OpenFOAM, ClickHouse, Valkey 및 메모리 대역폭에 대해 sr-suite r5.28에서 가져왔습니다. 각 수치는 반복 실행의 중앙값입니다. 모든 시스템은 BIOS 열 모드를 Ultra Performance로 설정하고 T4는 BIOS 1.2.0으로 실행했습니다.
모든 비교 시스템은 RTX PRO 6000 Blackwell 그래픽을 갖춘 Dell 타워입니다. Precision 7875는 96코어 Threadripper PRO 9995WX와 동일한 두 개의 Max-Q 카드 및 512GB DDR5-5600을 페어링하여 가장 가까운 비교 대상입니다. Pro Precision 9 T2는 24코어 Xeon 658X와 Max-Q 카드 하나를 실행하며, Pro Max Tower T2는 24코어 Core Ultra 9 285K와 600W RTX PRO 6000을 실행하여 GPU당 더 높은 전력 제한이 추가하는 것을 보여줍니다.
로컬 AI 성능
여기 모든 시스템에는 최소한 하나의 RTX PRO 6000 Blackwell (96GB GDDR7)이 장착되어 있으므로, 단일 GPU 결과는 카드 자체, 전력 제한 및 플랫폼이 얼마나 빨리 공급하는지를 측정합니다. T4의 두 카드는 차별화되는 요소이며, 듀얼 GPU 테스트는 가능한 경우 세 가지 방식으로 각 모델을 실행합니다. 처리량을 위해 GPU당 독립적인 두 개의 서버, 레이어별로 두 카드에 분산된 하나의 모델, 그리고 MiniMax M2.7의 경우 시스템 메모리에 나머지 모델을 가진 한 카드입니다.
단일 GPU에서 T4는 300W 제한이 적용되는 지점에 있습니다. gpt-oss 120B에서 단일 사용자에게 초당 166.9 토큰을 생성했으며, 네 가지 모델 모두에서 Precision 7875의 동일한 Max-Q 카드보다 1~9% 이내, Pro Precision 9 T2와 동일한 수준으로 64개의 동시 요청에서 최대 424.8 토큰을 기록했습니다. Pro Max Tower T2의 600W 카드는 모든 모델에서 최대 성능이 13~25% 더 빠르며, gpt-oss 120B에서 초당 520.7 토큰에 도달했습니다.
GPU당 한 대의 서버를 실행하면 네 가지 모델에 걸쳐 T4의 최대 출력이 1.85~2.02배 증가했습니다. Ministral 3 3B에서는 초당 582.5에서 1,176.1 토큰, 8B 모델에서는 383.6에서 765.7 토큰, Qwen3.8 27B에서는 158.1에서 310.8 토큰으로 증가했습니다. gpt-oss 120B는 T4에서 1.85배 증가하여 초당 787.9 토큰, Precision 7875에서는 1.98배 증가하여 905.8 토큰으로 확장되었으며, T4의 64개 대비 128개의 동시 요청에서 최대치를 기록했습니다.
모델이 이미 한 카드에 맞는 경우 두 GPU를 사용하는 가장 느린 방법은 gpt-oss 120B를 레이어별로 두 카드에 분할하는 것입니다. 단일 사용자에게 초당 170.6 토큰을 제공했으며, 단일 카드보다 3% 이내였고, 최대 539.2 토큰으로 단일 GPU보다 27% 높았지만 두 개의 복제본이 제공한 787.9 토큰에는 훨씬 못 미쳤습니다. 분할 레이아웃은 한 카드에 맞지 않는 모델에 유용하며, MiniMax M2.7이 여기에 해당합니다.
MiniMax M2.7은 2300억 개의 매개변수를 가진 혼합 전문가 모델이며, 이 4비트 양자화는 129.3GB를 차지하여 하나의 RTX PRO 6000의 96GB보다 많습니다. 나머지 모델을 시스템 메모리에 두고 한 카드에서 T4는 단일 사용자에게 초당 30.3 토큰을 생성했으며, 첫 번째 토큰을 반환하는 데 16.2초가 걸렸습니다. 두 카드에 분산되었을 때 단일 사용자 출력은 초당 83.7 토큰으로 한 카드 속도의 2.8배 증가했습니다. 첫 번째 토큰까지의 시간은 16.2초에서 3.1초로 감소했으며, 최대 처리량은 초당 35.5에서 127.3 토큰으로 증가했습니다.
단일 GPU 수치는 모델이 시스템 메모리로 넘어가면 호스트 플랫폼이 얼마나 중요한지를 보여줍니다. T4의 8채널 DDR5-6400은 4채널 Pro Precision 9 T2보다 34% 앞선 초당 22.6 토큰을 기록했으며, 듀얼 채널 Pro Max Tower T2보다 1.9배 앞선 초당 15.8 토큰을 기록했습니다. 해당 시스템의 600W 카드는 맞는 모델에서는 모두 더 빠르지만 말입니다. Precision 7875는 메모리 대역폭이 35% 적음에도 불구하고 초당 32.8 토큰으로 T4를 약간 앞섰으므로, 대역폭만으로는 결과를 설명할 수 없습니다. 7875의 리드는 원인을 분리하지 않고 측정된 대로 보고합니다.
콜드 모델 로드는 Gen5 드라이브에 유리합니다. T4는 SK hynix Gen5 SSD에서 gpt-oss:120b를 15.2초 만에 로드하여 Pro Precision 9 T2와 동일한 속도를 보였으며, Gen4 장착 Precision 7875 및 Pro Max Tower T2의 25.8초 및 28.2초보다 훨씬 빨랐습니다. 페이지 캐시의 웜 로드는 순서를 역전시켜 7875는 5.0초, T4는 7.5초를 기록했으며, 각 GPU에 동시에 복사본을 로드하는 데 T4에서 26.5초가 걸렸습니다.
RAG, 미세 조정 및 생성 AI
RAG 스케일 테스트는 백만 개의 위키피디아 구절 사이에 SQuAD 질문을 숨기고, nomic-embed-text로 임베딩하며, HNSW 인덱스를 구축하고, Phi-4-mini로 답변합니다. 두 개의 GPU는 T4의 임베딩 시간을 890초에서 464초로 1.92배 단축했으며, Precision 7875는 423초를 기록했습니다. Pro Max Tower T2의 600W 카드는 722초로 가장 빠른 단일 GPU였습니다.
인덱스 빌드 및 벡터 검색은 CPU에서 실행되며, T4가 여기서 앞섭니다. HNSW 인덱스를 27.3초 만에 구축하여 Precision 7875의 34.8초 및 Pro Max Tower T2의 118.6초보다 빨랐으며, ef 64에서 초당 98,503 쿼리로 검색하여 7875의 1.51배, Core Ultra 시스템의 5.6배였습니다. ef 256에서는 정확한 검색 대비 97.6%의 리콜로 초당 32,149 쿼리를 유지했으며, 답변은 중앙값 0.12초 만에 반환되었습니다.
단일 에포크 LoRA 테스트는 Dolly 15k에서 BF16으로 Ministral 3 8B를 1,849 스텝 동안 미세 조정하고 100 스텝마다 200개의 검증 예제를 평가합니다. 모든 시스템은 1.534의 검증 손실에서 시작하여 1.167과 1.172 사이에서 종료되었으므로, 차이는 에포크당 시간으로 결정됩니다. T4의 단일 GPU는 31.5분 동안 초당 1,584 토큰으로 완료하여 동일한 Max-Q 카드를 사용한 Pro Precision 9 T2보다 3% 이내였으며, Precision 7875는 27.2분, Pro Max Tower T2의 600W 카드는 22.3분이 걸렸습니다. 두 번째 GPU를 추가하면 T4의 에포크가 19.7분으로 단축되어 초당 2,528 토큰을 기록했으며, 이는 단일 600W 카드보다 1.60배 빨랐습니다. Precision 7875는 두 GPU 에포크를 18.1분 만에 완료하여 1.50배 빨랐습니다.
두 카드 모두 GPU당 두 개의 예제를 사용하여 데이터 병렬로 실행되며, 그래디언트는 동일한 글로벌 배치 8개로 누적되므로, 두 GPU 실행은 각 스텝에서 동일한 예제를 보고 동일한 손실에 도달합니다. 각 패스에서 GPU당 두 개의 짧은 예제를 사용하면 두 번째 카드는 흡수할 작업이 거의 없고 그래디언트 교환이 각 스텝의 더 큰 부분을 차지합니다. 에포크는 단일 카드에서 GPU 메모리 19.5GiB, 두 카드에서 카드당 19.7GiB로 최대치를 기록했으며, 이는 사용 가능한 96GB의 일부입니다.
T4는 또한 모든 모델 계층에서 모든 코딩 에이전트 실행을 통과했으며, 다른 세 시스템이 3개 중 2개를 통과한 64K 컨텍스트에서의 세 가지 gpt-oss:20b 실행을 포함하여 gpt-oss:120b에서 초당 161.5 토큰을 생성했습니다. 이미지 생성은 단일 GPU에서 실행되므로, BF16에서 FLUX.2 klein의 40.96 이미지/분은 다른 Max-Q 시스템과 함께 있으며 600W 카드보다 54.25개 뒤처집니다.
CPU, 스토리지, 열 및 서비스 결과
CPU 결과는 T4의 86개 Xeon 코어와 Precision 7875의 96개 Threadripper 코어를 비교하며, 두 개의 24코어 T2를 참조점으로 사용합니다. T4는 메모리 대역폭이 결과를 결정하는 곳에서 앞서고, 7875는 코어 수와 클럭이 결정하는 곳에서 앞섭니다.
T4는 7-Zip에서 619.8 GIPS, Blender Monster에서 961.8 샘플/분으로 24코어 Pro Precision 9 T2보다 2.2배 및 2.4배 빨랐으며, Precision 7875는 7-Zip에서 37%, Blender에서 30% 더 빨랐고, LLVM 빌드를 43.7초 만에 완료하여 58.4초보다 빨랐으며, Linux 커널 allmodconfig 빌드를 264초 만에 완료하여 312초보다 빨랐습니다. 코어당 속도는 T4의 약점이며, 이 그룹에서 가장 낮은 단일 스레드 7-Zip 점수인 8.85 GIPS를 기록했습니다.
HandBrake의 x265 인코드는 여기서 예외이며, 원인은 프로세서보다는 인코더입니다. 다른 세 시스템은 24 또는 96코어로 40.0~41.7fps 사이에 있었으므로, x265는 이 사전 설정에서 코어 수에 따라 확장되지 않으며, T4의 31.4fps는 x265가 사용하는 스레드에서 낮은 코어당 속도와 일치합니다. 인코딩 중 T4는 172개 스레드에 걸쳐 약 1GHz를 기록했으며, 온도는 51°C~64°C로 칩의 대부분이 유휴 상태였습니다. SVT-AV1은 더 잘 확장되어 T4에서 159.4fps, 7875에서 255.8fps를 기록했습니다.
8채널 DDR5-6400은 T4에 STREAM Triad에서 328GB/s를 제공하여 Precision 7875의 DDR5-5600보다 53% 높고 4채널 Pro Precision 9 T2의 2.3배입니다. 대역폭 바운드 작업이 이어집니다. T4는 3백만 셀 OpenFOAM drivAer 케이스를 293초 만에 해결하여 7875의 556초 및 Pro Precision 9 T2의 826초보다 빨랐으며, Pro Max Tower T2는 스위트의 150분 제한 내에서 완료하지 못했습니다. T4는 2260만 셀 케이스를 6,851초 만에 실행했습니다.
GROMACS benchPEP, 대규모 올코어 분자 역학 케이스는 T4에서 초당 1.243 ns로 실행되어 7875의 1.034보다 빨랐으며, LU 솔브는 1,660 GFLOPS로 1,172보다 빨랐습니다. y-cruncher는 100억 자리 Pi를 53.9초 만에 계산하여 83.7초보다 빨랐고, 250억 자리를 155.6초 만에 계산하여 259.6초보다 빨랐습니다. 캐시 내에 유지되는 밀집 연산은 Threadripper에 유리하며, OpenBLAS DGEMM에서 4,745 GFLOPS로 3,664보다 앞섰습니다.
ClickHouse는 T4에서 핫 상태에서 43개의 ClickBench 쿼리를 3.21초, 콜드 상태에서 6.45초 만에 실행하여 핫 실행에서 7875보다 0.33초 뒤처지고 콜드 실행에서 0.64초 앞섰습니다. Valkey는 많은 코어보다 빠른 코어를 선호하며, T4의 초당 666,714 SET 요청은 세 비교 시스템 모두에 뒤처지며, Core Ultra 9 285K가 백만 건으로 선두를 달립니다. 이는 T4의 단일 스레드 결과와 일치하는 패턴이며 지연 시간 바운드 서비스에 고려할 가치가 있습니다. 172개 스레드 모두 로드되고 프로세서가 평균 87°C일 때, T4는 Stockfish에서 초당 68.21백만 노드를 검색하여 48스레드 Pro Precision 9 T2의 1.5배, 192스레드에서 7875의 168.27의 절반 이하를 기록했습니다.
T4의 2TB SK hynix Gen5 부팅 드라이브는 순차 읽기 14,152MB/s, 쓰기 10,078MB/s를 제공하여 Precision 7875 및 Pro Max Tower T2의 Gen4 드라이브보다 약 두 배 빨랐으며, 랜덤 성능은 최대 초당 231만 IOPS 읽기, 183만 IOPS 쓰기를 기록했습니다. Pro Precision 9 T2의 20,914MB/s 순차 읽기는 단일 Gen5 x4 링크가 처리하는 것보다 많으며, 이는 해당 시스템의 스트라이프 배열 Samsung PM9E1 드라이브에 적합합니다. 여기서는 부팅 드라이브만 테스트되었으며 두 번째 2TB 드라이브는 포함되지 않았습니다.
BIOS를 Ultra Performance 모드로 설정한 상태에서 Xeon 698X는 7-Zip에서 최대 93°C, GROMACS에서 96°C를 기록했으며, 클럭 수치는 172개 논리 CPU 전체의 평균입니다. Blender와 Stockfish는 모든 스레드를 로드하고 2.0GHz 기본 클럭보다 높은 2.5GHz~2.6GHz를 유지했습니다. GROMACS와 OpenBLAS는 64개 및 86개의 물리적 코어를 로드하고 나머지 스레드는 약 0.8GHz에서 유휴 상태로 두므로 평균이 약 1.3GHz로 읽힙니다. GPU 주도 작업은 프로세서를 더 시원하게 유지하여 LLM 서빙, 미세 조정 및 RAG 중에 평균 61°C~65°C를 기록했으며, 이는 해당 테스트가 카드에 의존하기 때문입니다.
결론
Dell Pro Precision 9 T4는 로컬 AI 작업을 위해 제작되었으며, 두 번째 RTX PRO 6000이 그 성능을 보여줍니다. 두 개의 Max-Q 카드는 네 가지 모델에 걸쳐 최대 서빙 처리량을 1.85~2.02배 높이고 임베딩 처리량을 1.92배 높였으며, Ministral 3 8B의 LoRA 에포크를 31.5분에서 19.7분으로 단축했고, 한 카드에 너무 큰 모델인 MiniMax M2.7을 단일 사용자에게 초당 30.3 토큰에서 83.7 토큰으로 향상시켰습니다. gpt-oss 120B에서 GPU당 한 대의 서버는 64개 요청에서 총 7,091 토큰/초를 달성했으며, 모델을 두 카드에 분산하는 것은 단일 사용자의 첫 번째 토큰을 1,189ms 대비 719ms에 반환했습니다.
![]()
8채널 DDR5-6400은 Xeon 698X에 Threadripper PRO 9995WX보다 53% 높은 메모리 대역폭을 제공했습니다. 이 대역폭은 T4를 Precision 7875보다 빠른 OpenFOAM, GROMACS benchPEP, y-cruncher 및 HNSW 검색 결과로 이끌었으며, Gen5 스토리지는 대형 모델을 더 빠르게 로드했습니다. 섀시도 칭찬할 만하며, 이 클래스에서 Dell이 본 최고의 냉각 레이아웃과 전원 공급 장치에 대한 도구 없는 접근성을 갖추고 있습니다.
7875는 코어 바운드 렌더링, 압축 및 컴파일 작업에서 18~38%, SVT-AV1에서는 60% 더 앞서고 있습니다. Xeon의 코어당 속도는 이 그룹의 모든 시스템보다 뒤처졌으며, 이는 Valkey 및 기타 경량 스레드 서비스에서 나타났습니다. 단일 GPU에서의 미세 조정 또한 T4에서 더 느렸으며, LoRA 에포크는 7875의 27.2분 및 Pro Max Tower T2의 600W 카드 22.3분과 비교하여 31.5분이 걸렸습니다. 모든 시스템은 동일한 검증 손실의 0.005 이내에서 완료되었습니다.
구성 시 약 66,600달러로 T4는 온프레미스에서 모델을 서빙, 임베딩 및 미세 조정하려는 팀에게 적합합니다. 여기에는 동일한 머신에서 메모리 바운드 시뮬레이션 및 분석과 함께 96GB 이상의 GPU 메모리가 필요한 모델도 포함됩니다. 주로 렌더링 및 컴파일 작업을 하는 구매자는 Threadripper 플랫폼이 더 빠르다는 것을 알게 될 것이며, GPU 하나가 필요한 구매자는 더 작은 Pro Precision 9 T2에서 동일한 카드를 얻을 수 있습니다.
북경 건흥 지통 과학기술 유한공사
샌디 양 / 글로벌 전략 이사
WhatsApp / WeChat: +86 13426366826
이메일: yangyd@qianxingdata.com
웹사이트: www.qianxingdata.com/www.storagesserver.com
사업 초점:
ICT 제품 유통/시스템 통합 및 서비스/인프라 솔루션
20년 이상의 IT 유통 경험을 바탕으로 선도적인 글로벌 브랜드와 협력하여 신뢰할 수 있는 제품과 전문 서비스를 제공합니다.
"기술을 통해 지능형 세상을 구축하십시오" 당신의 신뢰할 수 있는 ICT 제품 서비스 제공업체!



