MLPerf Storage v3.0은 기존 POSIX 프레임워크에 S3 데이터 계층을 추가하고 새로운 KV 캐시 및 벡터 데이터베이스 워크로드를 통합하여, 최신 AI 데이터 시스템 요구 사항에 맞춰 벤치마크 기준을 밀접하게 조정합니다.
MLCommons에서 개발한 MLPerf Storage 벤치마크는 원래 Unet3D, Cosmoflow 및 Resnet50을 포함한 머신러닝 학습 워크로드의 스토리지 성능을 평가했으며, NVIDIA A100 및 H100 GPU 하드웨어를 활용했습니다. v3.0 릴리스는 네 가지 핵심 워크로드 시나리오에 초점을 맞춘 포괄적인 테스트 재구성을 특징으로 합니다.
업데이트된 테스트 프레임워크에는 Unet3D 및 RetinaNet 기반 AI 학습이 포함되어 있으며, 이는 90% 이상의 활용도를 유지하면서 최대 가속기 확장성을 측정하며 NVIDIA B200 또는 AMD MI355 GPU에서 시뮬레이션됩니다. 또한 8B에서 1.25T 매개변수에 이르는 Llama 3 스타일 모델의 체크포인팅을 다루며, 10회의 반복적인 쓰기 및 읽기 작업에 대한 낮은 지연 시간을 우선시합니다. 또한, 이 제품군은 1백만 개의 1536차원 Milvus 데이터셋에 대한 벡터 데이터베이스 테스트를 통합하여 쿼리 처리량을 최대화하는 동시에 지연 시간 및 재현율을 추적하며, KV 캐시 테스트를 통해 최대 동시 대화 지원 용량을 측정합니다.
MLPerf Storage 워킹 그룹 공동 의장인 Brian Belgodere는 새로운 테스트 포트폴리오가 주류 AI 추론 스토리지 수요에 대한 벤치마크 범위를 풍부하게 한다고 말했습니다. 업데이트된 제품군은 학습 중심의 학습 및 체크포인팅 테스트와 추론 지향적인 KV 캐시 및 벡터 데이터베이스 평가의 균형을 맞춥니다. 통합 AI 시스템을 체크포인팅, KV 캐싱 및 벡터 쿼리 처리와 같은 대상 스토리지 워크로드 평가로 분해함으로써, 이 벤치마크는 업계 실무자들이 AI 인프라 구성을 더 잘 최적화하고 스토리지 성능 병목 현상을 제거할 수 있도록 합니다.
새롭게 추가된 S3 객체 스토리지 계층은 학습, 체크포인팅 및 부분 벡터 데이터베이스 테스트를 지원하며, v3.0 제출의 약 1/6이 S3 기반 스토리지 액세스를 채택했습니다.
또 다른 워킹 그룹 공동 의장인 Curtis Anderson은 AI 컨텍스트가 수조 개의 토큰으로 확장됨에 따라 객체 스토리지가 기존 파일 시스템 스토리지의 실행 가능한, 심지어 선호되는 대안으로 부상하고 있다고 언급했습니다. v3.0의 네이티브 S3 지원은 엔터프라이즈 스토리지 배포 결정을 안내하기 위한 투명한 성능 데이터를 제공합니다.
총 19개 공급업체가 이번 벤치마크 주기에서 결과를 제출했습니다. 특히 DDN, Dell, Huawei, IBM, NetApp, VAST Data 및 WEKA를 포함한 주요 레거시 엔터프라이즈 스토리지 업체들은 제출 목록에 없었습니다. MLPerf 관계자는 전통적인 NAS 공급업체의 참여가 제한적이며, 대부분의 기존 업체들이 최신 라운드에 참여하지 않았다고 언급했습니다.
다양화된 AI 스토리지 환경을 고려하여 v3.0은 단일 전체 순위를 발표하지 않습니다. 대신, 다차원 지표를 사용하여 네 가지 워크로드 범주에 대한 독립적인 결과를 제공합니다. 전체 결과 데이터 세트는 약 145행과 55열로 구성되어 총 약 8,000개의 데이터 셀을 포함하며, KV 캐시 성능 지표 전용 열 12개를 포함합니다. 이들은 8B 및 70B Llama 모델 워크로드에 대한 스토리지 전용 및 스토리지+메모리 아키텍처 모두에서 처리량, 읽기/쓰기 대역폭 및 P95 지연 시간을 다룹니다.
MLCommons는 또한 전체 인프라 운영 효율성을 측정하기 위해 랙당 밀도 및 와트당 에너지 효율성을 기반으로 표준화된 성능 평가를 권장합니다.
업데이트된 벤치마크 제품군은 매우 복잡한 평가 로직을 특징으로 하여 공급업체가 대상 워크로드에 대한 결과를 선택적으로 제출할 수 있습니다. 예를 들어, NewFW, Samsung, Suzhou Zishan 및 TTA만이 벡터 데이터베이스 테스트 결과를 제출했습니다.
Everpure는 405B 및 1.25T 매개변수 모델에 대한 체크포인팅 및 KV 캐시 테스트에서 FlashBlade//EXA의 최고 수준 성능을 보고했습니다. 1,024개의 시뮬레이션된 가속기를 지원하기 위해 30개의 데이터 노드에 배포된 이 플랫폼은 1.25T 모델 체크포인팅에 대해 877.52 GiB/s의 쓰기 대역폭(17.74초 완료)과 588.28 GiB/s의 읽기 대역폭(28.99초 완료)을 달성했습니다. 성능은 10개 노드에서 327.65 GiB/s의 쓰기 처리량에서 최대 30개 노드 결과로 선형적으로 확장되었습니다.
추가 데이터에 따르면 온프레미스 체크포인트 쓰기 제출은 평균 에너지 효율성 14 GB/s/와트, 최대 201 GB/s/와트를 제공했습니다. 한편, UNet3D 읽기 테스트는 평균 효율성 34 GB/s/와트, 최대 277 GB/s/와트를 기록했습니다.
베이징 첸싱 지에통 기술 유한 회사
Sandy Yang/글로벌 전략 이사
WhatsApp / WeChat: +86 13426366826
이메일: yangyd@qianxingdata.com
웹사이트: www.qianxingdata.com/www.storagesserver.com
비즈니스 초점:
ICT 제품 유통/시스템 통합 및 서비스/인프라 솔루션
20년 이상의 IT 유통 경험을 바탕으로 선도적인 글로벌 브랜드와 협력하여 신뢰할 수 있는 제품과 전문 서비스를 제공합니다.
“기술을 통해 지능형 세상을 구축합니다” 귀하의 신뢰할 수 있는 ICT 제품 서비스 제공업체!
귀하의 메시지는 20-3,000 자 사이 여야합니다!
Korean
