회사 소식 본능적이고 EPYC한; VAST Data, 광범위한 AMD CPU/GPU 협업 구축

존 마오

확장 협업의 주요 기둥

• -VAST는 6세대 AMD EPYC (코드 이름 Venice) 를 채택하여 VAST AI OS를 기본으로 하는 6세대 CBox 및 3세대 EBox 플랫폼을 탑재한다. 6세대 EPYC는 PCIe Gen 6을 탑재한다.데이터베이스를 포함한 VAST 데이터베이스와 DataEngine 지원 AI 데이터 서비스에 대한 PCIe Gen 5보다 두 배 더 많은 I/O 대역폭과 낮은 지연 시간을 제공합니다., 데이터 웨어하우스 및 이벤트 스트리밍
• -VAST, AMD 및 DriveNets가 공동으로 개발한 삼자 AI 인프라 참조 아키텍처, AMD Helios 랙 스케일 AI 하드웨어, VAST AI OS 및 DriveNets AI Fabric 네트워킹을 통합합니다.계획에는 교육에 대한 인프라 지원에 대한 세부 사항이 있습니다., 추론, 강화 학습 및 KV 캐시 작업 부하, 그리고 인공지능 공장을 구축하는 팀에 대한 사이즈 가이드.
• 텐서메시, 임베디드LLM 및 다른 공급업체와 더 넓은 생태계 파트너십을 통해 에이전틱 AI에 최적화된 생산 수준의 추론 스택을 가속화합니다.
• - 새로운 KV 캐시 및 추론 최적화는 AMD 인스틴트 GPU, 인피니티 컨텍스트, ROCm 소프트웨어 및 VAST AI OS를 통합합니다.
• - 자동화 된 KV 캐시 라이프 사이클 관리: 민감한 개인 데이터를 보유한 캐시를 청소하는 것은 기업 준수에 큰 장애물을 야기합니다.통합 스택은 VAST의 네이티브 데이터 라이프사이클 규칙을 활용하여 KV 캐시 데이터를 자동으로 종료 및 삭제합니다., 수동 관리 작업 없이 강력한 보안, 개인 정보 보호 및 규제 준수.
• -AMD Pensando Pollara 400 AI NIC는 인스틴트 GPU를 VAST AI OS로 연결하는 고속 데이터 경로를 만듭니다.그것은 GPU 메모리와 VAST의 NVMe SSD 저장 클러스터 사이의 데이터를 원활하게 이동합니다., KV 캐시와 저장소 접근을 지원하는 대규모 추론 및 에이전티크 AI에 중요합니다.
• - 5C, Core42, Crusoe, EmbeddedLLM, Phanos.AI, TensorWave 및 Vultr을 포함한 전 세계적으로 AMD 기반 AI 서비스를 제공하는 주요 AI 클라우드 제공 업체에 대한 검증 된 배포.