인공지능 훈련과 추론을 위한 스토리지 환경은 NVIDIA GPU Direct를 지원하는 확장형 중간 범주의 파일 및 객체 스토리지가 지배하고 있습니다.GPU가 토큰 데이터를 처리하도록 하는 KV 캐시와 STX 아키텍처하지만 기업 데이터의 방대한 양은 델 파워맥스, 히타치 반타라IBM DS6000 및 Lenovo InfiniBox ∙ STX 및 관련 구성 요소를 지원하지 않는.우리는 이 격차를 탐구하기 위해 히타치 반타라의 AI 전략가 데이비드 차파와 인터뷰했습니다.
차파는 NVIDIA BlueField-4 STX가 AI 인프라 아키텍처의 광범위한 진화를 표시한다고 밝혔다. 전통적인 엔터프라이즈 배열은 효율적인 스토리지 요청 처리,STX는 인공지능 인프라에서 가치 창출을 전환합니다.. 레거시 하이엔드 배열은 내구성, 탄력성, 성능, 가동시간 및 중앙화된 데이터 서비스를 우선시합니다. 반면, STX는 데이터 처리 워크플로우에 더 많은 인텔리전스를 내장합니다.안전성, 오케스트레이션, 데이터 로컬리티, 메모리 조정 및 GPU 및 AI 런타임 환경에 더 가까운 데이터 서비스.
핵심 초점은 이러한 기능이 저장 배열에서 네이티브로 실행되어야하는지 아닌 AI 데이터 파이프라인에서 최적의 배포 방법을 찾는 것입니다.히타치 반타라는 현재 호환성이 그 배열의 한계로 간주하지 않습니다, 그러나 진화하는 AI 인프라 가운데 자연스러운 건축 선택입니다. 고급 기업 배열은 탄력성, 가용성, 성능,내구성 및 통합 관리.
인공지능 데이터 파이프라인이 DPU 가속 서비스, 오케스트레이션 레이어, 캐시 및 로컬리티 인식 실행에 점점 더 의존함에 따라 특정 기능은 컴퓨팅 리소스에 더 가까워질 것입니다.엔터프라이즈 배열이 핵심 강점에 집중하는 동안: 신뢰할 수 있는 데이터 서비스
히타치 반타라의 하이엔드 배열이 결국 NVIDIA STX와 통합될 것인지 물었을 때, 차파는 STX와 CMX가 상당한 엔지니어링 업적을 나타냈다고 지적했다.논의는 제품 로드맵에 대한 것이 아니라 진화하는 인공지능 시스템에 대한 아키텍처 포지셔닝에 관한 것입니다..
현대 인공지능 인프라는 전통적인 기업 아키텍처에 고려되지 않은 한계를 드러냅니다. 오늘날의 도전은 독립적인 스토리지, GPU 또는 네트워크 성능에 있지 않습니다.하지만 데이터의 시너지는, 메모리, 컴퓨팅, 보안 및 오케스트레이션으로 AI 배포가 확장됩니다.
STX는 인공지능 데이터 파이프 라인의 더 많은 부분을 블루필드 DPU, 네트워크 및 벤더 통합 및 차별화를 형성하는 참조 디자인을 통해 NVIDIA의 통합 스택으로 통합합니다.CMX는 컨텍스트 메모리를 목표로 합니다.히타치 반타라는 이러한 기술을 기업 저장소를 우회하려는 시도로 보지 않습니다.하지만 산업은 두 가지 다른 데이터 범주로 나뉘어 있습니다.: 인공지능 작업에 대한 일시적인 런타임 데이터, 그리고 인공지능 작업이 완료된 후에도 오랫동안 존재하는 지속적이고 지배적인 기업 데이터.
두 데이터 유형은 다른 운영 제약이 있습니다. KV 캐시와 추론 컨텍스트는 단기적이고 지연 민감하므로 GPU 근처에서 실행하기에 더 적합합니다.메모리 계층 또는 AI 실행 시간대조적으로, 핵심 비즈니스 데이터, 컴플라이언스 제어 및 기업 전체 데이터 서비스는 장기 사용, 거버넌스,탄력성 및 대규모 기업 운영.
히타치 반타라를 위해, 하이엔드 배열에 STX 지원을 가능하게 하는 것은 단순한 펌웨어 업데이트보다 훨씬 더 많습니다. 데이터 로컬리티, 메모리 로드, 데이터 지속성,보안 경계인프라 서비스의 최적의 배치.
우선 순위는 인공지능 인프라가 성숙함에 따라 기능적 위치를 정의하고, 차별화 지점을 식별하고, 합리적인 통합 범위를 결정하는 것입니다.그리고 고객 가치를 극대화하기 위해 엔지니어링 자원을 할당.
NVIDIA는 인공지능 인프라 전반의 주요 병목을 효과적으로 해결했지만, 그 아키텍처 접근법은 모든 고객, 작업 부하 또는 플랫폼 전략에 맞지 않습니다.히타치 반타라는 장기적인 건축적 변화와 단기적인 특징 트렌드를 구별합니다., 실질적인 가치를 가져다주는 통합을 평가하고 사용자에게 가장 큰 이점을 제공하기 위해 개발 노력을 지시합니다.
히타치 반타라는 이러한 통합을 건축적으로 적합하지 않다고 판단하여 GPU 서버의 직접 데이터 전달 체인 외부에 고급 엔터프라이즈 배열을 배치합니다.이 플랫폼은 내구성을 위해 최적화 된 핵심 기록 시스템으로 사용됩니다., 거버넌스, 탄력성 및 엔터프라이즈 규모의 운영, 일시적이고 지연기 중요 KV 캐시 및 추론 맥락보다는.
우리는 VSP One Block High End 같은 고급 기업 배열이 내부 지능형 에이전트와 같은 인공지능 도구를 채택하여 관리를 효율화 할 것이라고 믿습니다.에이전틱 인공지능과 주류 추론이 힘을 얻으면서, 기업은 AI 워크로드에 대한 핵심 기록 데이터에 대한 액세스를 요구할 것입니다. 궁극적으로 AI 데이터 파이프 라인은 주요 데이터 소스로 고급 엔터프라이즈 배열을 통합하도록 확장 될 것입니다.
베이징 첸징 지에텐 기술 회사, Ltd
샌디 양/글로벌 전략 책임자
왓츠앱 / 위ቻ트: +86 13426366826
이메일: yangyd@qianxingdata.com
웹사이트: www.qianxingdata.com/www.storagesserver.com
비즈니스 초점:
ICT 제품 유통/시스템 통합 및 서비스/인프라 솔루션
20년 이상의 IT 유통 경험을 바탕으로, 우리는 신뢰할 수 있는 제품과 전문적인 서비스를 제공하기 위해 세계적인 대표 브랜드와 파트너십을 맺습니다.
지능형 세계를 만들기 위해 기술을 사용하세요
귀하의 메시지는 20-3,000 자 사이 여야합니다!
Korean
