에퀴닉스는 NVIDIA 파트너십을 확장하고 에퀴닉스 인퍼런스 익스체인지를 출시하기 위해 Together AI와 새로운 협력을 형성했습니다. 분산된 엔터프라이즈 수준의 AI 인퍼런스 아키텍처로 구축,플랫폼은 컴퓨팅 워크로드를 핵심 데이터 저장소에 더 가깝게 이동합니다., 최종 사용자 및 운영 응용 프로그램. 에퀴닉스 호라이즌에서 에퀴닉스 팩브릭 원과 함께 공개, 그것은 NVIDIA 엔터프라이즈 하드웨어를 통합,AI의 오픈 소스 모델 플랫폼과 Equinix의 글로벌 상호 연결 인프라와 함께 대기 시간을 해결하기 위해, 데이터 주권 및 네트워크 병목.

분산 추론 및 데이터 중력 해결엔터프라이즈 AI가 프로토타입에서 높은 처리량 생산으로 이동함에 따라 추론 배치는 총 비용, 응답 지연 및 준수에 영향을 미칩니다.이질적인 환경에서 분산된 인프라를 실행하면 운영 전반 비용과 네트워크 복잡성이 증가합니다..

에퀴닉스는 77개의 메트로에 걸쳐 있는 280개 이상의 데이터 센터, 230개의 클라우드 온 램프 및 10,500개 이상의 연결된 기업 생태계를 이용하여 이러한 문제점을 완화합니다.10대 인공지능 모델 공급 업체 중 8개 업체와 10대 인공지능 클라우드 중 9개 업체는 이미 에퀴닉스 사이트 내에 있습니다., 플랫폼을 분산 AI 파이프라인에 대한 중립적 집계 계층으로 만듭니다.

아키텍처 및 스택 통합에퀴닉스 인퍼런스 교환은 물리적 인프라, 컴퓨팅 및 소프트웨어의 세 계층으로 구성됩니다. 에퀴닉스는 전력 공급을 포함하는 기본 물리적 상호 연결 기반을 운영합니다.고급 액체 냉각, 현재 진행 중인 시설 운영, 그리고 이키닉스 패브릭을 통한 하이브리드 데이터 연결.NVIDIA는 높은 토큰 처리량과 각 질의 추론 비용을 낮추기 위해 최적화된 엔터프라이즈 AI 하드웨어로 컴퓨팅 및 검증 계층을 제공합니다.함께 AI는 200개 이상의 오픈소스 모델을 지원하는 inference-serving 소프트웨어 계층을 공급합니다.컴퓨팅 효율성을 위해 공유된 멀티테넌트 설정과 전용 용량을 필요로 하는 워크로드에 대한 고립된 싱글테넌트 배포를 지원합니다..

에퀴닉스 팩브릭을 통해 트래픽을 라우팅하면 지역 사용자들의 타임 투 퍼스트 토큰 (TTFT) 을 줄이고 로미스 스토리지와 모델 엔드포인트 사이의 개인 피어링 링크를 만듭니다.

엔터프라이즈 배포 목표 및 사용 가능성세 가지 핵심 배포 모드가 지원됩니다. 메트로 엣지 인퍼런스는 중앙 관리 및 개인 인터 커넥트와 함께 낮은 지연 API 응답을 위해 로컬 메트로 허브 내에서 모델을 실행합니다.오픈 소스 모델 마이그레이션은 폐쇄 된 독점 API에서 오픈 기반 모델로 부드러운 전환 경로를 제공합니다., 기존 네트워크 조직을 재사용하는 동시에 공급자 로크-인 (vendor lock-in) 을 줄입니다.분산된 디자인은 기업이 엄격한 데이터 거주 및 지배 규칙을 충족시키기 위해 정의된 지리적 경계 내에서 추론 및 데이터 처리를 포함 할 수 있습니다..

에퀴닉스, NVIDIA 및 Together AI의 임원들은 이 통합이 컴퓨팅 성능과 운영 민첩성을 균형 잡는 벤더-아노스틱 고 처리량 추론 조직을 제공한다고 밝혔다.

에퀴닉스 인퍼런스 교환은 2027년 1분기에 일반 기업에 사용 가능하도록 할 것입니다.

베이징 첸징 지에텐 기술 회사, Ltd
샌디 양/글로벌 전략 책임자
왓츠앱 / 위ቻ트: +86 13426366826
이메일: yangyd@qianxingdata.com
웹사이트: www.qianxingdata.com/www.storagesserver.com
비즈니스 초점:
ICT 제품 유통/시스템 통합 및 서비스/인프라 솔루션
20년 이상의 IT 유통 경험을 바탕으로, 우리는 신뢰할 수 있는 제품과 전문적인 서비스를 제공하기 위해 세계적인 대표 브랜드와 파트너십을 맺습니다.
지능형 세계를 만들기 위해 기술을 사용하세요