SK 하이닉스가 독자적인 저전압 추론(LVI) 및 클러스터 스케일 메모리(CSM) 기술을 기반으로 랙 규모 시스템을 구축하는 미국 AI 추론 스타트업 Etched에 투자했습니다.
Etched는 기존 GPU가 과도한 컴퓨팅 성능을 제공하지만 대규모 AI 추론에 필요한 메모리가 부족하여 번거로운 다단계 KV 캐싱 프레임워크를 초래하는 업계의 중요한 병목 현상을 해결합니다. 맞춤형 추론 칩은 전력 소비를 줄이고 메모리 대역폭 및 용량에서 기존 GPU HBM을 능가하여 KV 캐싱 관련 지연 시간과 설계 복잡성을 완화합니다.
이번 투자는 맞춤형 프로세서 추론 서버와 대규모 공유 메모리 풀을 구축하는 이스라엘 스타트업 Majestic Labs가 베일을 벗은 이후에 이루어졌습니다.
2023년 하버드 대학 중퇴생 세 명이 샌프란시스코에서 설립한 Etched의 핵심 팀은 CEO인 개빈 우베르티, 사장 로버트 와첸, 크리스 주로 구성됩니다. 이 팀은 2년간 25만 달러의 틸 펠로우십을 받아 초기 개발 자금을 확보했습니다.
이 팀은 추론 효율성을 높이기 위해 맞춤형 LVI 사전 처리 및 CSM 공유 메모리를 구축했습니다. 자체 칩, 패키징, PCB 및 상호 연결 모듈을 통합한 전체 스택 솔루션은 대규모 상업용 추론 배포를 가능하게 합니다.
주(Zhu)는 주류 AI 칩이 높은 부하에서 심각한 열 스로틀링을 겪는다고 지적했습니다. 전력 소비 증가는 클럭 속도를 낮추어 실제 추론 처리량을 이론적 최대치의 절반 이하로 줄입니다. Etched의 칩은 연산 장치를 업계 표준 전압의 절반으로 실행하여 컴퓨팅 밀도를 크게 향상시킵니다.
그는 또한 주요 하드웨어 트레이드오프를 다루었습니다. HBM이 장착된 AI 칩은 메모리 및 상호 연결 제한으로 인해 디코딩 속도에서 SRAM보다 뒤처지는 반면, 순수 SRAM 칩은 더 빠른 액세스를 위해 컴퓨팅 밀도와 용량을 희생하여 전반적인 처리량을 감소시킵니다.
이는 여러 메모리 계층 간의 크로스 레이어 토큰 전송이 지연 시간을 축적하기 때문에 대규모 MoE 모델 작동을 방해합니다. Etched의 아키텍처는 이 문제를 해결하기 위해 중복 메모리 계층을 제거합니다.
Etched의 CSM 아키텍처는 독점적인 고속 상호 연결을 활용하여 확장 가능한 하드웨어를 위한 통합된 저지연 공유 메모리 풀을 생성하여 칩 간 메모리 액세스를 가속화합니다.
하이브리드 HBM/SRAM 설계는 메모리 용량과 칩 간 지연 시간을 균형 있게 맞춰 고처리량 대화형 추론을 제공합니다. CSM은 순수 SRAM, 3D DRAM 및 광학 칩 솔루션의 비용, 안정성, 열 및 성능 결함을 피합니다.
이 혁신은 HBM 스택을 GPU 아키텍처 제약에서 분리하고, 분산된 메모리 리소스를 통합하며, 고급 상호 연결 기술을 통해 SRAM 수준의 액세스 속도를 제공합니다.
Etched의 랙 시스템은 16개의 전용 케이블이 후면 포트를 8개의 핵심 하드웨어 장치에 연결하는 고상호 연결 레이아웃을 특징으로 합니다.
이 시스템은 주류 LLM, MoE 모델 및 Mamba와 같은 비 트랜스포머 아키텍처를 지원하며, 회사는 전체 시스템 R&D 및 상업용 판매에 중점을 두고 있습니다.
Etched 자금 조달 이력
2022년 – 회사 설립
2023년 – 540만 달러 시드 라운드
2024년 – 1억 2천만 달러 시리즈 A
2025년 – 5억 달러 시리즈 B
2026년 – 3억 달러 시리즈 C
현재까지 총 자금 조달: 9억 2,540만 달러
Sequoia Capital이 Etched의 2026년 시리즈 C 라운드를 주도했으며 Andreessen Horowitz, Jane Street 및 SK 하이닉스가 참여했습니다. 이 라운드에서 회사는 103억 달러의 가치를 평가받았으며, 이는 2024년 시리즈 B 평가액의 두 배입니다.
일관된 연간 자금 조달 속도는 강력한 고객 수요와 견고한 투자자 신뢰를 바탕으로 지속적인 제품 반복을 반영합니다.
와첸(Wachen)은 새로운 자본이 추론 클러스터의 대량 생산을 가속화할 것이라고 말했습니다. 이 회사는 프로토타이핑 및 제조 효율성을 향상시키기 위해 밀피타스에 10MW 생산 시설을 개설했습니다.
수석 아키텍트 사프타딥 팔(Saptadeep Pal)은 Etched가 400명 이상의 직원을 보유하고 있으며 10억 달러 이상의 고객 주문을 확보했다고 밝혔습니다. 대만 R&D 및 제조 기지는 24시간 운영을 가능하게 하여 공급업체 협력 및 제품 테스트를 최적화하여 신속한 확장을 지원합니다.
주요 고객은 추론 서비스 솔루션을 제공하는 대기업, 신흥 클라우드 제공업체 및 글로벌 하이퍼스케일러를 포함합니다.
논평
Etched와 Majestic Labs의 새로운 추론 랙이 기존 KV 캐싱을 넘어서면 엔터프라이즈 스토리지 시장을 재편할 것입니다. 이러한 시스템은 고속, 저지연 스토리지를 요구하며 Dell, HPE, NetApp 및 VAST Data와 같은 공급업체가 최적의 성능을 위해 스토리지 어레이와 차세대 추론 서버를 페어링할 수 있는 협업 기회를 창출합니다.
베이징 첸싱 지에통 기술 유한공사
샌디 양/글로벌 전략 이사
WhatsApp / WeChat: +86 13426366826
이메일: yangyd@qianxingdata.com
웹사이트: www.qianxingdata.com/www.storagesserver.com
사업 분야:
ICT 제품 유통/시스템 통합 및 서비스/인프라 솔루션
20년 이상의 IT 유통 경험을 바탕으로 선도적인 글로벌 브랜드와 협력하여 신뢰할 수 있는 제품과 전문 서비스를 제공합니다.
“기술을 통해 지능형 세상을 구축합니다” 귀하의 신뢰할 수 있는 ICT 제품 서비스 제공업체!
귀하의 메시지는 20-3,000 자 사이 여야합니다!
Korean
