VAST Data의 DataEnclave 소프트웨어는 기업이 민감한 데이터에 대한 AI 모델 액세스를 허용하는 동시에 모델 개발자가 독점적인 가중치를 노출하지 않고 모델을 실행할 수 있도록 하는 보안 인클로저를 생성합니다.
이 솔루션은 두 가지 핵심적인 문제점을 해결합니다. 기업은 데이터 유출 위험 때문에 기밀 데이터를 공개 및 신규 클라우드 LLM에 입력하는 것을 피합니다. 한편, 기반 모델 소유자는 안전하지 않은 기업 데이터 센터 및 코로케이션 시설 내에 가중치를 배포하는 것을 주저합니다.
DataEnclave는 고객사 구내 또는 전용 클라우드 하드웨어에 배포할 수 있으며, 이전에는 작동할 수 없었던 곳에서 최첨단 AI 모델을 실행합니다. 이를 통해 기업은 민감한 워크로드에 대해 최고 모델을 사용할 수 있으며 모델 빌더는 새로운 고객 환경에 도달할 수 있습니다.
VAST 공동 창립자이자 CEO인 Renen Hallak은 다음과 같이 말했습니다. "모델은 운영 체제가 관리해야 하는 리소스가 되고 있으며, 데이터 관리 방식과 동일합니다. 이는 어떤 모델이 어떤 작업에 적합한지, 무엇을 볼 수 있는지, 누가 사용할 수 있는지, 어떤 규칙 하에서 사용할 수 있는지 알고, 기업이 다른 모든 것에 적용하는 동일한 보안 및 운영 경계 내에서 이 모든 것을 수행하는 것을 의미합니다.
세계에서 가장 민감한 데이터에 선도적인 AI 모델을 안전하게 제공하는 것이 여기서 시작됩니다. 이는 모든 조직이 진정한 지적 재산을 나타내는 미세 조정된 모델의 생태계를 관리하는 세상으로 이어집니다. VAST AI 운영 체제는 이러한 모델을 안전하고, 관리되며, 유용하게 유지하는 역할을 합니다."
기업과 모델 개발자 모두 DataEnclave를 신뢰해야 합니다. 하드웨어 격리된 보안 런타임과 암호화 증명을 제공합니다. 시스템은 민감한 자산이 해독되어 분석을 위해 보안 컨테이너에 로드되기 전에 환경과 정책을 검증합니다.
VAST 공동 창립자 Jeff Denworth는 다음과 같이 말했습니다. "모델 가중치는 빠르게 세계에서 가장 가치 있는 지적 재산이 되고 있습니다. 기본 가중치는 최첨단 모델의 가치를 정의하는 반면, 미세 조정된 가중치는 점점 더 독점적인 기업 AI 지능을 나타낼 것입니다. 위험이 높아짐에 따라 고객이 이를 기반으로 강력한 AI를 실행할 수 있도록 기업 데이터를 보호하는 것이 중요해집니다. 오늘날 VAST Data는 Nvidia와 협력하여 신뢰할 수 없는 컴퓨팅 환경을 검증하고 어디서든 어떤 데이터에 대해서도 어떤 모델이든 실행할 수 있는 프레임워크로 업계를 발전시키고 있습니다."
기존 GPU는 추론 중에 가중치를 해독해야 하지만, x86 기밀 컴퓨팅은 수년 동안 보호된 CPU 메모리를 가지고 있었던 것과 달리 사용 중인 데이터에 대한 기본 보호 기능이 부족합니다. 암호화는 저장 중 및 전송 중 가중치를 보호하지만, 추론 중에 가중치는 GPU 메모리 내에서 해독되어야 합니다. 이 메모리는 종종 멀티 테넌트이며 관리자 또는 손상된 하이퍼바이저 및 펌웨어를 악용하는 위협 행위자에게 노출됩니다.
DataEnclave의 보안 런타임 및 증명은 독점 모델이 CPU 신뢰 실행 환경을 기반으로 구축된 기밀 VM 내에서 실행되도록 보장하며, 기밀 컴퓨팅 모드의 Nvidia GPU와 쌍을 이룹니다. Nvidia 엔터프라이즈 AI 부사장 Justin Boitano는 다음과 같이 말했습니다. "기업 데이터는 정확하고 사용 가능한 AI에 필수적이며, 비즈니스 데이터를 기밀로 유지하는 것은 에이전트 시대에 IP를 보호합니다. Nvidia 기밀 컴퓨팅의 VAST 통합은 기업과 모델 빌더 모두를 보호하며, 에이전트 아키텍처의 기반으로서 보안, ID, 권한, 거버넌스 및 규정 준수를 제공합니다."
DataEnclave는 온프레미스 및 클라우드 VAST 배포를 모두 지원합니다. 주요 기능:
보안 계층은 일반적으로 모델 크기에 따라 단일 자릿수에서 낮은 두 자릿수 백분율의 컴퓨팅 오버헤드를 도입합니다.
채택은 이중 신뢰에 달려 있습니다. 기업은 데이터를 신뢰하고 모델 개발자는 독점 가중치를 호스팅하는 것을 신뢰합니다.
VAST는 모델 빌더, AI 클라우드 제공업체 및 서버 공급업체를 로컬 AI 아키텍처로 통합하고 있습니다. 현재 약속된 모델 파트너에는 Cohere, CrowdStrike, Deepgram, Factory, Fundamental, Nvidia 및 TwelveLabs가 포함되어 있으며, 업계 최대 규모의 플레이어는 아닙니다.
VAST 비즈니스 개발 및 제휴 부사장 John Mao는 다음과 같이 말했습니다. "우리는 크고 작은 많은 모델 회사와 이야기하고 있습니다. 모든 제공업체는 AI를 기업 데이터가 있는 곳으로 가져올 수 없다면 시장의 약 절반을 잃게 된다는 것을 이해합니다. 모든 규모의 많은 조직이 이 문제에 대해 적극적으로 노력하고 있으며, 우리는 그들 대부분과 대화했습니다."
서버 파트너는 Cisco 및 Supermicro입니다. 현재 AI 클라우드 파트너에는 Buzz, Nscale 및 Sharon.AI가 포함되어 있으며 더 많은 파트너가 곧 추가될 것으로 예상됩니다.
모델 안전 데이터 인클레이브에 대한 업계 표준에 대해 질문받은 Mao는 다음과 같이 말했습니다. "일부 표준은 이미 존재합니다. 우리의 런타임은 Microsoft, Red Hat 및 업계 파트너가 지원하는 Kata Containers와 일치합니다. 또한 증명을 위해 CNCF 기밀 컨테이너 인큐베이팅 프로젝트를 따릅니다. Nvidia의 기밀 컴퓨팅 GPU는 세 번째 기둥을 형성합니다. 우리는 다각적인 접근 방식을 취하고 있으며 시장이 성숙함에 따라 더 많은 것을 조정할 것입니다."
DataEnclave는 현재 미리 보기 상태이며 2027년 1분기에 VAST Data 및 Cisco 및 Supermicro를 포함한 OEM 파트너를 통해 출시될 예정입니다.
부기 1 Dell, HPE, Lenovo, Supermicro, ASUS, Foxconn, GIGABYTE, Pegatron, QCT, Wistron, Wiwynn, Aivres, ASRock Rack, Compal, Inventec, MiTAC, MSI, AIC 및 IBM은 랙 규모의 기밀 컴퓨팅을 갖춘 Vera Rubin NVL72 시스템을 구축합니다. GPU, Vera CPU, NVLink 암호화 및 증명.
부기 2 AI 에이전트는 모델을 소비합니다. Mao는 다음과 같이 말했습니다. "에이전트는 모델 위에 계층으로 존재합니다. 당사의 에이전트 엔진은 완전한 에이전트 오케스트레이션 프레임워크입니다. DataEnclave는 에이전트 엔진이 액세스하고 사용할 수 있도록 데이터 엔진 내에서 새로운 모델을 실행할 수 있도록 합니다. 관리되는 에이전트는 VAST 운영 체제에서 호스팅되는 이러한 최첨단 모델을 호출할 수 있습니다."
베이징 첸싱지에통 기술 유한 회사
Sandy Yang/글로벌 전략 이사
WhatsApp / WeChat: +86 13426366826
이메일: yangyd@qianxingdata.com
웹사이트: www.qianxingdata.com/www.storagesserver.com
비즈니스 초점:
ICT 제품 유통/시스템 통합 및 서비스/인프라 솔루션
20년 이상의 IT 유통 경험을 바탕으로 선도적인 글로벌 브랜드와 협력하여 신뢰할 수 있는 제품과 전문 서비스를 제공합니다.
"기술을 사용하여 지능형 세계를 구축하십시오" 귀하의 신뢰할 수 있는 ICT 제품 서비스 제공업체!
담당자: Ms. Sandy Yang
전화 번호: 13426366826
Korean
