브로드컴이 차세대 'VM웨어 클라우드 파운데이션(VCF) 9.1'을 공개하며 프라이빗 AI 인프라 시장 공략에 속도를 낸다. 엔비디아 블랙웰 그래픽처리장치(GPU)와 AMD·인텔 기반 혼합 인프라를 지원해 기업이 비용 부담을 낮추면서도 안전하게 AI 워크로드를 운영할 수 있도록 지원한다는 전략이다.

브로드컴은 프로덕션 AI 워크로드를 위한 프라이빗 클라우드 플랫폼 VCF 9.1을 발표했다고 6일 밝혔다.

VCF 9.1은 AI 및 쿠버네티스 기반 프라이빗 클라우드 플랫폼으로, AI 추론과 에이전틱 AI 운영을 위한 통합 인프라 기능을 강화한 것이 특징이다. 특히 엔비디아와 AMD, 인텔 기반 CPU·GPU 혼합 환경을 지원해 기업이 특정 하드웨어에 종속되지 않고 AI 인프라를 구축할 수 있도록 설계됐다.

브로드컴이 공개한 '프라이빗 클라우드 전망 2026' 보고서에 따르면 기업의 56%가 프라이빗 클라우드에서 프로덕션 AI 추론을 운영 중이거나 도입을 계획 중인 것으로 나타났다. 반면 퍼블릭 클라우드 기반 프로덕션 추론 운영 비율은 전년 대비 15%포인트 감소한 41%를 기록했다.

회사는 비용과 데이터 주권 문제가 프라이빗 AI 전환을 이끄는 핵심 배경이라고 설명했다. 실제 조사에선 IT 리더 62%가 생성형 AI 인프라 비용 증가를 우려했으며 36%는 AI 도입으로 데이터 보호와 규제 대응 요구가 확대됐다고 응답했다.

VCF 9.1은 AI 운영 비용 절감을 위한 기능도 강화했다. 브로드컴에 따르면 AI·비AI 워크로드 혼합 환경에서 지능형 메모리 티어링 기능을 통해 서버 비용을 최대 40% 절감할 수 있다. AI 데이터 파이프라인 압축·중복제거 기능 강화로 스토리지 총소유비용(TCO)은 최대 39%, 쿠버네티스 운영 비용은 최대 46% 절감 가능하다는 설명이다.

대규모 AI 인프라 운영 기능도 고도화했다. 관리 가능한 호스트 수를 기존 대비 2배 수준인 5000대까지 확대했으며 클러스터 업그레이드 속도는 최대 4배 높였다. 이를 통해 AI 인프라 확장 과정에서 발생하는 운영 복잡성을 줄인다는 목표다.

하드웨어·네트워크 지원 범위도 넓혔다. VCF 9.1은 엔비디아 RTX 프로 서버와 블랙웰 HGX 플랫폼, 블루필드-3 DPU, 커넥트X-7 NIC 등을 지원한다. 분산형 AI 추론과 대규모 모델 학습에 필요한 고속 네트워크 환경을 구현할 수 있도록 했다.

또 AMD·인텔 CPU 기반 환경과 아리스타 네트웍스 EVPN·VXLAN 네트워크 구조도 지원해 멀티벤더 기반 AI 데이터센터 구축 유연성을 강화했다.

보안 기능도 핵심 강화 요소다. 브로드컴은 VCF 9.1에 제로 트러스트 기반 보안 체계를 적용하고 크라우드스트라이크 보안 연동 기능을 추가했다. 이를 통해 랜섬웨어 복구와 AI 모델·학습 데이터 보호, 지속적 규제 준수 기능을 강화했다고 설명했다.

특히 무중단 라이브 패칭 기능을 통해 최대 80% 환경에서 서비스 중단 없이 보안 업데이트를 적용할 수 있도록 지원한다. AI 추론 서비스와 에이전틱 AI 운영 환경에서 요구되는 연속성을 확보하기 위한 조치다.

AI 애플리케이션 운영 효율화도 지원한다. VCF 9.1은 기존 대비 2.6배 향상된 쿠버네티스 확장성과 70% 빠른 배포 속도, 75% 단축된 업그레이드 시간을 제공한다. 또 GPU 활용률과 토큰 처리량 등 AI 인프라 세부 지표를 실시간으로 분석해 투자 효율성을 높일 수 있도록 했다.

크리쉬 프라사드 브로드컴 VCF 부문 수석 부사장 겸 총괄 책임자는 "더 많은 기업이 경쟁력 강화를 위해 AI를 도입하면서 데이터와 지식재산(IP) 프라이버시에 대한 우려, 급증하는 인프라 비용, 에이전틱 AI 시대 대비라는 세 가지 핵심 과제에 직면하고 있다"며 "VCF 9.1은 이 세 가지 과제를 모두 해결하는 단일 통합 플랫폼으로, 프라이빗 AI를 위한 가장 진화된 인프라를 제공한다"고 밝혔다.

관련기사

이어 "AI를 위한 제로 트러스트 보안을 지원하는 동시에 지능형 인프라 최적화와 하드웨어 선택권을 통해 비용을 절감하고 동일한 플랫폼에서 에이전틱 워크플로우와 가속화된 추론을 모두 실행할 수 있는 유연성을 제공한다"고 덧붙였다.

존 파넬리 엔비디아 엔터프라이즈 소프트웨어 부문 부사장은 "기업들은 데이터 주권과 통제력을 유지하면서도 AI 성능을 한 단계 끌어올릴 수 있는 인프라를 필요로 한다"며 "브로드컴과 협력을 통해 엔비디아 블랙웰 아키텍처를 VCF에 제공함으로써 조직이 퍼블릭 클라우드 수준 성능을 유지하면서도 모델과 데이터를 직접 통제할 수 있는 프라이빗 AI 환경을 구축할 수 있도록 지원할 것"이라고 말했다.