[라스베이거스(미국)=한정호 기자] "기업들은 인공지능(AI)을 단순히 클라우드에서 호출하는 것을 넘어 자사 데이터센터 내부에서 직접 운영하려 하고 있습니다. 서버와 스토리지, 네트워크, 소프트웨어를 통합한 '델 AI 팩토리' 전략으로 온프레미스 AI 시대를 선도하겠습니다."

바룬 차브라 델 테크놀로지스 ISG 마케팅 총괄 수석부사장은 지난 20일(현지시간) 미국 라스베이거스 베네시안 컨벤션센터에서 열린 '델 테크놀로지스 월드(DTW) 2026'에서 한국 기자단과 만나 이같이 강조했다.

그는 최근 AI 시장이 생성형 AI를 넘어 에이전틱 AI 중심으로 빠르게 이동하고 있다고 진단했다. 단순 질의응답 수준이 아니라 AI가 실제 업무를 수행하고 의사결정을 지원하는 방향으로 진화하면서 데이터센터와 엣지, 데스크톱까지 포함한 AI 인프라 전략 전반이 바뀌고 있다는 설명이다.

차브라 부사장은 "에이전틱 AI는 데이터센터뿐 아니라 엣지와 데스크톱 환경까지 포함해 고객들의 인프라 접근 방식을 완전히 바꾸고 있다"며 "우리는 새로 발표한 데스크사이드 에이전틱 AI와 AI 데이터 플랫폼, 온프레미스 프론티어 모델 전략을 동시에 추진하고 있다"고 밝혔다.

델은 이번 행사에서 엔비디아와 협력한 데스크사이드 에이전틱 AI 전략을 공개했다. 개발자들이 데스크톱 환경에서 AI 에이전트를 개발한 뒤 동일한 소프트웨어 프레임워크와 보안 정책 기반으로 데이터센터 서버까지 확장할 수 있도록 지원하는 구조다.

또 AI 데이터 플랫폼을 통해 데이터센터와 클라우드, 엣지 환경 전반의 데이터를 통합 관리하고 AI 모델 학습 및 추론에 활용할 수 있도록 지원하고 있다.

챗GPT·제미나이도 온프레미스로…개방형 AI 생태계 확장

델은 이번 행사에서 구글 제미나이와 스페이스XAI 그록, 오픈AI 챗GPT 모델 등을 온프레미스 환경에서 운영할 수 있도록 지원하는 전략을 공개했다.

차브라 부사장은 "기존에는 제미나이나 그록 같은 프론티어 모델을 클라우드에서만 사용할 수 있었지만 이제는 델 파워엣지 서버 기반 온프레미스 환경에서도 운영할 수 있게 됐다"며 "고객 데이터가 외부 클라우드로 이동하지 않고 자체 데이터센터 내부에 그대로 머무를 수 있다는 점이 핵심"이라고 말했다.

또 허깅페이스와 협력해 오픈소스 모델 생태계도 함께 지원하고 있다. 기업들은 델 AI 팩토리 환경에서 다양한 거대언어모델(LLM)을 동시에 운영할 수 있다.

이에 대해 차브라 부사장은 "에이전틱 AI 시대에는 고객들이 단일 모델만 사용하는 것이 아니라 다양한 모델을 조합해 활용하게 될 것"이라며 "델 AI 팩토리는 멀티 LLM 환경을 지원할 수 있도록 설계됐다"고 설명했다.

"AI 인프라는 GPU만으로 완성되지 않는다"

AI 인프라 경쟁력과 관련해선 그래픽처리장치(GPU) 자체보다 전체 시스템 통합 역량이 중요하다고 강조했다. 랙 설계와 냉각, 네트워킹, 케이블링, 구축 속도, 소프트웨어까지 모두 통합적으로 최적화해야 한다는 것이다.

델은 이번 행사에서 최대 GPU 밀도를 지원하는 신형 '델 파워랙'도 공개했다. 냉각 효율과 전력 사용량을 최적화해 더 많은 GPU를 하나의 랙에 집적할 수 있도록 설계한 것이 특징이다.

기존 데이터센터 현대화 전략도 강조했다. 차브라 부사장은 "이번에 공개한 18세대 파워엣지 서버는 기존 14세대 서버 13대를 1대로 통합할 수 있을 정도로 효율성이 높아졌다"며 "전력과 냉각, 데이터센터 상면 비용까지 동시에 줄일 수 있다"고 말했다.

스토리지 효율성도 주요 경쟁력으로 꼽았다. 그는 "신형 파워스토어는 최대 6대1 데이터 절감 효율을 지원한다"며 "데이터 저장 공간을 줄이는 동시에 성능과 처리량도 함께 높였다"고 밝혔다.

"AI 토큰 비용 시대 온다"…온프레미스 경제성 부각

차브라 부사장은 에이전틱 AI 확산으로 퍼블릭 클라우드 중심 AI 전략에도 변화가 나타날 것으로 내다봤다.

그는 "에이전틱 AI는 막대한 토큰 사용량을 발생시키는데 현재 퍼블릭 클라우드는 대부분 토큰 기반 과금 구조"라며 "기업들이 토큰 제한과 비용 부담을 동시에 체감하기 시작했다"고 말했다. 이어 "온프레미스 AI는 서버 자체가 일종의 '토큰 생성기' 역할을 하기 때문에 퍼블릭 클라우드 대비 경제성이 높아질 수 있다"고 덧붙였다.

다만 퍼블릭 클라우드와 온프레미스 중 하나만 선택하는 시대는 아니라고 강조했다. 핵심 워크로드는 온프레미스에서 운영하고 트래픽이 급증할 경우 퍼블릭 클라우드나 서비스형 GPU(GPUaaS)를 활용하는 하이브리드 전략이 확산될 것이란 전망이다.

관련기사

차브라 부사장은 "AI 시장은 아직 초기 단계인 만큼 앞으로 새로운 운영 모델과 아키텍처가 계속 등장할 것"이라며 "우리는 고객들이 각자의 환경에 맞는 최적의 AI 운영 전략을 구축할 수 있도록 지원하고 있다"고 밝혔다.

끝으로 그는 "AI는 지금도 매우 빠르게 변화하고 있으며 우리는 이미 5000개 이상의 델 AI 팩토리 고객 구축 경험을 확보했다"며 "고객들과 실제 프로젝트를 수행하며 축적한 경험과 운영 노하우가 에이전틱 AI 시대 가장 큰 경쟁력이 될 것"이라고 강조했다.