"소버린 인공지능(AI)은 더 이상 규제 준수 차원의 문제가 아닙니다. 데이터와 AI 시스템에 대한 통제권은 이제 국가 경쟁력과 기업의 전략적 자율성을 결정하는 핵심 요소가 되고 있습니다."
김태룡 한국HPE HPC·AI 사업부문 이사는 16일 지디넷코리아와의 서면 인터뷰에서 AI 시대 디지털 주권에 대해 이같이 밝혔다.
최근 생성형 AI 확산과 지정학적 불확실성이 맞물리면서 데이터와 AI 인프라를 직접 통제하려는 움직임이 전 세계적으로 확대되고 있다. 공공·금융·국방 등 민감 데이터를 다루는 분야를 중심으로 AI 모델을 넘어 데이터와 인프라, 운영 환경 전반에 대한 주권 확보 요구도 커지는 추세다.
김 이사는 과거 디지털 주권이 데이터 저장 위치에 초점을 맞췄다면 이제는 데이터 처리와 거버넌스, 운영 전반에 대한 통제권 확보 개념으로 진화하고 있다고 진단했다. 단순히 데이터를 국내에 보관하는 수준을 넘어 AI 학습과 추론, 운영 과정 전체를 통제할 수 있어야 진정한 소버린 AI가 구현된다는 분석이다.
"데이터 통제권이 곧 AI 경쟁력"
그는 소버린 AI를 둘러싼 글로벌 흐름으로 단절형 인프라 수요 확대와 '소버린 바이 디자인' 확산을 꼽았다. 기존에는 클라우드 환경 위에 보안 정책을 덧씌우는 방식이 일반적이었다면, 이제는 설계 단계부터 데이터 주권과 통제 기능을 내재화한 인프라를 구축하려는 수요가 증가하고 있다는 설명이다.
김 이사는 최근 지정학적 리스크와 공급망 불안이 IT 인프라 전략에도 직접적인 영향을 미치고 있다고 평가했다. 데이터센터와 통신망, 클라우드 리전까지 국가 안보 자산으로 인식되면서 특정 플랫폼 의존도를 줄이고 서비스 연속성과 기술 독립성을 확보하려는 움직임이 강화되고 있다는 것이다.
이같은 흐름 속에서 HPE는 소버린 바이 디자인 전략을 앞세우고 있다. 데이터와 거버넌스, 운영 통제권을 인프라 설계 단계부터 내재화해 고객이 AI 라이프사이클 전반에 대한 주도권을 유지하도록 지원한다는 목표다.
김 이사는 "소버린은 특정 영역에 국한된 규제 이슈가 아니라 경제적 회복력과 국가 안보, 경쟁 우위와 직결되는 전략적 우선순위가 되고 있다"며 "소버린 바이 디자인 인프라는 시장이 요구하는 보안, 데이터 레지던시, 에어갭 운영 역량을 설계 단계부터 내재화한 것으로 공공·국방 등 민감 워크로드를 다루는 분야를 지원한다"고 말했다.
금융서 국가 슈퍼컴까지…한국형 소버린 AI 등장
한국 시장에서도 이미 소버린 AI 구축 사례가 등장하고 있다. 대표적으로 최근 HPE와 협력한 DB생명이 주목받고 있다. DB생명은 생성형 AI 기반 챗봇과 거대언어모델 운영관리(LLMOps) 플랫폼 구축 과정에서 HPE가 지원하는 에어갭 환경을 적용했다. 이를 통해 데이터 주권과 금융 규제를 준수하면서도 AI 서비스 혁신을 추진 중이다.
김 이사는 이같은 사례가 개별 프로젝트를 넘어 국내 기업들이 통제 가능한 고성능 AI 인프라를 기반으로 자체 AI 역량을 구축하는 흐름을 보여준다고 강조했다. 그는 금융권뿐 아니라 제조와 연구 분야에서도 유사한 수요가 확대되고 있다고 설명했다.
기업 현장에서 소버린 AI 도입이 확산되는 가운데 국가 차원의 AI 인프라 투자도 속도를 내고 있다. 이와 관련해 국내 고성능 컴퓨팅(HPC) 경쟁력에 대해서도 긍정적으로 평가했다. 특히 올해 구축이 완료될 한국과학기술정보연구원(KISTI) 슈퍼컴퓨터 6호기 '한강' 프로젝트를 한국 과학기술과 AI 연구 역량을 한 단계 끌어올릴 전환점으로 꼽았다.
그는 해당 슈퍼컴 6호기가 재료과학과 기후 예측, 생명과학뿐 아니라 대규모 AI 워크로드를 동시에 처리할 수 있는 국가 핵심 플랫폼 역할을 수행할 것으로 내다봤다. 또 HPE와 KISTI가 추진 중인 대규모 과학 파운데이션 모델 학습 환경 구축과 양자·HPC 융합 연구 역시 향후 국가 경쟁력 확보에 중요한 기반이 될 것으로 전망했다.
김 이사는 "이번 슈퍼컴 6호기 구축으로 한국은 첨단 시뮬레이션과 AI 기반 연구를 융합해 글로벌 수준의 과학 연구 역량을 강화할 수 있는 강력한 기술적 기반을 갖추게 됐다"고 강조했다.
"GPU만으론 부족…AI 팩토리 시대 온다"
AI 인프라 경쟁 구도에 대해선 통합적인 시각을 제시했다. 김 이사는 AI 성능이 단순히 그래픽처리장치(GPU) 보유량으로 결정되는 시대는 지나갔다고 진단했다. 앞으로는 중앙처리장치(CPU)와 스토리지, 네트워크, 데이터 파이프라인, 운영 플랫폼을 포함한 전체 AI 인프라 스택의 균형이 중요해질 것이라는 전망이다.
특히 생성형 AI를 넘어 에이전틱 AI 시대로 진입하면서 HPC의 역할도 확대되고 있다고 밝혔다. 복잡한 업무를 스스로 분해하고 수행하는 AI 에이전트는 더 큰 연산 자원과 메모리 대역폭, 빠른 상호연결, 실시간 오케스트레이션이 필요하다는 평가다.
이에 HPE는 AI 인프라와 소프트웨어, 데이터 파이프라인, 운영 체계를 통합한 'AI 팩토리' 전략을 추진 중이다. 기업·기관이 AI 실험 단계에 머무르지 않고 실제 운영 환경까지 빠르게 전환할 수 있도록 한다는 목표다. 동시에 온프레미스와 프라이빗 클라우드, 하이브리드, 소버린 환경을 아우르는 다양한 AI 배포 모델을 제공해 고객이 통제 수준과 비용, 성능에 맞춰 워크로드를 운영할 수 있도록 지원할 방침이다.
관련기사
아울러 김 이사는 공공부문 소버린 AI 도입이 본격화될 경우 국내 IT서비스 시장에도 변화가 나타날 것으로 전망했다. 단순 인프라 공급을 넘어 소버린 AI 구축과 운영 역량을 갖춘 파트너 기업들이 새로운 성장 기회를 확보하게 될 것이라는 분석이다.
그는 "한국은 AI와 첨단 연구, 디지털 주권에 대한 명확한 국가 전략을 지닌 중요한 시장"이라며 "우리는 국가 규모 슈퍼컴퓨팅부터 프라이빗 AI, 규제 산업의 AI 전환까지 한국 기업과 기관들이 더 빠른 속도와 통제력, 자신감을 갖고 혁신할 수 있도록 지원하는 전략적 파트너가 되겠다"고 강조했다.