인공지능(AI) 인프라 시장의 경쟁 축이 단순 그래픽처리장치(GPU) 확보에서 산업별 워크로드 최적화로 이동하고 있다. 로봇과 자율주행, 바이오, AI 에이전트 등 활용 분야가 다양해지면서 같은 GPU라도 데이터 특성과 운영 방식에 따라 필요한 인프라 구조가 달라지고 있다는 분석이 나온다.

21일 업계에 따르면 최근 젠슨 황 엔비디아 최고경영자(CEO)가 방한해 로보틱스·제조·모빌리티 분야 AI 활용 가능성을 강조하면서 한국형 피지컬 AI가 화두로 떠올랐다.

다만 업계에선 피지컬 AI 확산이 곧 획일적인 인프라 수요 증가로 이어지지는 않을 것으로 보고 있다. 산업마다 AI 모델을 학습·검증·배포하는 방식이 다르고 GPU 사용 규모와 기간, 배치 환경도 제각각이기 때문이다.

이에 대해 안재만 베슬AI 대표는 "AI 인프라 수요는 더 이상 하나의 덩어리로 움직이지 않는다"며 "GPU를 얼마나 확보하느냐 못지않게 누가·어떻게·어디서 쓰는지에 따라 인프라 설계가 달라지고 있다"고 말했다.

피지컬 AI 확산…LLM과 다른 인프라 필요

피지컬 AI는 로봇과 자율주행차처럼 현실 공간에서 동작하는 AI를 의미한다. 대규모언어모델(LLM)이 인터넷 기반 텍스트 데이터로 학습하는 것과 달리 물체 파지나 충돌 반응 등 물리 데이터를 필요로 한다. 이에 시뮬레이션 환경에서 데이터를 생성하고 실제 데이터와 결합하는 과정이 중요해지고 있다.

인프라 구조 역시 LLM과 차이가 있다. 베슬AI에 따르면 시뮬레이션 데이터 생성부터 비전·언어·행동(VLA) 모델 학습, 이후 로봇이나 차량의 온보드 컴퓨터에 탑재해 실시간으로 구동하는 과정까지 고려해야 한다.

안 대표는 "스토리지, 네트워크, 데이터 공급 구조까지 함께 설계해야 피지컬 AI 학습 효율을 높일 수 있다"고 밝혔다.

대학은 짧고 기업은 길게…GPU 사용 패턴도 차별화

실제 GPU 활용 방식도 기관 성격에 따라 뚜렷하게 구분된다. 베슬AI가 최근 30일간 자사 플랫폼 '베슬 클라우드' 운영 데이터를 분석한 결과 대학과 연구기관의 평균 동시 사용 GPU 중앙값은 1.8장 수준으로 나타났다. 반면 기업 고객의 경우 46%가 한 번에 8장 이상 GPU를 사용했으며 최대 32장 규모의 멀티노드 환경까지 확장한 사례도 확인됐다.

배치 환경 역시 산업별 특성이 반영된다. 방산과 금융, 바이오, 통신 분야는 민감 데이터를 다루는 만큼 온프레미스나 폐쇄망 환경을 선호해 왔지만 최근에는 보안 인증을 갖춘 클라우드 활용도 함께 검토하는 추세다. 실제 베슬AI 고객사에도 통신과 보험, 의료, 방산 기업이 포함된 것으로 전해졌다.

로봇·에이전트·바이오마다 다른 GPU 전략

베슬AI는 산업별 특성에 맞춰 GPU 기종과 계약 방식, 노드 구성, 배치 환경을 달리 제공하고 있다. A100과 H100은 물론 B200·B300급 GPU까지 지원하며 온디맨드와 단기·장기 약정 방식, 단일 GPU와 멀티노드 클러스터 등을 워크로드에 맞춰 조합하는 구조다.

베슬AI는 각 고객별 맞춤형 AI 인프라를 지원하고 있다. 대표적으로 휴머노이드 로봇용 파운데이션 모델을 개발하는 기업은 시뮬레이션 데이터와 실제 로봇 데이터를 함께 학습해야 하는 만큼 테라바이트(TB)급 대규모 스토리지와 고성능 GPU를 제공했다.

여러 고객사 프로젝트를 동시 운영할 수 있는 격리된 개발 환경이 중요했던 B2B AI 에이전트 기업에는 학습 환경 추상화 레이어와 클러스터 공유 스토리지를 제공해 다중 워크스페이스 운영을 지원했다.

관련기사

또 바이오·신약 AI 기업은 보안성이 높은 프라이빗 환경과 클라우드 자원을 유연하게 활용하는 구조를 선호하기에 베슬AI는 글로벌 'SOC 2 Type II' 인증과 초기 도입 부담을 완화한 소규모 시범 사용 크레딧을 제공하고 있다.

안 대표는 "AI 인프라 시장은 GPU를 빌려주는 단계를 넘어 산업별 워크로드가 실제로 작동할 수 있는 환경을 설계하는 방향으로 진화하고 있다"며 "앞으로는 피지컬 AI, 바이오, AI 에이전트 등 산업별 수요에 맞춰 유연한 GPU 인프라 운영 모델을 제공하는 것이 중요하다"고 강조했다.