AX(AI Transformation) 전문기업 아크릴은 인공지능(AI) 인프라 최적화 기업 망고부스트와 AI 인프라 공동 검증 및 사업 협력을 위한 업무협약(MOU)을 체결했다고 15일 밝혔다. 이번 협약을 통해 아크릴의 GPU·NPU 클러스터 최적화 소프트웨어(SW) ‘JONATHAN GPUBASE(GPUBASE)’는 글로벌 엔비디아 GPU와 국산 NPU에 이어 국산 DPU까지 결합 검증 범위를 넓혔다.

양사는 이번 MOU를 통해 ▲이더넷 기반 AI 인프라 네트워킹 관련 연구과제 공동 수행 ▲이기종 AI 가속기(GPU·NPU 등) 기반 AI 클러스터 공동 연구개발 및 성능 최적화 ▲양사 기술·제품을 결합한 통합 솔루션 공동 개발 ▲AX 인프라 분야 공동 사업기회 발굴 및 마케팅 활동 등 4개 영역에서 협력하기로 했다.

이번 협력은 아크릴이 추진해 온 ‘멀티벤더 AI 인프라 운영 SW’ 전략의 연장선에 있다. GPUBASE는 특정 가속기나 벤더에 종속되지 않고 GPU·NPU·DPU 등 다양한 AI 가속기를 단일 클러스터 환경에서 운영·최적화하는 소프트웨어다. 이번 협약으로 아크릴은 AI 연산 가속 영역을 넘어 데이터·네트워크 처리 레이어인 DPU까지 GPUBASE의 적용 범위를 확대하게 됐다.

아크릴은 GPUBASE의 기술력과 시장성을 단계적으로 검증해 왔다. 지난 3월 미국 글로벌 1·2위 클라우드 사업자(CSP)와 대규모 성능 검증 프로젝트 ‘K-Scale evaluation’을 공식 착수했으며, 4월에는 248장 규모 실제 운영 GPU 클러스터에서 최대 25배 성능 개선을 확인했다. 지난해에는 차량용 국산 NPU 기반 실시간 도로 교통 관제 서비스와 리벨리온 NPU ‘아톰(ATOM)’ 기반 대규모언어모델(LLM) 서비스 구동도 검증했다.

망고부스트는 서울대학교 연구실에서 출발한 AI 인프라 최적화 전문기업이다. 데이터센터 전반의 성능 병목을 해결하는 시스템 기술 개발에 집중하고 있으며, DPU 기반 하드웨어 ‘BoostX™’, LLM 추론 최적화 소프트웨어 ‘LLMBoost™’, AI 서버 플랫폼 ‘ALPHONSO’, 스토리지 서버 플랫폼 ‘KESAR’를 핵심 기술 포트폴리오로 보유하고 있다.

특히 LLMBoost™는 MLPerf v6.0 벤치마크에서 세계 최초로 다중 리전 기반의 이기종 추론 시스템을 구현하며 주목받았다. 대규모 언어모델 추론 과정에서 발생하는 데이터 이동 및 처리 병목을 구조적으로 해결하는 기술력을 입증했다는 평가다. 망고부스트는 이러한 시스템 레벨의 네트워크·데이터 처리 가속 기술을 기반으로 AI 데이터센터 인프라의 운영 효율 개선에 주력하고 있다.

양사는 이번 협약을 기반으로 글로벌 학회에서 검증된 기술을 실제 AI 인프라 환경에 적용하는 공동 연구도 추진한다. GPUBASE의 핵심 기술은 USENIX ATC ’24, IEEE Access 등 국제 학술지에서 검증됐으며, 멀티패스 NCCL 기반 분산 학습 가속과 RDMA 차등화 전송 기반 추론 안정성 확보 등이 주요 기술 축이다. 양사는 이더넷·RoCEv2 환경에서 망고부스트의 DPU ‘BoostX™’와 GPUBASE를 결합해 AI 데이터센터 네트워크 및 시스템 효율을 높이는 연구도 진행할 계획이다.

이번 MOU는 국내 AI 인프라 생태계가 단일 연산장치 중심의 성능 경쟁을 넘어 GPU·NPU·DPU를 통합적으로 운영하는 ‘xPU’ 인프라 최적화 단계로 진입하고 있다는 점에서 의미가 있다고 아크릴은 밝혔다. 특히 개별 하드웨어 성능 경쟁을 넘어 데이터센터 전체 운영 효율을 높이는 소프트웨어·시스템 결합형 인프라 기술의 중요성이 커지고 있는 만큼, 양사의 협력은 국산 AI 인프라 생태계 확장에도 기여할 것으로 기대된다.

관련기사

김장우 망고부스트 대표는 “DPU와 시스템 가속만으로는 풀 수 없는 운영·관제 영역이 있다”며 “글로벌 학회에서 이미 검증된 아크릴의 GPUBASE와 결합하면 AI 데이터센터 효율을 한 단계 더 끌어올릴 수 있다고 판단했다”고 말했다.

박외진 아크릴 대표는 “AI 데이터센터의 경쟁력은 이제 더 빠른 GPU나 더 강한 서버만으로 결정되지 않는다”며 “데이터 이동, 네트워크 병목, 클러스터 운영 등 구조적 문제를 해결하기 위해서는 하드웨어 가속과 운영 최적화가 함께 이뤄져야 한다”고 말했다. 이어 “이번 MOU는 GPUBASE의 멀티벤더 운영 SW 역량과 망고부스트의 DPU 기반 시스템 가속 기술을 결합하는 전략적 협력”이라며 “엔비디아 GPU, 국산 NPU에 이어 국산 DPU 환경까지 검증 범위를 넓혀 한국형 AI 컴퓨팅 인프라의 표준 운영 SW로 입지를 강화해 나가겠다”고 말했다.