얼마 전 코엑스에서 열린 ‘AI EXPO KOREA 2026’ 전시장을 걷는 내내 많이 당황스럽고 우려스러웠다. 우리는 과연 AI 강국으로 가고 있는가. 아니면 이미 만들어진 길에 의존한 채 뒤따라가고 있는가.

전시장 중심에는 대만 기업들의 GPU 서버와 엔비디아 생태계가 확실하게 자리 잡고 있었다. 특정 기업 AI 인프라의 핵심 축이 사실상 하나의 플랫폼으로 만들어지는 상황이었다. 그 사이에서 국내 기업들이 개발한 NPU는 존재했지만 전체 흐름에 참여 하기에는 많이 부족해 보였다. 한국 AI 산업의 현재를 상징적으로 보여주는 것만 같았다.

문제는 기술의 유무뿐만이 아니다. 구조다. 글로벌 AI 경쟁은 더 이상 개별 칩이나 모델의 성능 경쟁이 아니라, 칩·서버·네트워크·소프트웨어가 결합된 ‘풀스택 생태계’ 간 경쟁으로 이동하고 있다. 이 구조를 장악한 쪽이 시장을 주도하고 있다. 그러나 한국은 여전히 단위 기술 중심의 접근에 머물러 있다. 개별 기술 개발 자체에는 성과가 있지만, 그것을 연결해 산업으로 확장하는 전략은 여전히 부족하다. 전시장에서 국산 NPU가 존재감을 확인하지 못한 이유도 여기에 있다.

이와 대비되는 사례가 있다. 중국이다.

미국의 강도 높은 제재로 GPU, 소프트웨어, 칩 설계 도구까지 막힌 상황에서 중국은 오히려 방향을 전환했다. 외부 기술을 대체하는 데 그치지 않고, ‘칩–모델–네트워크–자본’을 하나로 묶는 구조를 만들었다. 엔비디아의 인피니밴드 대신 공개 표준인 이더넷 기반 네트워크를 고도화하고, 화웨이는 자국 AI 반도체를 만들고 여기에 미국과 경쟁하는 최적화된 모델을 앞다퉈 개발하는 방식이다. 핵심은 기술 수준도 있지만 더욱 중요한 것은 ‘연결 전략’이다. 무엇을 만들었느냐보다 그것을 어떻게 묶었느냐가 경쟁력을 좌우하고 있기 때문이다.

반면 한국은 상황이 다르다. 일부 기업들이 경쟁력 있는 AI 반도체를 개발하고 있음에도 불구하고, 실제 인프라 건설 현장에서는 쉽게 채택되지 못한다. 이유는 기존 생태계와의 연결 문제다. 대기업과 공공기관이 AI 인프라를 도입할 때 던지는 질문은 단순하다. “엔비디아와 호환되는가”, “기존 인프라에 바로 붙는가” 이 기준을 통과하지 못하면 선택받기 어렵다. 결국 시장은 ‘엔비디아에 갇힌 생태계’ 중심으로 점점 굳어지는 느낌이다.

이 상태에서는 GPU를 더 많이 확보한다고만 해서 AI 강국이 되는 것은 아니다. 잘못하면 오히려 특정 기업의 독점적 생태계의 의존도만 높아질 뿐이다. ‘AI 3대 강국’이라는 목표 역시 기반이 없는 구호로 남게 된다. 이제는 질문을 바꿔야 한다. ‘어떻게 따라잡을 것인가’가 아니라, ‘어떤 구조를 만들 것인가’를 고민해야 한다.

첫째, 칩 중심 전략을 넘어 시스템 단위 접근이 필요하다. NPU 기업이 단독으로 경쟁하는 구조에서는 생태계 장벽을 넘기 어렵다. 서버, 냉각, 전력 기술과 결합해 ‘완성형 인프라’로 시장에 접근해야 한다. 특히 전력 효율과 발열 관리 같은 현실적인 요소의 차별화도 중요한 경쟁력으로 만들 필요가 있다. 제품뿐만 아니라 구조로 경쟁해야 한다.

둘째, 네트워크 구조의 전환은 꼭 필요하다. 엔비디아의 독점적 인피니밴드에 대한 의존이 지속되는 한 새로운 시도는 제한될 수밖에 없다. 개방형 표준 기반의 이더넷 네트워크를 확대 적용하고 이종 시스템 간 연결 기술을 확보할 수 있는 선택지를 과감히 넓혀야 한다.

셋째, 소프트웨어 생태계에 대한 전략적 투자가 필요하다. CUDA 중심의 구조 환경을 넘어서지 못하면 어떤 하드웨어도 확산되기 어렵다. 컴파일러, 프레임워크, 개발 도구까지 포함한 전방위적 접근을 시스템 적용이 가능하도록 만들어야 한다.

그러나 이러한 해법보다 더 근본적인 문제는 따로 있다. 정책과 실행의 단절이다.

누가 실행할 것인가가 핵심이다. 현재 AI 및 반도체 관련 정책은 분산돼 추진되고 있다. 연구개발은 이뤄지지만 그것이 실제 산업과 어떻게 연결되는지에 대한 설계는 부족하다. 기술은 만들어지지만 쓰일 곳을 제대로 찾지 못하는 상황이 반복된다. 분산된 정책과 사업을 하나로 연결할 수 있는 강력한 정부의 콘트롤타워가 필요하다. 기술 개발부터 산업 적용까지 이어지는 전체 흐름을 설계하고 이를 실행할 수 있는 권한과 책임을 힘 있게 추진해야 한다.

지금 우리에게 필요한 것은 홍보성 선언이 아니라 ‘실행 구조’의 선택이다.

관련기사

엔비디아 중심 생태계를 보완해 우리가 설계하는 생태계 구조로의 전략적 방향 설정이 필요하다. 이를 위해서는 공공 데이터센터와 대규모 R&D 사업에서 국산 AI 반도체 활용을 일정 비율로 의무화 해야 한다. 초기 수요 없이 기술 생태계는 자랄 수 없기 때문이다.

AI 경쟁은 속도의 문제와 함께 디테일한 구조 설계의 문제다. 생태계의 의존을 벗어나고 연결된 전략과 일관된 실행이 뒷받침된다면 ‘AI 3대 강국’은 가능할 수도 있다. 전시장에서 느낀 불편함은 우리가 AI 생태계의 어느 부분에 서있는지를 확인시켜 주었다. 이제는 더 많은 기술보다도 더 명확한 선택이 필요한 상황이다.

*본 칼럼 내용은 본지 편집방향과 다를 수 있습니다.