[그레이프바인(미국)=남혁우 기자] "범용 인공지능(AI)에 산업적 맥락이 더해져야 비로소 '신뢰할 수 있는 AI'가 됩니다. 시장에는 화려한 모델이 넘쳐나지만, 이를 실제 기업 운영에 적용하는 것은 완전히 다른 차원의 문제입니다."

우도 스글라보(Udo Sglavo) SAS 응용 AI 및 모델링 R&D 부사장은 28일(현지시간) 미국 텍사스주 그레이프바인에서 열린 'SAS 이노베이트 2026' 현장 인터뷰와 미디어 브리핑에서 이같이 말하며 기업 AI 도입 방안을 제시했다.

그는 기업용 AI의 필수 조건으로 거대 모델 자체의 성능보다 ▲산업 맥락 ▲데이터 전처리 ▲설명 가능성 ▲사람의 최종 책임을 꼽았다.

AI 에이전트 시대 "사람은 여전히 운전석에 있어야"

스글라보 부사장은 "생성형 AI가 무에서 유를 창조하는 만능 발명가가 아니다"라며 "생성형 AI는 기존 데이터의 패턴을 분석해 새로운 조합을 만들어내는 기술"이라고 설명했다. 이어 "환각 역시 학습하지 않은 영역에 대해 패턴을 유추해 꾸며내기 때문에 발생한다"고 덧붙였다.

이어 "기업에서 AI의 주된 역할은 놀라운 무언가를 발명하는 것이 아니라 지루하고 복잡한 작업을 대신하는 데 있다"며 "반복 업무를 덜어주면 사람은 더 창의적이고 중요한 판단에 시간을 쓸 수 있다"고 말했다. AI의 효용 가치는 사람의 대체가 아니라 지원에 있다는 설명이다

올해 화두인 '에이전틱 AI'에 대해서는 기대와 경계를 동시에 내비쳤다. 그는 "에이전트는 대형언어모델(LLM)과 전통적인 분석 모델, 메모리가 결합해 사용자가 원하는 결과를 대신 수행하는 결과 지향적 시스템"이라고 설명했다. 

다만 "기업 환경에서는 어떤 일이 잘못됐을 때 누군가는 반드시 책임을 져야 한다"며 "'AI가 한 일'이라고 변명할 수 없는 만큼 기술이 발전해도 사람은 늘 의사결정 운전석(Driver's seat)에 앉아 있어야 한다"고 힘주어 말했다.

이 같은 관점은 AI 코딩 시대 개발자의 역할에 대한 설명으로도 이어졌다. 그는 향후 개발자에게 가장 중요해질 역량으로 비즈니스 문제를 듣고 정확한 소프트웨어 명세로 구조화하는 '스펙 기반(Spec-driven) 개발 역량'을 지목했다. 

AI가 빠른 프로토타입을 짤 수는 있지만, 예기치 못한 예외 상황(Edge case)을 찾아내고 최종 제품을 안정화하는 것은 여전히 대체할 수 없는 인간의 몫이기 때문이다.

스글라보 부사장은 "소프트웨어 업계 전반이 AI를 활용해 코드를 짜고 있지만, 상용 소프트웨어를 공급하는 기업은 자신이 만든 코드에 막중한 책임을 져야 한다"며 "사람의 검토조차 거치지 않은 코드를 고객에게 전달할 수는 없다"고 단언했다.

범용 AI의 한계, '사전 구축형 패키징'과 '설명 가능한 최적화'로 극복

스글라보 부사장은 "오늘날 AI 프로토타입을 만드는 것은 쉽지만, 예산과 데이터 전문가가 부족한 현업에 이를 곧바로 적용할 수는 없다"며 "산업적 맥락이 더해질 때 흥미롭기만 하던 AI가 비로소 신뢰할 수 있는 도구로 바뀐다"고 말했다.

이를 위해 SAS는 다년간 축적한 산업 경험을 현장에서 즉시 활용 가능한 '사전 구축형 모델 및 에이전트' 형태로 패키징해 제공한다. 구체적인 사례로 공급망 분야의 판매 및 운영 계획(SOP)을 들었다.

수요와 공급의 균형을 맞추는 복잡한 업무에서, 사용자가 '수요 15% 감소' 같은 가정을 제시하면 AI가 결과를 시뮬레이션하고 판단 근거까지 함께 제공한다. 그는 이를 두고 "기업이 진정 원하는 것은 맹목적인 자동화가 아니라 '설명 가능한 최적화'"라고 짚었다.

진짜 병목은 모델이 아닌 '데이터'… "빅데이터 맹신은 신화"

스글라보 부사장은 AI 프로젝트의 실질적인 병목 지점으로 모델이 아닌 '전통적인 데이터 관리 문제'를 지목했다. 기업 내 방대한 데이터를 비즈니스용, 기밀용 등으로 분류·라벨링하고, 시스템 구조에 맞춰 스키마를 매핑하는 지루한 IT 작업이 선행되지 않으면 어떤 강력한 AI도 무용지물이라는 것이다.

과거 데이터에 대한 무비판적인 맹신도 경계했다. 스글라보 부사장은 "빅데이터 안에 모든 정답이 숨어 있다는 믿음은 신화에 불과하다"며 "과거 데이터는 과거의 사회적 패턴을 담고 있을 뿐 변화하는 현재를 온전히 반영하지 못한다"고 지적했다. 

따라서 데이터를 맹신하지 않고 그 이면의 '의미(Semantic)'를 파악해 "우리는 더 이상 이런 방식으로 일하지 않는다"고 인간 스스로 판단하고 교정할 수 있어야 한다고 역설했다.

관련기사

현실 데이터의 부족과 편향 문제를 극복하기 위한 대안으로는 '디지털 트윈'과 '합성 데이터'를 제시했다. 제조업 안전 관리처럼 모든 사고 위험 상황을 실제 영상으로 확보하기 어려운 경우, 가상 환경에서 조건(장비 색상, 조명, 작업자 특성 등)을 바꿔가며 합성 데이터를 대량으로 생성해 AI 모델의 빈틈을 메우는 방식이다.

우도 스글라보 부사장은 "엔터프라이즈 AI의 승부는 모델의 화려함이 아닌 산업별 구조 이해와 데이터 통제력에 달려 있다"며 "SAS는 지난 50년간 데이터를 다루며 쌓아온 경험을 바탕으로 기업이 가장 신뢰할 수 있는 실무적 AI 생태계를 지원할 것"이라고 밝혔다.