"인공지능(AI)으로 기업의 핵심성과지표(KPI)를 개선하는 건 전혀 다른 차원의 얘기입니다."

임정근 BHSN 대표는 17일 서울 강남구 그랜드 인터컨티넨탈 서울 파르나스에서 열린 '컨버전스 인사이트 서밋(CIS) 2026'에서 "대형언어모델(LLM) 성능에 의존하기 때문에 AI를 기술검증(PoC)하면 대체로 좋은 결과가 나온다"며 "문서 요약·생성 등은 LLM으로 돌리면 다 잘 나오지만, 실제 업무 프로세스를 변경하고 KPI가 달라지는 건 완전히 다른 문제"라고 강조했다.

BHSN은 법률에 특화한 AI를 개발하는 국내 리걸테크 스타트업이다. 계약 통합 관리, 법률 자문 등을 AI 자동화 서비스로 제공한다.

임 대표는 발표를 통해 현재 대다수 기업이 진행하는 AI PoC의 실효성에 의문을 던졌다. LLM 자체의 성능이 원체 뛰어나다 보니 PoC 단계에서는 대체로 만족스러운 결과가 도출되지만, 이것이 기업의 실질적인 생산성 증대로 이어지지는 못하고 있다는 진단이다. 

임 대표는 "현재 대부분의 PoC는 실질적인 효과를 내기보다 보고용에 그치는 경우가 많다"며 "파워포인트(PPT)를 작성하는 수준의 업무는 개인의 작업 시간을 일부 단축하는 선에서 끝날 뿐, 회사 전체의 퍼포먼스 향상으로 연결되지 않는다"고 꼬집었다.

그는 AI 도입이 기업의 KPI 개선으로 이어지지 못하는 핵심 원인으로 데이터 분산, 판단 기준의 부재, 시스템 단절 등 세 가지를 지목했다.

가장 큰 걸림돌은 회사 내부 데이터가 여러 곳에 파편화되어 있다는 점이다. 계약 문서, 가이드라인, 과거 이력 등 정제되어야 할 핵심 데이터들이 파일 서버, 개인 드라이브, 이메일 등에 분산되어 있어 AI가 제대로 학습하고 활용하기 어려운 구조라는 설명이다.

판단 기준이 명확화되지 않고 각 개인의 머릿속에만 머물러 있는 점도 문제로 꼽혔다. 임 대표는 "AI가 내놓은 결과를 수동적으로 받아들이기만 한다면 똑같은 AI를 미국에서 구동하는 것과 한국에서 구동하는 것에 아무런 차이가 없다"고 단언했다. 이어 "기업마다 좋은 결정에 대한 기준치가 각기 다른 만큼, AI를 접목하기 전에 우리 회사만의 판단 기준을 먼저 정립하는 과정이 필수적"이라고 강조했다.

기존 업무 시스템 간의 단절 역시 업무 자동화를 가로막는 요소다. 현재 많은 기업이 문서 작성은 워드나 PDF로 진행하고, 기안서는 결재 시스템에 별도로 작성하며, 그 근거는 이메일에 묻힌다. 이로 인해 계약 이력을 조회하려면 이메일, 폴더, 전사적자원관리(ERP) 시스템을 일일이 찾아 비교해야 해 자동화가 어렵다.

법률 분야부터 해결…전 영역으로 확산

BHSN은 이러한 문제를 해결하기 위해 데이터와 판단 기준, 시스템을 하나로 통합한 AI 법률 서비스를 선보이고 있다. BHSN의 데이터 서비스는 계약서와 사규, 과거 이력을 한 곳에 통합 관리하며, 신규 계약서를 검토할 때 유사한 과거 계약 사례를 AI가 찾아 제시한다. 아울러 문서화된 규칙과 과거의 예외 승인 기록을 참고하고 상대방 정보까지 취합해 해당 기업에 적합한 판단 기준을 AI가 직접 도출한다.

특히 기존 시스템과 AI를 유기적으로 연결해 AI가 수정한 초안을 담당자가 즉시 검토하고 수정할 수 있는 환경을 구축했다. 임 대표는 "승인 절차가 결재 시스템에 자동으로 연동되는 것은 물론, 체결 결과와 그 근거가 감사 로그에 자동 기록되도록 시스템을 고도화했다"고 설명했다.

관련기사

임 대표는 특정 영역에서 AI 전환을 성공적으로 완수하면 비즈니스 전반으로 확장이 수월해진다는 점을 강조했다.

임 대표는 "매번 경영상의 문제가 발생할 때마다 막대한 비용을 들여 외부 컨설팅을 받을 것이 아니라, 우리 회사가 어떤 회사인지, 과거에 어떤 문제가 있었고 이를 어떻게 개선할 것인지 파악하는 것이 선행돼야 한다"며 "이러한 내부 파악이 선행되면 고객·품질·수량·거래 관리 등 기업 경영의 모든 요소가 다 연결돼 AI의 연속적인 도입이 가능해질 것"이라고 제언했다.