"기업망에 접근하는 모든 행위주체를 신뢰하지 않고 지속적으로 검증한다는 '제로트러스트'에서 말하는 행위주체에 AI 에이전트도 포함해야 합니다. 통제 대상 역시 기존에는 정적인 데이터였다면 이제는 피지컬 리소스, 외부 개체, 외부 툴, 나아가 다른 AI 에이전트까지 확장해야 합니다."

이석준 가천대 스마트보안학과 교수는 24일 한국정보보호학회가 개최한 '2026 공급망보안 워크숍'에서 이같이 강조했다. 그는 이날 '에이전틱 AI 시대의 공급망 보안'을 주제로 발표하며, 에이전틱 AI 시대의 제로트러스트와 AI 자재명세서(AIBOM)의 방향성에 대해 제시했다.

그는 "제로트러스트와 공급망 보안의 중요성이 크게 부각되는 일이 있었다. 바로 2021년 조 바이든 전 미국 대통령의 행정명령이다"라며 "바이든 정부는 당시 행정명령을 통해 제로트러스트와 공급망 보안을 위해 '대담한 변화와 상당한 투자'가 필요하다고 명시했다. 이후 미국 제로트러스트, 공급망 보안은 크게 강화됐다"고 설명했다.

이 교수는 AI가 스스로 판단하고 의사결정을 하는 에이전틱 AI 시대가 다가올수록 외부 공격과 관계 없이 AI의 자체판단으로 사용자에게 피해나 악영향을 줄 가능성이 존재한다고 봤다.

그는 "AI에이전트는 명령을 받은 다음에는 스스로 목표를 세우고 여러 에이전트나 외부 툴을 이용해서 일종의 액션을 취한다"면서 "이 액션을 통제하기 위해서는 제로트러스트를 새롭게 발전시킬 필요가 있다. 제로트러스트에서 말하는 최소 권한의 원칙을 최소 에이전트 원칙으로, 필요한 만큼만 자율성을 부여하고 인간이 AI 에이전트에 행하는 명령 자체가 안전한 것인지, 허용된 범위 이내인지 등을 지속적으로 검증할 수 있어야 한다"고 역설했다.

이 교수는 "공급망 보안 측면에서도 AIBOM이 진화할 필요가 있다"면서 "소프트웨어 자재명세서(SBOM)은 코드나 라이브러리를 중요하게 여겨졌지만, 에이전틱 AI 시대에서는 AI가 무엇을 가지고 학습을 했는지가 중요한 이슈다. 이에 AI 에이전트의 자율적 판단·추론마다 동적 결정이 필요하다"고 밝혔다.

그는 AIBOM이 AI 에이전트 배포 이전에만 보장되는 점을 두고 있으며, 배포 이후 런타임 단계에서는 AIBOM이 보안을 보장하지 않는다고 진단했다. 이 교수는 "제로트러스트 관점에서 AIBOM 역시 런타임 환경에서의 보안 체계를 갖춰야 한다. AI가 실제로 무엇을 어떻게 호출하고 있느닞, 그 상대가 안전한지 지속적인 검증이 필요하다"고 강조했다.

아울러 이 교수는 "AI 에이전트가 다양한 외부 툴과 통신하면서 목표를 수정하는 과정에서 발생하는 문제, 즉 공급망 보안 관점의 AIBOM 발전 방향을 논의해야 할 때"라고 부연했다.

"피지컬 AI 공급망 침해 시 '무기' 된다"

이날 워크숍 행사에서는 한근희 코어시큐리티 연구소장도 '피지컬 AI와 공급망 보안'을 주제로 발표했다. 한 소장은 "공급망 침해는 피지컬AI의 무기화와 직결된다"면서 "피지컬 AI 시대의 공급망 공격은 위협을 더욱 가중시킬 것"이라고 밝혔다.

관련기사

한 소장은 "특히 피지컬 AI는 고도의 하드웨어와 소프트웨어가 결합되는 체계인 만큼, 피지컬 AI 설계 전 과정에 걸쳐 검증 작업이 필요하다"면서 "피지컬AI를 둘렀나 공급망 어느 한 곳이라고 침해당하면 모든 신뢰가 무너진다. 이는 곧 피지컬AI의 오작동을 유발, 사용자의 안전을 해칠 우려가 있다"고 강조했다.

이에 그는 핵심 방어 전략으로 ▲AI의 양면성 인정 ▲국제 표준의 내재화 ▲회복력 중심의 프로세스 혁신 등을 주문했다. 한 소장은 "피지컬AI 개발 전반으로 보안을 전진 배치해야 한다"며 "초기 설계 단계부터 시큐어 바이 디자인·디폴트가 필요하다"고 제언했다.