"피지컬 인공지능(AI)는 로봇, 자율이동체 등 물리 세계와 연계된 AI 시스템으로 확장되면서 새로운 보안 위협과 안전성 문제를 야기합니다. 사이버 시큐리티 AI라는 AI 모델을 활용해서 로봇 제품명만 제공했음에도 불구하고, 상업용 로봇 3종에서 38개의 취약점이 탐지됐습니다. 인식, 계획, 판단, 실행, 제어 피지컬 AI 전 계층에서 안전과 보안이 담보돼야 합니다."

김수형 한국전자통신연구원(ETRI) 인공지능데이터보안연구실장은 '피지컬 AI 보안 기술 연구동향 및 주요 이슈'를 주제로 발표하며 이같이 강조했다. 이날 김 실장은 한국정보보호학회가 개최한 '제3회 자동차 및 무인이동체 보안 워크숍'에서 세션 발표를 했다. 피지컬 AI 환경에서의 주요 보안 위협을 살펴보고, 센서 신뢰성, 런타임 안전성 등 관련 보안 기술의 연구 동향과 이슈 등을 중점적으로 다뤘다.

김 실장은 "피지컬 AI 보안 관련 연구가 증가하는 추세다. 피지컬 AI 보안 관련 논문 개수는 2023년 대비 올해 5월 기준 3.5배 늘어난 것으로 나타났다"며 "그러나 인증없는 연결, 통신 구간에서 크리덴셜(계정정보) 노출, 인증정보 하드코딩, 프라이버시 데이터 수집 등 현재의 로봇은 보안에 대한 고려가 미흡하다"고 진단했다.

그는 "피지컬 AI 보안은 AI가 실제 물리 세계를 인식·판단·행동하는 과정에서 발생할 수 있는 사이버 보안 위협과 물리적 안전 위험을 통합적으로 예방·탐지·대응하는 기술을 말한다"며 "다양한 피지컬 AI 시스템이 실제 환경에서 안전하고 신뢰성 있게 운영되기 위해서는 피지컬 AI 전주기에 대한 사이버보안 관리 체계가 필요하다"고 강조했다.

이어 "그러나 피지컬 AI 보안 관련 논의는 산업용 로봇·전자기기 안전 표준, 미국국립표준연구소(NIST) AI 위험 관리 프레임워크(RMF) 등 부분적인 요구만 정의되는 현실"이라고 밝혔다.

관련기사

김 실장은 "하지만 피지컬 AI 보안을 구현하기에 근본적이고도 현실적인 어려움이 산재해 있다. 피지컬 AI는 물리적 세계와 연결되고, 모든 필드 상황을 사전에 학습하는 것에 한계가 있기 때문에 비정형 환경과 검증의 어려움도 있다"며 "피지컬 AI 기기 역시 형태, 센터, 미들웨어, 용도 운영 환경 등이 다양하다. 또 보안 처리가 지연될 경우 제어에 지연이 발생할 수 있으며, 다중 업체와 협력 관계로 만들어진 피지컬 AI의 경우에는 권한과 신뢰 관리 체계의 복잡성도 증대한다는 현실적인 문제가 있다"고 역설했다.

그는 "근본적이고 현실적인 어려움이 산재해 있지만 결국 피지컬AI 보안은 해결해야 할 문제"라며 "계층 간 위험 정보를 기반으로 대응 전략을 자율적으로 계획·실행하는 안전·보안 제어 기술이 필요하다. 피지컬AI 시스템의 안전성과 신뢰성을 담보하는 보안기술은 선택이 아닌 생존의 필수 요소"라고 말했다.