한국국방연구원(KIDA) 국방인공지능정책연구실과 과실연 AI미래포럼이 주최한 '5차 국방인공지능혁신네트워크 세미나'가 50여명의 관계자들이 참석한 가운데 13일 고려대학교 미래융합기술관 601호에서 열렸다. 발제는 김승주 고려대 정보보호대학원 교수가 했다.

김 교수는 세계적으로 뜨거운 '미토스(Mytos) 쇼크'에 대해 "한국이 구조적으로 더 취약하다"며 "기술이 문제가 아니다. 기술은 우리도 가질 수 있다. 문제는 이런 기술을 활용할 수 있는 생태계가, 문화가 한국이 더 취약하다"면서 그 이유를 설명했다.

김 교수에 따르면 '미토스'는 내부 코드명 카피바라(Capybara)였고, 올 3월 설정 오류로 그 존재가 먼저 노출됐고, 4월 8일 '미토스 프리뷰(미리복)'라는 이름으로 공식 출시됐다. 미토스를 제작한 미국 AI기업 앤트로픽은 이를 "지식과 아이디어를 연결하는 깊은 연결 조직"이라는 의미로 설명했다. 

앤트로픽은 미토스가 범용AI임에도 보안 취약점 탐지와 공격 능력이 가공스러워 일반에 공개하지 않고 대신 '글래스윙(Glasswing)'이라는 프로젝트로 구글, MS, AWS 등 미국 빅테크와 기관 등 약 50여곳에만 이를 제공했다. 우리 정부도 이 프로젝트에 참여하기 위해 앤트로픽과 접촉중이다.

김 교수는 AI가 정확히 자동화 기술이라면서 "취약점을 찾는 자동화 기술은 이미 미국에서 2005년에 나왔다. 마이크로소프트가 굉장히 발빠르게 움직였고, 2007년에 이미 자동화 도구를 이용해서 취약점들을 찾는 일들을 했다"고 들려줬다.

그는 한국이 '미토스 쇼크'에 구조적으로 취약한 이유로 시간의 비대칭성을 들었다. 미토스 같은 강력한 AI 등장으로 해킹 도구 제작 시간이 기존 2~3년에서 20시간으로 대폭 단축됐음에도 우리나라는 이에 대응하는 절차가 진단->보고->승인->예산편성->장비 구매 및 대응 순으로 이어지면서 방어시간이 너무 길다는 것이다. 전문가에 따라 해킹 도구 제작시간이 10시간이라고 말하는 사람도 있다.

김 교수는 외국도 시간의 비대칭성이 존재하지만 우리 같지는 않다면서 "신속한 의사결정을 어렵게 하는 중앙집중형 보안 거버넌스의 구조적 리스크와 불투명성이 문제"라고 짚었다. 이어 "정부와 공공 분야가 가장 경직돼 있다. 다음이 금융이다"면서 "(통신 등) 민간 분야도 경직돼 있기는 마찬가지"라고 꼬집었다.

 금융권의 경직된 시스템과 관련, 그는 "데이터베이스 관련 서버 하나 늘리는데도 금융위한테 물어봐야 하는 현실"이라고 전했다. 작년 대규모 해킹 사건이 발생하자 우리 정부는 CISO의 권한을 확대하는 한편 CEO 책임을 강화했다. 이사회 보고도 의무적으로 하게 했다. 김 교수는 이사회 보고 의무로 오히려 더 안전한 보안체계를 갖추는 것이 더 길어질 수 있다며 우려했다.

국가정보원법의 문제점도 지적했다. 즉, 국가정보원법 제 4조는 직무에 관한 것으로, 북한과 국제범죄, 테러, 안보침해, 국가배후 해킹 조직 등 사이버안보에 관한 정보를 수집, 작성, 배포할 수 있다고 명기돼 있다. 김 교수는 이 조항때문에 각 기관들의 자율적인 보안 방어 능력이 떨어진다면서 "특히 방첩사나 국정원이 하는 내용들이 투명하게 문서화된 게 거의 없다는 게 문제"라고 목소리를 높였다. 

이어 정보기관 특성상 정보를 공유하고 투명히 운영하는게 한계가 있다며 미국 CISA(Cybersecurity and Infrastructure Security Agency)를 예로들며 우리도 정보당국이 정보를 투명히 더 공개해야 한다고 제안했다. CISA는 미국 연방정부의 사이버보안 및 핵심 인프라 보호를 담당하는 기관이다. 2018년 설립됐고, 미국의 전력망과 통신망, 금융 시스템, 병원, 공항 같은 핵심 인프라를 사이버 공격과 물리적 위협으로부터 보호하는 것이 핵심 임무다.

김 교수는 정보기관의 사찰 논란과 구형을 뜻하는 레거시(Legacy) 시스템과 이에 따른 복잡성도 '미토스 쇼크'에서 우리나라가 구조적으로 더 취약한 이유라고 진단했다. 레거시 시스템과 관련해 그는 "많은 기업들이 자신들의 IT 자산을 제대로 파악하고 있지 않다. 숨어있는 IT, 이걸 쉐도우 IT라 부른다"면서 "모 통신사 사고가 났을 때도 마찬가지다. 그들의 말과 달리 취약점이 많았다"고 들려줬다.

김 교수는 이에 대한 대응책으로 ▲글로벌 연대 합류 및 기술개발 ▲제로트러스트&AI 도입을 위한 망 분리 개선 ▲보안거버넌스 혁신을 통한 자유권 강화 등 세 가지를 제시했다. 

글로벌 연대 합류 및 기술개발과 관련해서는 "글래스윙 프로젝트 참여를 위한 외교적 노력이 시급하다. 그런데 요원할 것 같다"면서 "아울러 K-미토스 확보를 병행해야 한다. 하지만 독자파운데이션모델 AI에 해킹 기술을 얹히는 건 반대다. 이렇게 했다간 공인인증서만 양산하고 갈라파고스가 될 뿐"이라고 짚었다. 이어 "정부와 공공 보유 IT자원 전수조사와 공격표면관리도 필요하다"고 덧붙였다.

데이터 분류에 대한 우리나라의 경직성도 지적했다. 자산(asset) 단위로 해야 하는데 파일(file) 단위로 한다면서 "외국에는 있는데 우리나라에는 없는 시장이 있다. 데이터 클래시피케이션 마켓(Data Classification Market)이다.  우리는 데이터 분류를 할 필요가 없어 이런 시장이 생기지 않았다"고 말했다. 또 우리나라는 제로트러스트가 제대로 안된다면서 "왜 안되냐? 마이크로 세그멘테이션과 데이터 등록이 안되기 때문"이라면서 "우리나라 제로트러스트 솔루션 파는 업체들이  가지고 오는 건 사용자 인증 솔루션"이라며 아쉬워했다.

관련기사

한편 김 교수는 위협모델링(Threat Modeling) 중요성도 짚었다. 이는 복잡한 실제 정보서비스 구조에서 핵심요소만 단순화, 보안위협을 파악하는 기업이다.

김 교수 발제 후 이어진 토론에는 김 교수와 이석윤 KAIST 초빙교수, 김은영 LIG 테크애자일랩장, 김은경 국방부 국방데이터정책과장, 이용화 티오리 연구소장이 패널로 참여, 미토스 이후 국방AI와 보안을 논의했다.