앤트로픽의 차세대 인공지능(AI) 모델 '미토스'가 시범 공개 한 달 만에 전 세계 주요 소프트웨어에서 1만 개가 넘는 보안 취약점을 찾아내며 고성능 AI가 가져올 사이버 보안 위협의 실체를 입증했다. 한국인터넷진흥원(KISA)은 이에 대응해 에이전틱 AI에 특화된 보안 안내서 고도화와 AI 제로트러스트 성숙도 모델을 연내 발표할 예정이다.

이재형 KISA AI신기술대응팀 팀장은 26일 서울 서초구 드림플러스 강남에서 열린 '2026 AI 세이프티 컴패스(2026 ASC)'에서 미토스 발 보안 위협 현황과 KISA 대응 방향을 공유하며 "보안을 고려하지 않은 AI 에이전트는 자동화된 리스크 생성기가 될 수 있다"고 밝혔다.

이 팀장은 앤트로픽이 지난 22일(현지시간) 발표한 프로젝트 글래스윙 1차 결과를 소개하며 위협의 규모를 구체적으로 짚었다. 글로벌 빅테크 및 보안 파트너사 50여 곳이 참여 중인 프로젝트 글래스윙은 미토스의 취약점 탐색 역량을 파트너사와 오픈소스 생태계에 먼저 적용해 선제 패치를 유도하는 폐쇄형 보안 공조 체계다.

프로젝트 글래스윙 1차 결과에 따르면 파트너사에서 1만여 개, 오픈소스에서 6200여 개의 고위험 취약점이 발견됐다. 앤트로픽은 90일 유예 기간 후 프로젝트 결과를 전면 공개할 예정이다. 이 팀장은 "유예 기간이 끝나기 전까지 중소기업의 대응 여력이 관건"이라며 "패치 공개 자체가 역으로 취약점 분석에 악용될 수 있어 각국 정부와 보안 기관이 대응 속도를 높이고 있다"고 말했다.

에이전틱 AI 중심의 AI 보안 안내서 고도화 등 자체 대응 로드맵도 공개했다. KISA는 운영기술(OT) 환경 대상 제로트러스트 안내서를 발간했으며, AI와 제로트러스트를 결합한 'AI 제로트러스트 성숙도 모델' 연구 결과도 연내 발표할 예정이다. 이 팀장은 직원이 사내 승인 없이 개인 에이전트를 운용하는 '섀도 에이전트'를 기업 보안의 새 위협 유형으로 지목했다. 기존 시스템만으로 AI 기반 공격을 탐지하기 어렵다는 판단하에 에이전트 보안관제센터(SOC)로의 전환이 가속되고 있다고도 부연했다.

업계에서는 에이전틱 AI 인증 체계를 선제적으로 구축하는 나라가 글로벌 표준을 주도하게 될 것이라는 진단도 나왔다. 김동환 포티투마루 대표는 "AI 에이전트 인증 체계를 명확히 구축한 나라는 아직 없고 미국과 유럽도 방향이 다르다"며 "먼저 만드는 쪽이 글로벌 벤치마크가 된다"고 말했다. 이어 "국내 AI 기업이 북미에 진출하려면 그 기준에 맞게 별도 시험을 받아야 하는 구조"라며 국제 상호 인정 체계 마련을 서둘러야 한다고 촉구했다.

이 과정에서 기업들이 신뢰성·안전성 기준을 준수하는 데 활용할 수 있는 공통 툴이 없다는 점도 지적됐다. 포티투마루는 개발팀 내부에 별도 품질관리(QC) 조직을 두고 솔루션 배포 전 단계에 외부 전문가 검증을 의무화하는 한편, 자체 AI안전위원회를 발족해 정기 점검을 하고 있다.

관련기사

김 대표는 "신뢰성과 안전성, 윤리는 문제가 터졌을 때 심각한 것이지 평소에는 급하지 않다 보니 경영 우선순위에서 밀릴 수밖에 없는 구조"라며 "시스템을 갖추는 것 못지않게 중요한 건 경영진과 리더가 의지를 갖고 내부에서 실제로 작동하게 만드는 것"이라고 강조했다.

국제인공지능윤리협회(IAAE)가 주최한 이날 행사는 올해 3회차를 맞았으며, 과학기술정보통신부 산하 한국전자통신연구원(ETRI) 부설 조직 AI안전연구소와 테크 스타트업 전문 홍보(PR) 에이전시 팀쿠키가 후원했다. 전창배 IAAE 이사장은 개회사에서 "AI 에이전트의 진정한 가치는 에이전트가 얼마나 똑똑한가가 아니라 얼마나 안전하고 신뢰할 수 있는 에이전트인가에서 판가름 날 것"이라고 말했다.