"소매치기가 언제 없어졌는지를 생각해 보십시오. 소매치기 범죄는 지금도 가능합니다. 그런데 요즘은 소매치기를 해도 얻는 이익이 없습니다. 주로 카드를 사용하고 있고, 카드는 추적이 쉽기 때문에 범죄가 발각될 위험이 크기 때문입니다. 해킹도 똑같습니다. 데이터를 탈취한다고 해도 탈취 데이터가 암호화돼 돈을 벌 수 없는 구조가 되면 해킹으로 얻는 이익이 줄어들고 해킹 범죄는 줄어들 것입니다. 해킹에 따른 인센티브를 줄여야 합니다."

동형암호 전문 업 크립토랩 대표를 맡고 있는 천정희 서울대 수리과학부 교수는 최근 서울 양재역 인근에서 이뤄진 보안 담당 기자들의 스터디에 강사로 초청받아 이 같이 강조했다. 그는 이날 '동형암호' 기술을 통해 데이터 처리 전주기 과정에서 암호화하고, 데이터가 탈취되더라도 피해를 줄일 수 있도록 보안 패러다임을 전환해야 한다고 밝혔다.

동형암호 기술은 연산 과정에서도 암호화 상태를 유지할 수 있는 기술로, 복호화 없이 연산을 수행할 수 있기 때문에 차세대 암호 기술로 꼽힌다. 과거 동형암호 기술은 데이터 연산 속도가 매우 느려 상용화가 어려웠다. 천 교수는 크립토랩의 혜안(HEaaN) 라이브러리 기반 솔루션이 4세대(CKKS), 4.5세대로 발전하면서 동형암호 기술이 100배 이상 빨라져 속도의 한계를 극복했다고 설명했다.

이에 데이터가 암호화된 상태에서 처리가 가능해졌고, 해커가 암호화된 데이터를 복호화할 수 없기 때문에 탈취하더라도 사실상 피해가 없다는 것이 천 교수의 주장이다.

그는 "해커가 침투해도 무슨 데이터인지 아무것도 알 수가 없는 상태다. 해킹의 어려움을 강화시키고, 해킹에 성공하더라도 얻는 이익이 없는데 어느 누가 해킹을 시도하려고 하겠는가"라며 "다만 아직 사회적 인식이 동형암호의 필요성을 뒷받침하지 못하고 있다. 이미 만들어진 시스템을 변경하는 것은 많은 비용과 시간이 투입되는데 조직이 쉽게 결단내리기 어려워하는 현실"이라고 말했다.

해킹은 일반적으로 서버나 시스템에 취약점을 타고 침투해 데이터를 빼내기 위해 권한 상승을 획득하는 절차로 이어진다. 이어 최고 관리자(root) 권한을 획득한 해커는 데이터를 복호화할 수 있는 인증키 역시 탈취할 수 있으며, 사실상 해커는 시스템을 장악할 수 있고, 데이터를 외부로 빼가는 식이다.

이와 관련 천 교수는 "동형암호가 적용된 데이터는 어떤 것이 인증키인지 인식할 수 없다. 모든 데이터가 암호화된 형식으로 저장되는데 어떤 것이 인증키인지 식별 자체가 불가능하다"며 "심지어 복호화키는 외부 하드웨어에 별도로 저장하기 때문에 복호화가 불가능하다"고 설명했다.

다만 천 교수는 동형암호가 '무적'은 아니라고 설명했다. 공격 표면 관리(ASM), 네트워크 보안, 관제 등 기존 보안 영역들과 더불어 내부 데이터까지 암호화하는 '다중보안'이 필요하다는 것이다. 천 교수는 "멀티레이어 보안은 필수"라며 "많은 조직들이 해킹 공격을 방어하기 위해 공격자 관점에서 어떻게 침투하는지를 파악하고, 이를 방어해야 한다고 생각한다. 그러나 당연한 사실이지만, 공격을 막기 위해서는 어떻게 더 튼튼한 방어 기술을 구축할지를 고민해야 한다. 이에 암호화뿐 아니라 다양한 침입 방지 기술이 적용돼야 할 것"이라고 강조했다.

앤트로픽의 인공지능(AI) 모델 '미토스(Mythos)'가 취약점을 찾아내고 이를 토대로 공격 시나리오까지 작성해주는 것으로 알려지면서 AI발 공격 위협이 고도화되고 있는 현실이다. 천 교수는 동형암호 알고리즘을 구현하면 이같은 AI발 공격에도 효과적인 대안이 될 수 있다고 제언했다.

관련기사

그는 "AI 모델 자체에 대한 공격은 AI 모델의 메모리를 조작해 AI 에이전트가 악의적인 명령을 수행하도록 하는 방식으로 고도화되고 있다. AI 모델을 악용한 공격에서도 취약점을 찾아 침투해 데이터를 빼가는 방식이다"라며 "두 가지 방식 모두 연산 단계 자체를 암호화하는 동형암호 알고리즘을 적용하면 위협을 구조적으로 차단하는 것이 가능하다"고 밝혔다.

천정희 교수는 AI 특화 CKKS 원천기술 개발 및 글로벌 상용화를 선도하고 있는 인물이다. 서울대에서 후학을 양성하며 크립토랩을 이끌고 있으며, 국제 저명 학술대회 조정위원으로도 활동하고 있다.