"'데프콘CTF(DEFCON CTF)' 예선전에 대비해 대회에 처음 참가했음에도 '독도(D0kdo)' 팀원과의 활발한 소통으로 좋은 성적을 낼 수 있었습니다."

김주원 엔키화이트햇 VA센터 RedOps 2팀 팀장은 29일 지디넷코리아와 인터뷰에서 이같은 소감을 남겼다.

김 팀장은 지난 25~27일 열린 국제 해킹 방어대회인 'UMDCTF 2026'에 참가해 일반부 2위, 종합 3위를 달성했다. '보안 올림픽'으로 불리는 세계 최고 해킹 대회 데프콘CTF 본선에 진출하겠다는 목표로 처음 구성한 팀원과 호흡을 맞추기 위해 참가한 CTF 대회에서 상위권을 기록한 것이다. 김 팀장은 이번 UMDCTF 개최 2주 전 엔키화이트핸 연구원들을 중심으로 한 'D0kdo(독도)' 연합팀을 만들어 대회에 출전했다. 김 팀장이 독도 팀의 리더다.

UMDCTF는 미국 메릴린대학교 산하 사이버보안 동아리 UMDCSEC가 주최하는 국제 CTF(Capture The Flag) 해킹 방어대회다. CTF는 보안 취약점을 찾아 해킹에 성공하면 특정 문자열로 구성된 '플래그(Flag)'를 획득하는 방식의 해킹 대회다. 플래그를 많이 찾으면 찾을수록 고득점을 획득하는 구조다.

UMDCTF는 아무도 풀지 못한 고난도 문제를 해결하면 최고 득점을 얻을 수 있으며, 경쟁팀이 해당 문제를 풀어내면 최초 획득한 점수에서 소폭 차감되는 식으로 점수를 쌓을 수 있다. 이에 어려운 문제를 얼마나 빨리 풀어내느냐가 대회의 핵심이다. 이번 대회에는 ▲웹(Web) ▲리버싱(Reversing) ▲포너블(Pwnable) ▲오픈소스 정보 수집(OSINT) ▲미스크(Misc) ▲암호학(Cryptography) 등 총 6개 분야에서 다양한 난이도의 문제가 출제됐다. 전 세계의 화이트해커들이 일반부와 학생부로 나뉘어 치열한 경쟁을 펼쳤다.

독도 팀에는 엔키화이트햇 소속 연구원들을 주축으로, 국내 주요 대학 사이버 보안 동아리 및 엔키화이트햇 외에도 블레인비트, 스틸리언, 티시스 등 기업의 보안 전문가들 53명이 합류했다.

김 팀장은 "UMDCTF는 CTF 대회의 수준을 가늠할 수 있는 '웨이트(Weight) 스코어'가 86점으로, 데프콘CTF 예선과 동일하고, 대회 시간도 48시간으로 똑같기 때문에 데프콘CTF 연습에 최적인 CTF 대회였다"면서 "독도 팀은 엔키화이트햇 내 VA센터와 R&D 센터 연구원들과 각 연구원들의 지인들로 구성된 연합팀으로, 구성원 대부분 보안 실무에 경력이 있는 인원이며, CTF 대회 참가 경력이나 버그바운티(취약점 신고 포상제) 참여 이력이 있는 사람들"이라고 소개했다.

웨이트 스코어는 'CTF타임'에서 해당 CTF 대회가 얼마나 중요한지 점수로 매긴 수치다. 웨이트 스코어가 0~20점의 경우는 비교적 규모가 작은 대회, 30~60은 중견대회, 70~100은 세계적으로 유명한 대회인 경우가 많다. 데프콘 CTF 본선이 웨이트 스코어가 100점이다. CTF타임은 전 세계 해킹 대회의 공식 일정을 집계하는 글로벌 CTF 허브다.

김 팀장은 "독도 팀은 한국인 만으로 구성된 팀이기 때문에 독도를 전 세계적으로 알리고 싶어 팀명을 지었다"며 "애국심이 담긴 팀명"이라고 밝혔다.

"첫 출전에서 유의미한 성과에 만족…문제 풀고 환호했을 때 기억 남아"

독도 팀은 대회 내내 1위를 유지하다가 대회 종료를 앞두고 점수를 역전당해 일반부 1위 자리를 내줬다. 김 팀장 설명에 따르면 2개 문제를 모든 CTF 참가 팀이 풀지 못하고 있었는데, 1위를 차지한 'Team H4C'에서 포너블 문제를 해결하며 1위로 올라선 것으로 전해졌다.

김 팀장은 "1위를 차지한 팀에서 포너블 문제를 해결하면서 독도 팀은 아무도 해결하지 못한 리버싱, 미스크 문제를 풀어 1위를 탈환하고자 했다"면서 "그러나 팀의 모든 인원이 이 문제에 고민해도 생각보다 분석하기 어려운 새로운 방식의 문제여서 결국 풀어내지 못했다. 다만 대회 내내 1위를 유지했다는 점, 처음 구성한 팀으로 처음 출전한 대회에서 유의미한 성과를 거뒀다는 점에서 만족하고 있다"고 밝혔다.

그는 CTF 대회에서 가장 인상깊었던 순간으로 OSINT 문제를 해결했던 순간을 지목했다. 김 팀장은 "모든 팀이 풀지 못했던 문제와 OSINT 1개 문제를 풀지 못하고 있었는데, OSINT 문제는 해외 도로 사진을 보고 위치가 어디인지 찾아내는 문제였다. 사이버 수사 관점에서 사진을 보고 위치 정보를 특정하는 방식의 문제"라며 "이 문제를 해결하는 데 팀원들의 역량을 쏟아부었는데도 오랜 시간이 지날 만큼 찾는 데 어려움이 있었다"고 말했다.

김 팀장은 "그런데 티시스 소속 김희준 팀원이 문제 해결에 결정적인 단서를 공유해왔고, 팀원들 모두 환호했다"며 "많은 시간이 들었던 만큼 가장 기억에 남는다"고 팀원의 공을 치켜세웠다.

김 팀장은 독도 팀 구성원 그대로 데프콘CTF 예선전에서도 성과를 내고 본선에 진출하겠다는 의지를 다졌다. 그는 "데프콘CTF 예선전이 내달 23일부터 25일까지로 예정돼 있는데, 그 사이에 2개 CTF 대회에 참가해 연습량을 늘릴 예정이다. 이 대회에서도 수상하는 것이 목표"라며 "데프콘CTF 예선전도 팀원과의 소통을 강화하고자 엔키화이트햇 사무실에서 외부인도 초대해 진행하는 것을 고려하고 있다"고 밝혔다.

관련기사

김 팀장은 1995년 출생, 2022년 엔키화이트햇에 입사해 5년차 보안 실무자다. 그는 엔키화이트햇에서 침투·모의해킹 프로젝트를 수행하고 있다. 이 외에도 코드게이트, 사이버 공격 방어 대회(CCE) 등 영향력 있는 국제 해킹 대회의 문제를 출제하고 있다.

한편 이성권 엔키화이트햇 대표는 "글로벌 해킹대회에서 우리 회사 연구원들이 주도한 연합팀이 상위권 성적을 거두며 엔키화이트햇의 기술력을 다시 한번 입증해 매우 자랑스럽다"며 "대회에서 확보한 경험과 오펜시브 보안 노하우를 기술 고도화에 적극 반영해 고도화된 사이버 위협으로부터 고객을 보호하는 데 앞장서겠다"고 밝혔다.