지능화된 인공지능(AI)이 일상의 모든 영역을 파고드는 대전환의 시대, 기술의 화려한 도약만큼이나 시급한 과제는 바로 그 이면에 자리한 ‘디지털 신뢰’를 단단히 구축하는 일입니다. 지디넷코리아는 "AI 기술이 서 말이라도 보안으로 꿰어야 보배"라는 슬로건 아래, 약 두 달간 '2026 디지털 트러스트' 연중 기획 연재 및 캠페인을 진행합니다. 해킹·딥페이크·가짜뉴스·랜섬웨어 등 진화하는 보안 위협 속에서 단순한 기술 편익을 넘어 '안전한 AI 생태계'를 조성하기 위한 공론의 장을 마련하고, 기술과 보안이 공존하는 지속 가능한 디지털 미래의 이정표를 제시하고자 합니다. [편집자주]

AI가 스스로 판단하고 실행하는 에이전틱 AI 시대가 본격화되면서 구글과 마이크로소프트(MS) 등 글로벌 빅테크들이 보안 대응 체계를 원점부터 재설계하고 있다. AI가 공격자 도구가 되는 '자율화된 공격' 시대를 맞아 단순 네트워크 방어를 넘어 AI 모델 자체의 무결성을 입증하고 선제 차단하는 '디지털 트러스트' 확보가 기업 경쟁력 핵심으로 부상했다.

AI가 해커 대신하는 시대...위협도 질적 변화

4일 업계에 따르면 최근 사이버 위협은 공격자가 직접 개입하지 않아도 AI가 취약점을 스캐닝하고 맞춤형 피싱 메시지를 생성하는 형태로 급격히 진화하고 있다. 세계경제포럼(WEF) '글로벌 사이버 보안 전망 2026' 보고서에 따르면 전 세계 비즈니스 리더의 94%가 AI를 보안 환경 변화의 가장 강력한 동인으로 지목했다.

실제 보안업계는 작년 하반기 거대언어모델(LLM) 기반 악성코드를 처음 확인하는 등 AI 기술 무기화가 본격화됐다고 보고 있다. 한국인터넷진흥원(KISA)의 '2025년 하반기 사이버 위협 동향 및 2026년 전망' 보고서에 따르면 2025년 국내 침해사고 신고는 2383건으로 전년 대비 26.3% 증가했다. 특히 하반기 분산서비스거부(DDoS·디도스) 공격은 전년 동기 대비 약 2배인 350건으로 급증했고, 랜섬웨어 공격도 40.5% 늘었다.

이에 대응해 빅테크는 AI 모델이 외부 데이터에 오염되거나 공격 지시를 수행하지 못하도록 하는 '인텔리전트 스택' 보호를 최우선 과제로 삼고 있다. MS는 공격자가 AI에 악의적인 지시를 내려 내부 데이터를 탈취하는 시나리오를 집중 분석하고, 모델 설계 단계부터 보안을 내재화하는 '설계에 의한 보안' 체계를 구축했다.

프롬프트 인젝션이나 데이터 중독 공격에 대한 실시간 필터링 시스템도 가동 중이다. 작년 7월엔 MS 365 코파일럿에서 공격자가 이메일·문서에 악성 코드를 심으면 AI가 이를 처리하는 과정에서 사용자 권한으로 임의 명령이 실행되는 취약점(CVE-2025-32711)이 발견되기도 했다.

구글은 '제로 트러스트' 원칙을 AI 환경에 이식해 모든 접근을 상시 검증하는 체계를 고도화하고 있다. 구글과 MS 등은 전문적인 'AI 레드팀'을 상시 운영하며 자사 모델에 대한 모의 해킹을 정례화하고, 발견된 취약점을 모델 학습 단계에 즉각 반영하는 구조를 갖추고 있다.

최영삼 트렌드마이크로 상무는 KISA 보고서에서 "이제 보안은 사후 대응이 아니라 공격자보다 먼저 약점을 찾아내는 능동적 방어가 핵심"이라며 "레드팀을 통한 지속적 검증이 빅테크 보안 표준이 되고 있다"고 평가했다.

EU AI법·SEC 공시 규정...공급망 보안·민관 협력 

올해는 강력한 글로벌 규제 대응이 본격화되는 해다. 유럽연합(EU) AI법이 오는 8월 전면 시행되면 고위험 AI 시스템을 운영하는 기업은 기술 문서화, 인적 개입 보장, 사이버 보안성을 법적으로 입증해야 한다. 위반 시 전 세계 연매출의 최대 7%에 달하는 과징금이 부과될 수 있다.

미국 증권거래위원회(SEC)도 앞서 중대 보안 사고 발생 시 4일 이내 공시를 의무화해 투명성 요구 수위를 높였다. 유럽의 네트워크 및 정보보호 지침(NIS2)은 주요 기관이 중대 사고를 24시간 이내 조기 경보, 72시간 이내 상세 통지하도록 규정한다. 기업 위반 시 최소 1000만 유로(약 173억원) 이상 과징금을 부과할 수 있다.

AI 모델이 수많은 오픈소스 라이브러리와 외부 데이터를 기반으로 구축되면서 공급망 보안 중요성도 커졌다. KISA에 따르면 미국 보안기업 소나타입이 집계한 2025년 2분기 신규 악성 패키지는 전년 동기 대비 188% 급증한 1만 6279개에 달했다. 허깅페이스, 깃허브, NPM(Node Package Manager) 등 개발자 신뢰 플랫폼이 주요 공격 경로로 악용되고 있다.

관련기사

글로벌 기업들은 소프트웨어 자재명세서(SBOM)를 도입해 AI 서비스 구성 요소의 투명성을 확보하고 공급망 전체에 대한 무결성 검증을 제도화하는 추세다. 구글, MS, 시스코 등은 KISA와 협력하는 글로벌 보안 인텔리전스 네트워크에 참여해 전 세계에서 발생하는 최신 위협 정보를 실시간으로 공유하고 있다.

KISA는 "AI 기반 자동화된 침해사고 공격 증가와 정교해진 사이버 위협에 효과적으로 대응하려면 민간과 공공이 영역 구분 없이 유기적으로 사이버 위협을 탐지·공유·대응하는 협력체계를 강화해야 한다"고 말했다.