챗GPT 등장 이후 인공지능(AI)과 신기술, 혁신적인 서비스의 개발을 해하지 않으면서도 이용자의 권리와 개인정보를 보호하려면 어떤 것을 고려해야 할 지에 대한 논의가 최근 활발해진 분위기다. 급변하는 정보사회에서 AI와 개인정보 보호에 있어 우리 사회가 취해야 할 균형 잡힌 자세가 어떤 것인지에 대해 법무법인 태평양 AI팀에서 [AI 컨택]을 통해 2주 마다 다뤄보고자 한다. [편집자주]

최근 AI 기업 앤트로픽이 공개한 '클로드 미토스' 모델이 법조계와 보안업계를 포함한 산업 전반에 큰 화두를 던졌다. 미토스는 사람이 찾지 못한 보안 시스템 취약점을 파악하는 탁월한 성능을 가지고 있다. 기존 AI가 사용자의 지시를 성실히 수행하는 역할을 했다면 미토스는 스스로 시스템 취약점을 찾아낼 뿐만 아니라 이를 공격하는 방법까지 고안해 내는 모델이다.

이러한 기술적 특이점은 우리로 하여금 그동안 구축해 온 규제 체계가 과연 새로운 기술에도 적용가능한지 고민하게 한다. 정보보안 체계가 이 수준의 지능적 위협에 안전한지, 기업이 법령상 보호조치를 준수한 것만으로 면책될 수 있는지가 문제다. 급변하는 기술 환경과 규제 동향에 비춰볼 때 새로운 기술의 등장에 발맞춘 법령 개정이나 제정 등이 필요한 것은 아닌지 살펴볼 필요가 있다. 

현재 시행 중인 AI 기본법은 고위험 영역 AI 개발자에게 안전성 확보의무를 부과한다. 개인정보보호법에선 개인정보처리자에게 안전조치의무를 부과한다. 각 법령은 데이터의 유출·변조 방지를 위한 기술적·관리적 보호와 위험관리체계 구축과 같은 의무를 부과한다.

기관과 기업 등이 미토스와 같은 모델을 활용한다면 이들의 법령 준수 여부보다 AI가 생성하는 공격 코드에 적시에 대응할 수 있는 고도화된 기술적 보호조치를 했는지로 판단하는 것이 타당하다.

진정한 기술 발전은 규제와 진흥 균형에서 나온다. 과도한 규제는 국내 기업의 발목을 잡을 수 있지만 명확하고 합리적인 기준은 기업들이 예측 가능한 환경하에 놓이도록 한다. 기업이 수행할 역할을 정해줌으로써 혁신의 돛이 될 수 있다. 이를 위해 기업은 법령 체크리스트를 채우는 수준을 넘어 내부적인 AI영향평가 등을 투명하게 기록해야 한다.

관련기사

AI 진화는 거스를 수 없는 거대한 흐름이다. 15년 전 스마트폰 등장이 법조계 지형을 근본적으로 바꿨듯 미토스로 대변되는 고성능 AI는 우리 사회 보안과 프라이버시 패러다임을 다시 쓰기를 요구하고 있다. 여전히 가장 중요한 가치는 신뢰다. 기업은 자신의 AI가 안전하다는 것을 데이터와 거버넌스로 증명해야 하고 정부는 그 증명의 기준을 합리적으로 제시하며 혁신을 뒷받침해야 한다. 

미토스가 던진 질문은 단순히 발전된 기술로 인한 위협과 공포가 아니다. 우리가 급변하는 이 거대한 변화를 감당할 만큼 책임 있는 시스템을 구축하고 있느냐는 법치주의적 성찰이다. 이제 속도 경쟁을 넘어 우리 사회가 수용 가능한 발전의 질을 고민해야 할 골든타임이다.

*본 칼럼 내용은 본지 편집방향과 다를 수 있습니다.