정부가 오픈AI, 구글딥마인드에 이어 앤트로픽과 인공지능(AI) 안전·보안 협력 체계를 확대했다.

과학기술정보통신부는 앤트로픽 손잡고 AI 안전성 확보·사이버보안 분야 협력을 위한 업무협약을 체결했다고 18일 밝혔다. 양측은 AI 안전성과 보안 분야에서 공동 협력 체계를 구축하기로 했다.

이번 협약에 따라 양측은 AI가 사이버 공격과 방어에 미치는 영향을 분석하고 한국어 환경에서 AI 모델 안전성과 오남용 위험을 평가할 예정이다. 자율형 AI 에이전트에 대한 레드팀 평가 등 첨단 AI 안전성 확보를 위한 협력도 추진한다.

AI 안전 분야에서는 인공지능안전연구소와 앤트로픽 간 협력이 이뤄진다. 양측은 AI 모델과 자율형 AI 에이전트 안전성 평가를 비롯한 안전 검증 체계를 함께 마련할 계획이다.

사이버보안 분야에서는 금융권 등을 포함한 AI 취약점 발굴과 사이버 위협 대응 협력을 추진한다. 관련 전문 지식과 위협 정보도 신속히 공유하기로 했다.

이번 협력은 지난 2월 인도 AI 영향 정상회의에서 배경훈 부총리와 다리오 아모데이 앤트로픽 최고경영자(CEO)가 논의한 협력 방안의 후속 조치로 추진됐다. 양측은 당시 AI 안전과 기술 협력 확대 방안을 논의한 바 있다.

협약 체결과 함께 앤트로픽은 지난 17일 한국 사무소를 공식 개소했다. 지사장으론 전 스노우플레이크코리아 최기영 대표가 맡기로 했다. 한국은 일본, 인도, 호주에 이어 아시아태평양 지역에서 네 번째 앤트로픽 거점이 됐다. 

정부는 이번 협약으로 글로벌 AI 기업과 협력 네트워크를 한층 확대하게 됐다. AI 인프라 분야의 엔비디아와 프론티어 모델 기업인 오픈AI, 연구 역량을 보유한 구글 딥마인드에 이어 AI 안전성을 강조하는 앤트로픽까지 협력 체계에 포함하게 됐다.

관련기사

최근 AI 산업이 자율형 AI 에이전트 시대로 접어들면서 안전성과 보안은 핵심 경쟁력으로 떠오르고 있다. 정부는 글로벌 선도 기업들과 협력을 통해 한국형 AI 안전성 검증 체계를 고도화하고 국제 논의에도 적극 참여한다는 방침이다.

이도규 과기정통부 정보통신정책실장은 "글로벌 AI 시장에서 향후 2~3년은 패권을 가를 거대한 승부처이자 골든타임"이라며 "앤트로픽과의 이번 협력은 안전과 보안이라는 단단한 기반 위에서 한국의 AI 혁신의 지평을 넓히고 역동성을 더하는 강력한 추동력이 될 것"이라고 밝혔다.