인공지능 코딩 도구가 소프트웨어 개발의 기본값으로 자리 잡았지만, 이에 대한 관리 체계는 한참 뒤처져 있다는 조사가 나왔다. 빌드패스트위드AI(Build Fast with AI)가 전한 블랙덕(Black Duck) 보안 조사에 따르면 개발자의 97%가 인공지능 코딩 도구를 사용하지만, 인공지능이 생성한 코드에 대한 완전한 거버넌스(governance) 체계를 갖춘 조직은 3분의 1에 불과했다.

도구별 채택률을 보면 깃허브 코파일럿(GitHub Copilot)이 83%로 가장 높았고, 출시된 지 1년이 채 되지 않은 클로드 코드(Claude Code)가 63%에 이르렀다. 짧은 기간에 이 정도 채택률을 기록한 것은 안전 장치와 함께 코딩 도구를 구축해 온 앤트로픽(Anthropic)의 기업 전략이 통했음을 보여준다는 평가다. 규제 산업이나 보안에 민감한 엔지니어링 팀에서 클로드 코드가 신뢰받는 선택지가 됐다는 것이다.

문제는 거버넌스 공백이다. 인공지능이 생성한 코드가 검토 정책, 지식재산권(IP) 소유 체계, 보안 검사 절차를 제대로 갖추지 못한 조직에서도 운영 시스템에 그대로 병합되고 있다는 점이다. 빌드패스트위드AI에 따르면 코드 생성 속도와 편의는 빠르게 늘었지만, 그 코드가 안전하고 합법적으로 쓰이는지 점검하는 체계는 그 속도를 따라가지 못하고 있다.

거버넌스 공백이 위험한 이유는 인공지능이 생성한 코드가 사람이 작성한 코드와 똑같이 운영 시스템에서 작동하기 때문이다. 검증되지 않은 외부 라이브러리를 끌어오거나, 미묘한 보안 결함을 포함하거나, 라이선스가 불분명한 코드를 그대로 병합할 경우 그 책임 소재가 모호해진다. 특히 금융·의료처럼 규제가 엄격한 산업에서는 인공지능 코드의 출처와 검토 이력을 입증하지 못하면 규제 위반으로 이어질 수 있다.

97%라는 수치는 인공지능 코딩 도구가 더 이상 차별화 요소가 아니라 소프트웨어 개발의 필수 조건이 됐음을 의미한다. 동시에 거버넌스를 갖춘 조직이 3분의 1에 그친다는 사실은, 생산성 향상의 이면에 보안·법적 위험이 누적되고 있음을 경고한다.

기업과 개발팀에는 인공지능 코드 도입 속도에 걸맞은 검토·보안 정책 수립이 과제로 떠오른다. 코드 생성 단계에서부터 보안 검사를 자동화하고, 인공지능이 만든 코드의 출처와 수정 이력을 기록하며, 지식재산권 귀속을 명확히 하는 체계가 필요하다. 도구 도입은 빠르게 늘었지만 그것을 안전하게 다루는 조직 역량은 아직 따라가지 못하고 있다는 점에서, 인공지능 코딩의 다음 경쟁은 속도가 아니라 신뢰가 될 가능성이 크다.

자세한 내용은 빌드패스트위드AI(Build Fast with AI)에서 확인할 수 있다.

이미지 출처: 이디오그램 생성

관련기사

■ 이 기사는 AI 전문 매체 ‘AI 매터스’와 제휴를 통해 제공됩니다. 기사는 클로드 3.5 소네트와 챗GPT를 활용해 작성되었습니다. (☞ 기사 원문 바로가기)