방송미디어통신위원회와 행정안전부, 성평등가족부는 딥페이크 성범죄 대응 기술협력을 위한 업무협약을 체결했다고 25일 밝혔다.

협약은 생성형 AI 기술 발전으로 딥페이크 성범죄가 지능화, 고도화되고, 피해 영상물이 온라인에서 빠르게 확산되는 상황에 대응하기 위해 마련됐다.

이날 정부서울청사에서 열린 협약식엔 고민수 방송미디어통신위원회 상임위원, 김민재 행정안전부 차관, 정구창 성평등가족부 차관 등이 참석해 협약서에 서명하고, 딥페이크 성범죄 피해 예방과 피해자 보호 강화를 위한 기관 간 협력을 약속했다.

정부는 협약을 계기로 현장에 AI 딥페이크 탐지, 분석 모델을 본격 적용하고, 딥페이크 성범죄 공동대응 성과를 지속적으로 점검할 계획이다.

향후 피해영상물이나 의심 콘텐츠가 접수되면 AI 딥페이크 탐지, 분석모델을 활용해 1차 탐지를 실시하고, 그 결과를 콘텐츠 삭제, 차단, 피해자 지원 절차와 연계해 신속히 대응한다.

구체적으로 방미통위는 딥페이크 성범죄 의심 콘텐츠 온라인 유통에 대응하고, 플랫폼 기업과 삭제, 차단 협력체계를 강화한다. 또한 재유포, 변형 콘텐츠에 대응하기 위해 관계 기관 간 정보 공유와 협력을 확대한다.

행안부는 AI 딥페이크 탐지, 분석모델을 고도화하는 등 지속가능한 딥페이크 탐지, 분석 모델을 제공, 공유할 예정이다.

관련기사

성평등부는 기존에 도입, 활용중인 민간 딥페이크 탐지모델과 더불어 AI 탐지, 분석 모델을 병행 활용해 더 세밀한 피해영상물과 의심 컨텐츠 분석, 삭제를 진행하는 한편 피해영상물 처리, 보안 등 업무 기준을 마련, 운용해 피해자 보호와 2차 피해 방지를 위해 노력한다.

아울러 각 기관은 피해영상물 처리 과정에서 개인정보와 피해자 인권 보호를 최우선으로 고려하고, 불필요한 복제, 공유, 보관을 제한하는 등 보안 관리 기준을 강화할 방침이다.