선거마다 ‘딥페이크’ 홍역...교묘한 영상에 6.3 지방선거 흔들릴라

딥페이크 확산으로 6.3 지방선거에서 합리적인 유권자 판단을 저해할 수 있다는 우려가 커지고 있다. 정부는 전담 수사반과 AI 탐지 모델을 동원해 선거철 허위 정보 총력 대응에 나섰으며, 공직선거법 위반 시 강력 처벌한다. 전문가들은 의심스러운 콘텐츠 확산을 삼가고, 공신력 있는 매체를 통해 사실관계를 재확인할 것을 당부했다.

딥페이크란 AI 기술 딥 러닝(Deep Learning)과 가짜(Fake)의 합성어로, AI 기술로 이미지, 영상 등을 제작하는 기술을 뜻한다. 딥페이크 게시물은 실제와 불가능할 정도로 정교해 유권자의 합리적 판단을 가로막는 결정적 요인으로 꼽힌다.

특히 SNS를 타고 순식간에 퍼져나가는 디지털 환경 특성상 왜곡된 정보가 선거 전 유포될 경우, 사실관계가 바로잡히기 전에 표심이 특정 방향으로 쏠릴 위험이 크다.

선거철마다 딥페이크 기승

실제 SNS 상에선 후보자가 하지도 않은 말을 하는 영상이나, 비도덕적인 행동을 하는 것처럼 꾸민 영상이 퍼지기도 하고, 후보자 자신이 딥페이크를 활용해 거짓 정보를 유포하기도 한다.

6.3 지방 선거 입후보 예정자였던 더불어민주당 한 의원은 지난 2월 페이스북에 ‘자신이 미국 타임지에 지역 발전을 이끈 인물로 선정됐다’는 내용의 딥페이크 영상 게시물을 올렸다. 영상엔 AI로 제작됐다는 표시는 없었고, 내용은 허구였다. 해당 자치구 선거관리위원회는 공직선거법 위반 혐의로 딥페이크 영상을 악용한 의원을 고발했다.

딥페이크 게시물과 같은 허위 정보는 선거철마다 기승을 부리고 있다. 중앙선거관리위원회는 지난해 제21대 대통령 선거에선 딥페이크 영상 등 이용 선거 운동 게시물 1만 513건, 허위 사실 공표 게시물 9522건 등을 적발했으며, 지난 2024년 22대 총선 딥페이크 영상 등 이용 선거 운동 게시물 389건, 허위 사실 공표 게시물 9777건을 찾아냈다.

공직선거법 제82조에 따르면, AI를 이용해 만든 선거 운동용 영상엔 반드시 ‘AI가 생성한 가상 정보’라고 명시해야 한다. 이를 어길 시 최대 1000만원 과태료가 부과된다. 선거일 전 90일부터 선거 당일까진 AI 생성 가상 정보임을 표시했더라도 딥페이크 영상 사용 자체가 엄격히 금지된다. 이 기간 AI로 만든 영상을 유포할 경우 최대 7년 이하 징역 또는 1000만원 이상 벌금이 부과된다.

“진위 판별 힘든 딥페이크 뉴스...시민 ‘디지털 자정능력’이 열쇠”

정부는 다가오는 6.3 지방선거 허위 정보 유포 방지에 총력을 다하고 있다. 방송미디어통신위원회는 AI 악용 등 가짜 뉴스 대응을 위한 범정부 컨트롤타워 역할을 수행한다. 검찰은 선거 전담 수사반을 구성했고, 경찰은 선거사범 수사 전담반을 꾸려 24시간 전담 수사체계를 가동하고 있다.

중앙선관위도 허위사실공표 특별대응팀을 꾸려 허위사실 유포를 집중 모니터링하고 있다. 행정안전부는 국립과학수사연구원과 함께 영상의 전체 흐름을 분석하는 전역 분석과 얼굴 등 특정 부위의 조작 흔적을 판별하는 국소 분석을 동시에 수행하는 방식으로 탐지 정확도를 높인 AI 딥페이크 탐지 모델을 6.3 지방 선거에 적용할 계획이다.

전문가들은 AI 기술 발전으로 가짜뉴스가 정교해짐에 따라, 시민의 자발적인 주의도 필요하다고 입을 모았다. 법적 규제는 사후 처벌인 만큼, 정보를 소비하는 시민 스스로가 허위 정보를 가려내고 무분별한 전파를 자제하는 디지털 시민 의식이 필요하다는 제언이다.

고삼석 동국대 AI학부 석좌교수는 “AI를 통한 콘텐츠 생성과 유통이 용이해지면서 가짜 뉴스가 진위를 가려내기 어려울 정도로 정교해지고 있다”며 “AI 생성 허위 정보가 우리 사회의 불신과 갈등의 씨앗이 되고 있진 않은지 성찰해야 한다”고 말했다. 그러면서 “이용자가 재미있고 새로운 것이라 하더라도 AI 제작 콘텐츠로 의심되면 공유하거나 확산하는 활동은 삼가야 한다”고 당부했다.

推荐订阅源

ZDNet Korea

관련기사