틱톡이 신규 이용자에게 추천하는 영상 10개 가운데 약 6개가 이른바 'AI 슬롭(AI slop)'으로 불리는 저품질 생성형 인공지능(AI) 콘텐츠라는 조사 결과가 나왔다. 특히 어린이를 대상으로 한 콘텐츠에서 AI 생성 영상 비중이 가장 높아 허위 정보 확산과 교육적 악영향에 대한 우려가 커지고 있다.

21일(현지시간) IT 전문매체 더넥스트웹은 동영상 편집 플랫폼 캡윙의 연구를 인용해 새로 만든 틱톡 계정에 노출된 추천 영상 500개 가운데 294개(59%)가 AI 슬롭으로 분류됐다고 보도했다.

캡윙은 AI 슬롭을 AI가 생성한 영상이나 AI 대본·음성을 활용해 제작된 저품질 콘텐츠로 정의했다. 연구진은 총 20개 인기 카테고리에서 1만742개의 틱톡 영상을 분석한 뒤 신규 계정 추천 피드도 별도로 조사했다.

이번 조사에서 틱톡의 AI 슬롭 비중은 같은 방식으로 조사한 유튜브 쇼츠(약 21%)보다 약 3배 높은 것으로 나타났다.

가장 심각한 분야는 어린이 콘텐츠였다. 어린이 카테고리 영상의 57%가 AI 슬롭으로 분류됐으며, 과학·교육(35%), 건강(34%), 역사(34%) 등 정확성이 중요한 분야에서도 AI 생성 콘텐츠 비중이 높았다.

특히 '#CartoonKids' 해시태그에서는 조사 대상 100개 영상 가운데 97개가 AI 생성 콘텐츠였다. '#cartoons'와 '#babysong'은 각각 83%, '#forkids'는 79%를 기록했다.

이들 영상은 인기 캐릭터를 비현실적인 상황에 등장시키거나 사실과 다른 교육 내용을 전달하고, AI 음성과 어색한 애니메이션을 사용하는 것이 특징이다. 숫자를 잘못 가르치는 학습 영상처럼 어린아이들이 오류를 인지하기 어려운 사례도 적지 않은 것으로 조사됐다.

반면 피트니스, 음악, 패션 분야에서는 AI 생성 콘텐츠 비중이 2% 미만으로 상대적으로 낮았다.

연구진은 틱톡 추천 알고리즘이 이용자의 시청 시간과 '좋아요', 팔로우 등을 학습하기 전에는 행동 데이터가 부족해 AI 생성 콘텐츠가 기본적으로 많이 노출되는 것으로 분석했다.

틱톡은 지난해 11월 이용자가 AI 생성 콘텐츠 노출량을 조절할 수 있는 기능을 도입하고 AI 리터러시 강화 정책도 시행했지만, 신규 이용자에게 노출되는 AI 콘텐츠 비중은 여전히 높은 것으로 나타났다.

이와 함께 외신은 틱톡이 최근 아동 보호 문제로도 규제 압박을 받고 있다고 보도했다. 미국 플로리다주는 이달 초 아동 대상 소셜미디어 관련 법률 위반 혐의로 틱톡을 제소했다. 이번 연구는 미성년자가 플랫폼에서 접하는 콘텐츠의 상당수가 AI 생성 저품질 영상이라는 점을 추가적인 문제로 지적했다.

관련기사

다만 이번 연구는 캡윙이 직접 수행한 조사라는 점에서 한계도 있다. AI 슬롭 분류는 자동 탐지가 아닌 연구진의 수작업 검토를 기반으로 이뤄졌으며, AI 콘텐츠의 정의에도 주관적 판단이 일부 반영됐다고 외신은 전했다.

그럼에도 연구진은 1만여 개 이상의 영상과 신규 계정 추천 영상 500개를 분석한 이번 조사가 현재까지 틱톡 내 AI 콘텐츠 밀도를 가장 폭넓게 분석한 사례 중 하나라고 평가했다.