음원 스트리밍 플랫폼 스포티파이가 불법 온라인 약국과 사기 사이트 홍보에 활용된 수만 개의 가짜 팟캐스트를 삭제한 것으로 나타났다. 인공지능(AI)을 활용한 대량 생성 콘텐츠가 플랫폼 검색 시스템을 악용하는 사례가 늘어나면서 콘텐츠 검증 체계에 대한 우려도 커지고 있다.

13일(현지시간) IT 전문매체 디지털트렌드는 와이어드 보도를 인용해 스포티파이가 지난 1년간 불법 의약품 판매와 연계된 가짜 팟캐스트 대규모 정리에 나섰다고 보도했다. 

이번 조치는 미국 의회의 조사와 언론 보도 이후 이뤄졌다. 조사 결과 악의적인 운영자들은 실제 청취를 목적으로 하지 않는 수천 개의 팟캐스트를 만들어 스포티파이 검색 결과 상위 노출을 유도한 것으로 드러났다.

이들이 홍보한 사이트에서는 처방전 없이 오피오이드계 진통제와 각성제, 벤조디아제핀 계열 약물 등을 판매한 것으로 알려졌다.

스포티파이는 현재까지 5만7000개 이상의 팟캐스트 에피소드와 3천 개 이상의 팟캐스트 채널을 삭제했으며, 관련 계정 약 3500개에 대한 제재 조치를 취했다.

이번 보고서를 주도한 미국 민주당 소속 매기 하산 의원은 스포티파이가 문제 대응에 늦었으며 불법 약물 판매와 연관된 활동을 수사기관에 신고하지 않았다고 비판했다.

조사 결과 상당수 가짜 팟캐스트는 실제 청취자를 확보하는 것이 목적이 아니었다. 운영자들은 팟캐스트 제목과 설명, 표지 이미지에 외부 사이트 링크와 검색어를 대량 삽입해 검색 엔진 최적화(SEO)에 활용했다.

스포티파이는 삭제된 에피소드의 94%가 단 한 번도 재생되지 않았고, 99%는 10회 미만의 재생 수를 기록했다고 밝혔다. 다만 일부 콘텐츠는 수천 회 이상 청취되기도 했다. 일부 에피소드에는 암호화폐를 이용해 모다피닐 등 의약품을 구매하는 방법이 포함된 것으로 조사됐다.

관련기사

의회 보고서는 AI 기술이 이러한 스팸 운영을 더욱 쉽게 만들고 있다고 지적했다. 실제로 일부 가짜 팟캐스트는 AI 음성과 자동 생성된 콘텐츠를 활용해 정상적인 방송처럼 꾸며진 것으로 나타났다.

스포티파이는 음악 분야에서는 AI 기반 스팸 탐지 시스템을 운영하고 있지만 AI 생성 팟캐스트를 별도로 금지하지는 않고 있다고 설명했다. 또한 AI로 제작된 팟캐스트를 식별하는 데 한계가 있다는 점도 인정했다.