#. 경찰이 흉기를 든 중국인을 쫓아 테이저건으로 제압하고, 여성 BJ를 넘어뜨려 체포한다. 마치 경찰 바디캠으로 찍은 듯한 이 쇼트폼 영상은 누적 조회수 약 3400만회에 달할 정도로 인기를 끌었지만, 인공지능(AI)로 만든 허위 영상이었다. 결국 해당 영상을 제작·유포한 30대 유튜버는 '전기통신기본법' 위반 혐의로 최근 구속 송치됐다. 시민을 과잉 진압하는 허위 영상으로 공권력에 대한 불신을 조장할뿐더러 경찰이 오인 출동하는 사례가 발생하면서다.

저품질 AI 콘텐츠가 범람하자 국내외 주요 플랫폼들이 단속에 나섰다.유튜브는 채널 삭제, 수익 창출 제한 등 이른바 'AI 슬롭(Slop·쓰레기)' 콘텐츠에 대한 대응을 강화하고 있는 것으로 나타났다.

글로벌 온라인 동영상 편집 플랫폼 '캡윙'에 따르면 AI 슬롭 콘텐츠로 제재를 당한 채널 16개의 동영상 총 조회수는 47억 회, 연간 수익은 1000만 달러(약 147억 원)로 추산됐다. 또 새로 개설한 유튜브 계정 콘텐츠 중 20%가 저품질 AI 영상인 것으로 조사됐다.

특히 캡윙 보고서에 따르면 한국은 AI 슬롭 영상을 전 세계에서 가장 많이 소비하는 국가로 집계됐다. 한국 기반 AI 슬롭 유튜브 채널의 누적 조회 수는 84억 5000만 회로 전 세계 1위를 기록했으며, 2위인 파키스탄(53억 회), 3위인 미국(34억 회)을 크게 웃돌았다.

유튜브는 지난해 7월부터 저품질 양산형 콘텐츠를 수익 창출 대상에서 제외하며 대응에 나서고 있다. 닐 모한 유튜브 최고경영자(CEO)는 지난달 공식 블로그를 통해 4대 중점 과제 중 하나로 'AI 슬롭 콘텐츠 관리'를 내세웠다. 닐 모한 CEO는 "유튜브는 스팸과 클릭베이트에 대응해 온 기존의 검증된 시스템을 강화해, 저품질·반복형 AI 콘텐츠의 확산을 줄이기 위해 적극적으로 노력하고 있다"고 밝혔다.


이처럼 저품질 AI 콘텐츠는 전 세계적으로 사회적 문제가 되자 이를 규정하는 용어도 나오고 있다. 영국 옥스퍼드대학 출판부는 2024년올해의 단어로 ‘브레인롯’을 꼽았다. '뇌'(Brain)와 '부패'(Rot)를 합성한 용어로 소셜미디어에서 쇼트폼 등 저품질 콘텐츠를 과도하게 소비해 정신적·지적 상태가 악화하는 것에 대한 우려를 담았다. 미국 사전 출판사 메리엄 웹스터는 2025년 올해의 단어로 '슬롭'(Slop)을 선정했다. 쓰레기를 뜻하는 슬롭은 AI를 통해 대량 생산되는 저품질 디지털 콘텐츠를 가리키는 말로 쓰이고 있다.

국내 주요 플랫폼도 이 같은 저품질 AI 콘텐츠에 대한 관리에 나서고 있다.

네이버(035420)는 블로그·카페 등 게시물에 'AI 활용' 여부를 표시하도록 하고 있다. 이를 어길 경우 수익화에 불이익을 주는 등 정책 개정을 진행 중이다. 카카오(035720)의 경우 카카오톡 쇼트폼 크리에이터들에게 'AI콘텐츠 유형 표시' 기능을 제공하고 있으며, 표시 누락이 확인될 경우 안내 및 수정 조치를 하고 있다.

네이버 관계자는 "AI 생성 콘텐츠 자체를 플랫폼 차원에서 막을 수는 없지만 품질이 좋냐, 나쁘냐와 'AI 기본법' 등 법 준수 여부를 기준으로 콘텐츠 필터링 및 수익화 측면에서 제재하고 있다"며 "매크로처럼 도배되는 콘텐츠를 제재하고, 고품질 콘텐츠가 더 많이 발견되고 소비될 수 있도록 노력하고 있다"고 말했다.

Ktiger@news1.kr