최근 유튜브를 중심으로 골프선수 출신 방송인 박세리와 배우 김승수의 결혼설이 빠르게 확산했다. 명백한 허위 사실을 바탕으로 만든 AI 영상이었지만 조회수에 눈먼 유튜버들에 의해 걷잡을 수 없이 퍼져나갔다. 한국은 이러한 AI 가짜 뉴스를 전 세계에서 ‘압도적’으로 많이 보는 국가 1위에 등극했다.
박세리김승수 결혼설을 다룬 허위 콘텐츠 (사진=유튜브 캡처)
영상은 언뜻 보기에 시각적으로 꽤 신뢰감을 주는 분위기로 제작됐다. SBS 뉴스 보도 화면 포맷을 무단으로 도용해 실제 방송 화면처럼 보이게 했고, 실제 인물 이미지를 합성한 뒤 익숙한 뉴스 멘트가 더해지면서 조회수는 860만 회까지 치솟았다. 900만 회, 1000만 회를 넘는 건 시간문제다.
덩달아 관련 콘텐츠도 물밀듯이 쏟아져나왔다. 이번에는 ‘박세리와 결혼 반대한 김승수 어머니’라는 콘텐츠가 등장해 이 역시 조회수 870만 회를 바라보고 있다.
유튜브에 박세리와 김승수의 이름을 검색하면 “두 사람이 이미 혼인신고를 마쳤다” “산부인과에서 둘을 봤다” “같이 살고 있다” 등 온갖 영상과 쇼츠가 넘쳐난다. 모두 완벽하게 거짓이다.
이런 영상의 목적은 많은 조회수를 통해 광고 수익을 올리는 데 있다. 그 때문에 더 자극적이고 선정적인 주제를 찾아 거짓 정보를 퍼뜨리는 데 거리낌이 없다.
이런 류의 영상을 ‘AI 슬롭’이라 부른다. 슬롭(Slop)은 오물이나 음식물 찌꺼기를 뜻하는 말로 유튜브 등 사회관계망서비스(SNS)에서는 조회수와 광고 수익을 노리고 대량 생산되는 저품질 AI 생성 콘텐츠를 의미한다.
AI 슬롭은 대개 기존 이미지·영상·기사 내용을 짜깁기해 맥락 있는 이야기로 포장하는 방식을 취한다. 특히 신뢰도를 위해 언론사의 뉴스 포맷과 실제 앵커까지 무단으로 도용하는 등 뉴스 포맷을 취하는 경우가 많다.
유명인과 뉴스 형식을 결합하면 사실과 유사한 외형을 갖추게 돼 파급력이 엄청나게 커지는데 박세리·김승수 결혼설이 대표적 사례다.
박세리김승수 결혼설을 다룬 허위 콘텐츠. SBS뉴스 포맷을 무단으로 도용했다. (사진=유튜브 캡처)
전 세계 상위 유튜브 채널 1만 5000개 가운데 278개 채널이 AI로만 제작한 저품질 콘텐츠를 게시하고 있으며, 이들 채널의 연간 광고 수익은 약 1690억 원으로 추정된다.
특히 한국은 AI 슬롭 콘텐츠 최대 소비 국가로 꼽혔다. 한국 기반 채널 누적 조회수는 84억 5000만 회로 조사 대상 국가 가운데 가장 많았다. 이는 2위인 파키스탄(53억 회)과 3위인 미국(34억 회)을 크게 웃도는 수치다. 한국이 얼마나 AI로 만든 가짜 뉴스에 파묻혀 있는지 보여주는 대목이다.
지난 22일 국내에서 세계 최초로 AI 기본법이 시행되면서 생성형 AI가 만든 콘텐츠에 고유한 표식(워터마크)을 남기는 게 의무가 됐다.
같은 날 유튜브도 AI 슬롭과 전쟁을 선포했다. 닐 모한 유튜브 최고경영자(CEO)는 “올해 유튜브 운영의 최우선 순위는 ”AI 슬롭과 맞서 싸우는 것“이라고 밝혔다.
그는 자사 공식 블로그를 통해 ”유튜브는 문화의 핵심적인 중심지이며, 창의성과 기술의 경계가 흐려지는 혁신의 새 시대를 맞이하고 있다“며 ”스팸과 클릭베이트에 대응해 온 기존 검증 시스템을 강화해, 저품질·반복형 AI 콘텐츠의 확산을 줄이기 위해 적극적으로 노력하겠다“고 말했다.
