인공지능을 활용한 가상의 인물. (사진=게티이미지뱅크)
중국은 ‘중국판 인스타그램’인 사오홍슈나 틱톡(중국명 더우인), ‘중국판 유튜브’ 빌리빌리, ‘중국판 엑스(X·엣 트위터)’ 웨이보 등 다양한 소셜미디어를 통해 수많은 영상이 올라온다. 특히 최근에는 AI를 활용한 영상 제작이 간편해지면서 손쉽게 만든 영상들도 게시되는 상황이다.
인터넷판공실은 춘제 기간 네티즌들이 흔히 사용하는 플랫폼 링크와 서비스 유형에 더욱 집중하고 사람들이 강하게 반영하는 네트워크 생태 문제를 적극 바로잡으며 다수 네티즌을 위한 좋은 온라인 환경을 조성하겠다고 캠페인 목표를 세웠다. 논리적으로 일관성이 없거나 매우 반복적인 저품질 콘텐츠의 대량 생산을 포함한 AI 기술 오용에 주목할 예정이다.
이번 조치가 지목한 분야는 △악의적으로 부정적 감정 유발 △스팸 정보 생성 △허위 정보 조작·유포 △불법 활동 조장 등이다.
우선 비혼, 불임, 반(反)결혼·출산 같은 나쁜 가치를 홍보하고 옹호하며 남녀간 성별 대립을 유발하고 결혼 공포와 출산 불안을 과장하는 콘텐츠를 제재할 예정이다.
한국에서도 이혼 숙려 캠프, 금쪽같은 내 새끼 등 결혼 및 육아 생활에서 나타나는 갈등을 담은 프로그램이 연일 화제가 되고 있다. 중국 내에선 결혼과 출산에 대해 부정적 메시지를 담은 영상을 ‘나쁜 가치’라고 정의해 차단하겠단 의지를 나타낸 것이다.
또 춘제 선물을 보여주는 등 부를 과시하고 악의적으로 비교를 조장하는 영상, 춘제 갈라쇼, 영화, 스포츠 행사 등을 이용해 온라인 팬 활동을 조직하고 참여하는 행태도 규제하겠다고 엄포를 놨다.
AI 같은 기술과 앱을 사용해 정보가 빈약하며 유사성이 높은 반복적 저품질 콘텐츠 생상도 규제 대상으로 지목했다. AI 기술을 남용해 고전 애니메이션, 영화, TV 작품 등에 저속하고 폭력적인 내용을 심고 농담과 패러디를 만드는 것도 포함된다.
부모 편애, 시어머니와 며느리 갈등, 형제자매 간 폭행 등 과장된 가족 갈등과 세대간 갈등을 만들어 트래픽을 늘리는 행위도 규제할 계획이다. 전문가 과학처럼 네티즌 인지 판단에 영향을 주는 영상도 규제 대상이다.
춘제 교통 상황이나 사회·공공 안전 비상사태에 관한 소문을 조작하거나 ‘충격’ 같은 선정적 문구를 사용하고 공인을 위조하는 등의 영상도 차단할 방침이다.
도박에 대한 유료 상담을 제공하거나 온라인 도박 활동을 조직하거나 ‘같은 도시 친구 사귀기’ 같은 선정적인 정보를 제공하는 영상, 온라인 점술 서비스를 제공하는 것 등도 제재 대상에 오른다.
(그래픽=게티이미지뱅크)
AI를 활용한 가짜 뉴스나 조작 영상 등은 한국에서도 사회 문제가 되고 있다. 중국은 현재 AI를 활용한 영상일 경우 표기하도록 조치하고 있으나 수많은 영상이 넘쳐나는 점을 감안해 대대적인 단속에 들어가는 것으로 보인다.
중관춘 현대정보소비자응용산업기술연합의 샹리강 사장은 중국 관영 글로벌타임스(GT)와 인터뷰에서 “디지털 시대에 콘텐츠 제작·배포가 매우 편리해 정보의 폭발적 증가를 이끌었다”면서도 “이런 콘텐츠의 방대한 양은 사회적 가치와 도덕적 기준에 부정적인 영향을 미칠 수 있다”고 지적했다.
AI를 활용한 영상을 제재하는 것이 표현의 자유를 제한한다는 논란의 소지도 있다. 이를 두고 중국 관영 중국중앙TV(CCTV)는 “일부 온라인 계정은 적절한 AI 라벨링 없이 AI가 생성한 콘텐츠를 게시하고 허위 또는 오해의 소지가 있는 정보를 이용해 대중을 속여 온라인 생태계를 교란하고 심각한 부정적 영향을 초래했다”고 지적했다.
한편 CCTV에 따르면 인터넷판공실은 그동안 1만3421개의 계정이 법과 규정에 따라 제재를 받았고 54만3000건 이상의 불법 또는 비준수 콘텐츠가 삭제된 것으로 알려졌다.
(사진=게티이미지뱅크)
