미성년 여성들이 대다수인 '지하아이돌'(지하돌)의 얼굴 사진을 나체 사진이나 영상에 합성하는 딥페이크가 온라인 커뮤니티에서 공유되고 있는 정황이 포착됐다.경찰은 이 게시물들의 삭제 작업에 나섰다.

29일 뉴스1 취재를 종합하면, 온라인 커뮤니티 디시인사이드 '국내지하아이돌 갤러리'엔 최근 여성 지하돌들의 얼굴 사진을 딥페이크 방식으로 합성해 성착취물로 제작 및 유포한 정황이 담긴 글들이 게시됐다.

이 게시물들에선 xAI가 개발한 AI 모델 '그록'을 통해 지하돌을 어떻게 선정적 딥페이크 이미지 및 영상으로 바꾸는지 명령어를 공유한다. 실제 딥페이크 이미지도 유포하고 있다. 특정 지하돌의 이름과 신체부위를 언급하며 딥페이크물을 공유해달란 댓글도 다수다.

딥페이크 명령어를 공유할 뿐만 아니라, 성착취물을 언급하며 특정 지하돌을 성희롱하는 발언도 적지 않다. 게시물들은 그록을 통해 '오시'(최애를 의미하는 일본 아이돌 용어)를 어떤 식으로 합성했는지와 저급한 감상 등을 공유한다.

지하돌은 매스미디어에서 활동하는 게 아니라 소규모 극장·클럽 라이브나 이벤트를 중심으로 활동하는 아이돌을 말한다. 지하돌은 소속사 없이 활동하거나 소규모 기획사에 소속돼 있어, 그들을 보호할 주체가 명확하지 않다. 지하돌 문화는 일본에서 시작돼 국내에 들어온 지 10년이 채 되지 않았다.

문제는 지하돌 중엔 10대 미성년자도 많다는 것이다. 실제로 딥페이크 성착취 제작 방식을 공유하는 글들엔 '미성년자 지하돌로 AI 합성에 성공했다'는 내용이 담겨있다. 지하돌 뿐만 아니라 10대, 20대 초로 추정되는 틱톡커들을 대상으로 딥페이크 성착취물을 만들어 공유한 게시물이 올라왔다.


전날(28일) X(옛 트위터)엔 지하돌 디시인사이드 갤러리의 딥페이크 문제를 공론화하는 글이 올라왔고, 이후 갤러리엔 급하게 문제 게시물을 삭제하라는 글이 게시되기도 했다.

경찰은 딥페이크 성착취물이 게시된 글을 인지하고 삭제 요청을 한 상태다. 경찰이 문제가 된 게시물을 인지해 방송통신심의위원회에 요청하면, 방심위가 차단할 수 있다.

경찰은 관련 신고가 추후 접수될 경우 성착취물에 활용된 얼굴이 실존 인간인지, 실제 피해가 생겼는지 등을 검토해 딥페이크 게시물 제작자·유포자를 수사한단 방침이다.

경찰 관계자는 "AI를 통한 딥페이크 가상 인물에 대해선 여성의 얼굴이 AI인지, 실제 피해 인물들이 있는지 없는지 등을 검토해야 한다"며 "현재 갤러리에 올라온 게시물은 삭제 요청을 한 상태"라고 설명했다.

그록이 사진을 선정적 딥페이크 이미지로 바꾸는 기능을 계속 서비스하면서 국내 피해도 커지는 모습이다. 성적 콘텐츠 제작을 요청하면 일부 프롬프트에 대해선 출력이 안 되지만, 단어에 변주를 주거나 수정하면 생성물이 만들어지고 있다. 출생연도를 입력하게 돼 있지만 연령 인증은 없어 미성년자나 영유아도 피해자가 될 가능성이 있다.

지난 22일부터는 국내에서 AI기본법이 시행되고 있지만 사업자들이 AI를 이용한 서비스를 제공할 때 사실을 알리는 게 주 내용이고, 딥페이크를 금지하는 내용은 담겨있지 않아 개선이 필요하다는 지적이 제기된다.





sinjenny97@news1.kr