[이데일리 방성훈 기자] 영국 정부가 기술기업들을 상대로 성착취·모욕적 이미지 게시물을 48시간 이내 삭제하도록 의무화하는 새 규정을 제안했다. 최근 일론 머스크의 엑스(X·옛 트위터)에서 인공지능(AI) 도구를 이용해 여성의 나체 모습을 합성한 딥페이크 이미지 수천장이 ‘도배’된 데 따른 대응이다.

18일(현지시간) 블룸버그통신에 따르면 영국 내무부는 이날 성명을 통해 “기업(플랫폼)이 지정된 시간 내에 문제가 되는 이미지를 삭제하지 않을 경우 글로벌 매출의 최대 10%에 해당하는 벌금을 부과하거나 영국 내 서비스 차단 조치를 내릴 수 있다”고 밝혔다.

키어 스타머 영국 총리는 성명에서 “온라인 세계는 21세기 여성과 소녀를 겨냥한 폭력과 맞서는 최전선”이라며 “우리 정부는 (AI) 챗봇과 ‘옷벗기기(nudification) 도구’에 대해 긴급 조치를 취하고 있다”고 강조했다.

영국 방송통신 규제기관인 오프콤(Ofcom)은 개인 동의 없이 유포된 은밀한 이미지에도 디지털 태그를 부착해 아동 성착취물이나 테러 콘텐츠처럼 자동 삭제되도록 하는 방안을 검토 중이다.

지난해 말 X는 플랫폼 내 AI 챗봇 그록(Grok)이 실제 인물의 얼굴을 합성한 성적 이미지(속옷·수영복 차림 등)를 제작·유포하는 데 사용돼 국제적으로 거센 비판을 받았다. 이 과정에서 유명인들의 사진들이 무단으로 사용된 딥페이크 이미지도 봇물을 이뤘다. 아동보호 단체들은 다크웹에서 아동을 성적 대상으로 한 AI 생성 이미지도 발견했다고 비난했다.

논란이 확산하자 X는 ‘비키니 모드’로 불린 해당 기능을 차단하고 불법 콘텐츠를 삭제했다고 밝혔지만, 세계 각국 규제당국의 집중 조사와 더불어 소셜미디어(SNS) 전반에 대한 규제 강화 논의를 촉발했다.

오프콤은 지난달 5일 관련 조사를 개시했다. 유럽은 호주가 지난해 통과시킨 법안을 참고해 청소년의 SNS 이용 제한 법안을 검토 중이다.

영국은 이미 동의 없이 촬영된 ‘사적인’(intimate) 이미지 공유를 불법으로 규정하고 있다. 영국 법은 사적인 상황을 성행위 중인 모습이나 나체·부분 노출 상태, 무슬림 여성이 히잡을 벗은 경우 등 문화적으로 ‘프라이빗’ 또는 ‘은밀’한 상황으로 규정하고 있다.

이날 제안된 규정은 ‘범죄 및 치안법’(Crime and Policing Bill) 개정안에 포함될 예정이다. 개정안이 시행되면 경찰은 기술기업 및 플랫폼 등에 신속 삭제 명령을 집행할 수 있는 더 큰 권한을 확보하게 된다.

피해자의 콘텐츠 삭제를 돕는 영국 비영리단체 ‘리벤지 포른 헬프라인’은 “현재 90% 이상 삭제 성공률을 보이지만 플랫폼들이 항상 협조적이진 않아 여러 차례 요청이 필요한 경우가 있다”고 밝혔다.

‘영국 안전한 인터넷 센터’의 데이비드 라이트 대표는 지난해 의회 보고서에서 “피해자들이 도움을 요청할 때 그들은 ‘지금 당장’ 지원과 삭제를 원한다. 몇 시간이나 며칠이 걸리는 것은 충분치 않다”고 지적했다.