[이데일리 김정훈 기자]
케일리 G.M이라는 이름으로 알려진 20세 여성을 원고로 한 이번 재판은 SNS를 운영하는 거대 기술기업에 걸린 소송 수천 건의 향배를 가르는 ‘선도 재판’(Bellwether)이다. 재판 핵심 쟁점은 메타를 비롯한 플랫폼 기업들이 의도적으로 청소년을 SNS에 묶어두기 위해 알고리즘을 설계했는지 여부다. 이번 소송에서는 메타가 내세워온 ‘부모 통제’ 기능이 실제로는 청소년의 SNS 강박 등 방지에 별다른 효과가 없다는 연구 결과를 메타가 이미 인지하고 있었다는 주장도 제기됐다. 부모가 자녀의 SNS 사용을 통제하려고 노력하더라도 자녀의 중독 등 여부에 영향을 미치지 않는다는 것이다. 이번 소송에서 메타에 청소년의 SNS 중독 책임이 있다고 판결 난다면 1990년대 대형 담배 회사에 대한 규제로 이어진 ‘빅 토바코’ 소송과 맞먹는 파급력을 가질 수 있다는 관측이 나온다.
에마뉘엘 마크롱 프랑스 대통령은 이날 “SNS의 알고리즘이 사용자를 어디로 이끄는지 알 수 없는 상황에서 표현의 자유는 의미가 없다”고 주장했다. 프리드리히 메르츠 독일 총리도 “청소년들이 하루 평균 5시간 반을 온라인에서 보내고 있다”며 “조작된 영상과 가짜 뉴스가 SNS를 통해 확산하는 것을 용납할 수 없다“고 강조했다.
한국은 현재까지 구체적인 규제 논의가 이뤄지지 않고 있다. SNS 우회 접속을 기술적으로 막기 어려운 데다 지난 2011년 도입한 ‘게임 셧다운제’가 10년 만에 폐지된 전례 등도 규제 도입 논의를 가로막고 있는 장애물이다. 미국에서 쿠팡 사태를 두고 한국 정부에 압박을 가하 듯 미국 빅테크에 침식당한 한국 시장 상황에서 규제 강화로 흐른다면 한미 통상 문제로 확산할 수 있어 조심스러울 수밖에 없다. 방송미디어통신위원회는 “해외에서 (SNS 금지) 관련 입법 확산 등에 대해 면밀히 살펴보고 있다”며 “아동과 청소년의 의견을 정책 검토와 제도 개선 과정에 반영할 수 있도록 검토하고 있다”고 언급했다.
그나마 국내 대표 플랫폼 기업인 네이버와 카카오는 자체로 고도화한 AI 기술에 부모의 자녀 관리 권한을 결합해 엄격히 운영하고 있다. 네이버는 자체 개발한 AI 필터링 기술인 ‘클로바 그린아이’로 이용자가 게시물을 올리는 즉시 음란성 지수를 산출한다. 카카오는 ‘이미지 레벨 시스템’으로 딥러닝 기반의 다단계 필터링을 통해 불법·광고성 이미지와 유해 콘텐츠를 정교하게 걸러낸다.
특히 불법촬영물 등과 관련해선 24시간 상시 신고 기능을 마련해 운영 중이다. 카카오 측은 “신고접수 중 관계법상 불법촬영물 등에 해당하는지를 카카오가 명백하게 구분하기는 쉽지 않지만 이용자 등의 피해신고가 있었다는 측면에서 피해자에게 피해를 유발할 수 있을 것으로 보여 삭제·차단 조처를 했다”고 설명했다.
IT업계 관계자는 “앞으로 AI 기술이 고도화하고 사회가 더욱 복잡해지면 콘텐츠 유해성에 대한 논란은 더욱 복잡하고 다양한 형태로 나타날 것이다”며 “인터넷 사업자들은 앞으로도 AI 모델을 계속 고도화하고 데이터를 최신화해 유해 콘텐츠 감지 영역을 확대해야 한다”고 강조했다.
