28일 바른언론시민행동이 개최한 심포지엄에서 주요 참석자들이 기념촬영을 하고 있다. (사진= 권아인 수습기자)
◇“눈으로 봐도 못 믿어”… 선거판 뒤흔드는 딥페이크
첫 번째 세션에서는 6.3 지방선거를 겨냥한 AI 딥페이크의 위험성이 도마 위에 올랐다. 발제자로 나선 신율 명지대 정치외교학과 교수는 딥페이크 기술이 민주주의의 근간인 선거에 미칠 파장을 경고했다.
신 교수는 “사람은 본능적으로 시각 정보에 강하게 의존하며 본 것과 아는 것을 일치시키려는 경향이 있다”며 “AI가 조작한 정교한 영상은 대중에게 공포스러운 파급력을 행사한다”고 분석했다. 지난 미국 대선 당시 김정은이 트럼프 앞에서 고개를 숙인 가짜 사진이 유권자들의 판단을 흐린 사례가 대표적이다.
특히 이번 지방선거는 후보자 수가 압도적으로 많아 딥페이크 악용 소지가 다분하다는 게 신 교수의 진단이다. 유권자 한 명이 교육감을 포함해 최소 6~7명의 후보를 선택해야 하는 상황에서 후보들에 대한 조작 영상이 쏟아질 경우 선거판은 극도의 혼란에 빠질 수 있다는 것이다.
신 교수는 유튜브의 ‘시사 선정성’을 심각한 문제로 꼽았다. 그는 “유튜브는 수익을 위해 자극적인 시사 게이지를 계속 높이는데, 대중은 그 자극에 금세 무뎌진다”며 “이 과정에서 근거 없는 조작의 수위가 높아지고 선전선동의 가능성은 커진다”고 지적했다.
그는 “레거시 미디어(전통 언론)는 크로스체킹(교차 검증)과 게이트키핑(정보 여과)을 통해 정보를 걸러내려 노력하지만 유튜브는 검증 과정이 전무한 상태에서도 진영에 따라 레거시보다 더 높은 신뢰를 받고 있다”고 꼬집었다.
법적 제도와 사회 변화의 속도 차이에 대한 우려도 컸다. 신 교수는 “플라톤이 철인정치를 주장한 이유는 법이 너무 경직돼 사회의 빠른 변화를 따라가지 못하기 때문이었다”며 가짜 동영상에 대한 법적 제도 마련이 시급하다고 강조했다.
기업과 시장경제를 흔드는 허위 정보의 파급력에 대한 문제점도 집중 지적됐다. 하은수 법무법인 광장 고문은 “가짜 경제정보는 사실 확인이 이루어지기 전 시장에 먼저 반영돼 주가 급등락과 투자자 피해를 유발한다”고 말했다.
그는 기업들이 사고 발생 후 수습에 급급한 ‘사후 대응’에만 매몰돼 있다고 지적했다. 그러면서 허위 사실이 시장에 유포되기 전후 단계에서 피해를 최소화하고 선제적으로 차단하는 ‘예방적 차원의 시스템’ 구축이 필수적이라고 강조했다.
◇“‘검거’에서 ‘차단’으로 패러다임 전환 시급”
보이스피싱 대응 체계의 변화도 논의됐다. 경찰청 전기통신금융사기 통합대응단 심무송 경정은 “해외에 본거지를 둔 조직원들을 검거하는 것은 한계에 봉착했다”며 “악성 앱과 대포통장 등 범죄자들이 사용하는 도구 자체를 무력화하는 시스템 차단 방식으로 패러다임을 바꿨다”고 설명했다.
임안나 SC제일은행 전무 또한 “통신사가 기술적으로 피싱 차단 책임을 지게 하고 은행은 의심 계좌를 선제적으로 전체 동결할 수 있는 강력한 법적 권한이 필요하다”고 강조했다.
