인공지능(AI)을 악용한 범죄 수법이 고도화하면서 수사기관도 역으로 AI를 수사에 활용하기 시작했다. 피싱범의 목소리를 기존 범죄자의 음성과 대조하고, 폐쇄회로(CC)TV 속 피의자의 시선과 움직임을 분석하는 등 활용 범위도 넓어지고 있다.

방대한 자료에서 단서를 빠르게 찾을 수 있다는 장점이 있지만, AI가 내놓은 결과를 그대로 믿을 수 있는지는 또 다른 문제다. 같은 자료를 넣어도 다른 결과가 나올 수 있고, 영상 보정 과정에서 원본에 없던 정보가 더해질 가능성도 있기 때문이다.

특히 AI 분석 결과가 형사재판에서 실제 증거로 쓰일 경우 '증거능력'을 어디까지 인정할지가 관건이다. 원본에서는 식별하기 어려웠던 내용이 AI를 거쳐 새롭게 드러났다면 이를 어디까지 증거로 받아들일지, 어떤 과정을 거쳐 결과가 나왔는지를 법정에서 어떻게 검증할지도 새로운 과제로 떠오르고 있다.

피싱범 음성 대조·CCTV 분석…수사 현장에서 활약하는 AI
16일 경찰과 법조계 등에 따르면 수사기관은 음성·영상 분석 등에 AI를 활용하고 있다.

경찰은 2023년 AI 기반 보이스피싱 음성분석 모델을 이용해 3개 조직의 총책과 자금관리책 등 51명을 검거했다. 피해자가 제출한 통화 녹음과 기존에 검거된 범죄자의 음성을 비교해 동일인 가능성을 따지는 방식이다.

피싱범죄 수사를 전담하는 현직 경찰은 "조직에서 음성으로 기망하거나 투자 권유를 하는 녹음본이 제출되면 기존에 체포된 범인들의 음성과 함께 AI에 넣어 정확도를 분석하는 방식"이라며 "실제 이런 분석 결과를 수사에 활용한 사례도 있다"고 설명했다.

서울동부지검도 지난 4월 상해 혐의 피의자를 기소하면서 오픈소스 AI로 흐릿한 CCTV 속 피의자의 시선과 얼굴 방향을 분석해 피해자 인지 여부와 범행 고의성을 보강하는 자료로 활용했다.

수사 현장에서는 AI 활용을 거스를 수 없는 흐름으로 보는 시각도 있다.

한 경정급 경찰은 "수사에 AI를 이용하는 것은 시대적인 대세"라며 "대외적인 유출이 금지된 정보가 아니라면 적극 활용하는 것도 당연하다고 생각한다"고 말했다.

원본엔 안 보이는데 AI엔 보인다…법정서 증거 될까
문제는 AI 분석 결과가 법정 증거로 제출됐을 때다.

디지털 증거는 원본과 제출 자료가 동일한지, 수집·분석 과정에서 내용이 훼손되지 않았는지 등을 따져 증거능력을 판단한다.그러나 AI가 원본을 분석·보정하는 과정에서 새로운 정보가 드러난 경우에는 판단이 복잡해진다.

한 현직 판사는 AI로 보정한 CCTV 영상의 경우 원본에서는 확인되지 않던 내용이 새롭게 드러날 수 있어 증거능력 판단이 복잡해질 수 있다고 설명했다.

그는 "원래 영상에서는 보이지 않는데 개선한 영상에서만 보이는 부분을 어디까지 증거로 인정할지가 문제"라며 관련 법리는 아직 명확하게 정리되지 않았다고 말했다.

AI로 가공한 자료는 원본 자체와도 구분할 필요가 있다. 일종의 '편집된 증거'인 만큼 처리 과정에서 사람의 의사가 반영되거나 원본에는 없던 정보가 더해질 가능성도 따져봐야 한다.

또 피고인이 분석 자료를 증거로 쓰는 데 동의하지 않을 경우에는 법원이 별도의 증거조사를 거치게 된다. 증거조사는 가령 국립과학수사연구원의 감정·분석 결과에 부동의하면 해당 분석을 수행한 담당자를 증인으로 불러 분석 과정과 근거를 확인하는 식으로 이뤄진다.

그러나 AI의 경우에는 누구를 상대로 이 같은 검증을 할지부터 문제가 된다. AI를 직접 사용한 수사관에게 입력 자료와 분석 방식을 확인할지, 프로그램 개발자나 별도 전문가에게 모델의 작동 방식과 신뢰성을 물을지도 뚜렷한 기준이 없다.

이 판사는 "AI를 사용한 사람에게 어떤 방식으로 입력했는지를 물어볼 것인지, 아니면 AI를 설계한 사람에게 물어야 하는 것인지를 결정하는 것도 어려운 문제"라고 말했다.

더구나 AI는 알고리즘 자체의 작동 원리는 설명할 수 있어도 개별 자료에서 왜 특정한 결과가 나왔는지까지 명확히 추적하기 어려울 수 있다. 자료를 입력한 사람조차 결과가 만들어진 과정을 충분히 설명하지 못하는 이른바 '블랙박스' 문제가 생길 수 있는 것이다.

같은 자료 넣었는데 결과 달라지면…재현성·무결성이 관건
전문가들은 AI 분석 결과의 신뢰성을 검증하려면 AI 증거의 '재현성'과 '무결성'이 중요하다고 강조했다.

재현성은 같은 자료를 같은 조건에서 다시 분석했을 때 같은 결과가 나오는지를 뜻한다. 동일한 자료를 입력했는데 분석할 때마다 결과가 달라진다면 증거로서 신뢰하기 어렵다.

이재성 중앙대 AI학과 교수는 "결정론적인 방법은 항상 결과가 다 똑같이 나오지만 비결정론적 방법은 넣을 때마다 결과가 다르게 나올 수 있다"며 "포렌식 과정에서 비결정론적 방법을 썼을 때는 분석에 주의를 기울여야 한다"고 말했다.

최경진 한국인공지능법학회장은 증거 분석에 사용하는 AI의 무작위성을 최대한 낮출 필요가 있다고 봤다. 최 회장은 "증거 분석에 쓰는 AI라면 그 값(답변의 무작위성을 조절하는 수치)을 매우 낮게 설정하는 식으로 설계할 필요가 있다"고 말했다.

무결성도 중요하다. 무결성은 AI 처리 과정에서 원본이 훼손되거나 원래 없던 정보가 새롭게 더해지지 않았는지를 따지는 문제다. 특히 저화질 영상이나 음성을 AI로 확대·보정할 경우 부족한 정보를 채우는 과정에서 실제 원본에는 존재하지 않았던 정보가 추가되거나 기존 형상이 달라질 수 있다.

김명주 AI안전연구소장은 생성형 AI의 설정에 따라 "이미지 안에 없는 것들을 집어넣기도 하고 형상을 바꾸기도 한다"고 지적했다. 원본과 AI 처리본을 명확히 구분하고 원본 자체는 그대로 보존해야 하는 이유다.

따라서 재현성과 무결성을 확인하려면 분석 과정에 대한 기록도 남아 있어야 한다. AI가 내놓은 결과만 보관해서는 이후 수사기관이나 법원이 같은 과정을 다시 검증하기 어렵기 때문이다.

기존 디지털 포렌식에서 누가 증거를 확보하고 전달·분석했는지를 기록해 왔다면, AI를 활용할 경우에는 어떤 모델과 버전을 사용했는지, 어떤 설정과 방식으로 자료를 처리했는지까지 관리할 필요가 있다는 지적이다.

최 회장은"포렌식에서는 특히 기록 관리가 매우 중요하다. 어떤 AI를 썼는지, 어떤 버전을 이용했는지, 어떤 방식으로 분석이 이뤄졌는지 등을 관리할 필요가 있다"고 말했다.

eon@news1.kr