[박주희 로펌 제이 대표변호사] 이제 인공지능(AI)은 법률 실무에서도 더는 낯선 도구가 아니다. 간단한 리서치나 판례 요약은 물론 고소장과 소장 초안까지 AI를 활용해 작성하는 일이 자연스러워졌다. 업무의 속도와 편의성은 분명히 향상됐다. 그러나 그 이면에서는 전에 없던 새로운 부담이 생겨나고 있다. 바로 ‘허위 정보’를 걸러내는 작업이다.

최근 당사자 소송에서 AI를 활용해 작성한 서면이 늘어나면서 존재하지 않는 판례나 법리를 인용하는 사례가 반복적으로 발견되고 있다. 이른바 AI의 환각 현상이다. 미국에서는 허위 판례를 인용한 서면을 제출한 변호사가 자격 정지 제재를 받은 사례가 있고 국내에서도 형사 재판에서 존재하지 않는 판례를 인용한 의견서가 법원에 제출됐다가 재판부에 의해 발각된 일이 있었다. 또 경찰이 실제 판결문에 없는 법리를 근거로 결정을 내린 사례까지 보고되면서 더 이상 실수로 치부하기 어려운 상황이 되고 있다.

이러한 흐름에 대응해 법원행정처는 AI를 활용한 허위 주장과 증거 제출에 대한 대응 방안을 논의하고 있다. 허위 판례나 법령 인용이 확인될 경우 징계나 제재를 가하는 방안과 함께 AI를 활용해 작성된 서면임을 밝히도록 하는 제도도 검토하고 있다. 올해 2월부터는 AI가 만들어낸 가짜 사건번호를 확인하는 서비스도 시작했다.

그런데 AI의 환각현상은 단순히 ‘없는 판례를 만들어내는 오류’에 그치지 않는다. 오히려 더 주의가 필요한 경우는 실제 존재하는 판결번호를 끌어와 전혀 다른 취지로 인용하는 경우다. 겉으로 보기에는 아무런 문제가 없어 보이지만 내용을 확인해보면 인용한 법리와 사실관계가 맞지 않는 경우가 적지 않다.

얼마 전 필자가 심의위원으로 참여하는 위원회에서 이와 유사한 경험을 했다. 신청인의 주장은 응당 법리적으로 맞지 않는 주장이었는데 자신의 주장에 부합하는 대법원 판결번호와 판결요지를 여러 개 제시한 것이다. AI로 작성한 것이 아닐까 의심하며 판결번호를 검색해보니 심지어 실제 존재하는 판결이었다. 그러나 판결문 전문을 직접 확인해보니 사실관계도 판결 취지도 사안과 전혀 다른 내용이었다. 만약 판결번호만 확인하고 내용을 신뢰했다면 전혀 다른 판단에 이를 수도 있었던 아찔한 상황이었다.

이처럼 이제는 서면에 기재된 판례와 법리 자체만으로 판단하기 어려워졌다. 법률가의 업무에 서면에 적힌 판례와 법리가 실제로 존재하는지 그리고 정확하게 인용된 것인지까지 확인해야 하는 업무가 추가됐다. 효율성을 높이기 위해 도입한 기술이 오히려 검증이라는 추가적인 업무를 요구하는 아이러니한 상황이 벌어지고 있는 것이다.

이 변화 속에서 자연스럽게 AI 시대의 법률가 역할과 태도는 과연 무엇인지 묻게 된다. 그동안 법률가는 주어진 사실관계와 법리를 바탕으로 전문적인 지식을 제공하는 사람으로 이해돼 왔다. 그러나 이제 기본적인 정보와 답변은 AI를 통해서도 쉽고 간단히 얻을 수 있다. 반면 이제는 그 편의와는 별개로 그 판단의 전제가 되는 정보 자체를 의심하고 검증해야 하는 과정이 필수적인 단계로 자리 잡았다. 이제 중요한 것은 더 많은 정보를 확보하는 것이 아니라 무엇이 맞는지 가려내고 그 정보가 사건에 어떻게 적용될 수 있는지를 판단하는 일이다. 결국 법률가의 역할은 정보를 생산하거나 전달하는 데 있는 것이 아니라 그 정보를 해석하고 검증해 책임 있는 판단으로 연결하는 데 있다. 제시된 정보의 의미를 짚고 가능한 선택지와 그에 따른 결과를 구조화해 설명하는 일, 그 과정에서 판단의 기준을 제시하는 일이 핵심이 된다. 이는 기술이 대체하기 어려운 영역이다.

결국 남는 것은 판단의 책임이다. 기술은 답을 제시할 수는 있어도 그 답이 타당성까지 보증해주지는 않는다. 그 간극을 메우는 것이 법률가의 역할이다. 그렇기에 지금은 새로운 도구에 대한 적응을 넘어 그 도구를 어떤 기준으로 사용할 것인지에 대한 고민을 해야 할 때다. 빠른 답보다 정확한 답을, 편리함보다 타당한 판단을 선택하는 것. AI 시대 법률가에게 요구하는 기준은 그 지점에서 더욱 분명해지고 있다.