"원고가 참고서면으로 제출하면서 인용한 각 판례는 실존하지 않은 판결이거나 그 실제 내용이 원고가 적시한 판결의 내용과 다르다." 지방법원의 한 부장판사는 최근 한 민사사건 판결문에 각주를 통해 이와 같이 적었다. 원고는 참고서면을 제출하면서 인공지능(AI)이 만들어낸 가짜 판례와 사건번호를 인용했고, 이를 확인해 판결문에 직접 적시한 것이다.

최근 대법원을 비롯해 전국 각급 법원에 AI를 활용한 허위 판례 인용 사례가 잇따라 드러나는 가운데, 대법원이 과태료 부과 등 대응 방안을 제시했다.

법조계에서는 아직 재판부 재량에 맡긴 정도에 불과해 큰 효력이 없을 가능성이 높다는 분석이 나온다. 이에 관련 법령 개정 등을 통해 소송대리인·변호인에 대한 징계, 과태료 부과 등 조치 방안을 명시해 효과적인 대응에 나서야 한다는 의견까지 나오고 있다.

재판부 "정확한 사건번호 확인해야" 요청에도…재차 허위 판결 인용한 변호사
3일 법조계에 따르면 최근 전국 법원에서는 AI의 환각(hallucination) 현상에 따른 허위 판례 인용 사례가 잇따라 드러나고 있다.

대법원에 제출된 상고이유서에는 쟁점과 관련이 없거나 존재하지 않는 사건번호의 판결을 제시한 사례가 있었다. 또한 대구고법에서는 변호사(소송대리인)가 존재하지 않는 대법원 판결을 인용하자, 재판부가 "정확한 사건번호인지 확인이 필요하다"고 석명했으나 변호사는 재차 허위인 대법원 판결을 인용하면서 "사건번호가 부정확할 수 있다"고 주장한 것으로 알려졌다.

또한 현행법의 조항을 기재해 준비서면을 제출하면서 실제 법률 조항의 내용과는 전혀 다른 내용으로 적어 제출한 사례도 있었다.

허위 판례 및 사건번호를 적어내는 서면 제출 사례가 많아지자, 각급 법원의 재판부는 실제 판결문에 이 같은 사실을 기재하고 있다.

서울북부지법과 춘천지법, 전주지법, 광주지법 등에서는 판결문 각주 등을 통해 간접적·직접적으로 그 사실을 기재한 것으로 파악됐다.

상대방이 제출한 서면에서 AI를 활용한 것으로 보이는 다수의 사례가 쌓이면서 변호사업계에서는 자신에게 필요한 판례뿐만 아니라, 상대의 판결이 허위라는 사실을 찾아내고 증명해야 하는 상황이 됐다.

서초동의 한 변호사는 "대리인이 없는 이른바 '나홀로 소송'에서는 이미 AI 활용이 확산한 시점부터 이러한 일이 비일비재했다"며 "대리인이 있는 사건에서도 지속적으로 허위의 판시 내용이나 사건번호를 기재해 주장하고 있어 이를 배척하기 위해 불필요한 추가 서면까지 내야 하는 상황"이라고 말했다.

실제 이러한 사례가 많아지면서 지방변호사회에는 해당 변호사에 대한 진정까지 접수되고 있는 것으로 파악됐다.


쏟아지는 AI 허위 판결 서면에 대응 나선 법원…"확인 없이 인용 시 소송비용 부담"
이러한 사례가 많아지면서 사법부에서는 관련 연구를 진행해 대응 방안을 제시했다.

법원행정처는 지난달 31일 'AI 활용 허위 주장·증거 제출 대응 태스크포스(TF)'를 구성해 활동한 결과를 발표했다.

TF는 지난해 10월부터 5개월 동안 각급 법원에서 관련 사례를 파악하고, 관계 법령과 해외 판결 및 실무 동향, 국제적 경향 등을 조사했다.

TF는 우선 현행법 체계 안에서 재판부가 취할 수 있는 대응 방안을 제시했다. 먼저 당사자 또는 대리인이 AI를 활용해 허위 법령을 인용함으로써 불필요한 소송비용을 발생시켰거나 소송을 지연시킨 경우, 그로 인해 발생한 소송비용의 전부 또는 일부를 부담하게 할 수 있다고 제시했다.

또한 허위의 법령·판례가 인용된 서면에 대해 변론에서 그 진술을 제한할 수 있고, 판결서에 관련 내용이 허위라는 것을 적시할 수 있다고 제시했다.

아울러 변호사가 이를 제대로 검증하지 않고 서면 등에 인용한 경우 대한변협에 징계를 의뢰할 수 있다고 했다. 다만 이러한 방안은 모두 개별 재판부의 재량에 따라 결정하도록 했다.

TF는 민사소송법을 개정하는 방안도 제시했다. 구체적으로는 민사소송규칙 개정을 통해 AI를 활용한 당사자 등이 그 활용 사실을 상대방이나 재판부에 고지하는 방안을 제시했다. 또한 민사소송법 개정을 통해 당사자 등이 허위 법령 등을 인용하는 경우 과태료를 부과할 수 있는 방안을 내놨다.

법조계에서는 재판부 재량이 아닌 법률 개정 등을 통해 실효성 있는 대책을 마련해야 한다는 목소리가 나온다.

국가AI위원회 법제도분과위원장을 지낸 강민구 법무법인 도울 대표변호사는 "발표된 대응 방안은 변호사 전체에 대한 경고적 의미가 있지만, 당장 재판장이 징계하거나 과태료를 물기는 어려울 것"이라며 "소송법 또는 대법원 소송 규칙을 개정해 방안을 마련해야 한다"고 밝혔다.

부장판사 출신의 한 변호사는 "재판부로서도, 상대방 입장에서도 허위 판례와 법령을 제출하는 일은 시간 낭비와 더불어 법률 비용까지 더 들어가게 하는 일"이라며 "당사자에 대한 제재도 필요하지만, 법률전문가인 변호사가 이러한 경우가 있다면 더 강력한 제재가 필요하다"고 말했다.

정형근 경희대 법학전문대학원 객원교수는 "신기술의 발전에 따라 직무상 주의 의무가 더 무거워지는 시대의 변화에 따라 일정한 제재, 징계가 필요하다"며 "검사장, 공수처장처럼 법원장도 해당 변호사에 대해 징계 개시를 신청할 수 있도록 하는 것이 바람직하다"고 제언했다.

shhan@news1.kr