"제 계좌에 설정된 이체 한도 알고 싶다고요"

- "고객센터는 24일 365일 상담을 이용할 수 있습니다. 저는 OO은행 AI 상담사였습니다. 감사합니다"

- 뚝.

AI(인공지능) 콜센터를 도입한 1개 통신사와 4개 은행에 직접 문의해 본 결과 '대화'를 할 수 있는 곳은 없었다.

"제가 받을 수 있는 가장 낮은 금리의 신용대출이 뭔가요?" 같은 복잡한 질문은 물론 "제 일일 이체 한도 확인해 주세요", "현재 계좌 잔액 알려주세요" 같은 비교적 간단한 민원도 해결해 주지 못했다.

AI 콜센터 도입사들은 인간 상담사 연결 전에 AI 상담사를 먼저 거치게 설계했지만, 민원 해결만 지연되는 셈이다.

이 탓에 온라인상에선 AI 콜센터를 향한 원성을 쉽게 찾아볼 수 있다.

AI 콜센터 관련 유튜브 영상에선 "시간 낭비하고 감정 상한 상태로 인간 상담사와 통화하게 된다", "상담사한테 말 한 번 하면 끝날 것을 '뺑뺑이' 돌아야 한다", "화나서 전화했는데 더 화나게 한다"는 등의 댓글을 확인할 수 있다.

실제 한국노총 중앙연구원이 최근 AI 콜센터 이용 경험이 있는 시민 706명을 설문한 결과 응답자 54.2%가 서비스에 '불만족한다'고 답했고, 87.5%가 '인간 상담사를 선호한다'고 응답했다.

'통으로' 갈지 않으면 AI 상담 발전 힘들다
AI 전문가는 현재 AI 상담사가 앱이나 홈페이지에서 내가 찾는 메뉴가 어딨는지 찾아주는 수준에 불과하다고 설명했다. 애당초 사용자가 혼자 해결이 어려워 콜센터에 전화해야 할 정도의 민원은 처리할 능력이 안 되는 셈이다.

주재걸 한국과학기술원(KAIST) 김재철AI대학원 석좌교수는 "우리가 흔히 어떤 앱에서 전체 메뉴 같은 걸 눌러보면 카테고리화가 돼 있고 카테고리마다 세부 메뉴들이 들어있듯 AI 상담사를 개발할 때도 그 구조가 미리 정해져 있다"며 "사용자가 발화한 음성을 텍스트로 인식한 뒤 사전에 짜둔 메뉴 구조 내에 인식한 텍스트는 이 메뉴에 해당한다는 분류만을 수행한다"고 설명했다.

이 같은 '인식형' AI는 '턴(차례)'이 정해져 있는 탓에 유기적인 소통도 불가능하다.

주 교수는 "AI 상담사가 상담 중에 '질문이 있다'며 끼어들거나 반대로 사용자가 '그게 아니라 제가 말은 이거다'라고 정정하는 것도 현재로서는 근본적으로 불가능하다"며 "마치 무전기처럼 내가 말하고 끊으면 다른 사람이 말하는 식으로밖에 할 수 없다"고 설명했다.

그러면서 "LLM(대규모 언어 모델) 기반의 생성형 AI나 에이전틱 AI를 여러 가지 자료나 데이터베이스와 연동한 시스템으로 '통으로' 교체해야 비약적인 성능 개선을 기대할 수 있다"고 밝혔다.



똑똑해지면 대가 따르지만…"사용자는 베타 테스터 아냐"

AI 상담사를 고성능으로 개선하기엔 비용과 예측 불가능성이라는 문제가 따른다.

주 교수는 "인식 기반 AI 상담사는 많은 계산량이나 고사양의 하드웨어가 필요하지 않기 때문에 아주 저비용으로도 운영이 가능하다"며 "하지만 LLM 기반의 에이전틱 AI 상담사는 운영 비용이 무시 못 할 수준일 것"이라고 짚었다.

또 "비용 문제를 극복하고 에이전틱 AI 기술을 통해 똑똑한 AI 상담사를 만든다면 AI가 할 수 있는 일이 매우 많아지고 자유도가 높아진다는 것"이라며 "그만큼 '어디로 튈 줄 모른다'는 문제도 있다"고 지적했다.

그러면서 "가령 AI 상담사가 민감 자료에 접근해 사용자에 노출한다거나 요금제를 대뜸 해지·변경하는 일이 생길 수 있다"며 "고성능 AI 상담사를 도입하더라도 최종 의사결정은 사람이 옆에 붙어서 해야 한다"고 강조했다.

현재로서 타협점은 AI 상담사가 빠르게 자신의 한계를 인식하는 것이 거론된다.

주 교수는 "사용자들은 기업들이 AI 상담사 서비스를 개발하는 데 동원된 베타 유저가 아니다"라며 "AI 상담사가 사용자의 말을 이해 못 하거나 제대로 대응을 못 하고 있다는 걸 인지한다면 빠르게 상담을 포기하고 인간 상담사에게 이관하는 기술이 중요하다"고 강조했다.

ssc@news1.kr