공공 분야 인공지능전환(AX)이 단순 챗봇이나 문서 요약을 넘어 실제 업무를 수행하는 ‘에이전틱 AI’ 단계로 이동해야 한다는 제언이 나왔다. 공공기관이 AI를 도입하는 데 그치지 않고, 업무 현장에 에이전트를 배치해 안정적으로 운영·통제하는 역량을 갖춰야 한다는 설명이다.
임은영 LG CNS 에이전틱AI 사업담당이 24일 열린 공공AI 박람회 부대 프로그램 ‘공공 AX 혁신 기술 포럼’에서 발표하고 있다. (사진=신영빈 기자)
임 담당은 대표 사례로 경기교육청 디지털 플랫폼을 소개했다. 경기교육청은 평가계획서 생성 에이전트를 통해 교사의 반복 행정 업무를 줄이는 서비스를 구축했다. 생활기록부 작성, 교무 처리, 평가 자료 준비 등 반복 업무 부담을 덜어 교사가 수업 준비에 더 집중할 수 있도록 돕는다는 취지다.
인터넷망 동향 수집 에이전트 사례도 제시했다. 공공기관은 업무망에서 인터넷 사용이 제한되는 경우가 많다. 임 담당은 인터넷망에서 관심 동향을 크롤링하고 관련 보고서를 만들어 업무망 메일로 전달하는 에이전트 사례를 소개했다. 사건·사고나 정책 동향을 빠르게 파악해야 하는 업무 담당자가 외부 정보를 효율적으로 활용할 수 있도록 지원하는 방식이다.
임 담당은 기존 업무를 AI로 바꾸는 방식만으로는 효과를 내기 어렵다고 지적했다. 공공기관들이 여전히 예산과 인력 부족을 호소하고 있지만, AI 도입 수준에 따라 고민은 달라지고 있다는 설명이다. AI를 처음 도입하는 기관은 활용 사례를 찾는 데 어려움을 겪고, 이미 AI를 도입한 기관은 보안과 운영 통제 문제를 고민하고 있다는 것이다.
그는 “AI 기술이 아무리 발전해도 AI는 0과 1 사이의 확률값”이라며 “답변 정확도가 어느 날은 97%였다가, 어느 날은 88%였다가, 어느 날은 60%일 수 있다”고 말했다. 이어 “이런 것들을 어떻게 통제하고 운영할 것인지에 대한 전략이 먼저 수립돼야 한다”고 강조했다.
임 담당은 공공기관에서 에이전틱 AI를 확산하기 위해서는 개별 부서가 제각각 에이전트를 만드는 방식이 아니라 플랫폼 기반 접근이 필요하다고 봤다. 구매팀, 재무팀, 총무팀이 각각 다른 기술로 에이전트를 개발하면 향후 운영과 관리가 어려워질 수 있다는 설명이다.
이를 위해 공공기관이 보유한 문서를 AI가 활용할 수 있도록 공통의 벡터 데이터베이스(DB)나 그래프DB를 구축하고, 표준 개발 방법론을 기반으로 에이전트를 만들어야 한다고 제안했다. 이후 기존 업무 시스템에는 응용프로그램 인터페이스(API)나 모델 콘텍스트 프로토콜(MCP) 방식으로 연결해야 한다. 공공기관의 노후 시스템과 연계하기 위해서는 로봇 프로세스 자동화(RPA) 등 통합 기능도 필요하다고 덧붙였다.
LG CNS는 에이전틱 AI 플랫폼 ‘에이전트웍스’도 소개했다. 이 플랫폼은 공공기관 문서를 전처리해 AI가 활용할 수 있도록 하고, 모델 학습과 파인튜닝 이후 성능 비교를 지원한다. 현업 사용자가 프롬프팅만으로 쉽게 에이전트를 만들 수 있는 개발 도구와 전문 개발자가 랭플로우·랭그래프·파이썬 등을 활용해 개발할 수 있는 도구도 제공한다.
질문 난이도에 따라 적합한 AI 모델을 선택하는 ‘라우터’ 기능도 포함됐다. 단순한 질문은 비용이 낮은 모델이 처리하고, 복잡한 질문은 추론형 모델로 넘기는 방식이다. 임 담당은 에이전트가 어떤 모델을 사용했는지, GPU를 얼마나 썼는지, 어느 단계에서 실패했는지, 질문과 답변 품질은 어땠는지를 추적하는 ‘허브’ 기능이 중요하다고 강조했다.
보안 거버넌스도 주요 과제로 제시했다. 임 담당은 공공기관이 AI 서비스를 도입할 때 프롬프트 모니터링, 개인정보 마스킹, AI 레드팀, 모델 안전성 검증, 이상 징후 모니터링 등을 함께 고려해야 한다고 말했다. 공공기관은 국가 중요 정보를 다루는 만큼, 편리한 기술을 빠르게 제공하는 것만큼 안전하게 쓸 수 있는 기준을 마련하는 것이 중요하다는 설명이다.
임 담당은 “올해는 에이전트를 실전으로 전환하는 해”라며 “모델, 스킬, 툴 같은 기술도 중요하지만 이를 실제 업무 현장에 배치하고 운영하는 능력과 AI 네이티브 전략이 승리를 결정한다”고 말했다.
