[이데일리 한광범 기자] LG유플러스(032640)가 AI 모델 개발과 서비스 운영 사이의 단절을 없애고 전 과정을 하나로 통합한 엔지니어링 플랫폼을 선보이며 AI 서비스 가속화에 나선다. 그동안 학습, 평가, 배포, 운영이 분절돼 발생했던 반복 작업을 하나의 흐름으로 연결해, AI 모델이 언제든 즉시 서비스에 투입될 수 있는 체계를 구축한 것이 핵심이다.

LG유플러스는 아마존웹서비스(AWS)가 주최한 ‘2026 모던 에이전틱 애플리케이션 데이(Modern Agentic Applications Day)’에서 이 같은 내용의 AI 플랫폼 구축 사례를 공개했다고 10일 밝혔다. 생성형 AI와 에이전트 기술을 활용해 인프라 운영을 자동화하고, 온프레미스와 클라우드를 연계한 유연한 구조로 전환해 운영 안정성을 높였다는 설명이다.

LG유플러스는 AI를 일회성 개발에 그치지 않고 항상 최적의 성능으로 서비스할 수 있는 ‘모델 준비 상태(Model Ready)’를 유지하는 데 주력했다. 데이터 수집부터 운영까지 전 과정을 단일 파이프라인으로 연결함으로써 개발자와 운영자가 동일한 기준과 환경에서 작업할 수 있는 기반을 마련했다.

기술적 기반으로는 AWS의 관리형 쿠버네티스 서비스인 아마존 EKS를 활용한 하이브리드 인프라 아키텍처를 도입했다. 자체 보유한 GPU 인프라를 클라우드 클러스터와 통합 관리하되, 제어 시스템은 AWS의 완전관리형 서비스를 활용해 관리 부담을 줄이고 서비스 품질 개선에 집중할 수 있는 환경을 만들었다.

GPU 자원 활용 방식도 개선했다. 기존의 고정 할당 방식 대신 필요한 시점에 자원을 유연하게 배분하는 구조를 적용해 GPU 미사용 시간을 줄이고 활용 효율을 극대화했다. 이를 통해 AI 모델 학습이나 서비스 제공 속도를 한층 높일 수 있게 됐다.

권기덕 LG유플러스 AX엔지니어링Lab장은 “LG유플러스는 AX 서비스 가속화를 위해 데이터 수집부터 모델 개발·배포·운영, GPU 운영까지 아우르는 AI-DLC(AI 주도 개발 라이프사이클) 기반의 엔지니어링 플랫폼 역량을 강화하고 있다”며 “앞으로도 AWS와의 기술 협력을 통해 AI 서비스 품질과 운영 안정성을 지속적으로 높여 나가겠다”고 밝혔다.