[이데일리 한광범 기자] 에이전틱 AI(Agentic AI) 시대의 본격화로 클라우드 인프라 시장의 무게중심이 하드웨어(HW)에서 플랫폼(PaaS)으로 급격히 이동하고 있다. 기업들은 엔비디아의 그래픽처리장치(GPU) 등 물리적 자원 확보에 열을 올리던 단계를 넘어, 이제는 막대한 비용이 수반되는 AI 워크로드를 얼마나 효율적으로 실행하고 제어하느냐가 기업 생존을 가르는 핵심 경쟁력으로 부상했다고 강조했다.

25일 서울 양재 엘타워에서 열린 ‘K-AI PaaS Summit 2026’에서 국내 대표 클라우드 소프트웨어 기업들은 일제히 AI 서비스의 안정적인 배포와 비용 최적화를 실현할 ‘AI PaaS(서비스형 플랫폼)’ 전략을 대거 공개했다. 과거 서버와 운영체제(OS) 등 전통적 애플리케이션 개발 환경을 제공하던 레거시 PaaS는 이제 고가의 GPU 자원을 쪼개 쓰고, 스스로 판단해 작동하는 복수의 에이전트를 유기적으로 통제하는 복합 플랫폼 형태로 빠르게 진화하고 있다.

기조연설에 나선 공용준 kt클라우드 본부장은 레거시 PaaS인 ‘서비스 빌더’와 AI 에이전트를 만드는 ‘에이전트 빌더’가 유기적으로 융합된 ‘컴포짓 PaaS(Composite PaaS)’의 등장 배경을 설명했다. 그는 “과거에는 서버와 OS 등 파이프라인 구축이 고민이었다면, AI 시대에는 GPU 확보부터 모델 서빙, 벡터 DB 구축, 그리고 수십 수백 마리의 에이전트를 통제하는 옵저버빌리티(관측 가능성)까지 플랫폼 없이 한 사람이 처리하는 것이 불가능한 구조가 됐다”고 짚었다.

이러한 문제를 해결하기 위해 제시된 컴포짓 PaaS는 인프라를 보이지 않게 숨겨주고 개발자가 비즈니스 로직에만 집중할 수 있도록 돕는다. 구체적으로는 △서비스 빌더 △에이전트 빌더 △통합 데이터 플랫폼 △모델 서빙 및 추론을 돕는 AI 런타임 △할루시네이션(환각 현상)과 보안 문제를 제어하는 거버넌스 플랫폼 등 5가지 핵심 컴포넌트가 유기적으로 결합한 형태다.

공 본부장은 “시장의 가치는 하드웨어에서 플랫폼으로, 플랫폼에서 다시 에이전트로 이동하고 있다”며 “클라우드 네이티브와 데이터 플랫폼, AI 파운드리가 완전히 통합된 컴포짓 PaaS가 새로운 it 세대들의 길잡이가 될 것”이라고 강조했다.

나무기술은 AI 워크로드의 흐름이 대규모 데이터 ‘학습(Training)’에서 상시 구동되는 ‘추론(Inference)’ 단계로 완전히 역전됐다는 점을 주목하며, 실행과 운영에 특화된 AI PaaS 전략을 선보였다.

장현 나무기술 상무는 “2023년까지만 해도 AI 컴퓨팅 자원의 67%가 학습에 쓰였지만, 2026년 말 기준으로는 추론의 비중이 67%까지 치솟을 것”이라며 “에이전트 도입 본격화로 토큰 생성량이 폭발하면서 상시 구동되는 추론 원가를 통제하고 GPU 효율을 극대화하는 엔지니어링 역량이 기업의 사활을 쥐게 됐다”고 분석했다. 현재 국내 기업들의 GPU 실제 활용률이 5% 미만에 머물고 있다는 점도 이 같은 플랫폼 도입의 시급성을 뒷받침한다.

나무기술은 자사의 대표 K-PaaS 제품인 ‘칵테일 클라우드’를 중심으로 하드웨어와 PaaS, AI 애플리케이션 영역까지 아우르는 ‘풀스택(Full-stack)’ 솔루션을 제시했다. 특히 칵테일 클라우드의 에드온(Add-on) 형태로 출시된 ‘칵테일 옵티마이저(Cocktail Optimizer)’는 물리 GPU 한 대를 코어와 메모리 단위까지 미세하게 분할해 할당하는 자원 최적화 기능과 지능형 스케줄링을 제공한다. 여기에 멀티·하이브리드 클라우드 관리 플랫폼인 ‘스페로(SPERO)’를 결합해 비용 가시성을 확보하고 운영을 자동화한다는 구상이다.

장 상무는 “판단과 실행 구조 자체를 AI 기반으로 재편하는 AX(AI 대전환)로 가기 위해서는 클라우드 네이티브 전환이 필수 선결 과제”라며 “복잡한 인프라 환경에서 발생하는 운영 효율화와 비용 최적화 문제를 AI PaaS를 통해 해결하고, 기업들은 실질적인 비즈니스 가치 창출에만 집중해야 한다”고 제언했다.