김재원 엘리스그룹 대표가 15일 열린 기자간담회에서 AI PMDC 등에 대해 설명하고 있다. (사진=엘리스그룹)
이 사업은 정부 예산으로 대규모 GPU 서버와 부대 장비를 직접 구매해 제공하고, 선정된 기업이 이를 클러스터로 구축·운용하는 방식이다. 선정 기업은 확보한 GPU 자원의 일부를 공공 프로젝트나 스타트업 등에 저렴하게 공급하는 대신, 나머지 고성능 인프라를 자사 AI 서비스 개발 및 운영에 활용할 수 있는 권리를 얻게 되어 인프라 확보 부담을 획기적으로 줄일 수 있다.
◇국가 사업 도전…“1만 장 연결 자신”
일각에서 제기하는, 중소기업이 대규모 클러스터링을 운영할 수 있겠느냐는 우려에 대해 엘리스그룹은 강한 자신감을 보였다. 정부가 요구하는 최소 256노드 이상의 클러스터링을 모듈러 방식으로 구현할 수 있느냐는 질문에 김 대표는 “이미 B200과 B300 기준으로 2000장 규모의 클러스터링이 완성된 것이고, B300 기준으로 1만 장이 되는 것을 가상 단계에서 다 해봤기 때문에 실제로 하드웨어만 적용하면 문제없다”고 강조했다. 이어 “이미 256장, 512장, 1000장, 2000장까지 차곡차곡 클러스터링을 해봤고 그것이 실제로 쓰이고 있다”며 실질적인 운영 데이터를 기반으로 역량을 피력했다.
엘리스그룹이 내세우는 핵심 경쟁력은 국산 기술로 완성한 ‘K-PMDC(Portable Modular Data Center)’다. 기존 데이터센터가 부지 선정부터 구축까지 보통 2년 이상 소요되는 것과 달리, 엘리스의 PMDC는 단 3개월 내에 구축과 확장이 가능한 것이 강점이다. 특히 랙당 230kW의 고전력을 요구하는 엔비디아의 차세대 GPU ‘베라 루빈(Vera Rubin) NVL72’까지 지원할 수 있는 설계 역량을 확보했다고 했다.
김 대표는 “AI 인프라 경쟁력은 단순히 GPU를 몇 개 가졌느냐가 아니라, 이를 얼마나 잘 활용하느냐에 달려 있다”며 “엘리스그룹은 AI와 소프트웨어 개발에서 출발한 기업으로 인프라를 실제 서비스에 활용하는 기술까지 직접 확보하고 있다”고 설명했다. 하드웨어 공급에 그치지 않고 이를 효율적으로 운영할 수 있는 소프트웨어 스택까지 갖춘 ‘풀스택’ 경쟁력을 갖췄다는 의미다.
◇인프라부터 교육까지…‘AI 풀스택’ 완성
엘리스그룹의 ‘AI 풀스택’ 전략은 인프라부터 솔루션, 교육까지 전 영역을 아우른다. 자체 개발한 AI 클라우드 가상화 솔루션 ‘ECI(Elice Cloud Infrastructure)’는 대규모 GPU 자원을 효율적으로 운영할 수 있게 돕고, 보안이 중요한 기업들을 위해 고객사 데이터센터와 연결되는 하이브리드 구조도 지원한다. 또 아리스타네트웍스와 협력해 기존 인피니밴드 중심의 고비용 구조를 탈피하고 이더넷 기반 대규모 클러스터링 기술을 구현해 비용 효율성도 확보했다.
비용 효율성 측면에서는 국내 CSP(클라우드 서비스 제공사) 최초로 도입한 ‘GPU 스팟(Spot) 요금제’가 핵심이다. 유휴 GPU 자원을 활용해 기존 온디맨드 방식보다 최대 50% 수준의 비용으로 제공하는 모델이다. 김 대표는 “에이전트 시대에는 추론 수요가 폭발할 것”이라며 “기업들이 비용 장벽 없이 AI 혁신을 이룰 수 있도록 기존의 장기 약정형, 온디맨드와 함께 스팟까지 포함한 3종 과금 모델을 모두 갖췄다”고 밝혔다.
사업의 또 다른 축인 AI 솔루션과 AX(AI 전환) 교육 분야도 구체화되고 있다. 기업의 복잡한 문서 구조를 학습해 비정형 데이터를 정형화하는 AI 문서 분석 솔루션 ‘헬피 비전(Helpy Vision)’은 표 구조 인식(TSR) 분야에서 세계 최고 성능을 유지하고 있고, 이는 실제 현장에서 정확한 리포트 생성에 기여하고 있다. 교육 부문에서는 삼성, SK, 현대차, LG 등 국내 주요 대기업을 포함한 1만 3000여 개 기관에 솔루션을 공급한 경험을 바탕으로 임원 및 실무자 대상 AX 교육을 고도화하고 있다.
보안과 데이터 주권을 지키는 ‘소버린 AI’ 인프라 구축을 위해 안랩(053800), LG유플러스(032640), KISTI(한국과학기술정보연구원) 등 국내 주요 기관 및 기업들과의 동맹도 강화하고 있다. 전력 효율화를 위해선 차세대 배터리 실증을 진행하고, 국산 케이블 활용을 확대하는 등 AI 밸류체인 전반의 국산화를 추진 중이다.
김 대표는 정책적인 지원에 대해 “NPU(신경망처리장치)뿐만 아니라 혁신적인 클라우드 기업들이 자라날 수 있도록 AI 밸류체인 전체에 골고루 투자가 이뤄져야 한다”며 “국산 기술로 완성한 차세대 AI 인프라를 통해 국내 AI 생태계의 자립도를 높이고 기업들이 혁신을 이룰 수 있는 토대를 만들겠다”고 밝혔다.









