[이데일리 김현아 기자] 국내 인공지능(AI) 기업 업스테이지가 미국 AI 반도체 기업 세레브라스 시스템즈(Cerebras Systems)와 손잡고 초고속 AI 추론 서비스 시장 공략에 나선다. 자체 대형언어모델(LLM) ‘솔라(SOLAR) 31B’를 세레브라스의 AI 인프라에 탑재해 초당 최대 2000토큰(Token)의 추론 성능을 구현하면서 실시간 AI 서비스 경쟁력을 끌어올린다는 전략이다.

세레브라스는 지난 10일(현지시간) 자사 블로그를 통해 업스테이지와 전략적 파트너십을 맺고 솔라 31B를 세레브라스의 웨이퍼 스케일 엔진(WSE) 기반 인프라에서 제공한다고 밝혔다.

이번 협력으로 개발자는 세레브라스 추론 클라우드에서 오픈AI 호환 API를 활용해 기존 애플리케이션을 크게 수정하지 않고도 솔라 모델을 사용할 수 있다. 업스테이지는 초당 최대 2000토큰 수준의 추론 속도를 구현했다고 설명했다.

이는 수백 개의 정보 출처를 분석하는 심층 검색이나 장문 문서 처리, AI 에이전트 등 대규모 추론이 필요한 서비스에서 기존 수분이 걸리던 작업을 수초 내 처리할 수 있는 수준이다. 업계에서는 AI 경쟁력이 모델 성능뿐 아니라 추론 속도와 운영 비용으로 이동하는 가운데, 이번 협력이 기업용 AI 상용화를 앞당기는 계기가 될 것으로 보고 있다.

김성훈 업스테이지 대표는 “세레브라스와 협력해 업계 최고 수준의 추론 속도를 갖춘 솔라 모델을 개발자들에게 제공하게 됐다”며 “빠르고 즉시 활용 가능한 AI 애플리케이션을 대규모로 구축할 수 있도록 지원하겠다”고 말했다.

줄리 최 세레브라스 최고마케팅책임자(CMO)는 “한국은 AI 혁신의 중심 시장”이라며 “업스테이지와 함께 한국을 비롯한 전 세계 기업과 개발자들이 새로운 수준의 AI 추론 성능을 활용할 수 있도록 지원하겠다”고 밝혔다.

◇엔비디아 대항마 세레브라스…AI 인프라 경쟁 본격화

이번 협력의 파트너인 세레브라스는 글로벌 AI 반도체 시장에서 엔비디아의 유력한 경쟁사로 꼽힌다. 기존 GPU처럼 여러 개의 칩을 연결하는 대신 실리콘 웨이퍼 전체를 하나의 칩으로 사용하는 ‘웨이퍼 스케일 엔진(WSE)’ 기술을 앞세워 칩 간 통신 지연을 최소화한 것이 강점이다.

이를 기반으로 AI 학습과 추론에 특화된 CS 시리즈 시스템과 추론 클라우드 서비스를 구축해 왔으며, 최근에는 미국 나스닥 상장에도 성공하며 AI 인프라 기업으로 존재감을 키우고 있다.

양사는 이번 협력을 계기로 금융, 보험, 의료, 제조 등 실시간 데이터 처리가 중요한 산업을 중심으로 초고속 AI 도입을 확대할 계획이다. 또한 다양한 산업별 AI 활용 사례를 발굴하고 업스테이지의 AI 모델을 세레브라스 플랫폼에 지속적으로 확대 적용한다는 방침이다.