하이퍼엑셀(대표 김주영)은 애니브릿지(대표 박종세)와 AI 인프라 풀스택 분야의 공동 기술개발 및 협력을 위한 업무협약(MOU)을 체결했다고 13일 밝혔다.
이번 협약은 양사의 기술을 결합해 AI 추론 인프라의 성능뿐 아니라 비용과 전력 효율까지 높이는 것이자는 것이다. 하이퍼엑셀은 AI 가속기, 애니브릿지는 이를 효율적으로 활용하기 위한 소프트웨어를 맡아 서로 다른 영역의 기술을 연결한다.
애니브릿지 권영진 최고과학책임자(Chief Scientist), 박종세 대표, 하이퍼엑셀 김주영 대표, 이진원 CTO가 AI 인프라 풀스택 공동 기술개발을 위한 업무협약(MOU)을 체결한 뒤 기념촬영을 하고 있다. 사진=하이퍼엑셀
하이퍼엑셀은 대규모 언어모델(LLM) 추론에 특화된 AI 반도체 LPU(LLM Processing Unit)를 개발하고 있다. 메모리 대역폭 활용과 데이터 이동을 최적화한 독자 아키텍처를 기반으로 생성형 AI 추론 성능을 높이면서 전력과 비용 효율을 개선하는 데 초점을 맞췄다.
애니브릿지는 GPU(그래픽처리장치)·NPU(신경망처리장치)·PIM 등 서로 다른 특성을 가진 AI 가속기를 하나의 시스템에서 활용할 수 있도록 지원하는 멀티 가속기 LLM 서빙 런타임 소프트웨어를 개발하고 있다.
LLM 서비스에 특정 가속기만 사용하는 대신 작업 특성에 따라 GPU와 NPU, PIM 등을 유연하게 조합해 활용할 수 있도록 하는 것이 핵심이다. 이를 통해 고가의 GPU 의존도를 낮추고 AI 서비스의 비용과 전력 소모를 줄이는 것을 목표로 한다.
양사는 하이퍼엑셀의 LPU와 애니브릿지의 멀티 가속기 소프트웨어를 연계해 실제 AI 추론 환경에서 시스템 성능과 자원 활용 효율을 높일 수 있는 방안을 검증할 예정이다. 기술적 연동 가능성이 확인되는 분야를 중심으로 공동 연구·개발과 사업 협력도 확대한다.
◇‘하드웨어’ 김주영과 ‘소프트웨어’ 박종세
이번 협력은 양사의 대표가 각각 AI 인프라의 다른 영역을 전문으로 한다는 점에서도 의미가 있다.
김주영 하이퍼엑셀 대표는 KAIST 전기및전자공학부 교수이자 인공지능반도체시스템 연구센터장을 맡고 있는 AI 반도체·시스템 아키텍처 전문가다. KAIST에서 칩 설계로 박사학위를 받은 뒤 미국 마이크로소프트(MS)에서 약 7년간 하드웨어 엔지니어로 근무하며 데이터센터용 가속기 설계와 서버 통합 프로젝트를 이끌었다.
김 대표는 LLM과 생성형 AI 시장의 성장 가능성에 주목해 2023년 하이퍼엑셀을 창업했다. AI 반도체 및 시스템 아키텍처 분야의 연구·산업 성과를 인정받아 올해 정보통신 유공 산업포장을 수상했다.
하이퍼엑셀이 AI 연산을 담당하는 반도체 자체를 개발한다면, 박종세 애니브릿지 대표는 서로 다른 AI 반도체를 효율적으로 연결하고 운용하는 소프트웨어 인프라를 개발하는 역할을 맡고 있다.
박 대표는 KAIST 전산학부 교수로 컴퓨터 아키텍처와 AI 시스템 분야를 연구해왔다. 고성능 GPU에 대한 LLM 서비스의 높은 비용과 전력 소모 문제에 주목해 애니브릿지를 창업하고, 다양한 AI 가속기를 하나의 시스템에서 최적으로 활용하는 기술 개발을 추진하고 있다.
특히 박 대표 연구팀은 GPU뿐 아니라 NPU, PIM 등 다양한 AI 반도체를 작업 특성에 따라 조합·운용할 수 있는 멀티 가속기 LLM 서빙 런타임 소프트웨어를 개발해 ‘4대 과학기술원·카카오 AI 육성 프로젝트’에서 대상을 받았다.
글로벌 협력도 추진하고 있다. 애니브릿지는 미국 실리콘밸리 AI 반도체 기업 삼바노바 공동창업자이자 스탠퍼드대 교수인 쿤레 올루코툰을 자문위원으로 영입하며 글로벌 시장 진출을 준비하고 있다.
◇AI 인프라 경쟁, ‘칩’에서 ‘시스템’으로
이번 협력은 AI 인프라 경쟁의 무게중심이 단순히 고성능 GPU나 AI 반도체 확보에서 하드웨어와 소프트웨어를 얼마나 효율적으로 결합하느냐로 이동하는 흐름과 맞닿아 있다.
특히 생성형 AI 서비스가 확대되면서 추론 비용과 전력 소비가 급증하고 있어 특정 가속기에 대한 의존도를 낮추고 서비스 특성에 맞는 최적의 컴퓨팅 자원을 배분하는 기술의 중요성이 커지고 있다.
김주영 하이퍼엑셀 대표는 “AI 모델이 고도화되고 추론 수요가 빠르게 증가하면서 AI 인프라는 단순히 연산 성능을 높이는 것을 넘어 비용과 전력 효율, 시스템 확장성까지 함께 고려해야 한다”며 “애니브릿지와의 협력을 통해 AI 반도체와 소프트웨어를 연결하고 AI 인프라 전반의 효율을 높일 수 있는 다양한 기술적 가능성을 검토하겠다”고 말했다.
박종세 애니브릿지 대표는 “LLM 서비스가 확대되면서 다양한 AI 가속기를 서비스 특성에 맞게 효율적으로 활용할 수 있는 인프라 기술의 중요성이 커지고 있다”며 “AI 반도체 분야의 기술력을 보유한 하이퍼엑셀과 함께 가속기부터 소프트웨어, 시스템에 이르는 AI 인프라 전반의 최적화 가능성을 폭넓게 검토하겠다”고 말했다.
양사는 향후 실무 협의를 통해 공동 기술개발과 검증 분야를 구체화하고, 협력 가능성이 확인되는 분야를 중심으로 공동 연구·개발 및 사업 협력을 단계적으로 확대할 계획이다.
