업스테이지와 퓨리오사AI, AXZ(다음 운영사)는 15일 3사 합동 온라인 브리핑을 통해 다음의 ‘AI 오버뷰’에 업스테이지의 대규모언어모델(LLM) ‘솔라’와 퓨리오사AI의 2세대 NPU(신경망처리장치) ‘RNGD(레니게이드)’를 적용했다고 밝혔다.
김성훈 업스테이지 대표는 “독자적으로 만든 솔라 모델이 우리가 만든 고성능 국산 NPU에서 돌아가고, 대국민 포털에 실시간으로 서비스되는 역사적인 날”이라며 “가장 좋은 AI 모델을 만들기 위해 노력하고 있다”고 말했다.
15일 온라인 대담에 참석한 김성훈 업스테이지 대표(왼쪽부터), 백준호 퓨리오사AI 대표, 이건수 AXZ 대표가 국산 AI 모델과 NPU를 활용한 다음 AI 서비스 협력 사례를 소개하고 있다. (사진=업스테이지)
다음 AI 오버뷰는 사용자가 검색어를 입력하면 검색엔진이 관련 문서를 찾고, 솔라가 문서 내용을 읽어 핵심 정보를 요약해 보여주는 서비스다. 사용자가 여러 검색 결과 링크를 일일이 열어보지 않아도 주요 내용을 한눈에 파악할 수 있도록 했다.
현재 서버 3개 노드에 RNGD 24개가 투입돼 솔라 기반 요약 모델의 추론을 담당하고 있다. 하루 처리량은 약 5억개 토큰이다.
이건수 AXZ 대표는 “기존 검색은 많은 링크를 하나씩 클릭해야 했지만, AI 오버뷰는 AI가 문서를 먼저 읽고 요약해 주는 서비스”라며 “실시간 정보를 기반으로 하는 만큼 최신성과 정확성을 확보하는 것이 가장 중요했다”고 설명했다.
검색 서비스에 LLM을 적용하는 과정에서 가장 큰 과제는 환각이었다. 모델이 검색 결과에 없는 사전학습 지식을 섞어 답변하거나 오래된 내용을 최신 정보처럼 제시할 수 있어서다.
이 대표는 “모델이 지금까지 학습한 지식을 배제하고 제공된 정보 안에서만 정확하게 답하도록 하네스 엔지니어링을 강하게 적용했다”며 “최신 정보만 사용자에게 전달할 수 있도록 많은 노력을 기울였다”고 말했다.
다음은 검색 정확도를 높이기 위해 기존 키워드 검색과 의미 기반 벡터 검색을 결합한 ‘하이브리드 검색’도 적용했다. 검색어와 관련성이 높으면서도 최신인 문서를 우선적으로 찾아 솔라에 제공하는 방식이다.
이 대표는 “다음은 언론사 제휴 콘텐츠와 카페, 티스토리 등 다양한 문서를 색인하고 있다”며 “실시간 트렌드처럼 이용자의 관심이 급격히 높아진 주제에 대해 가장 최신 정보를 빠르게 제공하는 데 차별점이 있다”고 강조했다.
◇“H200급 속도…하드웨어·SW 함께 설계”
퓨리오사AI는 RNGD가 아직 최적화가 진행 중인 상황에서도 엔비디아 H200과 유사한 추론 속도를 냈다고 설명했다.
백준호 퓨리오사AI 대표는 “프런티어 모델을 최적의 성능으로 구동하려면 AI 연산을 가속하는 하드웨어뿐 아니라 모델을 칩에 매핑하는 컴파일러와 다양한 서비스 시나리오를 처리하는 서빙 엔진까지 필요하다”고 말했다.
이어 “하드웨어와 소프트웨어를 함께 공동 설계한 결과 H200보다 높은 전성비와 가성비를 확보하면서도 대등한 성능을 보여주고 있다”고 덧붙였다.
퓨리오사AI는 특히 AI 서비스 확산으로 토큰 사용량이 급증하는 상황에서 RNGD가 추론 비용을 낮출 수 있다고 강조했다. 칩 구매비와 전력비 등을 포함한 총소유비용(TCO)을 줄일 수 있다는 설명이다.
김 대표는 “현재 다음과 솔라를 운영하면서 약 30% 수준의 비용 절감 효과를 체감하고 있다”고 말했다. 백 대표는 “최적화를 계속해 기존 대비 비용을 절반 이하로 낮추는 것이 목표”라고 밝혔다.
백 대표는 국산 NPU 활용이 단순한 비용 절감 이상의 의미를 갖는다고도 했다. 그는 “국산 모델과 국산 칩의 결합은 공급망과 국제 정세를 고려할 때 반드시 확보해야 하는 전략 기술”이라며 “공급망 다변화 관점에서도 국산 AI 반도체와 소버린 AI 모델을 함께 사용해야 한다”고 말했다.
◇AI 오버뷰 절반 이상 확대…‘1인 1 에이전트’ 추진
다음은 현재 전체 검색 질의의 약 20%에 노출되는 AI 오버뷰를 향후 절반 이상으로 확대할 계획이다. 일반 검색을 넘어 쇼핑과 맛집 등 특정 영역에 특화된 버티컬 AI 오버뷰도 준비한다.
장기적으로는 다음 이용자에게 개인별 AI 에이전트를 제공하는 ‘1인 1 에이전트’를 추진한다.
이 대표는 “사용자가 삼성전자 주가나 공시, 경쟁사와 해외 반도체 기업의 뉴스를 매일 반복해서 검색하고 있다”며 “이런 정보를 다음이 가진 뉴스를 기반으로 요약해 매일 아침 자동으로 배달하는 에이전트부터 시작할 수 있다”고 말했다.
퓨리오사AI도 에이전틱 AI 서비스 확대에 맞춰 지원 모델과 제품군을 확장할 계획이다. 백 대표는 “모델과 에이전트 AI가 계속 발전하는 만큼 새로운 모델을 효율적으로 지원하고, 차세대 칩을 통해 성능과 전성비, 가성비를 지속적으로 높이겠다”고 밝혔다.
RNGD 공급 확대 가능성도 제시됐다. 김 대표가 향후 임베딩 모델 등을 구동하기 위해 연말까지 RNGD 1만장이 필요할 수 있다고 하자 백 대표는 “RNGD는 현재 성공적으로 양산 중이며 1만장도 충분히 공급할 수 있다”고 답했다.
퓨리오사AI는 엔비디아 쿠다 생태계 없이도 모델을 비교적 손쉽게 적용할 수 있다고 설명했다. 허깅페이스에 공개된 모델 저장소와 가중치가 있으면 자체 컴파일러와 소프트웨어 스택을 통해 최적화와 서빙을 지원할 수 있다는 것이다.
백 대표는 “솔라 프로도 상당히 빠른 속도로 지원했다”며 “앞으로는 새로운 모델이 공개되는 당일 지원하는 것을 목표로 하고 있다”고 말했다.
이번 협력은 국산 모델과 NPU가 실제 상용 서비스에서 속도·비용 경쟁력을 검증했다는 데 의미가 있다. 세레브라스 협력이 초고속 추론 가능성을 보여줬다면, 퓨리오사AI 협력은 국산 AI 풀스택의 상용화를 입증한 사례다.
업스테이지가 서비스 목적에 따라 여러 AI 반도체를 활용하는 ‘멀티칩 전략’을 본격화하는 동시에, 퓨리오사AI는 실제 대규모 인터넷 서비스 운용 실적을 확보하게 됐다.
김 대표는 “다음 AI 오버뷰를 사용하는 것이 솔라를 쓰는 것이고, 동시에 국산 NPU를 사용하는 것”이라며 “많은 사용과 품질 개선이 다시 더 많은 사용으로 이어지는 선순환을 만들어야 한다”고 말했다.
