왼쪽부터 김성훈 업스테이지 대표, 백준호 퓨리오사AI 대표, 이건수 AXZ 대표. (업스테이지 제공)
"업스테이지가 독자적으로 만든 LLM 솔라가 퓨리오사AI가 만든 국산 NPU에서 돌아가고, 대국민 포털 다음에 실시간으로 서비스되는 역사적인 날을 기념하기 위해 모였다."
업스테이지가 AI 반도체(NPU) 기업 퓨리오사AI와 손잡고 국내 첫 '풀스택 소버린 AI' 상용화에 나선다. 최근 인수를 완료한포털 '다음' 운영사 에이엑스지(AXZ)도 함께한다.
김성훈 업스테이지 대표, 백준호 퓨리오사AI 대표, 이건수 AXZ 대표는 15일 성남시 판교 AXZ 사옥에서 오전 협력 방안에 대한 대담을 나눴다.
퓨리오사AI의 신경망처리장치(NPU) '레니게이드(RNGD)'를 활용해 업스테이지의 거대언어모델(LLM) '솔라'를 탑재해 다음의 'AI 요약' 서비스를 구동한다.
인프라부터 모델, 실제 사용자가 체감하는 서비스까지 AI 전 영역을 국산 기술로 연결한 첫 소버린 AI 사례라고 이들은 설명했다.
포털 다음의 AI 요약은 사용자가 검색창에 질문하면 검색 엔진이 적확한 문서를 찾고, 업스테이지 LLM '솔라'를 통해 요약해서 보여 주는 서비스다.
언론사 제휴와 티스토리 서비스를 통해 다음이 보유한 많은 정보 중 가장 최신 정보만 가져오는 데 특화됐다고 이 대표는 설명했다.
이 대표는 "환각을 제어하기 위해 하네스 엔지니어링을 고도화했다"며 "가장 정확한 최신 문서를 찾아올 수 있도록 실험을 거듭해 높은 품질을 담보할 수 있게 됐다"고 설명했다.
다음은 AI 요약을 쇼핑, 맛집 등으로 확장할 계획이다. 또 검색하기 전에 미리 관심 있는 뉴스를 배달하는 등 1인 1에이전트를 보급할 수 있도록 준비하고 있다고 밝혔다.
다음의 'AI 요약' 서비스가 퓨리오사 AI의 NPU(왼쪽)와 엔비디아의 GPU에서 각각 구동되는 모습. (업스테이지 유튜브 갈무리)
이날 대담에서는 다음의 AI 요약 서비스가 퓨리오사AI의 NPU와 엔비디아의 GPU(그래픽처리장치)에서 구동되는 화면을 각각 제시해 속도를 비교했다.
엔비디아 GPU가 처리 속도에서 앞서긴 했지만, 퓨리오사AI의 NPU의 속도도 뒤지지 않았다. 백 대표에 따르면 퓨리오사AI의 AI 반도체는 엔비디아에 비해 최소 1.5배 비용 절감 효과가 있다.
백 대표는 "토큰 사용량이 급증하고 있는 상황에서 비용을 획기적으로 절감할 수 있는 장점이 있다"며 "공급망 관점과 국제 정세를 봤을 때 국산 AI 반도체와 소버린 AI 모델을 많이 사용해야 한다"고 강조했다.
퓨리오사AI는 다음 AI 요약과 같은 에이전트 서비스를 가성비 좋은 토큰 가격으로 지원할 수 있도록 모델을 업그레이드할 계획이다.
김 대표가 '칩(반도체)을 사기가 너무 어렵다. 연말까지 1만 장이 필요한데 공급이 가능한가'라고 묻자, 백 대표는 "레니게이드의 양산을 성공적으로 진행하고 있어 1만 장을 좋은 가격에 충분히 공급해 드리겠다"고 답했다.
김 대표는 "다음에서 AI 요약을 사용하면 국산 LLM 솔라와 국산 NPU를 사용하는 것"이라며 "독자 AI 파운데이션 모델 프로젝트를 통해 공개될 업스테이지 차세대 모델에도 관심을 부탁드린다"고 말했다.
shushu@news1.kr









