[이데일리 한광범 신영빈 기자] 대국민 무료 AI 인프라 사업인 ‘모두의 AI’에 선정된 3개 컨소시엄이 오는 10월 일제히 베타서비스를 선보이며 서비스 경쟁에 나선다. SK텔레콤(017670), 카카오(035720), KT(030200)는 각각 통신 채널 연동, 생활 밀착형 데이터 결합, 포털 검색 및 최적화 라우팅을 핵심 차별화 무기로 제시했다.

4일 서울 한국프레스센터에서 열린 ‘모두의 AI’ 프로젝트 착수 간담회 질의응답에서 3사 컨소시엄은 10월 중 클로즈드 베타 및 기본 챗봇 서비스를 개시하고, 12월 정식 출시에 맞춰 본격적인 서비스 고도화에 나선다고 밝혔다.

3개 컨소시엄은 글로벌 AI 대비 확실한 차별화 서비스 구현을 위한 각사의 핵심 전략을 구체적으로 공개했다.

SK텔레콤 컨소시엄은 통신사 특유의 접근성과 전문 파트너 결합을 강점으로 제시했다. 김지훈 SK텔레콤 AI사업본부장은 “데이터와 서비스에서의 강점과 함께 ‘전화와 문자’라는 채널이 가진 차별화된 시나리오를 가져갈 것”이라고 설명했다. SKT 컨소시엄에 참여한 김진우 라이너 대표는 “안정적인 범용 서비스가 ‘모루’ 역할을 하고, 취업준비 등 특정 영역을 깊게 파고드는 서비스 파트너들이 ‘망치’ 역할을 하는 방식”이라고 덧붙였다. 모델은 K2를 포함해 3종 내외를 혼용해 테스트 중이다.

카카오 컨소시엄은 일상 밀착형 데이터 연동과 ‘편리함’을 내세워 승부수를 던졌다. 김세웅 카카오AI 부사장은 “현재 미국 빅테크 AI의 성능을 당장 이기기는 어렵지만, 올해와 내년에는 국민들이 정말 편리하게 쓸 수 있는 AI를 만드는 데 집중할 것”이라고 밝혔다. 이어 “특히 금융, 의료, 공공서비스 등 정부가 가진 영역에서 데이터와 서비스가 충분히 연결되면 외산 AI가 할 수 없는 것을 할 수 있다”고 강조했다. 활용 모델은 LG 엑사원과 카카오 카나나 등을 주요 축으로 운영할 방침이다.

KT 컨소시엄은 포털 ‘다음’ 및 전문 버티컬 사업자와의 데이터 결합을 내세웠다. 이진형 KT AX사업본부장은 “다음과 함께 검색을 더 정확하게 만드는 ‘이음 인사이드’ 전략을 추진하고, 업스테이지 등 스타트업 모델 최적화와 솔트룩스 연계 공공서비스를 준비 중”이라고 밝혔다. 컨소시엄에 합류한 이건수 다음 대표는 “쇼핑, 맛집, 부동산 등 한국 버티컬 사업자의 실시간 데이터와 RAG(검색증강생성)를 결합해 정확한 실시간 정보를 제공하겠다”고 말했다. KT는 코어 엔진(업스테이지), NPU 오프로딩(KT 믿음), 공공 에이전트(솔트룩스) 등 총 7개 모델을 태스크별로 자동 라우팅해 운영할 계획이다.

정부는 이 같은 서비스 구상을 뒷받침하기 위해 파격적인 예산 지원 방침을 재확인했다. 김경만 과기정통부 AI정책실장은 “내년 예산 2500억원 중 약 1700억원은 엔비디아 B200 GPU 약 2000장 임차 비용으로 쓰이며, 300억원은 3개 컨소시엄에 각각 100억원씩 직접 할당돼 시스템 구축과 협업에 활용된다”고 밝혔다. 나머지 500억원은 외부 전문 에이전트 확장 자금으로 쓰인다.

아울러 정부는 국산 NPU(AI 반도체) 생태계 조성을 위한 별도 정책을 추진하는 한편, 이용자 접근성을 높이기 위해 3사 서비스 간 공동 브랜딩 및 공통 서비스 명칭 도입을 추가 협의할 방침이다.

다음은 모두의 AI 프로젝트 착수 간담회 질의응답 전문.

-각 컨소시엄의 베타서비스 출시 시점은. 베타에서는 어떤 서비스를 먼저 선보일 계획인가.

△김지훈 SK텔레콤 AI사업본부장=베타 시기는 추석 이후인 10월로 보고 있다. 1차적으로 내보낼 기능은 오늘 말씀드렸던 챗봇과 검색 연동 기능을 먼저 선보일 예정이다.

△이진형 KT AX사업본부장=기본 기능들은 원래 9월 말~10월 초에 맞추려고 했다. 다만 저희 서비스의 특징이 생태계에 있는 검색과 연동해서 강하게 붙어야 국민들이 효과를 볼 수 있다는 점이다. 베타 일정은 정부와 협의하고 있다. 클로즈드 베타가 필요하다면 일정이 조금 늦어질 수도 있다. 일반 기능 자체는 기존 일정대로라면 9월 말이나 10월 초에 내놓을 수 있다.

△김세웅 카카오 부사장=저희는 10월 중순으로 생각하고 있으며, 기본 챗봇으로 베타서비스를 시작할 예정이다.

△김경만 과기정통부 인공지능정책실장=베타서비스는 처음에는 아무래도 클로즈드 형태로 완성도 테스트 등을 중심으로 진행할 것으로 보고 있다. 사업계획상 정식 오픈은 12월이다. 처음 나가는 서비스인 만큼 개인정보 등 여러 부분에서 조심스러운 부분이 있어, 초기에는 제한된 체험단 등을 대상으로 충분히 테스트하는 방향을 검토하고 있다. 구체적인 일정은 3사와 다시 협의해 말씀드리겠다.

-카카오는 MAU 목표를 제시했는데 SKT와 KT의 이용자 목표는 어느 정도인가. 또 정부가 컨소시엄별 세부 평가점수를 공개하지 않은 이유는 무엇인가.

△김지훈 SK텔레콤 AI사업본부장=SKT 컨소시엄은 올해 연말 MAU 목표를 카카오와 동일하게 500만명으로 보고 있고, 내년에는 1000만명을 목표로 하고 있다.

△이진형 KT AX사업본부장=저희 컨소시엄에는 다음 검색서비스가 함께하고 있고 다음 자체의 MAU가 상당히 크다. 그 이용자 가운데 어느 정도가 저희 쪽으로 유입되느냐에 따라 MAU가 달라질 수 있다. 올해는 500만명 안팎을 생각하고 있다. 내년에는 더 많은 이용자를 수용할 수 있도록 시스템도 준비할 계획이다.

△김경만 과기정통부 인공지능정책실장=정부가 공정성과 객관성을 최우선으로 생각하는 것은 맞다. 다만 참여 기업들의 의사도 많이 고려했다. 일반적으로 1위 기업은 점수 공개를 원할 수 있지만 그렇지 않은 기업들은 공개를 원하지 않는 경우가 많다. 이번에도 참여 기업들의 의사를 타진했고 그것이 점수를 공개하지 않는 데 하나의 기준이 됐다. 선정된 3개 사업자의 점수는 거의 비슷하다. 차이가 거의 없는 편이다. 반면 나머지 참여 사업자들과는 어느 정도 차이가 있었고, 해당 기업들도 공개를 원하지 않았다. 평가기준은 공고문에 자세히 나와 있다. 사업의 안정성, 생태계를 어떻게 확장할 것인지 등 오늘 컨소시엄들이 발표한 내용들이 주요 평가요소라고 보면 된다.

-내년도 ‘모두의 AI’ 예산 2500억원은 구체적으로 어떻게 지원할 계획인가. 향후 컨소시엄별 후속 지원은 어떻게 결정하나.

△김경만 과기정통부 인공지능정책실장=내년 예산은 2500억원이 책정됐고 크게 세 가지로 볼 수 있다. 우선 약 1700억원은 GPU 사용에 들어가는 비용이다. 저희가 계산한 기준은 B200 약 2000장을 임차하는 비용이다. 현재 국내 챗봇 서비스에 들어가는 GPU 연산량을 충분히 상회하는 수준이기 때문에 내년도 사업을 어느 정도 커버할 수 있을 것으로 보고 있다. 300억원은 3개 컨소시엄에 각각 100억원씩 직접 할당하는 개념이다. 각 컨소시엄이 시스템을 운영하거나 구축하고, 개별 참여기업과 협업하는 데 들어가는 비용으로 사용할 수 있다. 나머지 500억원은 에이전트 확장에 사용할 생각이다. 이 사업은 챗봇이 기본이지만 공공 에이전트나 개인 특화서비스 같은 에이전트 확장에 더 큰 의미가 있다. 외부에서 개발된 에이전트가 자연스럽게 3개 플랫폼에 탑재돼 서비스되는 구조를 만들고 싶다. 내년 3월 정도가 되면 실제로 어느 서비스의 이용량이 많은지 볼 수 있을 것이다. GPU 지원은 실제 사용량을 기준으로 증산될 가능성이 높기 때문에 많은 가입자를 확보하고 활동성이 높은 컨소시엄은 더 많은 자원을 가져갈 수 있다. 다만 정부가 원하는 것은 단순한 경쟁이 아니라 경쟁하면서도 협업하고 함께 꾸준히 성장하는 모습이다.

-외산 AI 의존도를 낮추겠다고 했지만 GPU 등 하드웨어는 엔비디아 의존도가 높다. ‘모두의 AI’에서 국산 AI 가속기를 얼마나 활용할 계획인가.

△김경만 과기정통부 인공지능정책실장=국산 가속기를 활성화시키기 위한 정책은 별도로 추진하고 있다. ‘모두의 AI’를 국민들이 많이 사용하면 추론량도 많이 늘어날 것이고, 가속기 수요 측면에서 상당히 큰 시장을 열어주는 역할을 할 수 있다. ‘모두의 AI’ 외에도 국산 NPU를 확대하기 위한 여러 정책을 별도로 추진하고 있다. 이 사업을 통해 이용자가 많이 늘어나고, 그 과정에서 국산 모델과 국산 가속기가 많이 활용되는 것이 바람직한 방향이라고 본다. 가속기 관련 정책은 별도로 예산을 확보해 생태계를 조성하는 작업을 하고 있다.

△백준호 퓨리오사AI 대표=국내 NPU가 독자 파운데이션 모델과 에이전틱 AI를 충분히 지원할 수 있도록 빠르게 고도화되고 있다. 국민들이 불편함 없이 사용할 수 있도록 NPU가 충분한 고성능과 경제성을 갖출 수 있게 노력하겠다. 저희는 ‘모두의 AI’에서 생성되는 토큰의 상당 부분이 국내 NPU를 중심으로 생성돼야 한다고 생각한다. 그렇게 될 수 있도록 컨소시엄과 함께 노력하겠다.

△이진형 KT AX사업본부장=국산 NPU는 추론에 특화된 제품들이 많이 있다. GPU와 NPU를 적절하게 섞었을 때 상당히 효율적인 구성이 가능하다. 예를 들어 프리필(prefill)과 디코드(decode)를 나눠 처리하면서 GPU와 NPU를 적절하게 활용하는 방식이다. 리벨리온 NPU를 국내 모델에 탑재해 테스트했는데 상당한 성능을 내고 있다. GPU와 NPU를 적절히 혼용해 효율을 높일 계획이고, 운영비용 측면에서도 앞으로 NPU 활용 비중이 점차 늘어날 것으로 보고 있다.

-배경훈 부총리가 “외산 AI와 차별점이 없으면 모두의 AI는 실패”라고했다. 각 컨소시엄이 보는 외산 AI와의 핵심 차별점은 무엇인가.

△김세웅 카카오 부사장=저희가 지향하는 것은 편리한 AI다. 현재 모델, 에이전트, 플랫폼, 생태계 전체를 놓고 보면 미국 빅테크의 AI를 당장 성능만으로 이기기는 쉽지 않다고 생각한다. 물론 따라잡아야 한다. 하지만 하나의 기술만 올라간다고 되는 것은 아니고 전반적인 생태계가 함께 올라와야 한다. 올해와 내년에는 국민들이 정말 편리하게 쓸 수 있는 AI를 만드는 데 집중하려고 한다. 특히 금융, 의료, 공공서비스 등 정부가 가진 영역에서 ‘모두의 AI’가 활용할 수 있는 데이터와 서비스가 충분히 연결되면 외산 AI가 할 수 없는 것을 할 수 있다고 생각한다.

△김지훈 SK텔레콤 AI사업본부장=데이터와 서비스에서 분명히 강점을 가져갈 수 있다는 점에는 여기 계신 분들이 모두 공감할 것 같다. 또 3개 컨소시엄 모두 통신사가 들어가 있다. 저희는 특히 ‘전화와 문자’라는 채널이 가진 차별화된 시나리오를 가져가려고 한다.

△김진우 라이너 대표=B2C 서비스를 운영해보면 안정성·속도·편리함 같은 기본 기능을 충분히 갖추는 것과 동시에 사용자가 정말 필요한 순간에 깊게 들어가는 기능을 준비해야 한다. 예를 들어 취업준비생이라면 자기소개서를 잘 쓰는 것처럼 결과물의 품질이 큰 영향을 미치는 영역을 깊게 파고들어야 한다. 반면 일상적인 대화는 누구나 쉽고 빠르게 사용할 수 있어야 한다. SKT 컨소시엄에는 이런 특정 영역을 깊게 파고들 수 있는 서비스 파트너들이 많이 있다. 이런 파트너들이 ‘망치’ 역할을 하고, 안정적인 범용서비스가 ‘모루’ 역할을 하는 방식이다. 공공에서 개방하는 API와 데이터도 이런 뾰족한 서비스를 만드는 중요한 요소가 될 수 있다.

△이진형 KT AX사업본부장=저희도 가장 크게 고민한 것이 외산 AI와 어떻게 차별화할 것이냐였다. 범용 검색이나 범용 대화만으로는 이미 챗GPT에 익숙한 이용자를 다시 데려오기가 어렵다. 그래서 첫 번째는 ‘검색’이다. 다음과 함께 검색을 더 정확하게 만드는 ‘이음 인사이드’ 전략을 추진하고 있다. 두 번째는 모델 경쟁력이다. 업스테이지의 독자 파운데이션 모델처럼 글로벌 경쟁력을 갖춘 스타트업 모델들이 계속 발전할 수 있도록 ‘토큰 팩토리’를 활용하려고 한다. 또 NC AI의 3D 생성모델처럼 글로벌 서비스와 차별화될 수 있는 국내 기술도 적극 활용할 계획이다. 마지막으로 국민들이 가장 익숙하게 사용할 수 있는 영역 중 하나가 공공서비스라고 보고 솔트룩스 등과 함께 관련 서비스를 준비하고 있다.

△이건수 다음 대표=글로벌 생성형 AI도 쇼핑, 맛집, 전세나 아파트 찾기처럼 실제 생활에 필요한 질문에는 정확한 답변을 하지 못하는 경우가 많다. 이런 영역은 정확한 데이터베이스와 실시간성이 중요하다. 없는 아파트 매물을 추천하거나 존재하지 않는 상품을 만들어내면 안 된다. 저희가 중요하게 생각하는 것은 실제 데이터베이스를 기반으로 한 RAG와 실시간 정보다. 예를 들어 오늘 열린 AI 간담회를 글로벌 AI에 바로 물어보면 정확한 답변을 하기 어려울 수 있지만, 다음 검색에는 기자분들이 작성한 실시간 기사가 올라온다. 이를 기반으로 AI가 답변할 수 있다. 또 다나와, 무신사, 직방처럼 한국의 버티컬 사업자들이 보유한 실시간 데이터는 구글조차도 충분히 갖고 있지 못하다. 이런 데이터를 연결하는 것이 글로벌 AI와 차별화되는 출발점이라고 생각한다.

-카카오는 엑사원과 카나나의 활용 비중을 공개했는데, SKT와 KT는 어떤 모델을 어느 정도 비율로 사용할 계획인가.

△김지훈 SK텔레콤 AI사업본부장=정부가 처음 제시한 가이드라인이 50·30·20 형태였다. 특정 모델이 사용할 수 있는 최대 범위가 50%다. 현재 내부에서 여러 모델을 테스트하고 있다. 실제 테스트 결과 서비스 형태에 따라 모델별 성능 차이가 있기 때문에 특정 모델을 무조건 49%나 50%까지 사용한다고 정해놓지는 않았다. K2를 포함해 약 3종의 모델을 혼용하는 방안을 생각하고 있다. 아직 정확한 비율을 정하기보다는 실제 사용 시나리오에 따라 어떤 모델을 쓰는 것이 좋은지 매핑하고 있다.

△이진형 KT AX사업본부장=총 7개 모델을 활용한다. 일반적인 답변을 담당하는 모델이 5개이고, 나머지 2개는 세이프가드 모델과 STT·TTS 관련 모델이다. SKT와 마찬가지로 정부 가이드라인은 맞추되, 억지로 비율을 정해 성능에 영향을 주는 방식으로 운영하지는 않을 생각이다. 업스테이지 모델이 코어 엔진에서 많은 역할을 하고, 긴 컨텍스트 처리에 강점이 있는 모델은 해당 작업에 자동으로 라우팅하는 방식이다. KT의 믿음 모델은 국산 NPU에 최적화돼 있어 오프로딩 방식으로 활용하고, 공공 에이전트에서는 관련 서비스를 많이 만들어온 솔트룩스의 모델을 활용하는 식으로 태스크별로 최적 모델을 선택할 계획이다.

-‘모두의 AI’ 서비스가 3개 생기면 국민은 각각 별도로 가입해야 하나. 정부가 공통 접점이나 통합 이용 방식을 만들 계획은 없나.

△김경만 과기정통부 인공지능정책실장=공개 간담회 전에도 3개 컨소시엄 참여자들과 이 부분을 논의했다. 현재 공동 브랜딩과 공동 마케팅 같은 콘셉트를 검토하고 있다. 각 플랫폼은 각자의 특색과 특징을 강조해 서비스를 운영하게 될 것이기 때문에 가입 자체는 각각 이뤄질 가능성이 있다. 다만 그 위에서 공동 브랜드를 어떻게 만들 것인지는 3개 사업자, 컨소시엄과 추가로 협의하겠다. 접근성을 높이기 위한 서비스 명칭이나 공통적인 방식에 대해서도 여러 아이디어를 논의하고 있다.