과학기술정보통신부(이하 과기정통부)는 16일 오전 서울 LW컨벤션센터에서 국내 클라우드 기업들을 대상으로 ‘첨단 GPU 확보·구축’ 추진 방안 설명회를 개최하고, 공모 일정과 조건 등을 공유했다.
유상임 과학기술정보통신부 장관이 13일 서울 중구 서울스퀘어 국가인공지능위원회에서 열린 ‘제4차 AI컴퓨팅 인프라 특별위원회’를 주재하고 있다.(사진=과기정통부)
이번에 확보된 GPU는 선정된 CSP의 데이터센터 상면(임차 가능)에 순차적으로 구축하고, 이후에는 2027년 완공될 ‘국가 AI컴퓨팅센터’(SPC)에 이관된다. SPC는 정부가 51% 지분을 갖는 민관 합작 구조로, 공공기관 지정 여부는 기획재정부 심의를 거쳐 결정될 예정이다.
CSP는 확보한 GPU의 일부를 자체 활용할 수 있다. 자체 활용 물량의 비중에 대한 제한은 없고 활용 목적도 산학연 제공, 자사 AI모델 개발, 상용 판매 등으로 열려 있다. 다만, 제체 활묭 물량의 비중과 활용 계획은 공모 평가 시 중요한 요소로 반영될 예정이다.
공모는 다음 주 예정돼 있다. 약 한달간 공모를 받고 7월 초~중순 사업자를 선정할 예정이다. 사업자는 7월 중에 GPU를 조달해 10월까지는 구축을 완료하고 서비스를 진행해야 한다.
엄열 과기정통부 정보통신정책관은 “글로벌 AI 패권 경쟁에 본격화된 상황에서 가장 중요한 것은 민관이 원팀으로 협력하고 신속히 움직이는 것이다. 이번 추경 예산을 신속히 집행해 조기에 국가 AI 경쟁력 강화 목표를 달성하겠다”며 “기업 입장에서도 큰 기회가 될 것이며, 국가 전체의 경쟁력 향상에 기여할 수 있는 방안을 함께 모색해 나가길 기대한다”고 말했다.
다음은 과기정통부 인공지능정책관 인터넷진흥과 장기철 과장, 이현우 사무관과 설명회에 참석한 사업자들 간 일문일답이다.
-이번 공모할 때 가격, 운영하는 기간에 따라 비용이 결정되는데. 타겟 일정이 정해져 있어야 사업자가 검토할 수 있을 것 같다
△장기철 과기정통부 인공지능정책관 인터넷진흥과 과장(이하 장): 5년 협약, 5년 범위 내에서 이관이나 국가AI컴퓨팅 센터와 협의할 사항이다. SPC 참여하고자 하는 컨소시엄 있는데, 거기에는 구매분은 염두에 두지 않고 원래 계획대로 하시면 된다. SPC 공모와 별개로 추진한다. 5년 동안은 별개다.
-GPU를 국가AI컴퓨팅센터로 이관 해야하는데, 센터 준공이 2027년이다. 이관 시점이 언제까지인가.
△이현우 과기정통부 인공지능정책관 인터넷진흥과 사무관(이하 이): 이관을 원칙으로 하고 있지만 시기나 방법은 결정하지 않았다. 선정된 CSP와 이관 시기와 방법은 별도로 협의할 계획이다.
-계약기간이 5년으로 되어 있는데, 향후에는 또 5년씩 계약하 게 되는 것인지, 아니면 다시 입찰을 해야 하는지.
△이: 5년 이후 계획은 정해진 바 없다. 선정된 CSP와 다시 계약할 수도 있고 다른 CSP 선정할 수도 있고 열려 있다.
△장기철 과기정통부 인공지능정책관 인터넷진흥과 과장(이하 장): 국가AI컴퓨팅센터(SPC)가 선정되면 GPU에 대한 사용권을 SPC에 준다. SPC가 GPU를 어떻게 사용할지 정하게 될 것이다. 비용을 들여서라도 본인 센터에 가져오겠다고 결정할 수도 있고 임차료를 내고서 놔두고 쓰겠다고 결정할 수도 있다. 그때 가서 정부와 SPC, 선정된 CSP가 결정하게 될 것이다.
-구매 GPU를 엔비디아 것에 한정하는 이유가 있나.
△이: 국내 산업계, 학계, 연구계의 수요가 엔비디아 GPU에 몰려 있는 것이 사실이다. 또 이번 사업의 중요 목표가 수요에 적시 대응하는 것이라 추경 과정에서도 재정당국, 국회와 소통 과정에서도 이런 점이 고려됐다. 다만, 국가 AI컴퓨팅센터 SPC가 선정되고 나서 다양한 클라우드 기업이 GPU를 구축하는 과정에서는 다양한 여건을 고려해서 다양한 GPU가 구매될 수 있지 않을까 생각한다.
-GPU 1만장의 수요로 산학연과 월드베스트LLM(WBL) 프로젝트를 꼽았는데, 각각 비중이 정해졌나.
△장: 독자적인 파운데이션 모델을 만드는 WBL은 GPU를 천 장 단위 클러스터링 해서 써야 효과가 있다. 그런 부분이 적정하게 비율이 잡혀야 한다. 산학연은 한두장 필요한 곳도 있지만 서버 단위로 원하는 곳도 있다. 제안서를 받을 때 클러스터링을 반드시 해야하는 물량과 그렇지 않은 물량을 적절히 제안해주시길 바란다.
-데이터센터를 임차해서 제공해도 되는지
-GPU가 5년이면 감가상각이 끝나는데, 감가상각이 끝난 뒤 폐기해야 하나.
△장: 지금도 업계에선 출시 5년이 넘어가는 A100도 많이 쓴다. 지금 구매하려고 하는 블랙웰이 5년뒤에 폐기해야 될지는 모르겠다. GPU에 대한 사용권을 SPC에 부여할 것이라, 협약할 때 다시 협의할 문제다.
-복수 사업자가 가능하다고 했는데, 한 회사가 1만장이 아니라 5000장만 제안하거나 여러 기업이 모여서 만장을 채우는 것도 가능한가
△장: 후자는 아니고 전자는 맞다. 여력에 따라 1만장 중 일부만 제안할 수 있다. 다만, A기업이 1만장을 다 소화하면서 타사 대비 물량을 더 많이 확보할 수 있고 클러스터링도 직접하고 상면도 저렴하게 제공한다면 한 기업만 선정할 수 있다. 그게 아니라 각각 제안한 기업의 장단점이 있어서 복수 업체를 선정하는 것이 낫다고 판단되면 그렇게 할 것이다.
-선정된 CSP가 일부 GPU를 자체활용할 수 있게 했는데, 이 물량의 구축, 운영에 있어서 자유도가 주어지나
△이: 자체 활용 물량의 비중과 활용 계획도 제출 받을 것이다. 선정의 당락이 바뀔 수 있는 요소다. CSP에서 활용하는 부분이기 때문에 자유도는 열려 있다. 그 물량을 판매할 것인지 아니면 자사 AI 모델 개발에 활용할 것인지 등을 제안해 주면 선정 시 반영할 것이다. 평가 항목과 점수는 공모서를 통해 공개할 것이다.
△장: 자체 사용분은 별도 계획을 받겠지만 기본적으로 산학연에 공급하는 게 원칙이다. 산학연에 공급할 때도 목적이 있을 것이다. 이게 굉장히 중요한 선정 기준이 될 것이다.
-SPC가 출범하고 나서 이후에 공공 기관으로 지정될 가능성이 있나. 또정부가 SPC를 운영하는 동안 또는 일정 기간 이후 지분을 뺄 수 있도 있나.
△이: 지분 구조상(정부 51%, 민간 49%) 공공기관 지정 요건에 해당하지만, 실제 지정 여부는 기재부의 공공기관운영위 심의를 거쳐 결정된다. 관계 부처와 민간의 자율성을 최대한 보장하는 방향으로 협의하고 있다. 매수청권은 안전장치를 마련한 것이지 정부의 지분을 뺄 생각으로 만든 것이 아니다. 불가피한 상황에선 쓸 수 있겠지만, 정부가 빠지는 건 정부가 지향하는 바는 아니다.
-클러스터 최소 구성단위 요건이 결정됐나.
△이: 추진방안에는 GPU 구성이 H200 6400장, B200 3600장으로 되어 있는데, 이 숫자는 변동가능하다. 변동 가능하다는 내용까지 심의·의결 받았다. 따라서 가용 예산 안에서 기종과 구성 단위를 제안해 주면 된다.
-자사 활용 물량의 하한선이 정해져 있나.
△장: 자체 활용 물량의 범위를 제시하지 않는 것이 사업자 간 경쟁을 유도할 것 같아서, 범위를 정하지 않기로 했다.
-SPC에 참여하지 않은 기업이 GPU 구매 사업에 선정될 가능성은 없나.
△장: SPC 공고가 5월 말에 끝난다. GPU 구매는 5월 중하순에 끝난다. 그러다 보면 SPC 사업자도 우선순위가 나올 것이고, 이 우선순위대로 구매 대행 사업자도 우선 검토할 예정이다.
-GPU라는 하드웨어만 너무 포커싱하는 거 아닌지. 엔비디아 GPU를 쓰더라도 그들의 SW모델 로드맵이 국내 LLM 모델의 요구사항을 충분히 수렴해줘야 할텐데.
△이: 과기부장관이 미국 출장 중에 엔비디아를 만나는데 이때 하드웨어뿐 아니라 소프트웨어적 협력도 논의가 될 것이다.
△장: 엔비디아가 제공하는 패키지 상품만 염두에 두고 있는 건 아니다. 다양한 기업이 사업에 참여해서 새로운 클러스터링 기술을 쌓을 수 있길 기대한다. 제안할 때 ‘모두 외주를 주겠다’거나 ‘DGX같은 완제품을 사서 제공하겠다’고만 할 필요가 없다. CSP가 직접 클러스터링하고 관련 기술을 확보하겠다는 목표를 가지고 참여할 수 있다. 이 점도 평가항목에 반영 될 것이다.