국산 AI 반도체가 해외 빅테크나 클라우드 서비스 제공업체(CSP)의 공급망에 진입하려면 벤치마크 성능만으로는 부족하다. 수백~수천대 규모의 서버에서 장기간 안정적으로 작동했는지, 장애 상황에 대응할 수 있는지, 실제 AI 워크로드에서 성능을 낼 수 있는지 등을 검증받아야 한다.
업계는 정부와 AMD가 구축하는 개방형 AI 컴퓨팅 인프라를 이런 ‘검증의 장’으로 활용해야 한다고 요구했다.
과학기술정보통신부는 20일 서울 종로구 HJ비즈니스센터 광화문점에서 배경훈 부총리 겸 과기정통부 장관 주재로 ‘개방형 AI 컴퓨팅 인프라 생태계 구축을 위한 간담회’를 열었다. AMD코리아를 비롯해 퓨리오사AI, 리벨리온, 딥엑스, 모빌린트, 하이퍼엑셀, 모레AI, 노타AI, 파두(440110), KTNF 등 AI 반도체·서버·소프트웨어 기업들이 참석했다.
과학기술정보통신부는 20일 서울 종로구 HJ비즈니스센터 광화문점에서 배경훈 부총리 겸 과기정통부 장관 주재로 ‘개방형 AI 컴퓨팅 인프라 생태계 구축을 위한 간담회’를 열었다. 사진=이데일리 김태형 기자
파두 남이현 대표는 해외 빅테크·CSP에 AI 반도체를 공급하기 위해서는 통상 2~3년 이상의 장기 검증이 필요하다고 했다. 제품을 개발해 성능을 입증하는 것과 실제 고객의 대규모 데이터센터에서 안정적으로 운영되는 것은 전혀 다른 문제라는 것이다.
남 대표는 이에 따라 개방형 인프라 사업에 ‘검증 인프라 개방 트랙’과 ‘트랙레코드 축적 지원 트랙’을 마련할 필요가 있다는 의견을 제시했다.
정부가 국산 AI 반도체를 데이터센터에 한 차례 설치해 성능을 확인하는 데 그칠 게 아니라, 수백~수천대 규모의 실제 인프라에서 장기간 운영할 수 있도록 해야 한다는 의미다. 여기서 축적된 성능·안정성·장애 대응·소프트웨어 최적화 등의 데이터가 향후 해외 고객을 설득하는 레퍼런스가 될 수 있기 때문이다.
특히 이 같은 ‘지속 가능한 검증’의 중요성을 보여주는 사례가 네이버클라우드와 인텔의 가우디 협력이다.
네이버클라우드는 2024년 인텔과 AI 가속기 ‘가우디’를 기반으로 국내 AI 반도체 생태계를 키우기 위한 공동 연구에 들어갔다. 양측은 가우디 기반 인프라를 제공하고 국내 대학·연구실·스타트업이 참여하는 공동 연구를 추진했다. 카이스트·서울대·포스텍 등 22개 연구실이 참여했고, 논문과 오픈소스 등 연구 성과도 나왔다. 네이버 데이터센터에서 실제 가우디 기반 실증도 진행됐다.
하지만 프로젝트의 지속성에는 변수가 생겼다. 2025년 당시 네이버클라우드와 인텔 측은 2차년도 협력을 앞두고 있었지만, 인텔의 리더십 교체와 연 단위 계약 구조 등으로 후속 사업이 불확실해졌다. 3년 계획으로 시작된 협력이었지만 다음 단계가 불투명해진 것이다.
이 사례는 국내 AI 반도체 생태계에서 ‘좋은 실증 사례 하나’를 만드는 것만으로는 충분하지 않다는 점을 보여준다. 실제 고객 환경에서 검증한 경험을 지속적으로 축적하고, 이를 글로벌 고객에게 제시할 수 있도록 협력 사업 자체의 연속성을 확보해야 한다는 것이다.
남 대표가 이번 AMD 협력에서 ‘트랙레코드’를 강조한 것도 같은 맥락이다.
특히 남 대표는 서로 다른 반도체를 한 데이터센터에서 함께 사용하는 이기종 환경 자체가 중요한 실증 대상이라고 강조했다. 엔비디아뿐 아니라 AMD와 국산 NPU 등을 함께 사용하면서 어떤 워크로드를 어떤 칩에 배분할지 최적화하는 경험 자체가 향후 국내 기업의 경쟁력이 될 수 있다는 설명이다.
남 대표는 파두가 AMD와 다양한 오픈소스 AI 모델의 최적화 작업을 진행하고 있으며, 일본에서는 엔비디아와 AMD GPU를 통합한 인프라에서 실제 AI 서비스를 운영하고 있다고 소개했다.
이는 단순히 AMD 장비를 국내에 더 많이 들여오자는 접근과 다르다. 엔비디아, AMD, 국산 NPU가 함께 작동하는 실제 데이터센터 환경을 만들고 여기에서 축적된 운영 경험을 국내 AI 반도체 기업의 해외 진출에 활용하자는 것이다.
남 대표는 이번 AMD와의 업무협약이 단순히 엔비디아 중심의 AI 데이터센터에 AMD 기반 장비를 추가하는 사업에 머물러서는 안 된다고 했다. AMD와 국산 NPU를 묶어 실제로 작동하는 실증 사례를 만들고, 이를 여러 국내 기업이 활용할 수 있는 레퍼런스로 만들어야 한다는 것이다.
실증을 빠르게 진행할 수 있도록 파두가 보유한 AMD 기반 장비를 무상으로 제공할 수 있다는 뜻도 밝혔다.
AMD도 국내 생태계 지원을 확대한다.
AMD코리아 문경선 상무는 과거 국내 기술 인력과 지원 창구가 부족했던 점을 인정하면서 최근 엔지니어 인력을 약 3배 확충했다고 설명했다. 리사 수 AMD 최고경영자(CEO)가 한국을 주요 AI 협력 국가로 지정하면서 본사 차원의 지원도 강화되고 있다고 밝혔다.
AMD는 올해 말까지 과기정통부와 협의를 거쳐 국내에 ‘AI Center of Excellence’를 설립하고 엔지니어와 연구원 등을 배치할 계획이다. 2027년 말까지 상주 엔지니어를 확대해 공동 과제에 대한 기술 지원도 강화한다는 구상이다.
AMD CPU·GPU와 국산 NPU를 결합한 이기종 AI 컴퓨팅 인프라를 공동 개발하고 실증한다. 정부 출연연구기관과 공공 연구기관 등을 대상으로 실증한 뒤 국내 성공 사례를 글로벌 시장에서 활용할 수 있는 레퍼런스 아키텍처로 발전시킨다는 계획이다.
AMD의 AI 컴퓨팅 자원과 소프트웨어, 전문 인력을 활용한 국가과학AI연구센터 협력도 추진한다. 국내 기업·대학·연구기관의 기술 검증과 공동 연구를 지원하는 거점으로 AI Center of Excellence를 활용한다는 구상이다.
업계는 AMD의 지원 자체보다 누가, 어떤 조건에서, 얼마나 장기간 기술을 검증할 수 있느냐가 더 중요하다고 봤다.
리벨리온 김홍석 CSA는 AI 생태계가 특정 기업 중심의 폐쇄적·수직계열화 구조로 가는 흐름을 경계해야 한다고 강조했다.
AI는 하드웨어와 소프트웨어를 극단적으로 최적화하는 방향으로 발전하면서 특정 반도체에 소프트웨어를 맞추는 구조가 강해지고 있다. 이런 흐름이 굳어지면 이미 시장을 선점한 글로벌 기업의 우위가 더욱 공고해질 수 있다는 우려다.
한국처럼 후발주자인 국가와 국내 AI 반도체 기업에는 오히려 개방형 시스템이 기회가 될 수 있는 만큼, AMD와 국산 NPU, 소프트웨어 기업 등이 함께 참여하는 개방형 생태계를 정부가 적극 육성해야 한다는 주장이다.
서버 분야에서도 기술 지원 확대 요구가 나왔다. KTNF 이중연 대표는 국내 서버 메인보드 개발·제조 생태계가 AMD 기반 AI 인프라에 참여할 수 있도록 AMD 본사 차원의 기술 지원과 협력 창구를 확대해야 한다고 요청했다.
이날 간담회에서는 CXL, DPU, PIM 등 차세대 기술뿐 아니라 메모리·스토리지·네트워크·펌웨어·소프트웨어를 아우르는 풀스택 생태계 구축 필요성도 제기됐다.
배경훈 부총리는 “글로벌 AI 시장이 학습에서 추론 중심으로 전환하면서 AI 경쟁의 무대도 개별 칩 성능을 넘어 전력·비용 효율성을 갖춘 개방형 AI 컴퓨팅 생태계 경쟁으로 확대되고 있다”며 “국산 NPU가 실제 데이터센터와 AI 서비스에서 활용되는 성공 사례를 조속히 확보할 수 있도록 풀스택 실증 지원을 강화하겠다”고 말했다.
이번 AMD 협력에서 중요한 것은 얼마나 많은 장비를 국내에 들여오느냐가 아니다. 네이버클라우드와 인텔의 가우디 협력이 보여줬듯, 실증사업이 실제 생태계와 공급망으로 이어지려면 기술 지원의 연속성과 장기적인 검증 체계가 뒷받침돼야 한다.
AMD의 CPU·GPU와 국산 NPU를 실제 대규모 환경에서 함께 운영하고, 성능뿐 아니라 안정성·장애 대응·소프트웨어 최적화까지 입증한다면 이는 단순한 정부 실증사업을 넘어 국내 AI 반도체 기업이 해외 빅테크와 CSP에 제시할 수 있는 글로벌 공급망 진입 실적이 될 수 있다.
이번 AMD 협력의 진짜 성과는 ‘몇 장의 GPU를 들여왔느냐’가 아니라 몇 개의 국내 기업이 실제 대규모 운영 경험을 쌓고, 그 경험을 글로벌 고객에게 보여줄 수 있는 트랙레코드를 확보했느냐로 평가해야 한다는 게 업계의 요구다.
