[이데일리 김소연 기자] 단순한 저장장치로 인식되던 낸드플래시의 위상이 달라졌다. 낸드가 인공지능(AI) 연산을 지원하는 기능을 갖추면서, AI 추론의 핵심 인프라로서 역할이 커질 전망이다.

특히 AI 큰 손 엔비디아가 차세대 AI 가속기 ‘베라 루빈’ AI 연산 플랫폼에 ICMS(Integrated Compute & Memory System)를 도입하면서, 국내 반도체 메모리 기업에는 또 다른 기회가 열릴 전망이다. 젠슨황 엔비디아 최고경영자(CEO)는 올해 초 미국 라스베이거스에서 열린 CES 2026에서 ICMS 개념을 공개했다.

ICMS는 AI용 그래픽처리장치(GPU)에서 연산(Compute)과 메모리(Memory)를 하나의 시스템처럼 통합해 설계·제어하는 구조다. GPU뿐 아니라 네트워크, 스토리지 등을 아우르게 된다. 이에 따라 엔비디아가 사용하게 되는 기업용 SSD 수요가 올해에만 3500만TB(테라바이트), 2027년 1억 2000만TB에 이를 전망이다. 김동원 KB증권 리서치본부장은 “내년 엔비디아의 단독 수요만으로도 글로벌 낸드 수요의 10%를 차지할 것”이라고 관측했다.

엔비디아가 이 같은 시스템을 갖추는 이유는 AI 추론을 더욱 고도화하기 위한 고객들의 수요가 커서다. 기존 메모리 구조만으로는 고객이 요구하는 수준에 맞는 AI 추론 성능을 구현하는 데 한계가 있다. 특히 KV 캐시(Key-Value Cache)가 폭증하면서 AI가 사용자와 대화 내용을 기억하고 대화에서 질문의 맥락을 파악하기 위해 스토리지 역할이 더욱 중요해지고 있다. 원활한 추론 서비스를 제공하기 위해 KV Cache 오프로딩(Offloading) 기술이 필수적이라는 평가다.

AI 서버 구조의 근본적인 변화에 국내 반도체 기업들도 주목하고 있다. 삼성전자(005930)는 AI 추론용 SSD인 PCIe 6세대 인터페이스 SSD 도입과 고성능 트리플레벨셀(TLC) 제품 수요가 커질 것으로 예상했다. 올해 하반기에는 PCle 6세대가 서버 시장에서 빠르게 확산될 것으로 봤다. 삼성전자 9세대(V9) 고성능 낸드 제품을 앞세워 초기 시장을 선점하겠다는 전략이다.

삼성전자가 올해 상반기 9세대 낸드를 대규모 양산하게 되면 기업용 SSD(eSSD) 공급은 크게 늘어날 가능성이 있다. 낸드 경쟁력을 갖추고 있는 삼성전자는 실적 측면에서도 낸드 사업 기여도가 높아질 것으로 보인다. 삼성전자의 낸드 영업이익률이 올해 48.5%에 달하리란 전망이다. 노근창 현대차증권 리서치센터장은 “추론의 시대에는 콘텍스트 메모리(Context Memory) 수요가 커질 수밖에 없는데, 세계 최고 수준의 컨트롤러 IC 기술을 보유한 삼성전자 SSD 제품에 대한 선호도는 더욱 커질 것”이라고 내다봤다.

SK하이닉스도 차세대 낸드를 개발하며 변화에 대응 중이다. SK하이닉스(000660) 송창석 낸드마케팅 담당도 최근 컨퍼런스콜에서 “AI가 데이터를 더 정밀하고 빠르게 활용하려는 흐름은 고성능·고용량 eSSD 수요를 구조적으로 폭증시키고 있다”며 “스토리지가 최근에는 GPU 중심의 입출력(I/O) 서버 구조에서 연산 파이프라인의 핵심적인 역할을 수행해야 하는 장치로 진화하고 있다”고 설명했다. SK하이닉스는 초고성능 엔터프라이즈 SSD 개발에도 주력하고 있다고 강조했다. 아울러 HBM의 확장 개념인 고대역낸드플래시(HBF) 기술을 구체화하고 AI 서버 시장에 입체적으로 대응하겠다는 방침이다.