[이데일리 김소연 공지유 박원주 기자] “인공지능(AI) 시대는 결국 완전히 메모리 게임이 될 것입니다. AI의 힘은 데이터, 메모리에서 나옵니다.”

김정호 한국과학기술원(KAIST) 전기·전자공학부 교수는 29일 서울 여의도 FKI타워에서 열린 ‘2026 이데일리 넥스트테크 포럼’에서 AI 시대 메모리의 중요성이 한층 커질 것이라고 강조했다. ‘생각을 넘어, 산업을 움직이는 AI’라는 주제로 기조연설을 맡은 김 교수는 “금광에서 금으로 돈 번 것이 아니라 청바지로 돈을 벌었던 것처럼, AI 시대에는 메모리가 돈을 벌 것”이라고 했다.

김 교수는 고대역폭메모리(HBM) 개념을 처음 제안하고 설계한 핵심 인물로 ‘HBM의 아버지’로 불린다. 그는 “AI가 고도화될수록 핵심은 결국 메모리”라며 “AI의 지능은 기억 용량에 좌우되고, 그 중심에 메모리가 있다”고 설명했다.

AI 산업이 학습 중심에서 추론으로 이동하면서 메모리의 역할은 더욱 커지고 있다. 김 교수는 “추론 단계에서는 실시간 데이터 공급량과 탐색 능력에 따라 AI 성능이 결정된다”며 “이 과정에서 메모리의 중요성이 더 커지고 있다”고 짚었다. 메모리가 단순 저장장치를 넘어 AI 성능을 좌우하는 핵심 인프라로 자리잡고 있다는 것이다.

김 교수는 AI 진화가 메모리 수요를 기하급수적으로 확대시키고 있다고 강조했다. 그는 “AI가 고도화하면서 △상시 구동되는 백그라운드 세션 △초거대 컨텍스트 처리 용량 △다중 에이전트 구조 등 세 가지 축이 동시에 작동하고 있다”며 “이 구조는 메모리 요구량을 폭발적으로 증가시키는 요인”이라고 설명했다. 이어 “AI 칩의 성능은 그래픽처리장치(GPU)와 HBM이 결정하고, AI 시간 싸움에서 메모리가 승패를 가른다”고 덧붙였다.

젠슨 황 엔비디아 최고경영자(CEO)와 리사수 AMD CEO 등이 한국을 찾고, 일론 머스크 테슬라 CEO가 테라팹을 짓겠다고 하는 산업계의 흐름 역시 메모리의 중요성을 방증한다. 글로벌 메모리 시장을 주도하는 삼성전자와 SK하이닉스를 보유한 한국에 유리한 환경이 조성되고 있다는 평가다.

이날 함께 기조연설에 나선 콜리 황 디지타임즈 창립자 겸 회장은 한국과 대만 간 협력 필요성을 강조했다. 황 회장은 “대만과 한국은 반도체 공급망 관점에서 가장 성공한 두 나라다. 코피티션(co-petition·협력과 경쟁)을 통해 공존하고 공동 창조하는 관계를 갖춰야 한다”고 제언했다. 대만은 세계 최대 파운드리(반도체 위탁생산) 기업 TSMC를 중심으로 첨단 패키징과 테스트 분야에서도 경쟁력을 확보하고 있다. 국내총생산(GDP) 등 경제 규모는 우리나라보다 작지만, AI 성장세에 힘입어 GDP 성장률은 한국보다 훨씬 높다.

한국 반도체 기업들과 일부 경쟁은 불가피하지만 협력 여지도 크다는 것이 황 회장의 설명이다. 그는 “대만은 파운드리뿐 아니라 첨단 패키징과 테스트에도 강점을 가지고 있기 때문에 HBM이 필요하다”며 “그렇기 때문에 한국 기업들과 매우 큰 협력 가능성을 가지고 있다”고 했다.

황 회장은 이어 “지난달 대만의 수출은 800억달러를 돌파했다”며 “AI 서버 수요 증가 영향으로, 한국 HBM의 기여와 관련이 있다”고 말했다. 한국 기업들이 HBM을 대만에 수출하고, 대만 기업이 AI 서버를 제조해 글로벌 빅테크 기업에 공급하는 게 대표적인 협력 구조다.

김정호 교수는 한국과 대만이 협력할 수 있는 분야로 패키징, 반도체 기판, 메모리 간 연결하는 메모리 네트워크를 위한 광인터커넥트 기술(실리콘 포토닉스) 등을 꼽기도 했다.

최재붕 성균관대 기계공학과 교수 역시 기조연설을 통해 AI의 중요성을 강조했다. 그는 “어떤 산업이든 AI를 ‘베스트 파트너’로 잘 활용할 수 있어야 한다”고 조언했다. 최 교수는 “대한민국에 기회가 있다는 건 전 세계 자본이 우리 기업에 투자하는 것으로 증명이 됐다”며 “AI 시대 들어 한국의 성장 가능성이 높다”고 진단했다.

그는 “2024년 AI의 실현 가능성이 확인된 후 미국은 700조원 규모의 AI 데이터센터와 관련된 스타게이트 프로젝트를 시작했다”며 “이 가운데 TSMC과 엔비디아, 삼성전자, SK하이닉스 등 반도체 관련 기업이 혜택을 보기 시작했다”고 설명했다.

이에 따라 국내 모든 산업에서 기업들이 AI 혁명에 맞춰 대비해야 한다는 의견이다. 최 교수는 “한국은 세계적인 제조업 기반을 갖춘 국가인 만큼 AI 시대에 맞춰 사업 구조를 유연하게 전환할 수 있는 역량을 충분히 보유하고 있다”며 “글로벌 빅테크 기업들이 한국과의 협력을 확대하려는 이유 역시 이러한 제조 경쟁력 때문”이라고 했다.