[이데일리 윤정훈 기자]AI 모델 경량화 및 최적화 기술 전문 기업 노타가 세계 최고 권위의 머신러닝 학회에서 기술력을 다시 한번 입증하며 글로벌 빅테크 시장의 주목을 받고 있다.

노타는 세계적인 머신러닝 학회 ‘ICML 2026’의 일환으로 열린 ‘이피션트 큐웬 컴페티션(Efficient Qwen Competition)’에서 최종 3위를 차지했다고 13일 밝혔다. 이와 함께 학회 내 ‘AdaptFM(자원 적응형 파운데이션 모델 추론) 워크샵’에서 대규모언어모델(LLM) 최적화 관련 논문 2편이 채택되는 쾌거를 이뤘다.

◇제한된 자원서 ‘7배’ 빨라진 추론…글로벌 탑티어 수준 입증

이번 대회는 전 세계 40여 개 팀이 참가해 글로벌 오픈소스 AI 모델인 ‘큐웬(Qwen3.5-4B)’을 대상으로 추론 최적화 경쟁을 벌였다. 특히 단일 엔비디아 A10G GPU라는 제한된 컴퓨팅 자원 환경에서 모델의 답변 정확도를 유지하면서 속도를 얼마나 끌어올릴 수 있는지가 핵심 평가지표였다.

노타는 자체 개발한 AI 경량화·최적화 기술을 적용해 기존 대비 평균 6.978배 빠른 추론 속도를 기록하며 최종 탑(Top) 3에 올랐다. 아마존, 메타 등 글로벌 빅테크 기업의 연구원들이 조직위원으로 참여한 공신력 있는 대회에서 실제 서비스 환경에 즉시 적용 가능한 수준의 기술력을 검증받았다는 평이다.

노타의 이번 성과는 하드웨어 성능 한계를 소프트웨어 최적화로 극복했다는 점에서 의미가 크다.

노타는 AI 모델의 메모리 사용량과 연산량을 줄이는 ‘양자화’ 기술과 답변 생성 과정을 효율화하는 ‘추측적 디코딩)’ 기술을 결합했다.

EH 후속 학습을 통해 양자화 과정에서 발생하는 정확도 손실을 방지했으며, 최근 입력 정보 중심의 ‘슬라이딩 윈도우 어텐션’ 기법을 더해 불필요한 연산을 과감히 걷어냈다.

김태호 노타 CTO 겸 공동창업자는 “이번 성과는 글로벌 AI 생태계에서 활용되는 대표적인 오픈소스 AI 모델인 큐웬을 대상으로 노타의 추론 최적화 기술력을 검증받은 사례”라며, “앞으로도 다양한 AI 서비스와 온디바이스·엣지 AI 환경에 최적화 기술을 확대 적용해 나갈 것”이라고 말했다.

◇학술 연구부터 상용화까지…글로벌 생태계 접점 확대

노타는 이번 대회 수상 외에도 전문 학술 분야에서 괄목할 만한 성과를 냈다. 혼합전문가(MoE) 구조의 LLM 양자화 관련 논문 2편이 ICML 워크샵에 채택된 것. 필요한 전문가 모델만 선택적으로 구동하는 MoE의 특성을 극대화해 적은 메모리로도 성능 저하를 방지하는 기술을 제안해 학계의 호평을 받았다. 앞서 엔비디아 네모트론 해커톤 우승에 이어, LLM 최적화 분야의 학술적 연구와 실전 성능 검증 모두에서 세계적 수준에 도달했음을 보여주는 대목이다.

한편, 노타는 ICML 2026 기간에 맞춰 서울 삼성동 코엑스 인근에서 ‘노타 AI - 코리아 이피션트 데이즈(Nota AI - Korea Efficient Days)’를 성황리에 개최했다.

행사에는 한국을 방문한 오픈AI, 구글, 퀄컴 등 글로벌 빅테크 기업 관계자와 AI 연구자, 엔지니어들이 대거 참석했다. 노타는 이 자리에서 고효율 AI의 최신 연구 동향과 산업 적용 가능성을 공유했으며, 이를 계기로 글로벌 AI 생태계 내 기술 협력과 네트워크를 한층 강화한다는 전략이다.

노타 관계자는 “다양한 하드웨어 환경에서 AI 모델이 최고의 효율을 낼 수 있도록 돕는 온디바이스·피지컬 AI 기술력을 보유하고 있다”며 “향후 기업용 LLM 추론 최적화 시장에서도 압도적인 기술 격차를 확보해 나갈 계획”이라고 말했다.