사진=액션노트
이번 온디바이스AI 모델 공급은 서버 기반으로 운영되던 음성인식(STT) AI 엔진을 노트북 환경에서 구동 가능한 수준으로 경량화한 덕이다. 구체적으로 △인터넷 연결 없이 구동되는 온디바이스 STT AI 모델 △자동 화자분리 △요약 특화 온디바이스 소형언어모델(sLM) 등의 기술이 적용됐다.
서버 기반 모델과 동일한 수준의 성능을 지원하는 것도 특징이다. 화자분리 정확도는 공개 ‘응용 프로그래밍 인터페이스’(API) 모델 기준 90% 이상을 기록했다. LG그램 노트용으로 새롭게 개발한 요약 sLM은 파라미터 수를 유지하면서 요약 성능을 최대 36% 향상했다. 해당 모델은 20억개 이하의 파라미터 규모로 경량화해 제한된 연산 환경에서도 안정적으로 작동한다.
온디바이스AI는 데이터가 서버를 거치지 않고 단말기에서 직접 처리되기 때문에 민감 데이터의 외부 유출을 원천 차단할 수 있는 것도 장점이다. 네트워크 트래픽 비용 절감과 오프라인 환경에서의 사용성 확보 측면에서도 효율적이다.
액션파워는 향후 개인의 데이터와 습관을 학습한 전용 AI가 디바이스에서 직접 구동될 수 있도록 온디바이스 사업을 고도화할 계획이다. 조홍식·이지화 액션파워 공동대표는 “이번 협력은 서버 환경에 머물던 음성인식·요약 AI를 인터넷 연결 없이 개인 디바이스에서 구현했다는 점에서 의미가 있다”며 “앞으로도 초경량화 AI 기술을 바탕으로 누구나 자신의 데이터를 안전하게 활용하는 서비스 환경을 구현할 것”이라고 밝혔다.









