카카오(035720)의 인공지능(AI) 모델 '카나나(Kanana)'가 유사 규모의 글로벌 모델 대비 높은 안전성을 확보했다는 정부 분석이 나왔다.

과학기술정보통신부는 인공지능안전연구소, 한국정보통신기술협회(TTA)와 함께 카나나를 대상으로 실시한 국내 첫 AI 안전성 평가 결과를 29일 공유했다.

평가는 'AI 안전 컨소시엄'에 참여한 카카오와의 협의를 거쳤으며, '카나나 에센스 1.5'를 대상으로 실시됐다. TTA 및 최호진 한국과학기술원(카이스트) 교수 연구팀의 'AssurAI 데이터 세트' 및 AI안전연구소 고위험 분야 평가 데이터 세트가 반영됐다. 폭력·차별적 표현 등 일반적인 위험 요소부터 무기·보안 등 오남용 가능성이 높은 시나리오까지 폭넓게 점검했다.

그 결과 카나나는 유사한 크기의 미국 라마 3.1, 프랑스 미스트랄 0.3 등 모델 대비 높은 안전성을 확보한 것으로 나타났다.

과기정통부는 내년 1월 예정된 AI 기본법 시행을 앞두고, 기업의 고성능 AI 모델을 위한 안전성 컨설팅을 지원하고 있다.

과기정통부는 "카나나 안전성 평가는 국내 AI 모델이 글로벌 수준의 안전성을 확보하고 있다는 것을 보여준다"며 "이를 바탕으로 내년 초 '독자 AI 파운데이션 모델' 프로젝트 1차 단계평가에 임하는 한편, 국내외 AI 기업들과의 협력을 통해 타 AI 모델 대상으로 평가를 확대하겠다"고 말했다.

한편 TTA·카이스트의 AI 안전성 벤치마크 데이터 세트 AssurAI는 한국어를 기반으로 35개 위험 영역을 평가하도록 설계됐다. 이는 해외 연구기관과의 공동 검증·활용을 위해 지난달 18일 공개됐다. 정부는 이를 AI 안전연구소의 고위험 분야 데이터 세트와 함께 국제 AI안전연구소 네트워크 및 국제표준화(ISO/IEC JTC 1/SC 42 등)에 반영하는 것을 추진한다.

legomaster@news1.kr