카카오(035720)의 인공지능(AI) 안전장치 기술이 KT클라우드 플랫폼에 적용된다.

카카오와 KT클라우드는 AI 세이프티 사업 협력을 위한 전략적 파트너십 업무협약(MOU)을 체결했다고 26일 밝혔다.

전날 경기 성남 카카오 판교 아지트에서 열린 협약식에는 김세웅 카카오 AI 시너지 성과리더, 공용준 KT클라우드 클라우드본부장이 참석했다.

이번 협약은 양사 기술을 결합해 이용자가 신뢰할 수 있는 안전한 AI 생태계를 구축하기 위해 마련됐다.

이번 협약에 따라 양사는 AI 안전 기술의 개발-검증-확장의 3단계를 순차적으로 추진한다. 먼저, 카카오가 자체 개발한 AI 가드레일 모델인 '카나나 세이프가드'를 포함해 모델 안전성 평가 시스템, 레드티밍 시스템 등 'AI 세이프티 툴'을 KT클라우드의 AI 플랫폼 'RAG 스위트 2.0'에 적용한다.

카나나 세이프가드는 카카오가 자체 개발한 언어모델 '카나나'를 기반 기술로 활용한 AI 서비스의 안정성과 신뢰성을 검증할 수 있는 가드레일 모델이다. 유해 콘텐츠 생성, 부적절한 응답, 프롬프트 공격 등을 탐지·차단해 생성형 AI 서비스의 안전한 활용을 지원한다.

이후 단계에서는 실제 고객 사용 사례를 바탕으로 효용성을 검증하고, 지속해서 기술을 고도화할 예정이다. 마지막 단계에서는 사용성을 바탕으로 AI 세이프티 툴을 통합·관리하는 플랫폼을 공동 개발해 생태계를 본격적으로 확장해 나갈 계획이다.

김세웅 카카오 AI 시너지 성과리더는 "카카오의 AI Safety 기술과 kt cloud의 인프라 역량이 만나는 이번 협력이 국내 AI 생태계의 안전성을 한 단계 높이는 계기가 되길 바란다"며 "앞으로도 이용자가 안심하고 사용할 수 있는 AI 환경을 만들기 위해 지속적으로 노력하겠다"고 말했다.

김봉균 KT클라우드 대표는 "생성형 AI가 본격적으로 확산되면서 성능뿐 아니라 책임 있는 AI 활용 기반을 마련하는 것이 중요한 과제가 되고 있다"며 "카카오와의 협력을 통해 AI 인프라와 안전성 기술을 결합하고, 공공과 민간 고객이 보다 신뢰할 수 있는 환경에서 AI 서비스를 개발·운영할 수 있도록 지원하겠다"고 말했다.

Ktiger@news1.kr