이번 행사는 ‘AI 기본법에 대응하는 안전한 인프라 구성법’을 주제로 열렸으며, 금융권 망분리 규제 완화와 AI 기본법 시행에 따른 산업계 대응 전략이 함께 논의됐다.
첫 번째 세션에서는 KB국민은행 이진성 데이터·AI 엔지니어가 금융권 생성형 AI 플랫폼 구축 사례를 소개했다.
이 엔지니어는 금융당국의 망분리 완화 기조 속에서 외부 AI 모델을 내부 시스템과 연동하는 방식, 혁신금융서비스 제도를 활용한 보안 요건 충족 방법, 내부망과 클라우드를 결합한 하이브리드 AI 아키텍처 구성 사례 등을 설명했다. 또한 AI 기본법 시행 이후 기업이 AI 안전성을 직접 입증해야 하는 규제 환경 변화도 함께 짚었다.
전문휘 셀렉트스타 CPO
이어진 발표에서 셀렉트스타 전문휘 CPO는 AI 신뢰성 검증 플랫폼 ‘다투모 플랫폼’을 소개했다.
이 플랫폼은 생성형 AI 서비스 개발부터 운영까지 전 과정을 하나의 시스템에서 관리할 수 있도록 구성된 원스톱 솔루션이다.
핵심 기능은 ▲AI 성능 평가(Evaluation) ▲취약점 탐지(Redteaming) ▲운영 모니터링(Observability) 등 3가지 모듈로 구성된다.
평가 모듈은 실제 서비스 환경과 도메인 특성을 반영한 평가 체계를 제공하며, 규칙 기반 평가와 ‘LLM-as-a-Judge’ 방식을 결합해 정량·정성 분석을 동시에 수행한다.
레드티밍 기능은 스토리텔링, 역할극, 페르소나 변환 등 다양한 공격 기법을 활용해 AI 모델의 취약점을 자동 탐지한다.
모니터링 기능은 운영 단계에서 사용자 대화를 분석해 신규 시나리오와 성능 저하 지점을 조기에 발견하는 역할을 하며, 3분기 출시 예정이다.
◇“AI 신뢰성 전 주기 통합 플랫폼으로 확장”
전문휘 CPO는 “셀렉트스타는 평가 도구 ‘Datumo Eval’에서 출발해 레드티밍과 운영 모니터링까지 확장하며 AI 신뢰성 전 주기를 통합하는 플랫폼으로 발전하고 있다”고 설명했다.
이어 “금융권을 포함한 다양한 산업에서의 실제 적용 사례가 플랫폼의 실효성을 보여주고 있다”고 말했다.
‘AI Ignite’는 셀렉트스타가 운영하는 AI·AX 실무자 커뮤니티로, 오프라인 네트워킹과 웨비나를 결합한 지식 공유 플랫폼이다.
2022년 출범 이후 AI 안전성, 생성형 AI 레드팀 챌린지, HR 분야 AI 도입 등 다양한 주제를 다루며 누적 5,400여 명이 참여했다.
