SK쉴더스는 글로벌 AI 레드팀 해킹대회 '저지먼트 데이'(Judgement Day)에서 자사 화이트해커 그룹 EQST 소속 김병현 선임이 최종 1위를 차지했다고 15일 밝혔다.

AI 안전성 전문 스타트업 에임인텔리전스와 인공지능안전연구소가 공동 주최한 이번 대회는 지난 4월 6일부터 약 8주간 진행됐다.

대회는 AI 에이전트가 금지된 행동을 하거나 필수 안전 조치를 빠뜨리도록 유도하는 공격 기법을 평가하는 방식으로 운영됐다.

응급환자 분류 오류, 댐 수위 판단 왜곡, 항공기 이상 징후 미탐지 등 실제 산업 환경을 반영한 8개 시나리오가 제시됐다.

AI가 실제 산업 의사결정에 쓰이는 만큼, 보안 위협도 시스템 침입을 넘어 판단 왜곡으로 넓어지는 모습이다.

김 선임은 이미지·음성·영상 등 다양한 입력을 활용하는 '멀티모달 프롬프트 인젝션' 공격으로 AI의 판단을 교란해 최고 성적을 거뒀다.

이미지 안에 잘못된 행동을 유도하는 문구를 숨기거나 실제 시스템 로그처럼 보이도록 입력을 설계해 AI가 기존 규칙을 따르지 않도록 유도했다.

EQST 소속 마준영 선임과 김신우 선임도 각각 5위와 7위를 기록했다.

SK쉴더스는 EQST가 침해 대응 경험과 위협 인텔리전스를 기반으로 AI 시스템 취약점 점검과 레드팀 서비스를 제공하고 있다고 설명했다.

김병무 SK쉴더스 사이버보안부문장 부사장은 "생성형 AI가 산업 전반으로 확산하면서 AI 보안은 선택이 아닌 필수 역량이 되고 있다"며 "이번 대회에서 검증한 AI 레드팀 역량을 바탕으로 고객이 AI를 안전하고 신뢰성 있게 활용할 수 있도록 지원하겠다"고 말했다.

kxmxs4104@news1.kr