[이데일리 김현아 기자] 정부가 인공지능(AI)을 활용한 사이버 위협 대응 역량 강화를 위해 국내 최초 수준의 ‘사이버 보안 특화 AI 파운데이션 모델’ 개발에 착수한다. 생성형 AI와 자율형 AI 에이전트 발전으로 사이버 공격 방식이 고도화되는 가운데, 국내 환경에 최적화된 독자 보안 AI를 확보하겠다는 목표다.

과학기술정보통신부는 정보통신산업진흥원(NIPA)과 함께 ‘사이버 보안 특화 인공지능(AI) 파운데이션 모델 개발’ 사업 공모를 22일부터 8월 21일까지 진행한다고 밝혔다.

이번 사업은 국내 AI·사이버 보안 역량을 결집해 보안 분야에 특화된 초거대 AI 모델을 개발하는 프로젝트다. 정부는 공모를 통해 국내 기업·대학·연구기관 등이 참여한 개발팀 1곳을 선정하고, 고성능 GPU 자원을 지원할 계획이다.

선정된 참여팀에는 엔비디아 최신 AI 가속기인 B200 GPU 256장(32노드)을 10개월간 제공한다. 참여팀은 보안 특화 AI 모델 개발 방법론과 서비스 실증 방안, 적용 분야 등을 자율적으로 제안할 수 있다.

정부는 사업 착수 5개월 후 중간 성과 모델을 공개하고 기술 수준과 개발 성과를 평가한다. 이후 평가 결과에 따라 후속 지원 여부를 결정할 방침이다.

◇AI 해킹 현실화…“방어도 AI로 전환해야”

정부가 보안 특화 AI 개발에 나선 배경에는 AI를 활용한 사이버 공격 위협이 빠르게 커지고 있다는 판단이 있다.

최근 AI는 단순히 해킹 정보를 제공하는 수준을 넘어 취약점 탐색, 공격 경로 분석, 악성코드 제작 등 사이버 공격 과정 전반에 활용될 가능성이 커지고 있다. 기존 보안 솔루션만으로는 AI가 주도하는 새로운 형태의 공격을 막기 어렵다는 지적이 나온다.

실제 글로벌 AI 업계에서는 AI가 사이버 공격에 활용될 수 있다는 우려가 잇따르고 있다. 이른바 ‘미토스(Mythos) 파동’으로 불린 AI 보안 논란은 자율형 AI 에이전트가 스스로 취약점을 찾고 공격 과정을 수행할 가능성을 보여주며 보안업계에 경각심을 불러일으켰다.

또 최근에는 생성형 AI가 개발 환경에 접목되면서 새로운 위험 사례도 등장했다. 일부 연구에서는 GPT 계열 AI가 코드 분석과 자동화 기능을 악용해 깃허브(GitHub) 등 개발 생태계를 대상으로 한 공격 가능성이 제기되면서, AI가 ‘공격 도구’로 활용될 수 있다는 우려가 커졌다.

이에 따라 사이버 공격에 활용되는 AI에 맞서 방어 체계 역시 AI 기반으로 전환해야 한다는 요구가 커지고 있다. AI가 실시간으로 위협을 분석하고 취약점을 찾아 대응하는 ‘AI 보안 체계’ 구축이 국가 차원의 과제로 떠오른 것이다.

◇오픈소스 기반 확산…국내 보안 생태계 강화

정부는 개발 결과물을 국내 보안 산업 전반에 확산하기 위해 오픈소스 기반 활용을 추진할 예정이다.

개발된 보안 특화 AI 모델은 기업과 연구기관 등이 활용할 수 있도록 지원하고, 2027년부터는 후속 사업을 통해 모델 고도화와 산업 확산도 이어갈 계획이다.

최종 선정 평가는 국내 AI 및 사이버 보안 전문가로 구성된 평가위원회가 맡는다. 주요 평가 항목은 △기술력 및 개발 경험 △개발 목표와 추진 전략 △시장성과 산업 파급효과 등이다.

류제명 과기정통부 제2차관은 “이번 사업은 급변하는 AI 개발 환경과 사이버 보안 패러다임 변화에 선제적으로 대응하기 위한 것”이라며 “국내 환경에 최적화된 보안 특화 AI 파운데이션 모델을 확보하고 확산해 대한민국 AI 기반 사이버 보안 생태계의 핵심 기반을 마련하겠다”고 말했다.