앤트로픽 인공지능(AI) 모델 '미토스'가 세계 최고 수준의 '해커'로 둔갑할 수 있다는 우려가 나오면서 미국을 비롯한 주요 국가들의 긴장감이 높아지고 있다.

미토스가 기업이나 금융회사, 국가기관에 구축된 IT 시스템의 보안 취약점을 찾아내 공격 코드를 생성하는 능력을 갖춘 것으로 나타나면서 새로운 차원의 보안 패러다임을 구축해야 한다는 분석이 나온다.

14일 블룸버그 등 외신에 따르면 스콧 베선트 미국 재무장관과 제롬 파월 연준 의장은 최근 주요 금융기관 최고경영자(CEO)들을 워싱턴 재무부 청사로 긴급 소집했다.

회의 참석자들은 앤트로픽의 최신 AI 모델 '미토스'가 금융 시스템에 미칠 영향 등을 논의한 것으로 전해졌다.

미토스는 주요 운영체제(OS)와 웹 브라우저 보안 취약점을 식별하고 공격 코드를 생성하는 능력을 보유했다고 평가된다.

기존 모델이 코드 리뷰나 취약점 분석 보조에 그쳤던 것과 달리, 미토스는 스스로 침투 경로를 설계하고 해킹을 수행할 수 있다는 점에서 위협이 현실로 느껴지는 모습이다.

성능 지표도 역대 최고 수준이다. 미토스는 AI 모델의 한계 성능을 측정하는 '인류 마지막 시험'(HLE) 벤치마크에서 56.8%를 기록해 현존 모델 중 가장 높은 성능을 보이고 있다.

보안 업계는 미토스가 '제로데이 취약점'(보안 패치가 배포되지 않은 약점)을 자동 탐색해 공격할 가능성을 특히 경계하고 있다.

AI가 보안 패치 제작 속도보다 빠르게 취약점을 찾아내 공격할 경우 기존 방어 체계가 무력화될 수 있기 때문이다.

앤트로픽은 미토스를 대중에 공개하지 않고 핵심 인프라 기업과 기관에만 제공하고 있다. 하지만 유사한 성능을 갖춘 또 다른 모델이 등장할 수 있다는 점이 우려를 키운다.

전문가들은 이러한 고성능 AI가 대중화될 경우 숙련도가 낮은 해커도 고성능 AI를 통해 고도화된 공격을 시도할 수 있다고 지적한다.

황석진 동국대 국제정보보호대학원 교수는 "(미토스와 같은 AI 모델을 사용하면) 새로운 공격이 생겨난다기보다 기존의 공격이 더 빠르고, 넓고, 정교해진다"며 "제로데이 공격이나 대량 자동화 공격 위험도가 높아질 수 있다"고 분석했다.

황 교수는 "단순히 개인의 이익을 편취하고자 해킹할 가능성도 있지만, 전쟁 목적 등 국가 차원에서 이러한 AI 설루션을 악용할 가능성도 있다"고 말했다.

이어 "미토스는 전 세계에서 선호하는 제품이 될 가능성이 높다"며 "사후약방문식이 아닌, 선제 대응할 수 있는 국가 차원의 보안 체계를 마련해야 한다"고 제언했다.

다만 무조건적인 통제보다는 철저한 운영 방침 마련을 강조했다.

황 교수는 "좋은 설루션이 나왔음에도 악용 우려 때문에 발목을 잡아서는 안 된다"며 "구입과 조치 내역을 종합적으로 점검할 수 있는 체계를 만들어, 악용을 방지하면서도 AI 모델을 적극 활용해야 한다"고 덧붙였다.

minjae@news1.kr