(사진=AFP)
앤스로픽에 따르면 미토스는 인간의 개입 없이도 운영체제와 웹브라우저, 각종 애플리케이션이 공통으로 활용하는 핵심 코드 묶음(라이브러리)에서 자율적으로 취약점을 찾아내고, 이를 실제 공격 코드 생성까지 발전시킬 수 있는 능력을 갖췄다. 또한 보안성을 최우선으로 설계된 오픈소스OS ‘OpenBSD’에서 27년 된 취약점을 발견한 사례도 확인됐다고 설명했다. 이 같은 능력이 금융 시스템을 겨냥한 해킹에 제한 없이 악용될 경우 은행 계좌 대규모 탈취, 국제 결제 시스템 마비, 또는 금융 시스템의 근간인 ‘신뢰’를 무너뜨리는 사건을 촉발할 수 있다.
스콧 베선트 미 재무장관과 제롬 파월 연방준비제도(Fed·연준) 의장이 이례적으로 월가 수장들을 소집해 “자율적으로 사이버 공격을 수행할 수 있는 새로운 AI 모델의 등장을 경고했다”는 보도가 나온 이후, 세계 각국의 관계 당국도 대책 마련에 나선 상황이다.
크리스틴 라가르드 유럽중앙은행(ECB) 총재는 지난 14일 블룸버그TV와의 인터뷰에서 미토스의 파괴적인 잠재력을 언급하며 “만약 잘못된 손에 들어간다면 정말 심각한 사태가 될 수 있다”고 강조했다. 이 같은 발언은 미토스의 잠재적 위협과 대응책을 파악하려는 각국의 중앙은행 총재, 재무장관, 규제당국자, 투자 책임자들의 우려를 대변한다.
앤드류 베일리 영국 영란은행(BOE) 총재는 뉴욕에서 열린 콜롬비아대 행사에서 “걸프 지역 사태가 현재 세계의 가장 큰 도전이라고 생각하는 것이 합리적일 수 있다”면서도 “어느 날 눈을 떠보니 앤스로픽이 사이버 리스크 전체를 무너뜨릴 방법을 찾아냈다는 사실을 알게 된다면, ‘내가 무슨 잘못을 했나’라고 생각하게 될 것”이라고 말했다.
프랑수아-필립 샹파뉴 캐나다 재무장관은 “미토스는 우리의 전적인 주의를 요구한다”며 각국 재무장관들과 이 문제를 논의하길 원한다고 밝혔다. 그는 “금융 시스템의 회복탄력성을 확보하는 것은 공동의 이해관계”라고 강조했다.
미토스는 약 70% 이상의 확률로 실제 파이어폭스 JS 엔진 취약점을 찾아 공격코드 생성에 성공해, 기존 모델보다 해킹 능력이 크게 향상됐다.(이미지=앤스로픽 블로그)
미국 기업인 앤스로픽이 미토스 관련 정보와 접근 권한을 미국 외 다른 국가 당국이나 금융기관과 어느 정도까지 공유하고 있는지도 불분명하다. 미 재무부 기술팀은 취약점을 탐색하기 위해 미토스 모델에 대한 접근 권한 확보에 나선 것으로 알려졌다.
지난 15일 열린 G7 재무장관 회의에서는 어떤 국가도 단독으로 미토스 위험에 대응할 수 없다는 인식 아래, AI 거버넌스를 감독할 국제적 제도 틀의 필요성이 논의됐다. 다만 위험이 기하급수적으로 커지고 잠재적 파급력이 크다는 점에는 공감대가 형성됐지만, 구체적 실행 방안은 여전히 불투명하다.
이에 AI 리스크를 체계적으로 관리할 수 있는 거버넌스(관리 체계) 구축이 필요하다는 목소리가 높아지고 있다. 특히 이 같은 기술이 더 적대적인 국가에서도 개발될 경우 사전 경고 없이 위협이 현실화될 수 있다는 점에서 글로벌 차원의 규제 프레임워크 구축 필요성이 커지고 있다. 가브칼 리서치의 라일라 카와자 애널리스트는 “최첨단 AI 역량이 이를 통제할 거버넌스 체계보다 훨씬 빠르게 발전하고 있다”며 “이러한 모델이 금융과 같은 핵심 시스템에 깊이 자리 잡기 전에 안전장치를 구축하는 것이 시급하다”고 말했다.
