앤스로픽은 28일(현지시간) 최신 플래그십 AI 모델 ‘클로드 오퍼스 4.8’을 공개하면서, 현재 제한적으로 제공 중인 ‘클로드 미토스(Mythos)’급 모델을 수주 내 모든 고객에게 제공할 수 있을 것으로 예상한다고 밝혔다.
앤스로픽 클로드 (사진=AFP)
앤스로픽은 지난달 공개한 자료에서 미토스 프리뷰가 주요 운영체제(OS)와 웹브라우저에서 제로데이 취약점을 식별하고, 사용자 지시가 있을 경우 취약점을 공격(익스플로잇)하는 능력까지 보였다고 설명한 바 있다.
제로데이는 개발사도 인지하지 못했거나 패치가 배포되지 않은 보안 취약점을 뜻한다. 공격자가 이를 악용하면 시스템 침투, 정보 탈취, 서비스 장애 등을 유발할 수 있다.
앤스로픽은 미토스를 일반 공개하기 전 추가적인 사이버 안전장치가 필요하다는 입장이다. 사용 제한, 모니터링, 안전성 평가 등 통제 장치를 강화하겠다는 방침이다.
회사 측은 공식 블로그에서 “프로젝트 글래스윙 일환으로 소수 조직이 클로드 미토스 프리뷰를 사이버보안 업무에 사용하고 있다”며 “이 수준의 모델을 널리 제공하려면 더 강력한 사이버 안전장치가 필요하다”고 밝혔다.
이어 “관련 안전장치 개발에서 빠르게 진전을 이루고 있으며 수주 내 미토스급 모델을 모든 고객에게 제공할 수 있을 것으로 예상한다”고 덧붙였다.
그러나 AI 모델이 점점 더 자율적으로 복잡한 작업을 수행하는 ‘에이전트형 AI’로 발전하면서, 모델 능력 공개와 안전장치 사이의 균형을 둘러싼 논쟁은 더 거세질 전망이다.
현재 미토스는 아마존, 마이크로소프트, 애플 등 일부 기업이 사이버보안 목적에 한해 사용 중인 것으로 전해졌다.
앤스로픽은 미토스의 능력이 공격적 사이버 활동에 악용될 수 있는 만큼, 제한된 환경에서 취약점 탐지와 보안 패치 등 방어적 목적으로 활용하는 방안을 검증해왔다.
한편 이날 함께 공개된 클로드 오퍼스 4.8은 코딩, 에이전트 작업, 추론, 금융 분석 등에서 성능이 개선됐다. 모델이 불확실한 내용을 단정적으로 말하지 않고, 작업 결과의 한계나 오류 가능성을 더 잘 표시하도록 개선했다는 점을 강조했다.
