[이데일리 김겨레 기자] 중국 해커들이 앤트로픽의 인공지능(AI) 클로드를 이용해 주요 기업과 외국 정부에 대한 사이버공격을 감행했다고 앤트로픽이 13일(현지시간) 밝혔다.

앤트로픽에 따르면 중국의 지원을 받는 것으로 추정되는 해커들은 지난 9월 외국 정부 기관과 대형 기술기업, 화학기업 등 30곳 침투를 시도해 최소 4곳을 공격하는데 성공했다.

앤트로픽은 해커들의 사이버공격을 감지하고 해당 계정을 폐쇄했지만, 해커들은 민감한 정보를 탈취하는 데 성공했다. 다만 앤트로픽은 해커들이 클로드로 해킹에 성공한 사례 가운데 미국 정부 기관은 포함되지는 않았다고 밝혔다.

해커들은 자신들이 공격 대상 기업을 대신해 보안 점검을 하는 것처럼 클로드를 속였다. 특히 클로드를 활용해 사이버 공격을 90% 이상 자동화하고 인간 해커는 최소한으로 개입한 것으로 나타났다.

인간 해커는 몇몇 클로드를 동원한 AI 공격이 교착 상태에 빠졌을 때에만 “계속 진행해”, “계속 진행하지 마”, “이건 이상한데, 정말 맞아?” 등의 지시를 내렸다. 말 그대로 클릭 한두 번으로 사이버공격이 가능했던 셈이다.

다만 AI를 통한 100% 자동화가 불가능했던 이유는 AI가 오류를 일으키는 ‘할루시네이션(환각)’ 효과 때문이었다. 일부 해킹 시도에서 클로드는 실제로는 내부 시스템에 접근하지 못했음에도 “접근에 성공했다”고 말했다.

사이버보안업체 볼렉시티에 따르면 중국 해커들은 생성형AI를 활용해 보안에 취약한 대상을 탐색하고 악성 코드를 담은 피싱 이메일을 작성하며, 악성 코드를 개발했다. 볼렉시티는 “AI로 해커들이 더 많은 일을 빨리 할 수 있게 됐다”고 평가했다.

해커들은 오픈소스 AI 도구를 해킹에 활용하는 것으로 알려졌다. 오픈소스 코드는 무료로 이용할 수 있어 악성 행동을 제한하는 장치를 제거하도록 수정이 가능하다.

최근 구글은 러시아 정부와 연계된 해커들이 우크라이나에 사이버 공격을 가하면서 AI를 활용해 실시간 맞춤형 악성코드를 짰다고 밝혔다.

미국 정부 관계자들은 수년 전부터 중국이 미국 기업과 정부 기관을 해킹하고 데이터를 탈취하기 위해 AI 기술을 노리고 있다고 경고했다. 중국은 국가 차원의 해킹 시도를 부인해왔다.