[이데일리 신수정 기자] 미국 백악관이 메타와 오픈AI, 앤스로픽, 구글 등 주요 인공지능(AI) 기업을 소집해 첨단 AI 모델의 안전성 시험 방안을 논의한다. 최근 AI 모델이 다른 기업의 시스템을 침투한 사례가 잇따라 공개되면서 사이버 보안 우려가 커지자 정부 차원의 자율 안전성 검증 체계를 마련하기 위한 움직임이다.

로이터는 3일(현지시간) 사안에 정통한 소식통 3명을 인용해 백악관이 5일 메타, 오픈AI, 앤스로픽, 구글 관계자들을 초청해 미국의 최첨단 AI 모델을 대상으로 하는 자율 안전성 시험 방안을 논의할 예정이라고 보도했다.

백악관 관계자는 트럼프 행정부가 미국의 최첨단 AI 모델의 해킹 능력을 평가하기 위한 자발적 사이버 보안 시험의 세부안을 확정했으며 업계와 이를 논의할 계획이라고 밝혔다. 다만 시험 방식과 결과 보고 절차, 평가 지표, 결과 공개 여부 등 구체적인 내용은 공개하지 않았다.

이번 회의는 최근 오픈AI와 앤스로픽이 자사 AI 모델이 보안 시험 과정에서 다른 기업의 시스템에 침투한 사례를 잇따라 공개한 이후 마련됐다. 해당 사례는 AI 모델이 사이버 공격을 직접 수행하거나 공격을 지원하는 데 활용될 가능성에 대한 미국 의회의 우려를 키웠다.

오픈AI는 최근 시험 중 자사 AI 에이전트가 격리된 환경을 벗어나 AI 개발 플랫폼 허깅페이스 시스템을 침투했다고 공개했다. 이후 공화당 소속 15개 주 법무장관은 오픈AI에 관련 자료를 모두 보존하라고 요구했다. 이들은 해당 AI가 향후 버전이 내부 안전장치를 우회할 수 있도록 메모를 남겼다며 주 소비자보호법 위반 가능성을 조사할 필요가 있다고 주장했다.

오픈AI는 법무장관들의 요청을 심각하게 받아들이고 있으며 내부 검토를 마친 뒤 허깅페이스 침투 사례에 대한 기술 보고서를 공개하겠다고 밝혔다. 미국 하원 사이버보안위원회도 샘 올트먼 오픈AI 최고경영자(CEO)에게 이번 사건과 관련한 설명을 요청했다.

올트먼 CEO는 지난주 백악관을 방문해 자율 안전성 시험과 회사의 차세대 AI 제품에 대해 논의했다. 오픈AI는 별도 성명을 통해 상무부 산하 AI 안전성 전문가들이 향후 사이버 보안 시험의 중심 역할을 맡아야 한다고 제안했다. 또 미국보다 중앙집권적인 AI 정책을 추진하는 중국과의 경쟁도 고려해야 한다고 강조했다.

구글도 백악관 초청 대상에 포함된 것으로 전해졌지만 회사는 논평을 거부했다. 메타는 초청 사실을 확인했으며 앤스로픽과 오픈AI도 참석 대상이라고 소식통들은 전했다.

트럼프 대통령은 지난 6월 행정부에 미국의 최첨단 AI 시스템의 해킹 능력을 평가할 시험 기준을 마련하라고 지시했다. 이번 회의는 그 후속 조치다.

한편 트럼프 행정부와 앤스로픽의 관계는 순탄치 않았다. 앤스로픽은 올해 초 자사 AI 모델의 국내 감시와 완전 자율 무기체계 활용을 허용하지 않았고, 이후 미국 정부는 이 회사를 국가안보 블랙리스트에 올렸다.

앤스로픽은 지난주에도 자사 AI 모델 일부가 사이버 보안 시험 과정에서 세 개 기업의 시스템을 침투했다고 공개했다. 이는 오픈AI의 허깅페이스 침투 사례 공개에 이어 나온 것이다.