14일(현지시간) 월스트리트저널(WSJ)과 악시오스에 따르면 앤스로픽 경영진들은 두 모델에 대한 외국인 접근 차단 조치가 내려진 직후부터 도널드 트럼프 행정부 관계자들과 전화 회의를 가진 데 이어 핵심 기술 인력을 워싱턴DC로 파견해 백악관 및 정부 보안 연구진과 타협점 찾기에 나섰다.
(사진=AFP)
이는 앤스로픽이 두 모델을 공개한 지 불과 3일 만에 나온 조치다. 페이블5는 해킹 성능이 탁월한 AI 모델 미토스를 기반으로 하지만 일부 기능을 제한한 일반 사용자용 모델이다. 함께 공개된 미토스5는 사이버보안 테스트용 차세대 모델이다.
회사는 규정 준수를 위해 일단 모든 사용자를 대상으로 두 모델의 제공을 중단한 상태다. 다만 제한된 기업들에게만 제공되는 ‘미토스 프리뷰’는 이번 통제 대상에서 제외돼 계속 운영되고 있다.
소식통들에 따르면 앤스로픽의 공동창업자 겸 최고컴퓨트책임자(CCO) 톰 브라운과 데이브 오어 안전장치 총괄, 세라 헥 공공정책 책임자 등은 13일 이 문제를 두고 하워드 러트닉 상무장관과 숀 케언크로스 백악관 국가사이버국장과 수 시간에 걸쳐 전화 회의를 진행했다. 양측은 최신 모델에 대한 접근을 복원하는 데 원칙적으로 공감하고 있지만, 구체적인 해법은 찾기 못한 것으로 알려졌다.
이에 앤스로픽은 최고 보안 연구원인 니콜라스 칼리니와 위험평가팀을 이끄는 로건 그레이엄 등 고위 기술 인력을 워싱턴DC에 파견해 정부 보안 전문가들과 직접 협의에 나섰다. WSJ은 앤스로픽 기술진과 정부 보안 연구진 간 직접 협력이 타협점을 찾는 핵심 열쇠가 될 것이라고 평가했다.
트럼프 행정부가 앤스로픽 AI 모델 통제에 나선 건 아마존 연구진의 제보를 받고서다. 아마존 연구진은 특정 프롬프트(명령어)를 사용해 페이블에 적용된 안전장치를 우회할 수 있다는 사실을 발견했고, 이를 백악관에 전달했다. 연구진은 질문 방식을 바꾸는 것만으로 최소 4개 소프트웨어의 보안 취약점 정보를 모델로부터 끌어낼 수 있었다고 보고했다. 실제 사이버 공격에 사용될 수 있는 익스플로잇 코드 생성 사례는 없었던 것으로 알려졌다.
앤디 재시 아마존 최고경영자(CEO)는 스콧 베선트 미 재무장관 등 미국 정부 관계자들에게 연구 결과를 전달했고, 이후 백악관은 대응 방안을 논의하는 회의를 열어 앤스로픽에 모델 중단을 요구했다.
도널드 트럼프 대통령은 기술 수출 규제를 총괄하는 러트닉 장관에게 대응을 맡겼으며, 최종 규제 조치도 직접 승인한 것으로 전해졌다.
앤스로픽 경영진과 러트닉 장관, 케언크로스 국장, 베선트 미 재무장관 등은 지난 12일 수 시간에 걸쳐 회사의 안전장치를 논의하며 수출 규제 가능성을 경고했다. 회사 측은 모델을 신속히 중단하지 않으면 규제가 즉시 발효될 것으로 판단했던 것으로 알려졌다. 결국 앤스로픽은 같은 날 저녁 규정 준수를 위해 페이블5와 미토스5에 대한 모든 접근을 차단했다.
실제 수출 통제가 이뤄질 경우 기업공개(IPO)를 앞두고 있는 앤스로픽에게 큰 타격은 물론 글로벌 AI 산업 지형에 상당한 파급을 줄 수 있다. 미국이 AI 모델 자체를 국가안보 자산으로 간주해 해외 사용을 제한하는 첫 사례가 나오면 전 세계 기업들은 첨단 AI 서비스에 대한 접근이 정책 변화에 따라 언제든 차단될 수 있다는 리스크를 안게 된다. 이는 각국의 소버린 AI 확보 경쟁을 촉진하는 동시에 미국 기업 중심으로 형성돼 온 AI 생태계에도 적지 않은 균열을 가져올 수 있다.
앤스로픽은 아마존 연구진이 지적한 취약점이 비교적 기초적인 수준이며, 공개된 다른 AI 모델들도 유사한 정보를 찾아낼 수 있다고 반박하고 있다. 또한 이번 사례는 일반적으로 말하는 ‘탈옥’ 수준에는 해당하지 않는다는 것이 회사 측 주장이다.
일부 사이버보안 전문가들도 트럼프 행정부 대응이 과도했다고 지적한다. 사이버보안 기업 루타 시큐리티의 CEO 케이티 무수리스는 아마존 보고서를 검토한 뒤 “안전장치 자체를 수정할 필요가 있는 수준은 아닌 것으로 보인다”며 “현재 소프트웨어 보안을 강화하는 데 활용되는 최신 미토스 모델에 대한 접근을 차단한 것은 오히려 국가 안보와 사이버 방어 역량을 훼손할 수 있다”고 지적했다.
