[이데일리 방성훈 기자] “인공지능(AI)이 용납할 수 없는 위험을 초래한다고 판단되면 정부가 그 출시를 차단하거나 억제할 권한을 가져야 한다.”

10일(현지시간) 블룸버그통신에 따르면 다리오 아모데이 앤스로픽 최고경영자(CEO)는 이날 장문의 에세이를 공개하며 이같이 밝혔다. AI 개발사가 특정 위험을 안고 있는 새 모델을 출시하지 못하도록 정부가 막을 권한을 가져야 한다는 설명이다.

이에 따라 AI 모델이 사이버보안 위협이나 생물무기 제작 지원 등 여러 범주에 걸쳐 어떤 위험을 초래하는지 평가하기 위해 제3자에 의한 의무 테스트를 거쳐야 한다고 아모데이 CEO는 강조했다. AI 기업 상당수가 혁신을 명분으로 정부에 규제 완화를 요구하는 가운데, AI 선두 기업 수장이 오히려 규제 강화를 촉구했다는 점에서 주목된다.

AI 관련 기술이 고도화·가속화하는 가운데 아모데이 CEO는 AI에 대한 더 엄격한 규제를 지속 요구해 왔으며, 이날 발언은 가장 강도 높은 축에 속한다는 평가다. 앤스로픽은 지난주 AI가 초래할 수 있는 위험을 막기 위해 정부와 AI 개발사가 기술 개발 속도를 늦출 시점을 함께 결정하는 체계를 만들자고 제안하기도 했다.

아모데이 CEO는 “이제 투명성을 넘어 더 진지하고 구속력 있는 AI 규제로 나아갈 때”라며 “적어도 현재의 기하급수적 발전 단계에서 가장 적절한 비유는 자동차나 항공기, 의약품이라고 본다. 현대 경제에 필수적인 강력한 기술이지만, 잘못 설계되거나 운용되면 많은 사람을 죽일 수 있는 것들”이라고 경고했다.

오랫동안 책임감 있는 AI 개발사를 자처해온 앤스로픽은 핵심 소프트웨어의 취약점을 찾아내 악용할 수 있는 ‘미토스’라는 강력한 AI 모델을 발표해 우려를 불러일으켰다. 회사는 이 도구의 출시를 일부 협력사로 제한하기로 했고, 전날에는 사이버보안 기능을 뺀 ‘클로드 페이블 5’(Claude Fable 5)를 공개했다.

아모데이 CEO는 이날 에세이에서 미토스를 “AI의 엄청난 힘과 그 위험을 동시에 보여주는 대표 사례”로 꼽는 한편 “우리는 이제 전 세계가 집단적으로, 느리고 삐걱대는 정책 장치를 가동해 앞으로 놀라울 만큼 빠르게 누적될 위험과 기회에 대응해야 한다”고 힘주어 말했다.

한편 도널드 트럼프 미국 대통령은 이달 초 행정명령을 통해 AI가 제기하는 사이버보안 위협 대응에서 손을 떼는 접근법을 제시했다. 미 정부에 AI 모델을 자발적으로 제공하도록 하는 내용으로, 개발사가 명시적 승인을 받도록 의무화하는 데까지는 나아가지 않았다.