[이데일리 김정훈 기자]
앤스로픽은 자사 최첨단 모델의 성능 향상 속도를 보여주는 내부 데이터를 공개하며 AI 기술이 ‘재귀적 자기 개선’으로 향하고 있다고 진단했다. 재귀적 자기개선은 AI 시스템이 인간의 직접 개입 없이 스스로를 개선하는 상태로, AI가 자체적으로 연구·코딩·실험·모델 개선을 반복할 경우 기술 발전 속도가 인간 사회의 통제 범위를 벗어날 수 있다는 우려가 나온다.
앤스로픽은 AI의 재귀적 자기개선이 아직 현실화된 것은 아니며 필연적으로 도달할 것이라고 단정할 수 없지만 대부분 기업이 준비하는 것보다 더 이른 시점에 도달할 수 있다고 경고했다. 그러면서 AI 개발을 늦추거나 일시 중단하기 위해 글로벌 합의가 필요하다고 주장했다.
앤스로픽은 핵무기 감축 조약처럼 AI 개발에 국제적 감시와 검증 장치가 필요하다는 취지를 역설했다. 다만 AI 모델의 실제 학습 여부와 규모를 외부에서 실시간으로 파악하기는 쉽지 않다는 한계가 있다.
앤스로픽은 “일시 중단이나 속도 조절이 의미 있으려면 광범위하게 준수돼야 한다”며 “이를 확인할 수 있는 검증 체계가 필요하다”고 강조했다. 이어 “AI 학습 작업은 미사일 사일로보다 훨씬 숨기기 쉽다”며 “다른 기업들이 멈춘 사이 누군가 계속 개발한다면 그 기업이 주도권을 가져갈 수 있다”고 지적했다.
일각에서는 앤스로픽이 경쟁사들의 개발 속도를 늦추기 위해 AI 안전성을 강조하는 것이라는 비판이 나온다. 최근 앤스로픽이 ‘클로드 미토스’가 너무 위험하다는 이유로 비공개한 것도 일종의 마케팅이라는 지적을 받았다. 이선 몰릭 와튼스쿨 교수는 소셜미디어 X를 통해 “약간의 자기성찰과 마케팅이 섞여 있지만, 앤스로픽이 가까운 미래 AI에 대해 무엇을 진지하게 믿고 있는지 보여준다”고 평가했다.
