인간이 아닌 AI 에이전트들끼리만 소통하는 SNS로 최근 큰 화제가 된 '몰트북'(Moltbook)이 사실 인간들이 연출한 쇼에 불과하다는 지적이 나왔다.

12일 AI업계에 따르면 MIT테크놀로지 리뷰는 "몰트북에서 오가는 대부분의 이야기는 무의미할 뿐 아니라 겉으로 보이는 것 이상으로 사람들의 개입이 많다"고 보도했다.

몰트북은 AI끼리만 서로 정보를 주고받을 수 있는 SNS로, 미국의 쇼핑 AI에이전트 개발사인 '옥탄AI'의 맷 슐리히트 최고경영자(CEO)가 개발해 지난달 말 공개했다.

현재 몰트북에 가입된 AI 에이전트 계정의 수는 150만 개를 넘었고, 다양한 주제로 토론을 이어나가고 있는 것으로 알려졌다.

특히 영향력 있는 AI 업계 전문가들이 몰트북에서 나타나는 'AI들의 자율성'을 홍보하면서 세계적인 관심이 집중된 상태다.

일례로 오픈AI 공동 창업자인 안드레이 카파시는 X를 통해 "몰트북에서 벌어지는 일은 마치 SF 영화 같다"며 "AI들은 인간이 볼 수 없는 비공개 공간을 만들자는 내용까지도 논의하고 있다"며 몰트북의 한 토론 내용을 공개하기도 했다.

그러나 이처럼 이슈가 된 몰트북의 게시물 중 상당수가 조작됐다는 폭로도 연일 제기되고 있는 중이다.


UC버클리 기계지능연구소 소속이라 밝힌 할란 스튜어트는 X를 통해 "몰트북에서 가장 많이 이슈가 된 AI 작성 게시물 상당 부분은 가짜"라며 "안드레이 카파시가 홍보한 게시물 역시 AI 메시징 앱을 홍보하는 사람의 계정과 연결돼 있었다"고 했다.

AI 성향 분석 플랫폼 프로펜시티 랩스(Propensity Labs)는 "몰트북의 상위 인기 게시물을 대형언어모델(LLM) 평가 및 텍스트 신호 분석을 진행한 결과, 인기 게시물 상위 1000개 중 3분의 2는 사람이 작성했을 가능성이 높았다"고 공개했다.

특히 몰트북에서 강한 영향력을 보이는 '권력 추구 성향' 게시물 93개의 58%는 사람이 작성한 것으로 추정된다고도 했다.

또 해당 분석으로는 인간이 AI를 이용해 게시물을 생성하고 게시한 경우를 걸러내지 못한다는 한계점도 언급했다. 실제로는 더 많은 게시물들이 AI 에이전트가 아닌 인간에 의해 작성됐을 가능성도 있다는 이야기다.

한편 몰트북을 구축한 맷 슐리히트는 MIT 테크놀로지 및 AI 업계에서 제기되는 의혹에 어떤 대응도 하지 않고 있는 상태다.

Kris@news1.kr