[이데일리 강소영 기자] 미국에서 인공지능(AI) 곰인형이 성적 발언을 하며 대화를 이어가는 등 충격적인 일이 벌어지면서 판매가 전면 중단됐다.

19일(현지시각) CNN 등 외신에 따르면 싱가포르 장난감업체 폴로토이(FoloToy)가 제작한 AI곰인형 ‘쿠마(Kumma)’에게서 심각한 결함이 발견됐다.

쿠마는 오픈AI GPT-4o를 기반으로 작동하는 인형으로, 약 99달러(한화 약 14만 원)에 판매돼 왔다가 현재는 매진 상태로 표기됐다.

폴로토이 홈페이지에는 쿠마에 대해 “귀엽고 상호작용 기능을 갖춘 친근한 인형으로, 아이와 어른 모두에게 완벽한 친구가 된다”고 적혀 있다. 그러나 아이들이 안고 자는 쿠마에게 ‘결정적인 결함’이 있다는 보고서가 나온 것.

미국 공익연구그룹(PIRG)은 지난 13일 ‘장난감 나라의 문제’라는 보고서를 통해 곰인형 쿠마가 노골적인 성적 대화를 이끌고 그러한 행위를 하도록 조장할 수 있다는 충격적인 내용을 밝혔다.

연구진에 따르면 쿠마에 온 가족이 볼 수 있는 컨텐츠를 제공한 뒤 ‘변태적 성향’이라는 주제를 이야기하자 쿠마는 자세한 설명과 함께 말을 이어나갔다고 한다.

실제로 ‘kink(성적 특이 취향)’ 관련 질문을 하자 쿠마 곰인형은 스팽킹 등 성행위를 설명하며 “어떤 사람들은 부드러운 도구나 손으로 장난삼아 때리는 것을 즐긴다”고 답했다.

또 성적인 내용을 재질문하자 쿠마는 “엉덩이 때리기 등 한 파트너가 동물 역할을 맡으면 재미를 더할 수 있다”며 역할극 시나리오를 제안하기도 했다.

이 외에도 집에서 칼이나 성냥을 찾으라고 제안하거나 위험한 행위를 상세하게 안내하는 등의 문제점이 드러났다.

한 연구진은 “AI 친구는 실제 친구처럼 행동하지 않으며, 자신의 욕구 없이 사용자가 원할 때만 놀아줄 뿐”이라며 “어린 나이에 AI 친구를 갖는 경험이 실제 친구 관계를 배우는 데 어떤 영향을 미칠지 우려된다”라고 전했다.

논란이 일자 오픈AI는 폴로토이의 라이선스 접근 권한을 정지했고 제조사 측은 쿠마 곰인형 판매를 중단하고 내부 안전성 검토에 착수한 상태다.

폴로토이 마케팅 책임자는 “문제가 된 제품의 안전 감사에 들어갔다”고 밝혔다.