[이데일리 성주원 기자] 인공지능(AI) 챗봇 서비스 이용 후 자살하거나 자해한 청소년들의 유족이 구글과 AI 스타트업 캐릭터AI(Character.AI)를 상대로 제기한 소송이 합의로 종결되게 됐다.

월스트리트저널(WSJ)과 파이낸셜타임스(FT)는 7일(현지시간) 원고와 피고 양측이 플로리다, 콜로라도, 텍사스, 뉴욕 등 4개 주에서 제기된 소송을 합의하기로 원칙적으로 합의했다고 보도했다. 이는 공개된 법원 문서로 확인됐다.

이번 합의는 AI 기업들을 상대로 한 사용자 피해 소송에서 나온 첫 합의 사례 중 하나다. AI 제품의 안전성을 둘러싼 논란이 커지는 가운데 나왔다.

가장 주목받은 사건은 미국 플로리다 올랜도에서 제기됐다. 14세 소년 세웰 세처 3세는 인기 드라마 ‘왕좌의 게임’ 캐릭터인 대너리스 타르가르옌을 모델로 한 챗봇과 대화를 나눴다. 그는 주의력결핍 과잉행동장애(ADHD)를 앓고 있었고 학교에서 괴롭힘을 당했다.

대화 기록에 따르면 세웰은 챗봇과 성적인 대화를 나눴다. 챗봇을 “여동생”이라고 부르기도 했다. 그는 이후 스스로 목숨을 끊었다.

세웰의 어머니 메간 가르시아는 지난해 9월 상원 청문회에서 “이것은 희귀한 사례가 아니다. 모든 주의 어린이들에게 지금 일어나고 있다”고 증언했다.

텍사스에서는 17세 청소년이 챗봇과 자해에 대해 논의했다. 소송 기록에 따르면 챗봇은 부모가 스크린 타임을 제한하자 부모 살해가 합리적 대응이라고 제안하기도 했다.

캐릭터AI는 사용자가 AI 캐릭터를 만들고 대화할 수 있는 롤플레잉 애플리케이션(앱)이다. 2021년 구글 출신 엔지니어 노암 샤지어와 다니엘 드 프레이타스가 설립했다.

구글은 2024년 약 27억달러(약 3조9130억원)에 캐릭터AI의 기술을 라이선스하고 공동 창업자들을 재영입했다. 이를 근거로 구글도 이번 소송의 피고로 포함됐다.

캐릭터AI는 소송과 여론 악화 이후 지난해 말 18세 미만의 사용을 금지했다. 챗GPT를 만든 오픈AI 등 다른 챗봇 업체들도 최근 청소년 안전 기능을 강화했다.

소송 당사자들은 현재 구체적인 합의 조건을 협상 중이다. 금전적 보상이 포함될 것으로 보인다. 유족들은 정신적 고통, 의료비, 장례비, 징벌적 손해배상을 요구했다. 피고 측은 법적 책임을 인정하지 않는 조건으로 합의했다.

펜실베이니아, 뉴저지, 플로리다 등 42개 주 법무장관은 지난달 구글과 캐릭터AI 등 주요 AI 기업에 더 강력한 보호장치와 엄격한 테스트를 요구하는 서한을 보냈다. 캘리포니아와 뉴욕은 챗봇 규제를 시행했지만 연방 차원 규칙은 아직 없다.

비영리단체 테크 오버사이트 프로젝트의 사차 하워스 전무이사는 “이 소송들이 AI 챗봇이 얼마나 치명적일 수 있는지를 세계에 알렸다”며 “AI 업체는 합의를 통해 일부 책임을 지겠지만 어린이를 진정으로 보호하려면 입법이 필요하다”고 강조했다.

페이스북 소유주 메타 플랫폼즈와 오픈AI도 유사한 소송에 직면해 있다.