오픈AI. (사진=AFP)
청소년용 모드는 자해, 폭력, 섭식장애, 위험 행동, 술과 마약, 성적·노골적 콘텐츠 등에 대해 청소년이 질문할 때 답변 출력을 강하게 통제한다. 이용자가 민감하거나 사적인 사진을 올릴 때 주의를 주는 기능도 탑재됐다.
특히 청소년용 모드는 챗GPT가 인간처럼 행동하며 정서적 교감을 자극하거나 의존증을 유발하는 대화를 하지 못하도록 차단했다. 로맨틱한 분위기의 단어나 표현을 사용할 수 없으며, 정서적 유착을 유도할 수도 없다. 챗봇이 감정이나 자의식을 가진 인격체인 것처럼 묘사하는 답변도 금지했다.
부모의 관리 도구도 강화해 자녀의 챗GPT 사용을 아예 차단하는 ‘방해금지 시간’이나 공부 모드를 기본값으로 설정하는 ‘공부 시간’ 등을 설정할 수 있다. 부모가 ‘공부 시간’으로 설정하지 않은 경우에도 숙제의 지름길만을 찾으려는 청소년의 의도를 감지해 공부 모드로 전환하는 ‘책임감 있는 숙제 알리미’ 기능도 생겼다. 자녀가 챗GPT와 민감한 주제에 대해 대화할 경우 부모가 알림을 받을 수 있으며, 3시간 동안 90분 이상 활동한 10대 사용자에게 휴식을 권하는 알림도 도입했다.
오픈AI는 챗GPT에 사용자가 최소 13세 이상이거나 해당 국가에서 요구하는 최소 연령 이상이어야 한다고 명시했다. 오픈AI는 사용자가 직접 보고한 나이, 행동 및 계정 신호, 그리고 인증 정보 등 2000여개의 정보를 종합해 사용자의 나이를 추정한다. 나이를 정확히 알 수 없는 경우에는 더 안전한 설정으로 기본 설정하기로 했다. 프로필에 성인이라고 입력하더라도 만 18세 미만으로 의심될 경우 청소년 보호모드가 작동한다.
퓨 리서치 조사에 따르면 미국 청소년 가운데 3분의 1이 매일 AI를 사용하는 것으로 나타났다. 청소년들이 AI를 가장 많이 사용하는 이유는 정보 검색과 숙제였다. 재미와 오락은 2위였다.
오픈AI가 청소년용 챗봇을 내놓은 것은 기업공개(IPO)를 앞두고 사법 리스크를 낮추기 위해서다. 미국에서 챗GPT와 교류하던 10대 청소년들이 자해 또는 극단적 선택을 하거나, 챗GPT를 이용해 총기 난사나 살해 등 범죄 모의를 한 사례가 발생하면서 오픈AI는 여러 건의 소송에 휘말렸다. 뉴욕과 로스앤젤레스(LA) 등에서는 학부모들이 AI가 학습에 방해된다며 학교에서 AI를 쓰지 못하도록 압박하고 있다.
