생성형 인공지능(AI) 서비스의 개인정보 처리방침이 통신, 에듀테크 등 타 분야에 비해 상대적으로 미흡한 것으로 나타났다.

개인정보보호위원회 4일 서울 중구 한국프레스센터에서 '생성형 AI 분야 개인정보 처리방침 개선을 위한 간담회'에서 지난해 '개인정보 처리방침 평가' 결과를 발표했다.

평가는 개인정보처리자가 수립·공개한 처리 방침을 평가해 개인정보 처리의 투명성과 책임성을 제고하기 위한 제도다.

개보위는 인공지능, 자율주행 등 신기술을 활용하거나 대규모 민감정보 및 개인정보를 처리하는 대표서비스를 대상으로 2024년부터 평가를 실시하고 있다.

일부지만 개보위가 이 평가 결과를 대외에 공개하는 것은 이번이 처음이다. 평가 결과는 비공개며 통상 개선을 목적으로 각 기업에게만 통보된다.

평가 분야는 △통신 △스마트홈 △예약·고객관리 △에듀테크 △커넥티드카 △건강관리앱 △생성형 AI 7개 분야의 50개 기업이다. 평가 항목은 적정성(적합성, 권리보장, 안전성), 가독성, 접근성이다.

평가 결과, 전체 항목에 대한 평균 점수는 2024년도 57.9점에서 지난해 71점으로 크게 높아졌다. 분야별 전체 평균은 가독성 74.3점, 접근성 69점, 적정성 67.4점이다.

분야별로 가장 우수한 분야는 통신(78.1점)으로 나타났다. 그 외 스마트홈(76.7점), 예약·고객관리(71.4점) 순으로 나타났다.

점수가 가장 낮아 미흡하다고 평가된 분야는 생성형 AI(61.9)다. 생성형 AI는 이용자의 질문이나 지시에 따라 텍스트·이미지·음성·영상 등을 새롭게 만들어내는 인공지능 기술을 말한다. 대표적으로 챗 GPT, 제미나이 등이 있다.

개보위는 생성형 AI가 적정성, 가독성, 접근성 전반에서 상대적으로 미흡한 사례를 확인했다고 설명했다.

특히 생성형 AI 분과 적정성 지표를 보면 해외 사업자의 경우 28.3점으로 국내사업자(44.6)보다 크게 낮았다. 적정성 지표 평균 점수는 40.3점이었지만 생성형 AI는 36.6점을 받았다.

개보위에 따르면 일부 서비스는 △처리하는 개인정보 항목을 포괄적으로 기재하거나 △처리의 법적근거를 구체적으로 밝히지 않았고 △개인정보 보유·이용 기간을 모호하게 표현한 경우도 있었다.

황지은 개보위 자율보호정책과장은 "서비스 제공을 위해 필요한 기간 등의 포괄적 표현을 사용한 경우가 있었고 탈퇴한 회원의 개인정보의 분리 보관 여부를 미기재한 사레가 존재했다"며 "또 개인정보 처리방침이라는 표준화된 명칭이 아닌 '개인정보 보호 정책' 등으로 기록한 사례가 있었고 일부 모바일 앱에서는 3단계 이상의 경로를 거쳐야 방침을 확인할 수 있었다"고 설명했다.

송경희 개보위원장은 "프롬프트에 입력된 정보의 처리에 대한 법적 근거를 명확히 기재하지 않거나 AI 학습 활용 여부와 구체적인 처리 항목을 포괄적으로 설명한 사례가 확인됐다"며 "권리 행사 방법을 영문으로만 안내하거나 민원 처리가 지연되는 등 이용자 눈높이에 맞지 않는 부분도 있었다"고 했다.


개보위는 이번 결과를 바탕으로 평가 결과 미흡기업에는 사후관리를 실시하고 개인정보 처리방침 작성지침 개정에도 나선다.

이를 위해 결과 발표 이후에는 국내외 주요 생성형 인공지능(AI) 기업 및 전문가들과 함께 논의하는 시간을 가졌다.

개정은 이날 참여한 구글, 메타, 마이크로소프트, 네이버, 카카오, SK텔레콤, LG유플럿, NC AI 등 산업계 목소리를 청취해 4월께 마무리할 예정이다.

참석 기업들은 생성형 AI의 기술적 특성상 처리 구조가 복잡하고 글로벌 본사 정책과의 조율이 어려움이 있다고 설명하면서도 이용자의 신뢰 확보를 위해 보다 명확하고 이해하기 쉬운 설명 방식이 필요하다는 데 공감했다고 알려졌다.

이들은 입력정보의 학습 활용 여부, 보유기간, 옵트아웃(Opt-out) 절차 등에 대해서는 이용자가 직관적으로 이해할 수 있도록 구체성을 높이는 방향으로 개선해 나가겠다는 의견을 제시하기도 했다.

송경희 위원장은 "AI 시대에는 개인정보 처리의 투명성이 사회적 신뢰를 만드는 핵심"이라며 "기업 부담은 줄이면서도 이용자가 신뢰할 수 있는 방향으로 정비할 수 있돌독 고민하겠다. 오늘 자리가 책임성있는 AI로 나가는 계기가 되기를 기대한다"고 말했다.

minju@news1.kr