일반적인 의미에서 투명성(Transparency)이란 조직이나 개인이 의사결정 과정, 정보, 활동 내용 등을 외부에서 알 수 있도록 공개하는 것이다. 원래 투명성은 공적인 영역의 가치에 속한다. 민주주의에서 권력은 국민에게서 나오지만 실제 권력 행사는 공무원이 대리하므로, 국민이 이들을 감시하기 위해서는 그들의 의사결정 과정을 알 수 있어야 한다는 것이다.

이에 반해 사적 영역은 영업비밀이나 사유재산권 보호가 우선시되기 때문에 투명성 요청이 없었다. 그러나 현대 사회에서 기업의 사회적 영향력 증대, 정보 비대칭성으로 인한 소비자 보호, 기업의 신뢰 확보 등의 필요성으로 인해 사적 영역에 대해서도 투명성 요청이 증가했다.

특히 인간을 대체하는 가공할 만한 능력을 가진 인공지능(AI) 기술이 등장하면서 AI 시스템의 설계, 설계, 학습, 운영, 결과 도출, 서비스 제공 등 전 과정에 걸쳐 내부에서 어떤 일이 일어나는지를 이해관계자들이 알 수 있도록 공개하고 설명해야 하는 책임이 강조되고 있다.

AI 투명성은 고지 및 표시, 설명 가능성, 데이터 및 알고리즘의 보고·공개 등 3가지로 구성된다. 이 중 가장 기초적인 투명성 의무가 사용자가 대화하고 있는 대상이 인간이 아닌 AI라는 점을 명확히 알리거나 밝히도록 하는 AI 고지·표시 의무다.

AI 시스템을 사용할 때 사용자에게 "이것은 AI입니다"라고 고지하거나, 결과물에 "AI가 만든 콘텐츠입니다"라고 표시하는 것이다. 이는 단순히 정보를 제공하는 차원을 넘어 인간이 왜곡 없이 의사를 결정하고 행위를 할 수 있는 권리를 보장하고 사회적 혼란을 막기 위한 필수적인 사항이다.


AI 기본법상 고지·표시 의무의 내용
AI 기본법은 AI 사업자에게 ①생성형·고영향 AI 이용자에 대한 사전고지 의무, ②생성형 AI 이용자에 대한 표시 의무, ③'딥페이크'의 고지 및 표시 의무 3가지를 규정하고 있다.

첫째, 고지의무를 보면 법은 고영향·생성형 AI 이용자에게 해당 서비스가 AI 기반해 운용된다는 사실을 사전에 고지하도록 하고 있다. 이어 시행령에서는 제품 등에 직접 기재하는 방법 외에도 계약서, 사용설명서, 이용약관 등에 기재하거나 이용자 화면 또는 단말기 등에 표시하는 방법, 제품 등을 제공하는 장소에 인식하기 쉬운 방법으로 게시하는 방식 중 어느 하나의 방법을 활용해 사전고지 의무를 이행할 수 있도록 허용하고 있다.

둘째, 생성형 AI 이용자에 대한 표시 의무다. 즉 생성형 AI의 경우 이용자에게 그 결과물이 생성형 AI에 의해 생성됐다는 사실을 표시해야 한다. 시행령은 '사람 또는 기계가 판독할 수 있는 형식'으로 표시를 할 수 있다고 규정해 사람이 인식하기는 어렵지만 기계가 판독할 수 있는, 이른바 비가시적 워터마크를 활용할 수 있도록 허용하고 있다. 다만 기계 판독 형식으로 의무를 이행하는 경우에는 결과물이 생성형 AI로 생성됐다는 사실을 이용자에게 최소 1회 이상 안내 문구·음성 등으로 제공할 의무를 진다.

셋째, '딥페이크'의 고지 또는 표시 의무다. 딥페이크 즉 AI 시스템을 이용해 실제와 구분하기 어려운 가상의 음향, 이미지 또는 영상 등의 결과물의 경우 해당 결과물이 AI 시스템에 의해 생성됐다는 사실을 이용자가 명확하게 인식할 수 있는 방식으로 고지 또는 표시해야 한다. 시행령은 AI 사업자가 ①이용자가 시각, 청각 등을 통하거나 소프트웨어 등을 이용해 쉽게 내용을 확인할 수 있는 방법으로, 그리고 ②주된 이용자의 연령, 신체적·사회적 조건 등을 고려해 고지 또는 표시하도록 하고 있다.

다만 딥페이크의 해당 결과물이 예술·창의적 표현물에 해당하거나 그 일부를 구성하는 경우에는 전시 또는 향유 등을 저해하지 아니하는 방식으로 고지 또는 표시할 수 있다. 전시 또는 향유 등을 저해하지 않는 방식이란 제품 패키지에 표시해 안내, 회원 가입 시 서비스 이용약관 내 고지, 서비스 온보딩 시 서비스 이용 방법 및 AI 기반 운용 안내, 세션 연결 시 AI 생성 결과물 및 오류 가능성 안내 등이다.

넷째, 투명성 확보 의무의 예외다. 시행령은 ①제품·서비스명, 이용자 화면이나 제품 겉면에 표시된 문구 등을 고려할 때 고영향·생성형 AI 기반 운용 사실이 명백한 경우, ②사업자 내부 업무 용도로만 사용되는 경우에는 투명성 확보 예외를 인정하고 있다.


AI 플랫폼과 이용자 등의 표시 의무
문제는 이용자가 AI 생성 사실 표시 부분을 삭제하거나, 해당 표시 이외의 부분만 선별적으로 활용하는 경우다. AI 기본법상 투명성 의무는 AI 사업자에게만 적용되기 때문에 이런 경우 대책이 없다. 이에 정부는 AI 기술을 이용한 광고 등의 무분별한 유통을 방지하기 위해 AI 생성물 표시 의무를 플랫폼, 직접 정보제공자, 이용자에게도 부과하기로 했다.

AI 생성물이 유통·확산되는 포털·플랫폼 사업자에게 직접 정보제공자와 이용자의 AI 생성물 표시 여부 등 관리 의무를 부과한다. 관리 의무는 이용자에게 가상정보의 표시 방법 제공 및 표시 의무에 대한 고지 의무 부과 등이다. 또한 직접 정보제공자, 즉 AI 생성물을 직접 제작·편집해 게시하는 자에게 AI 생성물 표시 이행 의무를 부과하며, 이용자에게는 AI 생성물 표시의 임의 제거 및 훼손을 금지한다. 이런 AI 생성물 표시제는 AI 등을 활용해 시장 질서를 교란하는 허위·과장광고에 대한 대응 방안의 일환으로 정보통신망법을 개정해서 반영하기로 했다.

EU 법과의 비교 및 향후 과제
유럽연한(EU)의 AI법은 특정 AI 시스템에 고지, 표시 의무를 부과하고 있다. 인간과 직접 상호작용하는 AI 시스템, 합성 콘텐츠를 생성하는 AI 시스템, 감정인식·생체분류 AI 시스템, 딥페이크에 해당하는 AI 시스템의 운영자가 대상이다.

이처럼 EU법이 개별 AI 시스템의 특성에 따라 투명성 의무를 부과하고 있음에 반해 한국은 고영향·생성형 AI 일반에 고지·표시 의무를 부과하고 있다는 점에서 규제 범위가 넓다고 할 수 있다. 또한 한국은 딥페이크에 대해서는 예술·창의적 표현물의 예외를 인정하고 있음에 반해 일반적인 생성형 AI 결과물에 대해서는 예외를 두지 않고 있다. 그 방식도 가시·비가시 워터마크를 허용하지만, 비가시의 경우 다시 고지의무를 둠으로써 사실상 가시적 방법만 허용하고 있다.

한국은 광범위한 AI 고지·표시 의무를 두고 플랫폼과 이용자 등에 대해서도 책임을 부여함으로써 AI 투명성을 강화하고 최종 소비자를 보호하고 있는 점에서는 긍정적이다. 하지만 사업자의 AI 개발·적용이나 이용자의 표현의 자유를 과도하게 침해하는 것은 아닌지도 유의할 필요가 있다.

특히 한국 기업만 EU, 미국과 비교해 과도한 표시 의무를 준수한다면 AI 활용 콘텐츠 산업의 경쟁력에도 타격이 될 것이다. 현재 정부가 작업 중인 AI 사업자에 대한 투명성 확보 가이드라인이 보다 정교하게 마련될 필요가 있다.

opinion@news1.kr