[이데일리 신영빈 기자] 인공지능(AI)이 만든 콘텐츠가 온라인 플랫폼을 통해 확산되는 과정에서도 생성 사실을 알리는 표시가 유지되도록 플랫폼에 책임을 부과해야 한다는 제안이 나왔다. AI기본법의 책임 체계를 생성·게시·유통 단계별로 세분화할 필요가 있다는 것이다.

14일 과학기술정보통신부와 정보통신정책연구원(KISDI)은 서울 광화문 HJ비즈니스센터에서 ‘AI 사회정책 포럼 기술·규범 분과’ 첫 회의를 열고 AI 생성물 표시 의무와 학습데이터 저작권 관련 제도 개선 방향을 논의했다.

손은지 숙명여대 객원교수는 AI기본법상 개발사업자와 이용사업자로 구분된 책임 체계에 플랫폼을 별도 주체로 추가하는 방안을 제안했다. 현재는 이용자가 AI로 만든 콘텐츠를 플랫폼에 게시하더라도 플랫폼이 개발사업자나 이용사업자에 해당하지 않아 표시 의무의 적용 대상에서 벗어날 가능성이 있다는 지적이다.

손 교수는 생성형 AI 기술이나 생성물을 불특정 다수에게 유통·제공하는 사업자를 ‘배포·운영자’로 정의하는 방안을 제시했다. 다만 플랫폼에 콘텐츠의 진위까지 판단하도록 하기보다는 생성 단계에서 붙은 워터마크나 메타데이터를 유지·전달하고, 이용자가 이를 확인할 수 있는 표시 인터페이스를 제공하는 등 책임 범위를 기술적·절차적 의무 이행으로 한정해야 한다고 봤다.

손 교수는 “플랫폼의 책임은 통제할 수 없는 결과에 대한 책임이 아니라 통제할 수 있는 기술적 절차의 이행 여부에 있어야 한다”며 필요한 조치를 충실히 이행한 사업자에 대해서는 면책 요건도 함께 마련할 필요가 있다고 설명했다.

단순히 ‘AI가 만들었다’는 표시를 붙이는 현재 방식을 보완해야 한다는 지적도 나왔다. 임하진 서울대 교수는 AI가 콘텐츠 제작에 어느 정도 관여했는지에 따라 이용자의 인식이 달라질 수 있는 만큼, 일률적인 ‘AI 생성’ 표시보다 관여 수준을 세분화해 표시할 필요가 있다고 봤다.

임 교수는 관련 연구에서 AI 표시가 이용자의 AI 사용 여부 인식에는 영향을 주지만 콘텐츠 공유 등 후속 행동 변화로는 잘 이어지지 않았다고 소개했다. 정확한 정보에 AI 표시를 붙였을 때 신뢰도가 낮아지는 반면 부정확한 정보에서는 오히려 신뢰도가 높아진 사례도 제시하며, ‘AI 사용 사실 고지’와 ‘위험 콘텐츠 경고’를 구분해 설계해야 한다고 강조했다.

학습데이터 저작권 문제에서는 전면 공개 대신 이용 이력을 내부에 보유하는 절충안이 제시됐다. 박일현 법무법인 율촌 변호사는 AI 사업자가 학습데이터 목록과 이력을 보유하고, 권리자가 문제를 제기할 경우 자신의 저작물 사용 여부를 확인할 수 있도록 하는 방안을 제안했다.

박 변호사는 “보유 의무와 현출 의무를 분리해서 봐야 한다”며 “영업비밀 논란을 해소하면서도 권리자가 확인할 수 있도록 현출 의무를 제도적으로 설계할 필요가 있다”고 말했다.