정부가 이달 내 제정할 계획인 '대한민국 인공지능(AI) 윤리원칙'을 법적 규제가 아닌 자율적인 가이드라인으로 운영하겠다는 방침을 밝혔다. 기업은 국가 차원의 AI 윤리 기준 필요성에 공감하면서도 일부 원칙이 향후 입법과 규제로 이어질 가능성에 우려를 나타냈다.

14일 과학기술정보통신부는 서울 중구 프레지던트호텔에서 '대한민국 인공지능 윤리원칙' 대토론회를 개최하고 정부가 추진 중인 AI 윤리원칙의 주요 쟁점을 일반 시민과 다양한 이해관계자가 함께 논의하는 자리를 가졌다.

행사에서 최우석 과학기술정보통신부 인공지능안전신뢰지원과장은 "결국 법으로 규제하려는 게 아니냐는 우려가 있는데 연성적 원칙이기 때문에 이를 잘 도입하면 규제가 필요 없게 된다"며 "공급자, 이용자, 사회가 고려해야 할 최소한의 가이드를 제공하려 했다"고 말했다.

기업 측에서는 윤리원칙이 향후 입법에 영향을 미칠 가능성을 경계했다.

김경훈 카카오 AI 세이프티 리더는 "기업 관점에서 AI 위험 관리를 위한 원칙이 필요한 시점에 국가적 기준을 세우면 기술을 개발·활용하는 데 있어 도움이 될 것"이라면서도 "투명성과 관련해 국제적 논쟁이 있는 학습 데이터 공개에 대한 내용이 윤리원칙에 포함됐는데 앞으로 입법 논의에 영향을 미치지 않을지 우려된다"고 말했다.

"윤리와 혁신 충돌, 반쯤만 맞아…바람직한 연구 돕는 역할"
정부의 AI 윤리원칙 제정 과정에 참여해 온 이상욱 한양대학교 철학과·인공지능학과 교수(AI사회정책포럼 위원장)는 윤리와 기술 혁신을 대립 관계로 놓는 접근 자체를 경계했다.

이 교수는 이날 'AI 시대, 혁신과 신뢰를 위한 윤리원칙의 역할'을 주제로 발표하며 "윤리와 혁신이 서로 충돌한다는 생각은 반쯤만 맞다"고 말했다.

이어 "윤리가 과학기술 연구를 금지하는 경향이 있지만, 어떤 연구를 어떤 식으로 하는 게 비용 효율적이면서 규범적으로 바람직한지 통합적인 고찰을 통해 바람직한 연구를 돕는 헬퍼 역할을 할 수 있다"고 설명했다.

AI 윤리원칙이 혁신을 막는 규제로 작용하기보다 바람직한 기술 개발의 방향을 제시하는 역할을 해야 한다는 취지다.

이 교수는 윤리와 혁신을 대립각으로 놓고 적당히 절충하려는 시도 역시 바람직하지 않다고 강조했다.

그는 "윤리와 혁신의 충돌을 사회가 용인하는 경우가 많지 않다. 특정 과학기술 연구를 못하게 하는 데에도 비용이 들기 때문"이라며 "노벨 경제학상을 받은 윌리엄 노드하우스의 말처럼 제대로 계산만 하면 윤리적 연구나 산업이 오히려 비용 효율적"이라고 말했다.

AI 기본법 따라 8월 윤리원칙 제정…3대 가치·7대 원칙
정부는 지난해 말부터 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법'(AI 기본법)에 따라 AI 윤리원칙을 수립해 왔다. AI 기본법 제27조는 AI 윤리 및 신뢰성 확보를 위해 정부가 AI 윤리원칙을 제정·공표하도록 규정하고 있다.

이번 윤리원칙은 2020년 마련된 'AI 윤리기준'을 계승하면서 최근 AI 기술 변화와 AI 기본법 제정 이후 정비된 정책을 반영하는 방향으로 마련되고 있다.

과기정통부와 정보통신정책연구원(KISDI)은 지난 5월 1차 초안을 공개하고 의견을 수렴해 윤리원칙을 다듬어 왔다.

윤리원칙은 △인간의 존엄성 △사회의 공공선 △인류의 지속가능성 등 3대 가치와 △인간 중심성 △프라이버시 보호 △공정성·포용성 △책임성 △안전성 △신뢰성 △투명성 등 7대 원칙으로 구성됐다.

정부는 이날 토론회에서 제시된 의견을 종합해 윤리원칙을 보완한 뒤 8월 중 제정·공표할 예정이다.

김경만 과기정통부 인공지능정책실장은 "사회 전체가 동의할 수 있는 기준에 대한 고민이 필요하다"며 "윤리 기준은 확고부동하고 변하지 않는 기준이 아니며 시대의 흐름에 따라 변해야 하고, 이번 윤리원칙이 AI의 혜택을 늘리고 부작용을 최소화하는 기준이 되길 바란다"고 말했다.

Ktiger@news1.kr