정부가 인공지능(AI) 시대에서 안전과 신뢰를 담보하기 위해서는 책임이 명확한 통제라며, 사회적 합의가 있는 적절한 규제는 장기적으로 혁신의 조건이 될 것이라고 강조했다.

과학기술정보통신부와 한국정보통신기술협회(TTA)는 6일 오후 '국가 AI 안전 생태계 조성 마스터플랜 의견수렴 간담회'를 열고 산학연 및 시민사회 전문가들과 안전한 AI 생태계 조성을 위한 방안을 논의했다.

이진수 과기정통부 인공지능정책기획관은 "규제라고 보였던 것들이 차츰 사회적으로 합의가 이루어지면서 규범화됐을 때 산업 발전이 이루어졌다"며 "AI에서도 안전과 신뢰가 중요해지면 혁신을 저해할 것이라고 단기적으로 보는 분들도 있지만 장기적으로는 혁신의 조건이 될 것"이라고 말했다.

이날 간담회에서는 △국민의 일상을 지키는 AI 안전 △산업 발전을 지원하는 AI 안전 △세계를 선도하는 AI 안전 등과 관련한 발제가 이루어졌다.

정부는 국민의 일상을 지키기 위해 국민들에게 AI 챗봇 또는 AI 서비스를 이용해 AI로부터 발생할 수 있는 위험을 알리고, 국가 재난 상황 등에 대응하기 위한 국가 AI 전략 또는 범부처 형태로 안전 대책을 마련하는 대응 체계 구축이 필요하다고 했다.

나아가 인공지능 안전 컨소시엄을 구축해 안전과 관련한 기업들의 고민을 함께 풀어가고, 안전융합센터를 설립해 AI 안전 관련 인재를 육성하겠다는 계획도 소개했다.

이어진 토론에서는 AI로 피해를 받았을 시 구체적인 구제 절차의 필요성, 국민을 안전하게 보호하기 위한 정부 및 공공기관의 책임을 강화해야 한다는 지적이 나왔다.

이지은 참여연대 선임간사는 "AI 안전 생태계는 기술적 측면뿐 아니라 사회 전반적인 체계까지 아울러야 한다"며 "위험 발생 시 어떠한 절차를 거쳐서 구제를 받을 수 있다는 등의 시스템이 마련되어야 한다"고 했다.

정지연 한국소비자연맹 사무총장은 "AI 챗봇, 안전포털 등 단순 정보제공이 아니라 피해 발생 시 어떻게 대응해야 하는지 구체적으로 설계가 되어야 한다"며 "자율에 맡긴 안전은 소비자에게 위험을 전가하는 것"이라고 지적했다.

안전한 AI 생태계를 구축하기 위해서는 국민에게 정보를 알리고, 국민의 AI 역량을 끌어올리는 것도 중요하지만 정부 및 공공기관이 더욱 적극적인 역할을 해야 한다는 의견도 나왔다.

이은주 서울대 교수는 "슈퍼마켓에서 제품을 살 때 고객이 일일이 안전한가 확인하지 않는다"며 "유해하지 않은 상품을 만드는 것은 기업 책임이고 이를 검사 인증해 주는 것은 정부 및 공공기관"이라고 했다.

이외에도 토론 참여자들은 보안 관련된 위협 논의의 확대 등도 필요하다고 강조했다.

한편 과기정통부는 이날 간담회에서 나온 의견을 마스터플랜에 반영하고, 상반기 내 구체적인 내용을 발표할 예정이다.

yjra@news1.kr