이재명 대통령은 AI(인공지능) 딥페이크 영상과 관련, "사람들한테 신뢰감이 높아 표시를 안 하면 정말 오해가 심하게 유발될 것 같다. 이게 악용되면 정말 심각하다"고 우려를 표하며 정부 차원의 제도정비 등 대응책을 주문했다.

이 대통령은 이날 오전 청와대 영빈관에서 진행된 2차 업무보고에서 과학기술정보통신부·방송미디어통신위원회를 향해 "지금은 (AI 생성) 영상이나 이런 건 너무 똑같아서, 거의 실제 영상하고 구별이 안된다. (다른 분들은) 구별이 되느냐. 나는 구별이 안 되던데"라며 이같이 말했다.

이 대통령은 "심각한 문제 같은데 이것도 (규제·처벌을) 유예하거나 이러니까 또 악용하는 사람들도 많고, 고민을 좀 해야 될 것 같다"면서 "만약 (AI 활용 제작)표시 안 된 부분을 잘라서 쓰면, 그 잘라서 쓴 사람에게 표시의무가 있는 것이냐"라고 물었다.

이에 대해 류제명 과기부 2차관은 "지금 인공지능 기본법상 표시의무는 인공지능 모델을 개발하는 사업자와 이용 사업자, 사업자에 대한 제재"라며 "지금 유포자나 실제 유튜브에서 활용하는 사람들은 규제 대상이 아니다"라고 답했다.

류 차관은 "그래서 지금 과방위에 이용자들이 생성형 AI 표시를 훼손하거나 삭제하지 못하도록 하는 그런 법안들이 제안은 돼 있다"고 부연했다.

그러나 이 대통령은 "'그건 국회에서 하고 있더라'라고 말하면 안 될 것 같다"며 "기관에서 어떻게 할지 방향은 명확하게 정한 다음 협력을 구하든지 해야 된다"고 지적했다.

이 대통령은 "(국회에서) 어떻게 되는지 보고 있겠다 이러면 안 될 것 같다"며 "인공지능 창작물이 가지는 위험성이 지금도 이미 현실화되고 있긴 한데, 여기에 대한 대비책이 좀 있어야 될 것 같다"고 적극적 제도 정비 착수를 지시했다.



eonki@news1.kr