17일 홍콩 사우스차이나모닝포스트(SCMP)는 ‘현실 결핍: 한국은 왜 AI 방향성을 놓쳤나’라는 제목의 기사를 통해 한국이 생성형 AI를 빠르게 도입했지만 사회적 방어막은 이를 따라가지 못하고 있다고 지적했다. SCMP는 최근 소셜미디어(SNS)에서 화제가 됐던 한국 프로야구 중계 화면에 포착된 여성 관중 영상, 대전 오월드 동물원에서 탈출하는 늑구 포착 사진 등 AI 기술로 정교하게 조작된 가짜 콘텐츠들을 예로 들면서 이러한 콘텐츠들이 공공 안전 위협, 평판 훼손, 정치적 조작 등 대대적인 혼란을 야기하고 있다고 짚었다.
출처=엑스(X) 캡처.
글로벌 동영상 제작·편집 플랫폼 카프윙에 따르면 한국 기반 AI 슬롭 유튜브 채널 11개의 누적 조회수는 약 84억5000만회에 달해 1위를 차지했다. AI 슬롭은 전 세계에서 클릭 수를 유도하기 위해 알고리즘에 최적화된 저품질 AI 콘텐츠를 의미한다.
SCMP는 “외모와 이미지에 대한 집착이 강한 사회로 평가받아 온 한국에서 AI는 억눌린 욕구와 좌절에 대리 만족을 제공하는 역할을 하고 있다”며 “원본보다 더 나은 무언가를 보여주는 디지털 거울이 된 것”이라고 평가했다.
김명주 한국 AI안전연구소장은 이와 관련해 “가볍게 보면 생성형 AI는 단순한 오락이나 취미로 볼 수도 있다”면서도 “이런 행동이 지나치거나 장기화되면 환상과 현실 사이의 간극이 커질 수 있다. AI에 과도하게 몰입하면 불만족이 깊어지고, 현실 도피가 조장되며, 전반적인 삶의 만족도가 더 떨어지는 악순환이 만들어질 수 있다”고 말했다.
그에 비해 윤리적 안전 장치는 부족하다는 것이 SCMP의 지적이다. 올해 1월부터 ‘인공지능 발전과 신뢰기반 조성 등에 관한 기본법(AI 기본법)’이 시행됐지만 일각에선 해당 법의 처벌 수준이 유럽연합(EU)과 비교해 관대하다고 평가하고 있다. AI 기술의 피해가 점점 확대되는 상황에서 이러한 격차는 중대한 문제로 이어질 수 있다고 SCMP는 경고했다. AI 도입은 성범죄, 정치 조작 같은 부작용 뿐만 아니라 교육 제도와 고용 구조까지 흔드는 사안이라고 SCMP는 강조했다.
전창배 국제인공지능윤리학회(IAAE) 이사장은 “한국은 그동안 윤리적 가치보다 AI 기술 발전을 우선시해 왔다”며 “더 큰 문제가 발생하기 전에 정부, 학계, 기업 등 모두가 해결책을 논의하고 연구해야 한다. AI의 유해한 결과는 과거 그 어떤 기술보다 인간에게 훨씬 더 깊은 영향을 미칠 수 있다”고 말했다.
김 소장은 “어느 정도의 AI 오용과 과의존은 결국 피하기 어려울 수 있다”며 “이 같은 시대에 충만한 인간의 삶이란 무엇인지에 대한 더 근본적인 질문을 던져야 한다”고 조언했다.
