7일 일본 마이니치 신문에 따르면 캐나다 몬트리올대의 요슈아 벤지오 교수는 인터뷰에서 “상황이 3년 전보다 훨씬 나빠졌다”면서 이처럼 경고했다. 벤지오 교수는 생성형 AI의 기반이 되는 딥러닝 분야를 개척한 인물로, ‘AI 3대 석학’ 중 한 명이다. 그는 제프리 힌턴 캐나다 토론토대 교수, 얀 르쿤 전 메타 수석과학자와 함께 2018년 ‘컴퓨터과학계의 노벨상’이라고 불리는 튜링상을 수상했다.
그는 13년 전 기업들이 개인 맞춤형 광고를 위해 AI에 관심을 기울이자 AI의 위험성을 처음 인식했다고 설명했다. 벤지오 교수는 “AI가 영향력을 갖고 우리를 설득해 우리의 의견까지 바꿀 수 있다는 점에서 좋은 일이 아니라고 생각했다”며 “민주주의에 위험한 존재가 될 수 있다고 생각했다”고 말했다.
2022년 말 오픈AI가 챗GPT를 선보이면서 AI 열풍이 본격화됐다. 다음해 벤지오 교수는 힌턴 교수와 샘 올트먼 오픈AI 최고경영자(CEO) 등 AI 전문가·업계 관계자들과 함께 “AI로 인한 인류 멸종 위험을 줄이는 일은 팬데믹이나 핵전쟁과 마찬가지로 전 세계적인 우선 과제로 다뤄져야 한다”는 성명을 발표했다.
그로부터 3년이 지났지만 상황이 훨씬 악화됐다는 것이 그의 주장이다. 그는 “그새 인간보다 더 똑똑한 기계를 개발하는 기술은 크게 진전됐고, 완전자율형 AI 역시 발전했다”고 말했다. 3년 전만 해도 AI가 스스로 의도를 갖고 인간의 뜻에 반하는 행동을 할 수 있다는 우려는 이론에 불과했지만 시간이 지나면서 AI가 인간을 속이거나 통제에서 벗어나는 사례가 포착되고 있다.
캐나다 몬트리올대의 요슈아 벤지오 교수.(사진=AFP)
그는 AI가 인간을 속이는 행동을 보이는 배경으로 AI의 학습 방식을 지목했다. AI의 훈련은 크게 사전학습과 사후학습으로 나뉘는데, 사전학습 과정에서 AI는 인간의 행동을 모방한다. 그는 “인간은 중요한 목표가 위협받을 경우 거짓말을 하거나 다른 사람을 속이기도 하기 때문에 인간을 모방하도록 만든 AI 역시 때때로 이런 행동을 보이는 것이 놀라운 일은 아니”라고 말했다.
사후학습에서는 AI가 주어진 목표를 달성하기 위한 전략을 배우게 된다. 벤지오 교수는 “목표 자체는 우리가 선택한 것이더라도 AI는 이를 달성하기 위해 전략적으로 거짓말을 하고 부정행위를 하며 필요하다면 무엇이든 할 수 있다”고 말했다.
그는 악의를 가진 사람이 AI를 이용할 가능성을 현실적인 위협으로 꼽았다. 그는 최첨단 AI 모델들이 사이버 공격에 악용돼 병원이나 은행 시스템 등 핵심 인프라를 공격할 가능성을 경고했다.
특히 벤지오 교수는 AI가 AI 연구 자체를 가속화 하는 상황을 우려했다. 그는 AI 통제 문제를 해결하는 속도가 이를 따라잡지 못할 수 있다는 점에서 “매우 위험하다”고 강조했다.
그는 AI에 대한 사회적 가드레일 마련을 촉구했다. 벤지오 교수는 “초고도 지능을 가진 AI가 일부 개인이나 기업, 국가가 세계를 지배하기 위한 도구로 사용되지 않을 것이라는 보장은 없다”며 “AI의 능력이 강력해질수록 그 힘이 남용됐을 때의 위험도 더욱 심각해진다”고 말했다.
그는 AI 기술의 집중이 국가 간 힘의 격차로 이어질 가능성도 경고했다. 최첨단 프런티어 모델을 미국과 중국 등 일부 국가만 보유하게 되면 경제뿐 아니라 군사력과 여론, 선거 등 민주주의 과정에까지 막대한 영향력을 행사할 수 있다는 것이다. 벤지오 교수는 “현재 AI 개발을 선도하지 못하고 프런티어 모델을 만들지 않는 모든 국가에 지금의 경쟁은 매우 위험한 게임”이라며 여러 중견국이 힘을 합쳐 ‘제3의 세력’을 구축하고 AI가 윤리적이고 안전하게 개발되도록 다자간 협력을 강화해야 한다고 강조했다.
