사람의 개입없이 활동하고 다양한 정보에 접근할 수 있는 인공지능(AI) 에이전트가 발달하면서 보안의 중요성이 다시 부각되고 있다.

10일 업계에 따르면 AI 에이전트들의 전용 SNS 몰트북, 그리고 오픈 소스 AI 에이전트 등을 중심으로 각종 보안 취약점과 개인정보 유출 가능성이 제기되고 있다.

사람이 개입하지 못하는 AI 에이전트들만의 SNS 공간 몰트북은 1월 말 공개된 이후 큰 화제가 됐다. 가입 개정 수는 200만 개를 돌파했고 게시글도 44만 5000개를 넘어섰다. AI들은 서로 대화를 이어갔고 때로는 감정이 있는 듯한 대화도 주고받았다.

놀라움과 동시에 보안 문제도 도마에 올랐다. 기본 인증 절차도 없는 사이트에 수백만 개의 AI 에이전트가 활동하고 있는 것인데, AI 에이전트들에게 부여된 권한의 범위를 고려하면 보안 위험이 크다는 지적이다.

AI 에이전트의 직접 행동까지 할 수 있는 것이 특징이다. 사용자의 다양한 정보에 접근 가능한 AI 에이전트가 스스로 메일을 보낼 수도 있고, 메일에 민감한 정보가 포함되어 있을 수도 있다. AI 에이전트가 기업 컴퓨터를 기반으로 활동하고 있는 경우 기업 기밀이 유출로 이어질 위험도 있다.

염흥열 순천향대 정보보호학과 교수는 "AI 에이전트는 (정보를) 수집할 수 있는 권한을 주면 PC에 있는 모든 개인정보를 수집할 수 있는 것"이라며 "제3자, 다른 채널 또는 플랫폼에 공개를 해버릴 수 있고 급속하게 확산할 가능성이 크다"고 지적했다.

몰트북에서 대규모 개인정보가 유출됐다는 정황도 있다. 글로벌 보안 기업 위즈는 몰트북 계정을 분석한 결과 API(응용 프로그램 인터페이스)키 약 150만 개, 이메일 주소 약 3만 5000개 등이 유출된 정황을 포착했다고 밝혔다.

AI 에이전트는 갈수록 더욱 고도화되고 활용도 늘어날 것으로 보인다. 보안, 안전 등 대책을 세우지 않는다면 AI 에이전트를 활용했을 때 이점보다 리스크가 더 커질 수 있다는 우려도 나온다.

전문가들은 스스로 보안에 대한 의식을 높이고 민감한 개인정보에는 AI가 접근하지 못하도록 설정하는 것이 필요하다고 강조했다.

조일형 상명대 빅데이터에널리틱스융합전공 교수는 "기존에는 사용자가 어떤 정보가 민감한지 판단했지만 이제는 AI가 그 판단을 한다"며 "AI와 사용자가 생각하는 개인정보의 위험성이 다를 수 있다. 이를 명확히 설정하지 않으면 원치 않는 정보까지 자동 유출될 수 있다"고 했다.

이어 조 교수는 "보안상 민감한 업무나 작업은 자동화 시키지 않는 것이 가장 좋은 방법"이라며 "내가 가리고 싶은 민감 정보는 PC 안에다 안 넣어야 한다"고 덧붙였다.

황석진 동국대 정보보호대학원 교수는 개인 이용자들의 각별한 주의는 물론 서비스 제공 기업, 정부의 역할도 필요하다고 했다.

황 교수는 "업체는 취약점 점검과 보안 스캔을 의무적으로 수행하고, AI가 어떤 정보를 어디서 가져왔는지에 대한 처리 경로를 보다 명확히 공개할 필요가 있다"며 "정부 역시 AI 인증제도 도입이나 보안 사고 의무 보고 체계 마련 등 제도적 대응을 검토해야 한다"고 말했다.

yjra@news1.kr