그런데 요즘 들어 이 네 글자가 전혀 다른 무게로 다가옵니다. 인공지능(AI)의 시대를 살아가면서, ‘지속가능성’이라는 단어가 새삼 떠오르고 있기 때문입니다. 요즘 AI 업계를 보면 모두가 속도와 용량 이야기뿐입니다. 더 빠른 모델, 더 큰 데이터, 더 짧은 출시 주기 등 얼마나 대용량인지, 얼마나 빠른지만 얘기하고 있습니다. 그러나 속도와 용량만으로는 답이 되지 않는 질문들이 있습니다. 이 기술이 누구를 위한 것인지, 잘못된 방향으로 갔을 때 누가 책임을 지는지, 그리고 다음 세대에 무엇을 남기는지 같은 질문입니다. 빠른 자동차일수록 브레이크와 핸들이 더 정교해야 합니다. AI도 마찬가지입니다. 속도가 빨라질수록, 방향을 잡는 손은 더 단단해야 합니다.
◇다리오 아모데이가 던진 질문
이 지점에서 앤스로픽 최고경영자(CEO) 다리오 아모데이의 행보는 시사하는 바가 큽니다. 그는 일찍이 ‘헌법 AI(Constitutional AI)’라는 개념을 통해, AI 모델 스스로 따라야 할 원칙을 학습시키는 방식을 제시했습니다. 인간의 즉흥적인 피드백에만 의존하지 않고, AI에게 지켜야 할 ‘헌법’을 미리 부여한 것입니다. 최근에는 한 걸음 더 나아갔습니다. 그는 최첨단 AI 모델은 출시 전에 정부가 요구하는 독립 평가와 위험 결과 등에 따라 조치할 수 있는 체계를 거쳐야 하며, 기준을 통과하지 못하면 정부가 출시를 막을 수도 있어야 한다고 주장했습니다. 사이버 보안, 생물학 무기 위험, 통제 상실 가능성 같은 영역의 위험을, 회사 내부가 아닌 외부의 눈으로 검증하도록 열어둔 것입니다.
이것은 AI 산업이 지속 가능하게 성장하려면 전통적인 산업의 역사적 패턴에서 완전히 벗어나야 한다는 경고입니다. 그에 따르면 인류의 비즈니스 역사를 돌아보면, 항공·제약·자동차 같은 거대 산업들은 사실 처음부터 안전한 설계도를 가지고 출발한 게 아니었습니다. 초기 항공산업은 잦은 추락 사고를 겪은 뒤에야 엄격한 감사 체계를 구축했습니다. 제약산업 역시 1960년대 임산부들이 복용한 약물로 인해 수많은 기형아가 출생했던 참혹한 대가를 치른 뒤에야 신약 출시 전 임상시험과 효능 검증을 의무화했습니다. 자동차산업도 마찬가지였습니다.
여기에는 일정한 패턴이 존재합니다. 처음에는 규제 없이 기술과 산업이 빠르게 확산되다가, 대형 사고나 스캔들이 터지면 그제야 규제가 급조됩니다. 그런데 역설적이게도 이 규제는 “이제 이 산업은 국가와 사회에 의해 안전하게 관리되고 있다”는 강력한 신뢰를 심어주었고, 그 신뢰를 토대로 산업은 더 크게, 더 오래 성장할 수 있었습니다. 규제가 성장의 발목을 잡은 것이 아니라, 오히려 산업이 장기적으로 살아남을 수 있는 ‘지속가능성’의 토대가 되어준 것입니다. 하지만 AI가 가져올 수 있는 위험, 예컨대 생물무기 개발 악용, 국가 기간망을 위협하는 사이버 보안 마비, 혹은 인류의 통제력 상실 같은 재난적 위험은 단 한 번의 사고만으로도 돌이킬 수 없는 파국을 가져옵니다. 소를 잃고 나면 고칠 외양간마저 사라지는 영역인 것입니다. 그래서 아모데이는 기존의 ‘사고→ 규제→ 신뢰’의 순서를 완전히 뒤집자고 제안합니다. 사고가 나기 전에 선제적으로 ‘규제와 자율 원칙→ 사회적 신뢰→ 안정적 성장’으로 그 순서를 앞당기자는 것이지요. 앤스로픽이 최근 정부 차원의 강제적인 제3자 인증과 감사 체계를 당장 도입해야 한다고 목소리를 높이는 이유도 바로 여기에 있습니다. 기술을 만든 책임은, 그 기술이 만들어낼 충격까지 함께 책임지는 데 있다고 보는 것입니다. 그야말로 AI 시대의 ESG(환경·사회·지배구조) 리더십입니다.
◇ESG, AI 시대에도 여전히 통합니다
ESG는 환경(E), 사회(S), 거버넌스(G)를 뜻합니다. AI 시대에도 이 세 글자는 고스란히 살아 있습니다. 데이터센터가 삼키는 막대한 전력과 물은 환경의 문제입니다. AI가 일자리와 공정성, 차별에 미치는 영향은 사회의 문제입니다. 그리고 AI를 누가, 어떤 원칙으로, 어떻게 통제할 것인가는 거버넌스의 문제입니다. 다리오 아모데이가 제시한 ‘헌법’과 ‘제3자 감사’는 정확히 거버넌스의 영역이면서, 동시에 사회적 신뢰를 지키기 위한 장치이기도 합니다. ESG는 AI와 무관한 지난 시절의 유행어가 아니라, AI를 오래 살아남게 하는 최소한의 안전판입니다.
많은 리더들이 ESG를 속도를 늦추는 규제처럼 여깁니다. 그러나 이는 거꾸로 된 생각입니다. 신뢰를 잃은 기술은 아무리 빨라도 오래가지 못합니다. 사회적 반발과 규제, 불신은 AI의 성장을 한순간에 멈춰 세울 수 있는 가장 큰 위험입니다. 반면, 원칙을 세우고 책임을 다하는 AI는 시간이 지날수록 더 단단한 신뢰 자산을 쌓습니다. ESG는 AI를 멈추는 브레이크가 아니라, AI가 더 멀리까지 갈 수 있게 하는 엔진입니다. 리더들은 AI의 발전을 위한 백년대계를 세워야 합니다. 그것이 잠깐 늦어도 멀리 갈 수 있는 방법입니다.
