[이데일리 성주원 기자] 미국 유타주가 인공지능(AI)이 환자의 처방전을 재발급하는 파일럿 프로그램을 운영하면서 현지 의료계와 정면충돌하고 있다. 의사들은 “약물 부작용은 생사를 가를 수 있다”며 안전성과 책임 소재를 문제 삼고 나섰다.

18일(현지시간) 월스트리트저널(WSJ)에 따르면 유타주는 지난 1월부터 AI 스타트업 닥트로닉(Doctronic)의 서비스를 활용해 콜레스테롤약, 항우울제 등 일부 처방전을 재발급하는 프로젝트를 시작했다. 유타주의 성인 주민이라면 누구나 온라인으로 로그인해 처방 갱신을 신청할 수 있다. 프로젝트가 완전히 시행되면 통상 의사가 담당하던 처방 재발급 업무를 AI가 단독으로 수행하는 첫 사례가 된다.

◇“검증 안 된 블랙박스” 의료계, 중단 요구 서한

유타 의료면허위원회 위원 대부분은 안전성을 이유로 프로젝트 중단을 요구하는 서한에 서명했다. 위원회를 이끄는 가정의학과 전문의 앨런 스미스 박사는 “사람들은 약물에 생사가 걸린 반응을 보일 수 있다”며 “재발급된 약으로 문제가 생기면 누가 책임을 지느냐”고 말했다. 유타 의사협회도 이 서한에 동의 입장을 냈다.

위원회 소속 알레르기 전문의 조너선 올슨 박사는 닥트로닉의 기술을 ‘블랙박스’로 규정했다. AI 시스템이 어떻게 판단을 내리는지 외부에서 알 수 없다는 의미로 풀이된다. 그는 “의사가 되려면 의대를 졸업하고 면허시험을 통과하고 레지던트 과정을 거쳐야 하지만, AI에는 그런 검증 절차가 전혀 없다”고 지적했다.

다만 프로젝트를 관할하는 주 당국은 의료위원회가 프로젝트에 대한 직접적 권한은 없다는 입장이다.

주 당국이 지난달 공개한 운영 결과를 보면, 닥트로닉의 AI는 처방 재발급 요청의 72%를 승인하고 나머지는 추가 검사 필요 등을 이유로 의사에게 넘겼다. AI가 승인한 건에 대해 검토 의사들은 91% 동의했고, 9%는 정보 부족을 이유로 재검토를 요청해 두 번째 의사가 다시 살폈다. 최종적으로 AI 승인 건의 3%가 거부됐다.

올슨 박사는 검토 의사들이 닥트로닉으로부터 독립적이지 않고 이들의 배경·전문분야도 공개되지 않았다며 이 ‘3%’라는 수치가 갖는 의미가 불분명하다고 주장했다.

◇美 전역서 입법 줄다리기…FDA·AMA도 가세

AI 의사를 둘러싼 논쟁은 유타주를 넘어 미국 전역으로 번지고 있다. 뉴욕주 의회는 챗봇이 면허 의사처럼 행동하는 것을 금지하는 법안을 검토 중이며, 델라웨어주는 AI가 의사·간호사 면허를 받을 수 없도록 하는 법을 이미 통과시켰다. 반대로 아이오와·아이다호 주의회는 자율 AI 의료서비스를 위한 새 임상 면허를 만드는 법안을 올 봄 발의했다. 팔란티어 공동창업자 조 론스데일이 후원하는 싱크탱크 시세로 연구소는 의사 부족 해소와 혁신을 명분으로 이런 입법을 지지해왔다.

미국 식품의약국(FDA)은 의료기기로 분류될 경우 이를 감독할 권한이 있지만, 닥트로닉은 아직 FDA 승인을 받지 않았다. FDA 대변인은 “제품의 의료기기 해당 여부는 구체적 사실관계에 대한 평가에 달려 있다”고 밝혔다. 뉴잉글랜드의학저널(NEJM)과 영국의학저널(BMJ) 등 의학 학술지 연구자들도 닥트로닉이 자사 기술에 관한 임상 연구 결과를 공개하지 않았다며 우려를 보탰다.

미국의사협회(AMA)는 AI의 의사 대체에 전반적으로 반대해왔다. 존 와이트 AMA 최고경영자는 “처방 재발급에서 시작한 AI의 역할이 언젠가 진단 검사까지 확대되는 것 아니냐”고 우려했다. 그는 “의료적 결정은 복잡하고 미묘하며, 의사-환자 관계의 근본을 이루는 것”이라고 덧붙였다.

◇닥트로닉 “규칙 기반 의료, AI가 강점”…주 당국 “보수적으로 설계”

닥트로닉 측은 AI가 의사들이 만든 임상 지침을 따르며, 검토 의사들도 독립적 판단을 내리는 적절한 전문가들이라고 반박했다. 회사는 독립 연구 파트너와 함께 유타 파일럿 결과를 동료 심사 학술지에 발표할 계획이다. 혈관외과 전문의 출신인 애덤 오스코위츠 닥트로닉 공동 최고경영자(CEO)는 “의료의 상당 부분은 근거·규칙 기반이자 알고리즘적이며, AI는 이런 영역에 강점이 있다”고 말했다.

유타주 AI정책국의 잭 보이드 국장은 “매우 보수적으로 설계했다”며 닥트로닉에 AI 기술에 대한 의료과실보험 가입을 의무화했다고 밝혔다. 그는 “법적 쟁점은 새로울 수 있지만, 통상적인 배상 책임은 져야 한다”고 말했다. 해당 보험은 기업 배상책임보험 전문업체 비즐리(Beazley)가 제공했다.

현재 프로젝트는 프로작, 리피토 등 제한된 약물 목록에 한해 운영되며, 인간 의사가 조제 전 모든 처방을 검토하는 1단계가 진행 중이다. 보이드 국장은 “지금까지 중대한 안전 사고는 없었다”면서도 의사 승인 없이 AI가 단독으로 처방을 약국에 보내는 다음 단계로 넘어가기에는 데이터가 충분하지 않다고 밝혔다. 설계상 1단계는 약물 종류별로 최소 250건의 처방이 쌓일 때까지 지속된다.

미국 전역에서 AI의 의료 행위 허용 범위를 둘러싼 입법 공방이 본격화하는 가운데, 처방을 시작으로 진단·치료 영역까지 AI 역할이 확대될지, 아니면 의사-환자 관계를 지키기 위한 규제가 우선될지가 다음 단계의 핵심 변수가 될 전망이다.