'가짜 상관관계' 제거..서울대 공대 이정우 교수팀, AI 편향 줄여

[이데일리 김현아 기자] 서울대 공과대학 전기정보공학부 이정우 교수팀이 인공지능(AI) 학습 데이터에 내재된 편향성(Bias)을 감소시키는 원천 기술을 개발했다고 26일 발표했다.

이정우 교수가 창업한 AI 자동학습 플랫폼 기업인 ‘호두에이아이(HodooAI)’는 12월 9일부터 15일까지 캐나다 밴쿠버에서 열린 AI 이론 분야의 국제학술대회 ‘NeurIPS 2024’에서 해당 기술을 소개한 논문을 발표했다.
이번 발표는 서울대 CML(Cognitive Machine Learning Lab) 연구실과 호두에이아이의 첨단 기술력이 국제적으로 인정받았음을 보여주는 사례다.

AI 실용화에 있어 가장 큰 걸림돌로 꼽히는 AI의 불공정성과 불투명성 문제를 해결하는 기술로 주목받고 있다.



어떤 원리인데?…‘가짜 상관관계’ 제거

AI 학습 데이터 내 편향성은 AI 모델의 판단에 불공정성과 불투명성을 초래할 수 있다.

예를 들어, 대출 신청자 평가 시 AI가 성별이나 인종에 따라 특정 그룹을 선호하는 현상이 발생할 수 있다.

이를 해결하기 위해 이정우 교수팀은 AI가 데이터 내 ‘가짜 상관관계(spurious correlations)’를 제거하고 핵심적인 특징을 기반으로 예측하도록 학습시키는 기술을 개발했다.
이 기술은 AI 모델의 일반화 능력을 향상시켜, 기존 AI 모델보다 약 21% 향상된 정확도를 기록하며 성능과 신뢰도를 입증했다.

연구팀은 ‘가짜 상관관계가 존재하지 않을 확률’을 계산하여 학습 데이터를 재추출하고, 이를 바탕으로 AI 모델을 학습시켰다.

이 방법을 통해 AI 모델은 지엽적인 특징에 의존하는 대신, 실제 핵심적인 요소에 집중하여 더 정확한 예측을 할 수 있게 된다.

AI 편향성 경감 기술 알고리즘의 주요 단계를 나타낸 의사코드(Pseudocode)

의료 분야 진단 정확성 기여

이번 기술은 영상, 의료, 법률, 수치 데이터 등 다양한 분야에 널리 활용될 수 있을 것으로 예상된다. 특히 의료 분야에서는 신속하고 정확한 진단에 크게 기여할 것으로 보인다. 또한, 호두에이아이의 AI 플랫폼에서 ‘편향성 제거 AI 엔진’으로 활용될 예정이다.

한형근 연구원(제1저자)은 “이번 기술이 AI 편향성 제거 분야에서 국내 기술 수준을 세계적 수준으로 끌어올리는 데 큰 기여를 할 것”이라며, “향후 다양한 모델과 데이터 유형에 관계없이 신뢰도 높은 AI 모델이 세계 각지에서 안전하게 사용되기를 기대한다”고 밝혔다.

이정우 교수는 “NeurIPS 2024에서 논문이 채택되어 기쁘다”며, “이 기술이 한국 AI 스타트업의 기술 수준을 더욱 높이는 데 기여할 것”이라고 포부를 전했다.

서울대 전기정보공학부 이정우 교수는 2017년, 연구실 제자들과 함께 AI 자동학습 플랫폼 기업 ‘호두에이아이’를 설립한 이후, AI 기술을 기반으로 다양한 혁신적인 프로젝트를 진행하고 있다.