한림대학교(총장 최양희) 바이오헬스케어융합전공 손대순 교수와 디지털 헬스케어 기업 제이앤피메디(JNPMEDI)를 중심으로 한 산학공동연구팀이 의료인공지능(AI)이 지닌 구조적 한계점을 짚어내고 이에 대한 실효성 있는 거버넌스 대안을 제시했다. 해당 연구 논문은 전 세계 의료정보학 및 디지털 헬스 분야 최고의 권위를 자랑하는 ‘JMIR(Journal of Medical Internet Research, 피인용지수 IF 8.2, JCR 상위 3.9%)’에 공식 출판됐다.

그동안 의료 AI는 전체적인 정확도나 평균 성능이 우수하면 곧바로 임상적 효용성이 높다고 평가받아 왔다. 그러나 연구진은 이러한 이른바 ‘평균의 함정’에 주목했다. 전체적인 성능이 우수하더라도, 학습 데이터에서 충분히 대표되지 못한 특정 소외 계층이나 특수한 의료 기관, 환자 그룹에서는 오류가 집중되거나 안전성이 떨어지는 현상이 발생할 수 있다는 것이다. 연구팀은 이를 ‘정교한 배제(Refined Exclusion)’라는 새로운 개념으로 정의하고, 이를 극복하기 위한 대안으로 데이터 정의(Data Justice) 기반의 의사결정 거버넌스 프레임워크를 제안했다.

즉, AI가 통계적 평균치로 얼마나 우수하게 작동하는지를 넘어, 환자가 실제로 치료받는 다양한 임상 현장에서 모든 계층에게 공평하고 안전하게 기능하는지 엄격히 검증할 수 있는 제도적 방패를 마련한 셈이다.

이번 연구에는 제이앤피메디 글로벌리서치센터 연구진이 참여해 의료 AI가 실제 의료산업에서 개발·검증·도입되는 과정에서 발생할 수 있는 규제, 컴플라이언스 및 환자 안전 문제를 학술적 연구 의제로 구체화했다. 제1저자인 이재현 부사장은 변호사이자 치과의사로서 의료·법률·산업을 아우르는 관점에서 이번 연구의 개념적 프레임워크 구축에 참여했다.

연구진은 의료 AI의 실제 적용 과정에서 발생하는 문제를 단순한 기술적 성능평가에 한정하지 않고 데이터 대표성, 취약집단 보호, 지속적 검증을 포함하는 거버넌스 문제로 구조화했다. 이러한 접근은 제이앤피메디가 임상시험과 디지털 헬스케어 산업 현장에서 축적한 경험을 한림대학교의 학문적 연구역량과 연결해, 산업 현장의 문제를 학술적 프레임워크로 발전시켰다는 점에서도 의미가 있다.

특히 이번 연구는 지난 5월 같은 저널(JMIR)에 발표된 ‘의료 AI 공동 생애주기 거버넌스(Co-Lifecycle Governance)’ 연구에 이은 연속 시리즈 성과다. 당시 연구가 급변하는 의료 AI의 적응형 규제와 변화 관리에 초점을 맞췄다면, 이번 후속 연구는 평균 성능의 그늘에 가려 자칫 소외되기 쉬운 특정 집단의 위험을 심층적으로 다루며 연구 범위를 확장했다. 두 연구는 각각 변화하는 의료 AI의 지속적 관리와 평균 성능 뒤에 가려질 수 있는 특정 집단의 위험이라는 서로 다른 문제를 다루면서, 의료 AI의 규제 준수(Compliance)와 환자 안전(Patient Safety)을 연속적인 관점에서 조명한다.

손대순 교수는 “이번 성과는 대학의 학문적 깊이와 산업계의 현장 전문성이 긴밀하게 결합하여 이뤄낸 산학협력의 결과”라며 “학계와 산업계가 현장에서 발견되는 문제를 함께 연구 의제로 발전시키고 이를 제도 개선으로 연결하는 과정이 중요한 만큼 앞으로도 이러한 산학협력을 통해 의료 AI의 신뢰성과 환자 안전을 높일 수 있는 연구를 지속해 나갈 것”이라고 말했다.

이재현 부사장은 “의료 AI는 전체적인 성능이 우수해 보이더라도 특정 환자집단에서 반복되는 실패가 드러나지 않을 수 있다”며 “이러한 문제를 단순한 알고리즘 공정성의 문제가 아니라 환자 안전과 규제 거버넌스의 문제로 확장했다”고 설명했다. 이어 “실제 임상 적용에서는 평균적인 성능만 보는 데 그치지 않고, 어떤 환자집단에서 위험이 발생하는지를 지속적으로 확인하고 관리할 수 있어야 한다”고 강조했다.