백인 위주 AI 데이터 학습 한계를 극복한 AI ‘FairAnon’이 나왔다.  

의료 영상에서 진단에 필수적인 피부 병변은 원본 그대로 보존하고 환자의 신원만 가상의 얼굴로 효과적으로 익명화하는 AI 기술이 개발된 것이다. 

연구팀이 개발한 이 AI는 기존 모델의 낮은 얼굴 생성 품질과 중대한 한계점이었던 인종 편향 문제를 근본적으로 해결했다. 특히 익명화된 이미지에서도 98.9%의 높은 정확도로 안면 질환을 유지해, 앞으로 어떤 인종이든 차별 없이 안전하게 의료 데이터를 활용할 수 있을 전망이다.

서울대병원 영상의학과 이동헌 교수팀(충남대 송승한 교수, 충남대 한연규 박사과정)은 인종에 따른 성능 격차를 없애고 동등한 개인정보 보호를 제공하는 안면 익명화 AI 프레임워크 ‘FairAnon’을 개발했다고 2일 밝혔다.

최근 환자 신원 보호를 위해 원래 얼굴을 가상 얼굴로 변환하는 생성형 AI 기술이 도입되고 있다. 그러나 기존 모델들이 저품질의 얼굴 이미지를 생성하는 문제와 함께 서양인 얼굴 데이터셋 위주로 학습된 탓에 다양한 인종 개념을 서양인 중심의 기본값과 뒤섞어 학습하는 의미론적 얽힘(Semantic entanglement) 현상이 발생했다. 이로 인해 아시아인 등 타 인종의 얼굴을 변환할 때 화질과 개인정보 보호 수준이 모두 저하되는 한계가 있었다.

연구팀은 기존 생성형 AI의 한계를 극복하기 위해 2단계 구조를 고안했다. 1단계는 AI 지식 공간에 얽혀있던 인종 개념을 명확히 분리하는 ‘직교 의미 기반 가이드(OSG)’ 기술을 적용했다. 이어 2단계는 외부 참조 모델 없이 사람의 시각적 선호도에 맞춰 고품질 이미지를 생성하는 ‘단순 선호도 최적화(SimPO)’ 기법을 도입했다.

또한 연구팀은 환자의 임상적 특징을 보존하면서 신원만 가리는 정밀 제어 기술도 구현했다. 충남대병원에서 수집한 1만7697장의 안면 데이터로 AI의 얼굴 영역 분할 학습을 진행했다. 이를 통해 눈, 코, 입, 얼굴 윤곽 등 핵심 특징을 정밀하게 파악해 마스크를 생성하고, 마스킹 된 영역만 가상 얼굴로 재생성하되 나머지 영역은 원본 그대로 유지되도록 설계했다.

그 결과, 인종별 생성 이미지 간 품질 격차를 나타내는 편향 지표(LPIPS-Std)가 기존 0.087에서 0.012로 대폭 낮아졌다. 특히 기존에 유독 낮았던 아시아계 얼굴의 생성 다양성 점수는 0.31에서 0.48로 크게 향상됐으며, 모든 인종에서 일관된 품질을 기록해 고질적인 인종 간 격차를 해소했다.

성능 평가 결과, 안면 인식 AI가 원본을 식별하지 못하는 익명화 성능(EER)이 최대 기준치(50%)에 근접한 47.8%를 기록했다. 실제 사진에 가까울수록 낮은 값을 갖는 이미지 품질 지표(FID) 역시 91.34를 달성해 비교된 최신 모델 중 최고 성능을 입증했다. 더불어 10만여 장의 외부 데이터 교차 검증에서도 일관된 보호 성능을 확인했다.

나아가 연구팀은 분당서울대병원과 한림대강남성심병원의 임상 사진 6000장(여드름 등 5개 질환 및 정상 피부)에 이 기술을 실제 적용했다. 대표 표본 180장을 피부과 전문의 3명이 평가한 결과, 환자의 신원은 효과적으로 보호하면서도 진단에 필수적인 병변을 98.9%의 정확도로 보존해 냈다. 전문의 간 의견 일치도(Fleiss’ kappa) 역시 0.87로 매우 높아 객관적인 임상 유용성을 확인했다.

이동헌 영상의학과 교수는 "금번 연구는 인종 간 공정성을 개선하면서 실제 의료 영상에서도 활용할 수 있는 개인정보 보호 기술을 제시했다는 점에서 의미가 크다"며 "이 프레임워크는 향후 개인정보 보호 제약이 큰 헬스케어 및 의료 영상 분석 시스템에서 안전하고 공정한 데이터 활용을 가능하게 하는 핵심 기술이 될 것으로 기대된다"라고 말했다.

관련해 금번 연구 결과는 컴퓨터사이언스, 이론 및 방법 분야 최상위 국제학술지 ‘Information Fusion(IF: 15.5)’ 최근호에 게재됐다.