📌 핵심 요약 (Key Takeaways)
- 핵심 성과 1: MaxViT-Tiny, ConvNeXt-Tiny, EfficientNetV2-B0 딥 앙상블을 통해 HAM10000 데이터셋에서 96% 정확도 및 99% ROC-AUC 달성
- 독창적 차별점 2: Monte Carlo Dropout 기반 예측 불확실성 추정과 Grad-CAM++ 기반 설명 가능한 AI(XAI)를 결합하여 신뢰성 확보
- 실무 파급력 3: 고도화된 의료 비전 및 온디바이스 AI 시스템에서 블랙박스 모델의 한계를 극복하는 실시간 신뢰성 검증 아키텍처 제시
1. 서론: 의료 비전 AI의 한계와 불확실성 인지 프레임워크의 필요성
더모스코피(Dermoscopic) 이미지를 활용한 피부암 진단은 클래스 간 높은 유사성, 클래스 내 변동성, 그리고 데이터 불균형 문제로 인해 고도의 정밀성이 요구되는 도메인이다. 기존의 단일 딥러닝 모델은 높은 분류 성능을 보이더라도 블랙박스 특성으로 인해 임상 현장에서 신뢰를 얻기 어려웠으며, 오인식에 대한 리스크를 제어할 수단이 부족했다.
본 연구는 이러한 한계를 극복하기 위해 비전 트랜스포머와 합성곱 신경망을 융합한 앙상블 구조에 ‘불확실성 추정(Uncertainty Estimation)’과 ‘설명 가능한 AI(XAI)’ 메커니즘을 동시에 탑재한 통합 프레임워크를 제안한다. 시스템은 단순한 정답 추론을 넘어 모델 스스로 자신의 예측에 대한 확신도를 정량화하고 시각적 근거를 제공한다.
2. 아키텍처 구성: 하이브리드 앙상블 및 불확실성 추정 메커니즘
제안된 프레임워크의 백본은 전역적 문맥 파악에 탁월한 비전 트랜스포머 기반의 MaxViT-Tiny와, 로컬 특징 추출에 강점을 가진 CNN 기반의 ConvNeXt-Tiny 및 EfficientNetV2-B0를 결합한 딥 앙상블 구조로 설계되었다. 이 이중 구조는 다양한 스케일의 병변 특징을 상호 보완적으로 학습하여 클래스 간 경계 모호성을 대폭 완화한다.
예측 단계에서는 Monte Carlo(MC) Dropout 기법을 적용하여 다중 추론 과정에서 발생하는 분산(Variance)을 측정함으로써 예측 불확실성을 계산한다. 엔트로피(Entropy)가 1.0 미만이고 신뢰도가 0.7 이상인 샘플만을 필터링하는 불확실성 인지 필터링 전략을 통해, 오분류 가능성이 높은 고위험 예측을 사전에 차단하고 진단 시스템의 안정성을 극대화한다.
3. XAI 기반 설명 가능성 및 성능 평가
모델의 의사결정 과정을 시각적으로 검증하기 위해 Grad-CAM++(Gradient-weighted Class Activation Mapping++) 알고리즘이 통합되었다. Grad-CAM++은 입력 이미지 내에서 모델이 진단의 핵심 근거로 판단한 병변 영역을 히트맵 형태로 정밀하게 강조 표시하여, 엔지니어와 임상 전문가가 모델의 추론 타당성을 직관적으로 감시할 수 있도록 지원한다.
HAM10000 벤치마크 데이터셋을 통한 실험 결과, 제안된 불확실성 인지 필터링 적용 시 정확도 96%, ROC-AUC 99%를 기록했다. 또한 매크로 평균 정밀도(Precision), 재현율(Recall), F1-스코어가 각각 94%, 95%, 95%를 달성하여 데이터 불균형 환경에서도 강건한 성능을 입증했다.
유사 선행 연구 대비 독창성 및 성능 비교
| 비교 항목 | 기존 단일 모델 방식 | 본 연구의 제안 방식 | 실무적 차별성 및 한계 |
|---|---|---|---|
| 모델 구조 | 단일 CNN 또는 ViT 백본 | MaxViT, ConvNeXt, EfficientNetV2 딥 앙상블 | 글로벌·로컬 특징 융합으로 분류 정확도 극대화 |
| 신뢰성 제어 | 확률값 단순 출력 (Softmax) | MC Dropout 기반 불확실성 추정 및 필터링 | 오인식 위험 샘플 사전 차단 및 안정성 확보 |
| 설명 가능성 | 블랙박스 추론 (설명 부재) | Grad-CAM++ 기반 시각적 히트맵 제공 | 임상 및 실무 현장 검증 가능, 연산 부하 증가 |
4. 산업 현장 적용 포인트 및 파급 효과
본 연구에서 제시한 불확실성 인지 앙상블 아키텍처는 고도의 신뢰성이 요구되는 피지컬 AI 및 로봇 비전 시스템 전반에 확장 적용될 수 있다. 특히 실시간 자율주행, 정밀 원격 진단, 엣지 디바이스 기반 객체 인식 시스템에서 센서 노이즈나 미지의 환경 변화로 인한 모델의 오작동 확률을 실시간으로 감지하고 예외 처리를 수행하는 데 핵심적인 엔지니어링 가치를 지닌다.
향후 온디바이스 NPU 환경에서의 실시간 추론 지연(Latency) 최적화와 경량화 연구가 병행된다면, 미션 크리티컬한 실시간 임베디드 비전 시스템의 신뢰성을 한 단계 끌어올리는 표준 아키텍처로 자리 잡을 것으로 전망된다.