📌 핵심 요약 (Key Takeaways)
- 핵심 성과 1: ISO 14971 및 IEC 62304 규제 요구사항에 부합하는 문서 간 완벽한 추적성(Traceability) 확보 메커니즘 제시
- 독창적 차별점 2: 단순한 텍스트 생성이 아닌, 출처 연결형(Source-linked) 안전 지식 검색과 비판적 불확실성 검증 결합
- 실무 파급력 3: 안전 엔지니어링 문서화 과정의 비용 절감 및 라이프사이클 업데이트 정합성 극대화
최근 의료기기는 소프트웨어 의존도가 높아지고 네트워크 연결성이 강화되며, 인공지능(AI) 기반 기능이 필수적으로 탑재되는 추세입니다. 이에 따라 개발 과정에서 ISO 14971(위험 관리)과 IEC 62304(의료기기 소프트웨어 라이프사이클) 표준에 부합하는 철저한 위험 관리 증거를 확보해야 합니다.
하지만 이러한 증거 데이터는 요구사항, 설계 결정, 소프트웨어 변경 사항, 검증 결과, 사용자 불만 및 시판 후 데이터 전반에 걸쳐 일관성 있게 유지되어야 하며, 이 작업은 막대한 비용과 희소한 도메인 전문가의 리소스를 소모합니다.
근거 기반 LLM 프레임워크의 아키텍처와 필요성
대규모 언어 모델(LLM)은 문서 기반의 안전성 엔지니어링 업무에서 큰 잠재력을 가지고 있으나, 기존의 일반적인 프롬프팅 방식이나 격리된 방법론은 규제 산업에서 요구하는 신뢰성을 충족하지 못합니다.
본 논문은 단순한 안전 텍스트 생성이 아닌 ‘출처 연계형 안전 지식 지원(Source-linked safety-knowledge support)’이 핵심 연구 문제임을 지적하며, 통제된 지식 저장 및 검색, 후보 안전 항목의 방법론별 생성, 비판 및 불확실성 검증, 그리고 전문가 검토 기록을 유기적으로 연결하는 아키텍처를 제안합니다.
유사 선행 연구 대비 독창성 및 성능 비교
| 비교 항목 | 기존/유사 논문 방식 | 본 연구의 제안 방식 | 실무적 차별성 및 한계 |
|---|---|---|---|
| 지식 소스 연계 | 일반적인 공개 프롬프트 및 범용 RAG | 디바이스 아티팩트 및 통제된 지식 저장소 연동 | 근거 추적성 확보 및 환각 현상 원천 차단 강화 |
| 검증 및 불확실성 | 단순 생성 후 사후 수동 검토 | 후보 항목 비판, 불확실성 체크 및 전문가 리뷰 기록 | 시스템이 결정을 내리지 않고 의사결정을 보조함 |
| 라이프사이클 업데이트 | 단발성 문서 생성에 집중 | 설계 변경, 시판 후 데이터 반영 등 지속적 동기화 | 규제 표준(ISO 14971/IEC 62304) 준수 유지 용이 |
산업 현장 적용 파급 분석 (Paper-to-Industry)
본 연구에서 제안하는 근거 기반 프레임워크는 의료기기 규제 산업뿐만 아니라, 엄격한 안전 인증과 복잡한 이력 관리가 요구되는 자율주행 시스템, 방산, 항공우주 등 피지컬 AI 시스템의 시스템 아키텍처 설계에도 중요한 시사점을 제공합니다.
특히 대규모 엔지니어링 데이터 파이프라인에서 생성되는 수많은 설계 자산과 검증 결과를 투명하게 연결하고, 사람이 직접 개입하여 검토할 수 있는 구조를 제공함으로써 AI 기술의 안전성과 신뢰성을 극대화할 수 있습니다.