📌 핵심 요약 (Key Takeaways)
- 핵심 성과 1: RAGSieve-Query(RSQ)는 95.2% AUROC를 달성하며, 5% 클린 문서 제거 조건에서 82.2%의 오염 탐지율을 기록
- 독창적 차별점 2: 신뢰할 수 있는 외부 레퍼런스나 사전 레이블 없이 시스템 내부 데이터로부터 자가 참조 레퍼런스를 구축하여 국소 대조 수행
- 실무 파급력 3: 드론 및 무인이동체 지상통제시스템(GCS)의 외부 LLM 기반 지식 검색 시 의도적인 명령 주입 및 오염 방어에 기여
1. 도입 배경 및 지식 검색 증강(RAG)의 보안 취약점
최근 무인이동체 및 드론 자율주행 관제 시스템은 대규모 언어 모델(LLM)과 검색 증강 생성(Retrieval-Augmented Generation, RAG) 아키텍처를 결합하여 비행 매뉴얼, 기상 데이터, 임무 지침을 실시간으로 처리합니다. 그러나 RAG 시스템은 외부 코퍼스를 추론 증거로 신뢰하기 때문에, 공격자가 악의적으로 조작된 문서를 주입하여 시스템이 잘못된 제어 명령을 생성하도록 유도하는 지식 오염(Knowledge Poisoning) 취약점에 노출되어 있습니다.
기존의 지식 오염 탐지 기법들은 신뢰할 수 있는 외부 기준(Trusted Reference), 특정 공격 아티팩트, 혹은 코퍼스 토폴로지에 민감한 전역 임계값(Global Thresholds)에 의존하는 한계가 있었습니다. 이러한 제약은 동적으로 업데이트되는 드론 관제 데이터베이스 환경에서 높은 오탐율을 유발하며 실시간 방어를 어렵게 만듭니다.
2. RAGSieve 프레임워크의 아키텍처 및 핵심 메커니즘
RAGSieve는 검사 대상 시스템 자체로부터 참조 기준을 구축하는 혁신적인 자가 참조 탐지(Self-Referenced Detection) 프레임워크를 제안합니다. 이 아키텍처는 쿼리 시점의 대조를 수행하는 RSQ(RAGSieve-Query)와 코퍼스 수집 시점의 밀도 분석을 수행하는 RSG(RAGSieve-Graph)의 이중 구조로 설계되었습니다.
RSQ는 상위 5개 검색 후보와 동일한 검색 결과 내 6~20위 후보를 비교하는 쿼리 국소 대조(Query-Local Contrast)를 수행하여 답변 앵커 집중도와 캐리어 전환을 감지합니다. 반면, RSG는 쿼리 유입 전에 각 문서의 의미적으로 유사하나 어휘적으로 다른 이웃 문서들을 지역 기준선과 비교하여 코퍼스 국소 대조(Corpus-Local Contrast)를 실행합니다.
유사 선행 연구 대비 독창성 및 성능 비교
| 비교 항목 | 기존/유사 논문 방식 (GMTP 등) | 본 연구의 제안 방식 (RAGSieve) | 실무적 차별성 및 한계 |
|---|---|---|---|
| 참조 기준 (Reference) | 외부의 신뢰할 수 있는 정답 레퍼런스 및 글로벌 임계값 의존 | 검사 대상 시스템 내부 데이터 기반 자가 참조(Self-Referenced) 구축 | 사전 레이블이나 신뢰할 수 없는 코퍼스 환경에서도 작동 가능 |
| 탐지 성능 (AUROC) | 약 79.4% ~ 81.1% 수준의 탐지 정확도 | RSQ 95.2%, RSG 93.3%의 고성능 AUROC 달성 | 다양한 공격 시나리오에서 오탐율을 대폭 낮추고 정밀도 향상 |
| 배포 시점 | 주로 쿼리 시점 또는 수집 시점 단독 적용에 국한 | 코퍼스 수집(Ingestion) 및 쿼리 시점(Query-time)의 통합 배포 | 공격 성공률을 67.4%에서 14.0%로 감소시키며 실무 방어력 입증 |
3. 무인이동체 및 GCS 관제 현장 적용성 분석
무인이동체 및 드론 시스템은 실시간 비행 안전성과 직결되므로, 지상통제시스템(GCS)이 참조하는 외부 데이터베이스의 무결성 확보가 필수적입니다. RAGSieve의 통합 배포 방식은 드론이 비행 중 비가시권(BVLOS) 통신 환경에서 수신하는 원격 측정(Telemetry) 데이터와 비행 지침서의 오염 여부를 실시간으로 검증할 수 있는 강력한 방어선 역할을 수행합니다.
특히 독자적인 레이블이나 신뢰할 수 없는 오픈소스 기상·비행 코퍼스를 활용해야 하는 국방 및 산업용 드론 아키텍처에서, RAGSieve는 추가적인 외부 감수 비용 없이 시스템 내부 자가 대조를 통해 악의적인 프롬프트 인젝션과 지식 변조 시도를 효과적으로 차단합니다.