OpenVLA 시각적 분포 변화에 따른 실패 조기 경고 신호 분석: 내부 활성화 프로브와 한계점
📌 핵심 요약 (Key Takeaways) 내부 활성화 기반 감지: OpenVLA 모델의 레이어-16 로지스틱 프로브는 실패한 궤적 내에서 AUROC 0.972의 높은 회고적 분별력을 달성함. 독창적 차별점 및 한계: 단순 행동 불일치 지표(AUROC 0.496) 대비 우수하나, 클린 에피소드당 평균 3.32회의 오경보(Warning onsets)가 발생하여 실시간 운영 안정성 확보에는 과제가 존재함. 실무 파급력: 피지컬 AI 및 로봇 비전 시스템에서 … 더 읽기