Capability-Aware Safe Meta-Decision in Physical AI-Driven Robotics: A Try-Ask-Refuse Framework
개인기초연구(과기정통부)(R&D) · 우수연구-핵심연구(기본연구A)
2026년
2710114205
과학기술정보통신부
한국연구재단
한성대학교
박승현
3명
2026.09.01 ~ 2027.08.31
2026.09.01 ~ 2031.08.31
4,306만원
4,306만원
기초연구
대학
서울특별시 성북구
정보/통신 > 정보이론 > 인공지능
- 본 과제의 최종목표는 로봇 Physical AI가 자신의 능력 경계(capability frontier)를 스스로 인식하고 Try(자율 수행), Ask(인간 질의), Refuse(수행 거부) 중 안전한 행동을 메타 수준에서 선택하는 Try-Ask-Refuse(TAR) 메타 의사결정 프레임워크를 이론 및 실증적으로 정립하고 검증함으로써, 분포 이탈 상황에...
본 연구는 로봇 Physical AI 능력 경계 인식 기반 Try-Ask-Refuse(TAR) 메타 의사결정 프레임워크를 4축 통합 구조로 구현함① Axis A. 능력범위 모델(Capability Frontier Model): 로봇 Physical AI의 불확실 상황을 관측, 접촉, 행동, 조합 4개 직교 축으로 분해하고, 각 축 신규성 지수를 학습 분포-...
- 기술적 측면: POMDP+EVoI 기반 TAR 3-way 행동공간의 수학적 정식화로 기존 이진 의사결정을 대체하는 새로운 Physical AI 안전 의사결정 프레임워크 제시. Conformal prediction 기반 능력범위 모델로 분포 가정 없는 커버리지 ≥95% 보장, 단일 모달리티 대비 불확실성 30% 이상 감소 달성. CAFE-Bench(Cap...