Development of Human-Centered, Trustworthy, and Privacy-Preserving Agentic AI
개인기초연구(과기정통부)(R&D) · 우수연구-핵심연구(유형A)
2026년
2710112583
과학기술정보통신부
한국연구재단
국립금오공과대학교
추상현
4명
2026.09.01 ~ 2027.08.31
2025.09.01 ~ 2028.08.31
6,367만원
6,367만원
응용연구
대학
경상북도 구미시
정보/통신 > 정보이론 > 인공지능
본 연구는 인간 중심적이며 신뢰 가능하고 프라이버시를 보존하는 에이전틱 AI 개발을 최종 목표로 함. 이를 위해 현재 에이전틱 AI에서 본질적으로 발생하는 (1) 자기강화적 환각, (2) 사용자 과신, (3) 프라이버시 리스크 문제를 통합적으로 해결하고자 함. 단순한 모듈 개발을 넘어, 글로벌 선도형 에이전틱 AI 프레임워크 확립과 실증적 검증을 통해 안전...
... 못한다는 한계를 지님. 이를 해결하기 위해 본 연구는 프라이버시 보존형 에이전틱 AI 모듈을 개발함. 이 모듈은 입력 의도 및 개인정보 민감도 기반 프라이버시 정책 매핑과 조건 반응형 로컬?클라우드 프라이버시 처리 모델을 통해 실시간 상호작용에서의 민감 정보 노출을 최소화하고, 사용자 맞춤형 프라이버시 보호 수준과 데이터 처리 안전성을 획기적으로 강화하고자 함.- (3차년도) 에이전틱 ...
1) 활용계획- NVIDIA, OpenAI 등 글로벌 기업들이 에이전틱 AI 상용화를 서두르면서 인간 중심 설계, 신뢰성, 프라이버시 보장이 부족해 의료, 금융, 공공 등 고신뢰 분야에서 잘못된 의사결정, 정보 유출, 과신 오용 등 심각한 문제 발생이 우려됨. 본 연구는 이러한 위험을 사전 차단할 통합 프레임워크를 개발해 차세대 에이전틱 AI의 안전한 확산...