Dynamic Alignment and Negotiation of Pluralistic Values for Human-Centered AI Alignment Systems (DAVIS)
이공학학술연구기반구축(R&D) · 미래도전연구지원
2026년
2340064008
교육부
한국연구재단
한양대학교 에리카캠퍼스
박정은
13명
2026.09.01 ~ 2027.02.28
2026.09.01 ~ 2031.08.31
8,000만원
8,000만원
기초연구
대학
경기도 안산시
정보/통신 > 정보이론 > 인공지능
복수의 인간 가치와 맥락 변화에 따라 AI의 가치 기준을 동적으로 구성·조정하고, 다중 이해관계자 간 상충하는 가치를 협상을 통해 조정·반영할 수 있는 DAVIS 시스템을 개발하여, 인간-MLLM 상호작용 기반의 개인 차원 시나리오(S1)와 공공/산업 공간 및 도시 이동성 맥락의 인간-로봇 공존 규범 시나리오(S2)에 단계적으로 적용·실증함으로써, 도메인 ...
... 가치 협상 구조로 확장하기 위한 기반 마련[1차년도] o 인간-MLLM 상호작용 맥락에서 개인 및 사회 차원의 가치 구조, 변화 양상, 맥락 의존성을 규명하고, 다원적 가치 표현체계 및 데이터 수집 구조 구축[2차년도] o 시간·과업·상황 변화에 따라 개인 가치 선호를 추론·반영하는 초기 동적/상황 인식 정렬 모델 개발 및 사용자 가치 반영 설명 인터페이스 설계[3차년도] o ...
... 참고 모델로 제시될 수 있음. o (산업적 측면) 본 연구에서 개발하는 DAVIS 시스템은 도메인 명세 교체만으로 새로운 가치 정렬 문제에 적용가능한 범용 구조를 갖추며, 교육 AI 플랫폼, 의료·금융 분야의 자율 AI 에이전트, 자율주행 차량의 문화권별 윤리 판단 시스템, 스마트시티 운영 시스템, 공공 서비스 AI 등 다양한 산업 영역에 걸쳐 이전·적용될 수 있음. 나아가 본 ...