Privacy-preserving and Trust-assuring Techniques for Safe AI System
개인기초연구(과기정통부)(R&D) · 우수연구-중견연구/후속(유형1)
2026년
2710110959
과학기술정보통신부
한국연구재단
서울대학교
이재욱
9명
2026.05.01 ~ 2027.04.30
2024.05.01 ~ 2027.04.30
1.4억원
1.4억원
기초연구
대학
서울특별시 관악구
정보/통신 > 정보이론 > 인공지능
본 연구진은 본 연구과제를 통해 기존의 중견 과제에서 개발한 적대적 공격에 대한 연구를 바탕으로 안전하고, 신뢰 가능한 인공지능 시스템을 구축하고자 함. 기존의 연구 성과인 적대적 공격에 대한 노이즈, 매니폴드 기술, 도메인 적응 기술 등을 통해 모델의 안전성, 신뢰성을 높일 수 있는 노이즈 기반 차분 프라이버시 모델을 개발하고, 분산장부 기술을 온라인 학습에 ...
본 연구진은 기존 안전한 인공지능 연구를 바탕으로 투명성 확보를 위한 모델을 개발할 예정임. 구체적인 개발 내용은 다음과 같음. 1차년도 연구를 통해 프라이버시 보호 알고리즘을 개발할 예정임. 프라이버시를 보호하기 위해 생기는 성능 저하를 방지하기 위해 잠재 공간 평탄화를 통해 프라이버시 보호 모델의 성능을 높일 예정임. 이렇게 개발된 인공지능을 공개 데이터를 ...
본 연구과제는 안전한 인공지능 시스템 구현을 위한 프라이버시 보호 및 신뢰 보장 기술을 제시하여 인공지능 모델 개발에 대한 윤리적 측면의 지침을 제공할 것으로 기대됨. 이러한 인공지능 시스템의 개발로 기존의 투명성 및 안전성 문제를 극복하고, 장기적으로 온체인 인공지능 모델 기반 서비스를 상용화할 것으로 기대됨. 관련 사업과 사용자의 증대를 통해 경제 성장을 ...