Foundations of Certifiably Robust AI against Adversarial Attacks
개인기초연구(과기정통부)(R&D) · 우수연구-핵심연구(전략형)
2026년
2710113088
과학기술정보통신부
한국연구재단
한양대학교
서재홍
11명
2026.09.01 ~ 2027.08.31
2026.09.01 ~ 2029.08.31
1.9억원
1.9억원
기초연구
대학
서울특별시 성동구
정보/통신 > 정보이론 > 인공지능
... 기존의 한계를 넘어, 강건한 표현공간이 갖추어야 할 수학적 조건을 정립하는 것을 최종 목표로 하며 다음 세 가지 세부 목표를 달성한다.(목표 1: 수학적 원인 규명 및 조건 형식화) 인공신경망 표현공간의 구조적 취약 요인(공간 규칙성, 속성 기반 부분구조, 판별 경계 부근 분포 불균형 등)을 수학적으로 분석하고, 각 요인을 소거하여 적대적 강건성을 보장하는 구조 조건을 ...
연구최종 목표인 증명가능한 강건선을 달성하기 위해 다음과 같은 연구가설을 세우고 이를 검증해나가며 문제를 해결해가고자 한다.“인공신경망의 표현공간에 특정한 구조가 존재할 때에 한해 그에 대응하는 공격 클래스가 성립하며, 해당 전제조건을 수학적으로 소거하는 구조 조건은 그 공격 클래스에 대해 certifiable robustness를 보장한다. 이러한 조건은 모델 ...
... 성공적으로 수행이 된다면 현실 세계에서 AI가 사용되는 방식을 명확하게 규명하고 안전성 위협모델을 수학적으로 정의하고 분석을 할 수 있게 된다. 이를 기반으로, 적대적 공격에 강건한 인공지능 모델이 갖춰야할 요구조건을 도출하여 모델의 설계 및 학습시뿐만 아니라 응용에 적용할 때 지켜야할 강건성 확보를 위한 적절한 가이드라인을 제시해줄 수 있을 것으로 기대한다.