Detecting and Mitigating Memorization in Diffusion Models for Privacy Protection
개인기초연구(과기정통부)(R&D) · 우수연구-핵심연구(전략형)
2026년
2710111916
과학기술정보통신부
한국연구재단
연세대학교
NO ALBERT
4명
2026.09.01 ~ 2027.08.31
2025.09.01 ~ 2028.08.31
2.0억원
2.0억원
기초연구
대학
서울특별시 서대문구
정보/통신 > 정보이론 > 인공지능
● 본 연구는 생성형 인공지능(Generative AI) 중 특히 디퓨전 생성모델(Diffusion Models)에서 발생하는 데이터 암기(memorization) 현상을 이론적으로 분석하고, 실질적으로 억제할 수 있는 학습 및 생성 기술을 개발하는 것을 목표로 함. 이를 통해 개인정보 유출, 저작권 침해 등의 프라이버시 위협을 근본적으로 예방하고, 생성형 AI의 ...
[세부내용 1] 암기 현상의 정량적 분석 및 감지 지표 개발디퓨전 생성모델에서 특정 데이터에 대한 확률 집중 현상을 암기의 지표로 보고, 이를 PMI(pointwise mutual information) 기반으로 수학적으로 정식화함.학습 중 실시간으로 적용 가능한 정보이론 기반 암기 감지 지표를 개발하고, 기존 벤치마크 및 측정 메트릭과 비교 검증함. 해당...
... 제시함으로써 AI 발전과 개인정보 보호 문제 사이의 균형을 맞추려는 다른 연구자들과 개발자들에게 성공적인 예시 및 알고리즘 템플릿을 제공 할 수 있음. 즉, 이 연구에서 도출된 방법론은 기타 인공지능 및 딥러닝 분야의 프라이버시 보호 연구에 적용될 수 있음. 생성모델 뿐 AI 전 분야에서 개인정보를 보호하는 새로운 모델 및 알고리즘개발을 수행할 수 있도록 지원함.