Development of Trustworthy Training and Safety Evaluation Techniques for AI Systems Using Sensitive Data
개인기초연구(과기정통부)(R&D) · 우수연구-신진연구(유형B)
2026년
2710098568
과학기술정보통신부
한국연구재단
울산과학기술원
박새롬
12명
2026.03.01 ~ 2027.02.28
2025.03.01 ~ 2028.02.29
1.5억원
1.5억원
기초연구
대학
울산광역시 울주군
정보/통신 > 정보이론 > 인공지능
본 연구과제의 최종 목표는 민감 데이터를 활용하는 AI 시스템에서 프라이버시, 보안, 유용성을 동시에 만족시키는 신뢰할 수 있는 학습 기술 및 안전성 평가 프레임워크를 개발하는 데에 있음. 이를 통해 민감 정보를 효과적으로 활용하기 위한 전이 학습이나 분산 학습 환경에서 데이터를 안전하게 활용할 수 있는 기반 기술을 마련하고, AI 시스템의 성능과 신뢰성을 보장할 ...
... 기억되는 위험을 평가하여 모형 활용 시에 일반화 성능을 저하하지 않으면서 데이터 프라이버시를 강화하는 방법론을 개발할 예정임. 또한 2차년도에는 학습된 모형에 집중하여 프라이버시 보호와 보안 강화를 위한 Backdoor 및 Poisoning 공격 방지를 위한 연구를 수행하여 Poisoning 공격 대응 과정에서 발생할 수 있는 편향을 평가하고 공정성을 향상시킬 수 있는 기술과 함께 Backdoor ...
프라이버시 보호와 보안 위협에 강건한 인공지능 기술에 대한 필요성이 점차 증가하고 있음에도, 데이터 유출 방지, 협동 학습 환경의 무결성 및 공정성 강화, 워터마크 기반 소유권 검증 ... 보호하면서도 AI 기반 진단 시스템과 원격의료 기술 도입을 지원할 수 있음. 의료 분야에서 강력한 보안 기술의 적용은 사이버 공격과 보안 침해에 대응하여 민감한 환자 정보를 안전하게 보호할 수 있을 ...