Development of Multi-Condition Vulnerability Diagnosis and Vaccine Data-Based Neuron-Level Self-Improvement for Reliable Medical AI
개인기초연구(과기정통부)(R&D) · 우수연구-핵심연구(기본연구A)
2026년
2710113972
과학기술정보통신부
한국연구재단
서울과학기술대학교산학협력단
이홍주
1명
2026.09.01 ~ 2027.08.31
2026.09.01 ~ 2029.08.31
4,560만원
4,560만원
기초연구
대학
서울특별시 노원구
정보/통신 > 정보이론 > 인공지능
- 본 연구의 최종 목표는 실제 임상 환경에서 발생할 수 있는 의료 인공지능(AI) 모델의 복합적인 예측 실패 요인을 선제적으로 파악하고, 이를 안전하게 지속 보완할 수 있는 다중 조건 취약성 진단 및 백신 데이터 기반 뉴런 교정형 자가발전 프레임워크를 개발하는 것임.- 이를 위해 1) 다중 조건 기반 취약성 진단 및 Shapley Value 기반 취약 ...
본 연구는 기존 의료영상 AI의 무작위 데이터 증강 및 블랙박스식 모델 업데이트가 가지는 한계를 극복하기 위해, 뉴런 단위의 해석과 표적 교정을 융합한 핵심 기술을 개발함. 구체적으로 (1) 데이터 품질, 병변 특성, 도메인 변화가 결합된 다중 조건 평가 데이터를 능동적으로 생성하여 모델 내부의 취약 뉴런을 식별하고, (2) 해당 뉴런의 약점을 직접적으로 ...
... 연구에서 개발되는 다중 조건 취약성 진단 및 뉴런 교정형 자가발전 프레임워크는 실제 임상 현장에 배포된 상용 의료 AI 모델의 성능 저하를 지속적으로 모니터링하고 보완하는 유지보수 소프트웨어로 직접 활용될 수 있다. 특히, 병원에 새로운 장비가 도입되거나 타 기관으로 시스템을 확장할 때, 모델 전체를 재학습할 필요 없이 새로운 환경에 대해서 취약한 부분만 병원 맞춤형으로 안전하게 ...