Development of Forensic Technologies for On-Premise AI Models
사이버수사지원기술개발(R&D) · 로컬환경 인공지능모델 대상 포렌식기술 개발
2026년
2320000445
경찰청
과학치안진흥센터
연세대학교산학협력단
권태경
32명
2026.04.01 ~ 2026.12.31
2026.04.01 ~ 2029.12.31
12억원
12.3억원
응용연구
대학
서울특별시 서대문구
정보/통신 > 정보보호 > 공통 보안기술
- 온프레미스 환경에서 운영되는 인공지능 모델을 대상으로 공격 분석 기술 및 포렌식 기술과 프레임워크를 개발하고 검증- [인공지능 모델 공격 분석 기술 개발] 온프레미스 인공지능 모델 구조 분석 및 정의, 인공지능 모델 추출·복원 공격 분석 기술, 데이터 오염 공격 분석 기술, 모델 회피 공격 분석 기술, 모델 데이터 탈취, 프라이버시 침해 공격 분석기술,...
... 분석을 결합한 통합 분석 모듈 구축- [인공지능 모델 포렌식 기술 검증] 모델 공격 및 포렌식 기술 검증을 위한 테스트베드 설계와 표준·문헌조사, 온프레미스 AI 모델 보안성과 신뢰성 검증 기준 및 가이드라인 초안을 마련. 이 기반을 바탕으로 개별 모듈 수준의 테스트베드를 구축하고 취약점·포렌식 기술에 대한 핵심 평가 항목과 검증 가이드라인의 보완 및 개선
... 서비스 및 산업 현장에서 운영되는 인공지능 모델의 무결성 검증, 데이터 출처 추적, 공급망 보안 점검 등 지원, AI 신뢰성 확보를 위한 감사·검증 체계 구축 및 관련 법·제도 대응 기술로 ... 조작하고 악용한 새로운 범죄에 대한 경찰의 수사 역량 증강 - (경제적 효과) 인공지능 포렌식, 사이버보안 전문가 등의 직종에서 새로운 일자리 수요가 발생하여서, 고용 기회를 확대하여 경제 활성화에도 ...