Development of Forensic Technologies for On-Device AI Models
사이버수사지원기술개발(R&D) · 로컬환경 인공지능모델 대상 포렌식기술 개발
2026년
2320000441
경찰청
과학치안진흥센터
고려대학교산학협력단
박정흠
53명
2026.04.01 ~ 2026.12.31
2026.04.01 ~ 2029.12.31
8억원
8.3억원
응용연구
대학
서울특별시 성북구
정보/통신 > 정보이론 > 인공지능
온디바이스 환경에서 운영되는 인공지능 모델을 대상으로 공격 분석 기술 및 포렌식 기술과 프레임워크를 개발하고 검증[인공지능 모델 공격 분석 기술 개발] 온디바이스 인공지능 모델 구조 분석 및 정의, 인공지능 모델 추출·복원 공격 분석 기술, 데이터 오염 공격 분석 기술, 모델 회피 공격 분석 기술, 모델 데이터 탈취, 프라이버시 침해 공격 분석기술, 생성형...
... 환경 분석을 결합한 통합 분석 모듈 구축[인공지능 모델 포렌식 기술 검증] 모델 공격 및 포렌식 기술 검증을 위한 테스트베드 설계와 표준·문헌조사, 온디바이스 AI 모델 보안성과 신뢰성 검증 기준 및 가이드라인 초안을 마련. 이 기반을 바탕으로 개별 모듈 수준의 테스트베드를 구축하고 취약점·포렌식 기술에 대한 핵심 평가 항목과 검증 가이드라인의 보완 및 개선
... 인공지능 시스템에서 모델 무결성 검증과 단말 기반 로그를 분석하여 인공지능 모델의 신뢰성과 보안성을 확보하고 기기 보안 점검 및 운영 관리 체계에 활용기대효과- (경찰 수사력 증강) 인공지능 ... 조작하고 악용한 새로운 범죄에 대한 경찰의 수사 역량 증강 - (경제적 효과) 인공지능 포렌식, 사이버보안 전문가 등의 직종에서 새로운 일자리 수요가 발생하여서, 고용 기회를 확대하여 경제 활성화에도 ...