Development of the high accurate real-time lightweight detection and defense system for prompt injection attacks on large language models
개인기초연구(과기정통부)(R&D) · 우수연구-핵심연구(유형A)
2026년
2710112292
과학기술정보통신부
한국연구재단
영남대학교
박우길
5명
2026.09.01 ~ 2027.08.31
2025.09.01 ~ 2028.08.31
6,356만원
6,356만원
기초연구
대학
경상북도 경산시
정보/통신 > 정보보호 > 네트워크 시스템 보안
본 연구는 대형 언어 모델(LLM)에 대한 프롬프트 주입 공격을 높은 정확도로 실시간으로 탐지하고 방어할 수 있는 경량 시스템을 개발하는 것을 목표로 함.● 이를 위해 모델의 특성에 따라 최적화된 프롬프트 주입 공격에 강인한 시큐어 프롬프트 구조를 적응적으로 찾는 자동화 알고리즘을 구현함.● 다양한 프롬프트 주입 공격을 정확하게 탐지하기 위해 입력 프롬프트...
(1) 연구 내용● 본 연구는 총 3단계의 세부 과정을 통해 세부 요소기술을 개발하고 이를 통합함으로써 프롬프트 주입 공격을 실시간으로 탐지하고 방지하는 시스템을 구축함.● 1단계에서 모델의 특성에 따라 최적화된 프롬프트 주입 공격에 강인한 시큐어 프롬프트 구조를 모델과 상호 연동을 통해 적응적으로 구현하는 자동화 방법을 연구함. 모델마다 최적의 시스템 프...
... 계획■ LLM에 대한 프롬프트 주입 공격 탐지를 위한 통합 시스템 개발을 통해 국내 정보 보안 기술의 시장 경쟁력을 크게 개선하는데 많은 도움이 될 수 있음.■ 현재 국내 지능형 정보 보안 ... 양성함으로써 사회의 중요 정보들과 자산을 안전하게 지켜 사회의 안녕과 발전의 초석을 마련함.● 사이버공격이 사이버전쟁으로 확장되고 있어 물리적인 국경이 아닌 사이버 국경을 지키며 국가경쟁력을 유지, ...