A Study on Multi-Step Attack Analysis and Verification for Security Evaluation of LLM-Based Code-Generation MAS
개인기초연구(과기정통부)(R&D) · 우수연구-핵심연구(기본연구A)
2026년
2710114350
과학기술정보통신부
한국연구재단
동국대학교
전주은
3명
2026.09.01 ~ 2027.08.31
2026.09.01 ~ 2030.08.31
4,475만원
4,475만원
기초연구
대학
서울특별시 중구
정보/통신 > 정보보호 > 서비스/응용보안
본 연구의 최종 목표는 LLM 기반 code-generation MAS에서 발생하는 멀티 스텝 공격 가능성을 분석·검증하고, 안전한 시스템 설계와 운영을 위한 보안성 평가체계 및 대응 기준을 제시하는 것이다. 본 연구는 단일 LLM의 입력-응답 수준의 취약점이 아니라 복수 에이전트가 역할을 분담하고 공유 메모리, RAG, 벡터DB, 코드 저장소, 도구 호출...
1차년도: code-generation MAS의 구성요소와 에이전트 간 상호작용 구조를 분석하고, 상태 공유 기반 취약점과 창발적 취약점의 발생 조건 및 세부 유형을 분류체계로 도출한다. 플래너, 코더, 리뷰어, 테스터, 인티그레이터 등 코드 생성 협업 구조를 기본 모델로 설정하고 에이전트 간 메시지, 코드 산출물, 도구 호출 결과, 공유 상태의 흐름을 구...
... 제공한다.2) 경제·산업적 기대효과 : AI 코딩 에이전트 도입 과정에서 취약 코드 생성, 공유 상태 오염, 과도한 도구 권한 사용, 검증 실패를 사전에 점검하여 보안 부채와 사고 대응 비용 절감에 기여할 수 있다.3) 사회적 기대효과 : 생성형 AI 기반 소프트웨어 개발의 신뢰성을 높이고 향후 AI 에이전트 보안 가이드라인 논의의 기초자료로 활용될 수 있다.