Causal Shadow Framework for Detection of Covert Collusion in Cross-Domain Multi-Agent LLM Systems
이공학학술연구기반구축(R&D) · 기본연구B(포용형)
2026년
2340064190
교육부
한국연구재단
한경국립대학교산학협력단
BASAK MAINAK
1명
2026.09.01 ~ 2027.02.28
2026.09.01 ~ 2029.08.31
3,000만원
3,000만원
기초연구
대학
경기도 안성시
정보/통신 > 정보보호 > 네트워크 시스템 보안
1. 최종목표- 완벽하게 은닉된(ε=0) 스테가노그래피 채널을 포함하여, 교차 도메인 다중 에이전트 LLM 시스템 내의 은닉 공모에 대해 증명 가능한 탐지 보장을 제공하는 최초의 방어 아키텍처인 CAUSAL SHADOW를 설계, 공식 검증, 구현 및 평가2. 연구세부목표(이중 모드 인과 영향 그래프, DM-CIG) 화이트박스(주의 집중 흐름) 및 블랙박스(...
- CAUSAL SHADOW는 크로스 도메인 다중 에이전트 LLM 시스템에서의 은밀한 공모를 탐지하기 위한 4계층 방어 아키텍처로, 수동적 관찰만으로는 탐지 불가능한 완전 은폐형(ε=0) 스테가노그래픽 채널까지 포함한 증명 가능한 탐지 보장 제공- 네 계층이 단계적으로 확대되어 전체 지연 100ms 이하 및 성능 저하 2% 이하를 달성하며, 모듈식 설계로 ...
1. 학술적 기여- AI 안전성: 본 연구는 증명 가능한 탐지 보장을 제공하여 의미론적 스테가노그래피 공모에 대응하는 최초의 방어 체계 연구라고 볼 수 있으며, 이를 통해 개입적 탐지 패러다임과 분할 지식 카르텔 공식화는 다중 에이전트 보안 커뮤니티에 새로운 체계를 제시함- 정보이론: 고전적인 정보이론을 자연어 보안에 새롭게 적용하여, 공모 탐지 맥락을 넘...