Development of prompt injection response and reliability verification technology based on dynamic verification for anonymization and network security enhancement in private LLM environments
중소기업기술혁신개발 · 중소기업기술혁신개발사업(시장확대형_후불형, 전략형)
2025년
2420030948
중소벤처기업부
중소기업기술정보진흥원
(주)세이코어
김성래
12명
2025.09.01 ~ 2027.08.31
2025.09.01 ~ 2027.08.31
9,500만원
2.7억원
개발연구
중소기업
서울특별시 구로구
정보/통신 > 정보보호 > 네트워크 시스템 보안
...즈니스,?의료,?금융,?교육?등?여러?도메인에서?LLM이?사용되면서?기업?및?개인정보?유출,?윤리?문제,?정보?조작,?인권?침해,?사이버?보안?취약점,?국가?안보?위협?등?다양한?보안?문제가?대두되고?있으며,?이에?LLM?보안의?필요성이?더욱?강조되고?있음.-?전?세계적으로?인공지능?보안에?대한?관심이?높아지는?가운데,?최근?몇몇?불완전한?보안시스템을?가...
...탐지?및?차단3.?사후?필터링?설계?:?최종단계에서?검토?및?개선?작업을?통해?경고?기준?총족?실패시,?경고?발생?또는?수정된?응답?제공.?1)?응답?안전성?검증,?2)?다중?모델?검증-?인공지능?통합?및?신뢰성?도구?개발1.?검증?시스템?통합2.?테스트?및?평가(통합?보안?및?검증?솔루션?개발)-?통합?보안?프레임워크?설계1.?시스템?설계2.?시스템?구축
1.?기술적?기대효과?①?본?기술은?프롬프트?인젝션?공격을?실시간으로?탐지하고?차단하는?기능을?제공하여,?LLM의?보안성을?획기적으로?개선할?수?있음.?②?AI?모델이?생성하는?응답을?동적?검증?시스템을?통해?실시간?평가?및?필터링함으로써,?불확실한?정보를?차단하고?신뢰성?높은?결과만을?사용자에게?제공할?수?있음.?③보안?위협이?탐지될?경우?즉시?차단하는?...