Training-Free LLM Watermarking and Detection Using Linear Projection of Hidden Representation Perturbations Based on Linear LM Head Structure
개인기초연구(과기정통부)(R&D) · 우수연구-신진연구(유형A)
2026년
2710106678
과학기술정보통신부
한국연구재단
세명대학교
이수안
2명
2026.03.01 ~ 2027.02.28
2026.03.01 ~ 2029.02.28
8,919만원
8,919만원
기초연구
대학
기타 기타
정보/통신 > 정보이론 > 데이터베이스
... 제한되지만, 전체 시퀀스에서는 통계적 검정력으로 확실히 복구 가능하도록 하여, 낮은 오탐률 조건에서도 높은 검출력을 달성하는 것을 목표로 한다.최종적으로 본 과제는 효과성, 충실도, 강건성, 보안성, 효율성을 동시에 충족하는 워터마킹 체계를 확립한다. 효과성 측면에서는 제어된 오탐률에서 높은 AUC와 검출력을 확보하고, 특히 1000 토큰 수준에서 실서비스에 요구되는 신뢰도를 보장한다. ...
연구개발은 이론 정립 → 삽입 알고리즘 설계 → 탐지 알고리즘 구현 → 공격·벤치마크 검증 → 공개·표준화의 흐름으로 구성한다. 먼저 이론 측면에서 현대 LLM의 출력 로짓이 은닉 상태와 선형 헤드의 곱으로 표현된다는 점에 주목하고, 섭동이 로짓 분포에 어떤 방식으로 전파되는지 분석한다. 이를 위해 다양한 오픈소스 LLM에서 출력층 파라미터의 스펙트럼 특성...
... 관리하는 도구로 활용되어 학술적 진실성 확보에 기여한다. 미디어 분야에서는 기사·칼럼·댓글 등에서 AI 생성 콘텐츠를 식별함으로써 허위정보 확산 대응과 플랫폼 신뢰성 강화에 활용될 수 있다. 사이버보안 분야에서는 피싱 메시지나 사기성 문구가 생성형 모델에서 유래했는지 판단하는 단서로 적용 가능하며, 법률·규제 분야에서는 AI 생성물 라벨링 의무나 투명성 요구를 기술적으로 뒷받침하는 핵심 수단이 ...