Context-Conditioned Weight Steering Vector Composition for Controllable Alignment of On-device Language Models
개인기초연구(과기정통부)(R&D) · 우수연구-핵심연구(기본연구A)
2026년
2710114099
과학기술정보통신부
한국연구재단
고려사이버대학교 산학협력단
이규정
1명
2026.09.01 ~ 2027.08.31
2026.09.01 ~ 2027.08.31
4,100만원
4,100만원
응용연구
대학
서울특별시 종로구
정보/통신 > 정보이론 > 인공지능
본 연구는 입력 맥락을 조건으로 다수의 가중치 조향벡터의 조합 비율을 동적으로 산출하여 언어모델의 정렬을 제어하는 방법론의 설계·검증을 목표로 함. 특히, 온디바이스 환경의 제약사항을 고려한 LoRA 어댑터 기반 가중치 조향벡터 적용 가능성을 검증하여 온디바이스 언어모델을 다양한 도메인과 과업에 유연하게 적용할 수 있는 기술적 기반을 제공하고자 함. 본 연...
... 조향벡터 조합비율 산출 매핑모델]가) 입력 맥락에 따라 2개의 앵커 조향벡터의 최적 조합 비율을 산출하는 매핑 모델 학습을 목표로 함.나) 매핑 모델은 입력 맥락을 2차원 벡터로 변환하는 인공신경망으로, 다음과 같이 학습함. - 학습데이터: 공감과 직언 복합적으로 요구되는 다양한 맥락과 답변을 LLM 기반으로 생성하고 각 답변의 공감·직언 점수를 LLM-as-a-judge 방식으로 ...
1) 연구과제의 활용계획 가. 본 연구를 통해 정립한 언어모델의 맥락 조건부 동적 가중치 조향기법을 AI 탑티어 학회(ICLR 등)에 게재하고 온디바이스 환경에 특화하여 국내외 특허 출원 예정임. 나. 해당 기술은 다양한 AI 기기(스마트폰, 웨어러블 등)에 배포된 언어모델의 온디바이스 정렬 조정 기술로 활용이 가능하며, 다양한 도메인에서 AI 안전...