Mechanistic Discovery of Circuits in Multilingual Large Language Models
이공학학술연구기반구축(R&D) · 박사과정생연구장려금지원
2026년
2340065068
교육부
한국연구재단
한국과학기술원
김민준
1명
2026.09.01 ~ 2027.02.28
2026.09.01 ~ 2028.08.31
1,250만원
1,250만원
기초연구
대학
대전광역시 유성구
정보/통신 > 정보이론 > 프로그래밍 언어/자연어 처리
본 연구의 최종 목표는 다국어 대규모 언어모델(LLM) 내부에서 언어 중립적 회로와 언어 특이적 회로를 체계적으로 분리·식별하고, 이를 기반으로 특정 언어의 지식만을 선택적으로 편집·억제·증강할 수 있는 회로 수준의 지식 제어 프레임워크를 구축하는 것이다. 현재 다국어 LLM은 교차언어 지식 비대칭, 다국어 간섭, 편향 전파 등의 문제를 보이나, 그 내부 ...
본 연구는 탐색, 검증, 제어, 확장의 4단계 파이프라인으로 수행된다. 1단계에서는 다국어 회로 탐색을 수행한다. 기존 영어 사실 회상 벤치마크를 한국어, 중국어, 일본어, 프랑스어, 타밀어로 확장한 다국어 병렬 데이터셋을 구축하고, activation patching과 path patching 기법을 적용하여 각 언어별 사실 회상에 관여하는 내부 구성 요...
본 연구의 성과는 학술적, 실용적, 사회적 측면에서 다양하게 활용될 수 있다. 학술적으로, 연구 단계별로 독립적 논문 발표가 가능하도록 설계되어 있으며, 다국어 회로 탐색 및 인과적 개입 결과를 ACL, EMNLP 등 자연어처리 최상위 학술대회에, 선택적 지식 제어 기법을 NeurIPS, ICLR 등 기계학습 최상위 학술대회에 투고할 계획이다. 구축된 다국...