uLM: KB-Free Micro Language Model
개인기초연구(과기정통부)(R&D) · 우수연구-핵심연구(기본연구B)
2026년
2710111932
과학기술정보통신부
한국연구재단
인하대학교
최동완
5명
2026.09.01 ~ 2027.08.31
2026.09.01 ~ 2029.08.31
6,380만원
6,380만원
기초연구
대학
인천광역시 남구
정보/통신 > 정보이론 > 인공지능
□ 최종목표본 연구의 최종목표는 이미 학습된 거대 언어모델(LLM)의 파라미터 내부에 저장된 방대한 사실적 지식을 구조적으로 약화·제거하고, 문장 구성, 구문 처리, 대화 흐름, 문맥 통합 등 기본 언어능력만을 보존한 초소형 언어엔진 MicroLM(μLM)을 개발하는 것이다. 기존 LLM은 사실 지식과 언어능력이 하나의 거대 파라미터 공간에 결합되어 있어 ...
□ 본 연구는 3개년에 걸쳐 LLM 내부 구조 분석, KB-Free μLM 구축, 외부 KB 연동 실증의 단계로 추진된다.(1차년도) 1차년도에는 7B급 오픈소스 LLM을 대상으로 계층별·영역별 기능 분석을 수행하여 기본 언어능력과 사실적 지식이 발현되는 표현 공간을 규명한다. 문장 구성, 유창성, 의미적 일관성 등 언어능력 지표와 범용·도메인 QA 기반 ...
... IoT 기기, 로봇 등 제한된 연산환경에서도 실시간 언어처리가 가능하여, 차세대 온디바이스 AI 핵심 모듈로 활용될 수 있다. 본 과제는 산업체 파트너(㈜와이닷츠)의 발달장애 아동 로봇 플랫폼과 연계될 예정으로, μLM의 온디바이스 실적용 사례를 확보한다.(지식 업데이트·삭제가 빈번한 서비스) μLM-KB 분업 구조에서는 지식이 모델 외부에 존재하므로, 개인정보 삭제·정책 변화·최신 ...