Development of a Shared Latent Subspace-based Nested LLM Architecture for Dynamic On-device Inference
개인기초연구(과기정통부)(R&D) · 우수연구-핵심연구(기본연구B)
2026년
2710112145
과학기술정보통신부
한국연구재단
대구경북과학기술원
소진현
2명
2026.09.01 ~ 2027.08.31
2026.09.01 ~ 2030.08.31
6,494만원
6,494만원
기초연구
대학
대구광역시 달성군
정보/통신 > 정보이론 > 인공지능
본 연구의 최종 목표는 온디바이스 환경에서 대규모 언어모델(LLM)이 요구되는 정확도, 처리속도(throughput), 전력 및 열(thermal) 제약을 동시에 만족할 수 있도록, 공유 잠재 서브스페이스(shared latent subspace)에 기반한 Nested LLM 구조와 이를 활용한 동적 추론(dynamic inference) 프레임워크를 확립...
본 연구는 온디바이스 환경에서 대규모 언어모델(LLM)의 성능과 효율을 동시에 달성하기 위해, 두 개의 연구 축을 병렬적으로 추진하는 단계적 연구로 구성된다. 첫 번째 축은 LLM의 구조적 학습 방법론(모델 축)이며, 두 번째 축은 온디바이스 환경에 특화된 동적 추론 및 자원 적응형 실행 프레임워크(시스템 축)이다. 본 연구는 두 연구 축을 전 기간에 걸쳐...
... 단계에서는 고차원 추론을 선택적으로 수행하도록 함으로써, 제한된 연산 자원 하에서도 신뢰 가능한 지능 행동을 가능하게 한다. 나아가 모바일-서버 협력 추론 구조로 확장가능하여 현장 단말과 클라우드 간 역할 분담을 통해 실시간성과 지능 수준을 동시에 확보하는 Physical AI 시스템의 핵심 구성요소로 활용될 수 있다.2) 기대효과본 연구는 LLM의 규모 및 성능을 단순히 키우는 ...