Efficient LLM Systems for Enhancing Reasoning Capabilities
개인기초연구(과기정통부)(R&D) · 우수연구-핵심연구(기본연구B)
2026년
2710113668
과학기술정보통신부
한국연구재단
고려대학교
안정섭
1명
2026.09.01 ~ 2027.08.31
2026.09.01 ~ 2027.08.31
6,355만원
6,355만원
기초연구
대학
서울특별시 성북구
정보/통신 > 정보이론 > 오퍼레이팅 시스템
본 연구의 최종 목표는 사고(reasoning) 능력을 높이기 위해 필요한 차세대 LLM 서빙 시스템에 대해 연구한다. 추론 시 (test-time/inference-time) 사고 능력을 높이기 위해서는 많은 양의 연산이 필요하다. 따라서, 제한된 컴퓨팅 자원을 효과적으로 사용하는 것이 필수적이다. 본 연구에서는 사고 추론 과정에서 시시각각 변동하는 동적...
본 연구는 사고(reasoning) 중심 LLM을 효율적으로 서빙하기 위한 차세대 시스템 기술을 개발한다. 다수의 사고 경로가 동시에 확장되는 상황에서 각 경로의 길이와 난이도가 달라 GPU 사용 시간이 들쭉날쭉해지는 문제를 해결하기 위해 스케줄링 기법을 연구한다. 모든 사고가 끝날 때까지 기다렸다가 한 번에 검증하는 기존 방식 대신, 단계별로 부분 검증을...
... 사고 중심 LLM 서빙을 위한 스케줄링 기술을 도입한 차세대 서빙 프레임워크와 그 효과를 정량 분석하는 프로파일링·시뮬레이션 도구, 대표 워크로드에 대한 벤치마크 세트를 구축한다. 주요 소프트웨어 구성요소와 벤치마크는 단계적으로 오픈소스로 공개하여 국내외 연구자와 산업계가 쉽게 재사용·확장할 수 있도록 하며 이를 통해 국내 AI 서비스 기업과 스타트업이 고비용 GPU 자원을 보다 효율적으로 ...