Developing Scalable Algorithms for Efficient AI Foundation Models
개인기초연구(과기정통부)(R&D) · 우수연구-핵심연구(전략형)
2026년
2710111423
과학기술정보통신부
한국연구재단
한국과학기술원
한인수
5명
2026.09.01 ~ 2027.08.31
2025.09.01 ~ 2028.08.31
1.9억원
1.9억원
개발연구
대학
대전광역시 유성구
정보/통신 > 정보이론 > 인공지능
본 연구의 최종 목표는 초거대 AI 파운데이션 모델의 학습 및 추론 과정에서 발생하는 막대한 연산 및 메모리 비용을 근본적으로 절감함으로써, 고성능 AI 기술을 다양한 환경에 실용적으로 적용할 수 있도록 하는 연산 효율화 기술 및 소프트웨어 프레임워크를 개발하는 것이다. 현재 파운데이션 모델은 자연어 처리, 이미지 생성, 다중모달 인식 등 다양한 분야에서 ...
... 지표에 기반하여 더 효율적인 layer exit 및 speculative decoding 전략을 수립한다.3차년도에는 모든 기술을 통합하여 실시간 생성 환경에 맞는 추론 엔진으로 구축하고, 클라우드 및 엣지 환경에서 성능을 실측 평가한다. CUDA 기반 커널 최적화 및 성능 분석을 병행하며, 다양한 모델과 task에서 latency, throughput, memory usage 등의 ...
... 첫째, 본 과제를 통해 개발되는 경량화 알고리즘은 고가의 연산 자원을 요구하던 기존 LLM 기반 서비스의 인프라 비용을 50% 이상 절감할 수 있다. GPU/TPU 자원의 소비 감소는 클라우드 기반 AI 기업에게 직접적인 경제적 이익을 제공하며, 대규모 모델을 자체적으로 운영하고자 하는 중소기업이나 공공기관의 진입 장벽을 획기적으로 낮출 수 있다.둘째, 경량화된 LLM은 모바일, ...