Development of Distributed and Hybrid GPU-Based Adaptive Infrastructure for Memory-Efficient Large AI Model Inference
중소기업기술혁신개발(R&D) · ★중소기업기술혁신개발사업(글로벌선도기술개발_글로벌협력형)
2026년
2420033703
중소벤처기업부
중소기업기술정보진흥원
주식회사 에이아이브
박세진
10명
2026.07.01 ~ 2026.12.31
2026.07.01 ~ 2026.12.31
1.1억원
1.3억원
응용연구
중소기업
대구광역시 수성구
정보/통신 > 정보이론 > Cloud computing/Grid computing
[과제 개요]- RPI-020과 에이아이브 분산, 하이브리드 GPU 인프라를 결합한 대형모델 추론 인프라 사전검증: 본 과제는 RPI의 메모리 효율적 추론 기술과 에이아이브의 Air Cloud, Air API, Air Container 기반 인프라를 결합하여, 비용 제약형 GPU 환경에서도 대형 AI 모델을 효율적으로 서비스할 수 있는 배포형 추론 인프라의...
[기술 과제 진술]- RPI-020과 에이아이브 인프라를 결합한 대형모델 추론 인프라 제품화 검증: 본 과제는 RPI의 메모리 효율적 추론 기술(RPI-020)과 에이아이브의 Air Cloud, Air API, Air Container 기반 분산, 하이브리드 AI 추론 인프라를 결합하여, 비용 제약형 GPU 환경에서도 대형 AI 모델을 효율적으로 서비스할 ...
... 컨텍스트 확장, 처리량 개선 등 대형모델 추론 성능개선 가능성 검토: RPI-020의 메모리 사용량 40-70% 절감, 동일 하드웨어에서 2-4배 수준의 장문맥 지원, 처리량 개선, 클라우드, 온프레미스, 하이브리드 환경 호환성 목표를 에이아이브 인프라 환경에서 검토할 평가 기반을 마련함.- AICC 실증 시나리오와 2·3차년도 본연구, 제품화 로드맵 확보: AICC 상담요약, ...