QoS Compiler for Multi-Tenant Deep Learning Applications
개인기초연구(과기정통부)(R&D) · 우수연구-핵심연구(전략형)
2026년
2710111428
과학기술정보통신부
한국연구재단
성균관대학교
한환수
5명
2026.09.01 ~ 2027.08.31
2025.09.01 ~ 2028.08.31
1.9억원
1.9억원
기초연구
대학
서울특별시 종로구
정보/통신 > 정보이론 > 컴파일러
본 연구는 “다중-테넌트 딥러닝 응용을 위한 실행 시간-보장 컴파일러”연구 개발을 목표로 함. 컴파일 타임에 딥러닝 응용의 특정 요구사항을 충족할 수 있는 실행 계획을 미리 탐색하고, 런타임에 추론 요청마다 적합한 실행 계획을 적용하는 고성능 경량 QoS 스케줄링을 연구함. 최종적으로 QoS 컴파일러, 런타임, 스케줄러 개발하여, 기존 온라인 QoS 스케줄...
[실행 분할 방법 연구]딥러닝 추론 작업은 다수의 커널 실행으로 구성되며, 각 커널은 하나 이상의 딥러닝 연산자를 포함함. 본 연구에서는 하나의 커널 실행을 데이터, 텐서, 명령어, 쓰레드 수준에서 여러 개의 서브 커널로 분할하는 딥러닝 컴파일러 프레임워크를 개발함. 이를 통해 실행 분할 방법별 QoS 효과 및 처리량 효율을 체계적으로 분석하고 연구함.[실...
[클라우드 환경에서 고성능 딥러닝 가속기에서의 고성능 경량 QoS 스케줄링]고성능 딥러닝 가속기에서는 개별 커널의 실행 시간이 절대적으로 짧기 때문에 온라인 스케줄링의 오버헤드가 큰 영향을 주어 성능 저하를 발생할 수 있음. 또한, 단일 추론 모델이 가속기의 자원을 충분히 활용하지 못하기 때문에 시분할 또는 자원 파티셔닝 기반 공간분할 방식과 비교하여 성능 향상을 ...