Integrated Resource Management and Adaptive Execution System for Efficient On-Device Retrieval-Augmented Generation
개인기초연구(과기정통부)(R&D) · 우수연구-핵심연구(기본연구B)
2026년
2710114511
과학기술정보통신부
한국연구재단
경북대학교산학협력단
한명균
8명
2026.09.01 ~ 2027.08.31
2026.09.01 ~ 2029.08.31
6,370만원
6,370만원
기초연구
대학
대구광역시 북구
정보/통신 > 소프트웨어 > 달리 분류되지 않는 소프트웨어
온디바이스 환경에서의 검색 증강 생성(RAG) 기반 지능형 서비스 수요가 빠르게 확대되고 있다. 스마트폰, 태블릿, 웨어러블 디바이스의 성능과 저장 용량이 향상되면서 문자, 이메일, 웹 기록, 메모 등 다양한 개인 데이터가 디바이스 내부에 축적되고 있으며, 사용자는 이를 외부 서버로 전송하지 않고도 디바이스 자체에서 실시간 검색·요약·질의응답과 같은 지능형...
본 연구의 최종 목표는 고효율 온디바이스 RAG를 위한 벡터 DB-LLM 통합 자원 관리 및 적응형 실행 시스템 연구 및 개발이다.최종 목표를 성공적으로 달성하기 위해, 총 연구 기간 3년에 걸쳐 연구 개발을 수행하고자 한다.1차년도: 벡터 DB-LLM 통합 메모리 관리 기법 연구- 온디바이스 RAG 메모리 사용 특성 분석 및 모델링- 벡터 DB-LLM 협...
... 프로세서 실행 가속, 실시간 적응형 자원 관리 기술을 제시하여 삼성전자 등 국내 기업의 온디바이스 생성형 AI 경쟁력 확보에 기여할 것으로 기대됨.- 사회적 측면: 온디바이스 RAG는 데이터를 클라우드로 전송하지 않고 디바이스 내에서 처리함으로써 개인정보 유출 위험을 줄일 수 있음. 또한 네트워크 트래픽 감소를 통해 에너지 소비와 탄소 배출 저감에도 기여할 것으로 기대됨.- 학문적 측면: ...