Single Backbone-Based Retrieval Augmented Generation Model with Enhanced Accuracy and Efficiency
이공학학술연구기반구축(R&D) · 석사과정생연구장려금지원
2026년
2340066337
교육부
한국연구재단
한양대학교산학협력단
정지홍
1명
2026.09.01 ~ 2027.08.31
2026.09.01 ~ 2027.08.31
1,200만원
1,200만원
기초연구
대학
서울특별시 성동구
정보/통신 > 정보이론 > 인공지능
본 연구는 외부 지식 탐색과 논리적 추론 과정이 분리되어 있던 기존 RAG의 구조적 한계를 극복하여, 탐색과 추론을 단일 지식 체계 내에서 수행하는 연결성 있는 자기완결적 RAG 시스템 구축을 목표로 한다. 이를 위해 다음의 세부 목표들을 달성하고자 한다.- LLM기반 검색 모델의 다양한 레이어를 효과적으로 활용하면서, 깊은 레이어에서 발생하는 rank c...
기존의 단방향 어텐션만을 가지고 사전 학습된 오픈 소스 LLM 모델에 양방향 어텐션을 추가하고, masked next token prediction (MNTP)에 대한 학습을 진행해 해당 모델이 양방향 어텐션을 활용할 수 있도록 한다. 이후 질문-문서 쌍을 해당 모델에 통과시켜 각 레이어에서의 출력값을 mean pooling한 벡터를 얻는다. 마지막 레이어...
본 연구를 통해 개발될 통합형 LLM-RAG 모델은 높은 정확도와 빠른 추론이 필요한 전문 지식 서비스 분야에 활용될 수 있다. 법률, 금융, 의료 등 거대한 지식 베이스에서 정확한 근거를 찾아 답변을 해야하는 영역에서 신뢰성 높은 의사 결정 도구로서 기능할 것이다. 또한, 모바일 기기나 저용량 컴퓨팅 환경처럼 메모리 자원이 한정적인 상황에서도 강력한 추론...