Development of a Mamba-attention Hybrid DNA Foundation Model
이공학학술연구기반구축(R&D) · 기본연구B(포용형)
2026년
2340064162
교육부
한국연구재단
충북대학교
박영준
3명
2026.09.01 ~ 2027.02.28
2026.09.01 ~ 2029.08.31
3,000만원
3,000만원
기초연구
대학
충청북도 청주시
정보/통신 > 정보이론 > 인공지능
본 연구의 최종 목표는 Mamba와 attention을 융합한 새로운 하이브리드 DNA 파운데이션 모델을 개발하여, 긴 DNA 서열에서 국소적 서열 패턴과 장거리 문맥 정보를 동시에 효과적으로 학습할 수 있는 범용 유전체 표현학습 기반 기술을 확립하는 것이다. 이를 위하여, 본 연구에서는 서열 내 인접 정보를 처리하는 local-zone self-atten...
본 연구는 3개 연차로 구성된다.1차년도에는 공개 유전체 데이터를 활용한 사전학습용 데이터셋 및 전처리 파이프라인을 구축하고, DNA 서열에 적합한 입력 체계를 확립한다. 또한 DNA 서열의 국소 motif 정보와 장거리 문맥 정보를 동시에 반영할 수 있도록 Mamba와 attention블록을 게이팅 구조로 결합한 하이브리드 아키텍처를 설계하고, 초기 프로...
본 연구를 통해 개발되는 Mamba-attention 하이브리드 DNA 파운데이션 모델은 스플라이싱 위치 예측, 프로모터 및 조절서열 분류, 후성유전학 마커 예측, 기능성 변이 효과 예측 등 다양한 유전체 응용 문제에 활용될 수 있다. 또한 대규모 유전체 서열에 대한 자기지도학습 기반 표현을 제공함으로써, 적은 양의 라벨 데이터만으로도 효과적인 fine-t...