Internal Language Model Suppression and External Language Model Fusion for Adapting Transformer-Based Speech Recognition and Translation Models to Terminology-Rich Domains
개인기초연구(과기정통부)(R&D) · 우수연구-핵심연구(기본연구A)
2026년
2710114559
과학기술정보통신부
한국연구재단
조선대학교
이건우
5명
2026.09.01 ~ 2027.08.31
2026.09.01 ~ 2030.08.31
4,580만원
4,580만원
응용연구
대학
광주광역시 동구
전기/전자 > 무기센서 및 제어 > 신호처리
□ 최종 목표 ○ 트랜스포머 기반 음성 인식·번역 모델의 내부 언어 모델(Internal Language Model; ILM) 분리·억제 및 외부 언어 모델(External Language Model; ELM) 단계적 융합 기법 연구/개발을 통한 전문 용어 친화적 음성 인식·번역 기술 개발□ 세부 목표 ○ 음성 인식·번역 모델에서의 ILM 분석·억제 기법 ...
□ ILM 분석·억제 및 음향 기반 도메인 판별 기법 개발 ○ 트랜스포머 ILM 분석 및 단계적 억제 기법 연구 - Decoder layer별 gradient norm 및 attention 측정으로 언어 모델 layer 특정 - Layer 가중치 억제 베이스라인 → Layer-/token-wise gate controller → 추론 시점 동적 meta...
... 일반적인 음성 인식/번역 성능 나타냄 ○ 학술·지식재산 성과 - SCI 5편, KCI 4편, 국제·국내 학술대회 14편, 우수 국제 학술대회 3편 - 특허 등록 2건, 출원 6건, 소프트웨어 등록 6건 - 인재 양성: 석사 3명, 학사 7명□ 활용 계획 ○ 사회적 활용 - 외국인 민원·통역 시스템에 적용하여 법률·의료·행정 등 전문 용어 환경에서 발생하는 언어 장벽 해소 ...