Advanced Post-Training Quantization method for Multimodal Large Language Models
개인기초연구(과기정통부)(R&D) · 우수연구-핵심연구(기본연구A)
2026년
2710113924
과학기술정보통신부
한국연구재단
고려대학교
정원주
5명
2026.09.01 ~ 2027.08.31
2026.09.01 ~ 2029.08.31
4,243만원
4,243만원
기초연구
대학
서울특별시 성북구
정보/통신 > 정보이론 > 인공지능
본 연구의 최종 목표는 VLM의 사후 학습 양자화 (PTQ)기술 고도화를 위하여 모달리티별 이질적 통계 특성을 능동적으로 인지·반영하며 양자화/연산 오버헤드를 최소화하여 저비트W4A6에서 SOTA 성능을 달성 하고 W4A4에서 양자화 가능성을 제시하고자 한다. 거대 언어모델의 경량화의 핵심기술인 양자화는 LLM에서는 고도화된 변환기법을 통하여 W4A4에서...
본 연구는 VLM의 PTQ 양자화 기법의 고도화를 위해, \"토큰 그룹화 → 그룹별 사전변환 → 민감도 추정 → 오차 보상\"의 파이프라인 구조로 여섯 가지 핵심 기법을 개발한다.양자화의 첫 단계는 이질적 토큰의 분리이다. VLM에서는 레이어가 깊어질수록 시각·텍스트 토큰 분포가 혼합되어 인덱스 기반 그룹화가 무의미해진다. 이에 기법 A에서는 2개 주성분 PC...
... 이해, 실시간 번역, 멀티모달 대화 등)를 배포 가능하게 한다. 둘째, 의료 영상 판독, 금융 문서 분석, 보안 영상 모니터링 등 데이터 외부 전송이 제한되는 프라이버시 민감 분야에서 클라우드 없이 로컬 처리가 가능한 MLLM 배포 기반을 제공한다. 2) 연구과제의 기대효과MLLM 양자화 분야에서 국제적 연구 선도 위치를 확보한다. 오픈소스 프레임워크 공개를 통해 국내외 연구 커뮤니티의 ...