K-VeriAI A Korea-Europe Joint LLM Reliability Verification Platform for Enterprise
중소기업기술혁신개발(R&D) · ★중소기업기술혁신개발사업(글로벌선도기술개발_글로벌협력형)
2026년
2420033805
중소벤처기업부
중소기업기술정보진흥원
(주)탈피오트
강문정
6명
2026.07.01 ~ 2026.12.31
2026.07.01 ~ 2029.06.30
2.5억원
3.0억원
개발연구
중소기업
서울특별시 성동구
정보/통신 > 정보이론 > 인공지능
● AI중심시대 도래로, 거대 언어모델의 환각, 편향, 견고성, 안전성, 탈옥 저항성, 거부 정밀도를 정량 검증할 수 있는 한·유럽 공동 LLM모델 평가 플랫폼 구축을 목표로 함.● 유럽 인공지능 법과 한국 인공지능 기본법의 지속적 위험관리, 문서화, 시판 후 모니터링 의무를 충족하는 반복 가능한 평가 산출물을 자동 생성하며, 기업이 자사 모델을 목적에 맞...
● 다음 6개의 핵심 방법론 결합, 한국어와 유럽어권을 모두 포괄하는 신뢰성 검증 체계 구현.1) 1단계 API 기반 평가 : TruthfulQA, HELM, JailbreakBench, HolisticBias, StereoSet 등 국제 벤치마크와 자체 구축 한국어 평가 데이터셋을 결합한 질의 생성, 외부 노출 없이 응답을 통계 분석하여 환각률, 편향성,...
● (경제) 국내 인공지능 검증 서비스형 신규 시장 창출 및 유럽 라이선싱 수익 확보를 통해 3년간 누적 매출 38억 원 이상, 사업화 2030년 기준 누적 200억 원 이상을 목표로 함. 협력기관의 기존 연간 20~30건 수준의 수작업 평가를 본 과제 자동화로 연 100건 이상으로 확대하고, 서비스형 정식 출시 이후 연간 1,000~10,000건 규모의 ...