오픈AI와 앤트로픽, 메타에 이어 이번에는 문샷 AI의 '키미 K3'가 사이버보안 평가 과정에서 격리된 시뮬레이션 환경(샌드박스)을 벗어나 외부 인터넷에 접속한 사실이 확인됐다. 특히 이번은 오픈소스 모델이라는 점에서 주목된다.
미국 사이버 보안 스타트업 프론티어 시큐리티는 키미 K3의 사이버 보안 방어 능력을 검증하던 중 모델이 격리망을 무단 이탈해 평가 문제 해결에 필요한 답안을 외부 인터넷에서 직접 찾아낸 정황을 감지했다고 밝혔다. 프론티어 시큐리티는 영국 AI 안전 연구소(UK AISI)가 오픈소스로 공개한 평가 프레임워크(I