[지디넷코리아]프랑스 인공지능(AI) 기업 미스트랄AI가 기업별 정책에 맞춰 유해 콘텐츠 판정 기준을 바꿀 수 있는 소형 안전 모델을 공개하며 기업용 AI 시장 공략에 나섰다. 생성형 AI 활용이 업무 에이전트로 확대되면서 모델 성능뿐 아니라 보안과 규제 준수 역량이 주요 경쟁 요소로 떠오르자 안전 모델까지 오픈 웨이트 전략을 넓힌 모습이다.
미스트랄AI는 4일(현지시간) 공식 홈페이지를 통해 30억 개 파라미터 규모의 멀티모달 안전 분류 모델 '실드스트랄(Shieldstral)'을 아파치 2.0 라이선스로 공개했다. 실드스트랄은 텍스트와 이미지, 이용자 프롬프트와 AI 답변을 검사해 특정 안전 정책을 위반하는지를 확률 형태로 제시한다.
실드스트랄은 안전 기준을 모델에 고정하지 않고 추론 시점에 자연어로 입력하도록 설계된 것이 특징이다. 기업이 "이 콘텐츠가 개인정보를 노출하는가", "미성년자에게 보여줘도 안전한 이미지인가"와 같은 질문을 제시하면 해당 기준에 따라 콘텐츠를 판정한다.
기