[지디넷코리아]레드햇이 인공지능(AI) 정책과 실제 운영 시스템 간극을 줄이기 위한 오픈소스 협업 체계를 구축했다. 레드햇은 AI 안전과 거버넌스 절차를 자동화하는 오픈소스 커뮤니티 프로젝트 '아사고'를 출범했다고 5일 밝혔다. 아사고는 엔지니어링팀과 컴플라이언스팀에 분산된 절차와 도구를 한 워크플로로 연결하는 것을 목표로 한다.
아사고는 기업과 규제기관 AI 거버넌스 정책을 분석한 뒤 이를 실제 시스템에 적용할 수 있는 리스크 통제 체계로 변환한다. 수작업으로 진행되던 정책 해석과 안전 검토 과정을 자동화해 AI 시스템 운영 준비 기간을 수개월에서 수일로 줄인다는 구상이다.
운영 절차는 리스크 매핑과 평가, 완화, 프로덕션 배포 등 네 단계로 이뤄졌다. 우선 조직 정책 요구사항을 미국 국립표준기술연구소 AI 위험관리 프레임워크와 오왑 대규모 언어모델 톱10, IBM AI 리스크 아틀라스 등 검증된 기준에 연결해 실행 가능한 리스크 프로파일로 만든다.
이후 식별된 위험을 토대로 사용 사례