[지디넷코리아]미국 정치권에서 인공지능(AI) 모델에 대한 안전 규제를 서둘러야 한다는 목소리가 커지고 있다.
고도화된 AI 오작동이나 악용 가능성에 대비해 기업 또는 정부가 필요할 경우 해당 시스템을 중단할 수 있는 권한을 하루빨리 갖춰야 한다는 주장이다.7일 CNBC 등 외신에 따르면 테드 리우 미국 하원의원은 'AI 킬 스위치' 법안의 연내 통과 필요성을 공개적으로 제기했다.
AI 킬 스위치 법안은 고위험 AI의 오작동이나 악용에 대비해 기업 또는 정부가 해당 시스템의 작동을 긴급 중단할 수 있도록 하는 안전장치 마련을 골자로 한다.
그는 통제를 벗어나거나 악용 가능성이 확인된 AI 시스템에 대해 기업 또는 정부가 작동을 중단시킬 수 있는 권한을 확보해야 한다고 강조했다.
리우 의원의 발언은 최근 AI 업계에서 잇따라 제기된 '로그 에이전트(rogue agent)' 우려와 맞물려 주목된다. 로그 에이전트는 자율형 AI가 목표를 수행하는 과정에서 허용된 범위를 넘어 시스템 침투, 보안