[서울=뉴스핌] 심재민 인턴기자 = 카카오가 인공지능안전연구소와 인공지능(AI) 모델 및 에이전트의 안전성 평가 체계를 공동 구축한다.

카카오는 지난 28일 인공지능안전연구소와 AI 안전성 공동 평가 및 평가 체계 구축을 위한 전략적 업무협약(MOU)을 체결했다고 29일 밝혔다.

이번 협약에 따라 카카오는 안전성 평가 대상인 자사 AI 모델과 AI 에이전트를 제공하고 평가와 도구 개발에 필요한 인프라를 지원한다. 인공지능안전연구소는 평가 수행과 방법론 고도화를 담당한다.

양사는 평가 결과를 공동 검토하고 공개 범위를 협의하는 한편, AI 안전성 평가도구 개발에도 협력할 예정이다.

협력은 총 3단계로 진행된다. 먼저 언어모델을 대상으로 배포 전후 안전성 평가를 수행한 뒤 멀티모달 언어모델과 AI 에이전트로 평가 범위를 확대한다. 이후 AI 모델과 에이전트의 안전성을 검증할 수 있는 평가도구를 공동 개발할 계획이다.

카카오는 지난해에도 인공지능안전연구소와 자체 언어모델 'Kanana-1.5-9.8B'를 대상으로 공동 안전성 평가를 진행했다.

김명주 인공지능안전연구소장은 "AI 기술이 고도화될수록 잠재적 위험을 사전에 식별하고 평가하는 체계가 중요하다"며 "카카오와 AI 안전성 평가 체계 구축에 협력하겠다"고 말했다.

flurry327@newspim.com