카카오, AI 안전 연구소와 AI 안전 평가 프레임워크 구축 MOU 체결

카카오는 AI 안전 연구소와 AI 안전 평가를 위한 포괄적인 프레임워크 개발을 위한 양해각서(MOU)를 체결했습니다. 이번 협력은 AI 기술과 관련된 위험을 식별하기 위한 체계적인 접근 방식을 만드는 것을 목표로 합니다.

이번 파트너십은 공동 안전 평가 및 글로벌 기준에 부합하는 평가 도구 개발을 포함합니다. 카카오는 평가를 위해 자사의 AI 모델과 에이전트를 제공하고, AI 안전 연구소는 평가 방법론을 개선할 책임을 집니다.

이 이니셔티브는 세 단계로 진행되며, 첫 번째 단계는 언어 모델의 안전 평가를 포함하고, 그 다음은 다중 모달 모델 및 AI 에이전트로 범위를 확장합니다. 마지막 단계에서는 두 기관이 AI 안전 검증을 위한 효율적인 평가 도구를 함께 개발할 것입니다.

카카오의 AI 시너지 성과 리더인 김세웅은 "우리는 안전과 신뢰를 우선시하는 AI 모델과 서비스를 제공하기 위해 계속 노력할 것"이라고 강조했습니다.

AI 기술이 발전함에 따라 잠재적 위험을 사전에 평가하는 필요성이 점점 더 중요해지고 있습니다. AI 안전 연구소의 김명주 소장은 이러한 점을 강조하며 강력한 평가 프레임워크 구축에 대한 의지를 밝혔습니다.