Kakao e Instituto de Pesquisa em Segurança de IA Colaboram em Estrutura de Avaliação de Segurança de IA

A Kakao assinou um memorando de entendimento (MOU) com o Instituto de Pesquisa em Segurança de IA para desenvolver uma estrutura abrangente para avaliar a segurança da IA. Esta colaboração visa criar uma abordagem sistemática para identificar riscos associados às tecnologias de IA.

A parceria envolverá avaliações de segurança conjuntas e o desenvolvimento de ferramentas de avaliação que atendam a padrões globais. A Kakao fornecerá seus modelos e agentes de IA para avaliação, enquanto o Instituto de Pesquisa em Segurança de IA refinaria as metodologias de avaliação.

A iniciativa será realizada em três fases, começando com avaliações de segurança de modelos de linguagem, seguida por modelos multimodais e agentes de IA. Na fase final, ambas as organizações trabalharão juntas para criar ferramentas de avaliação eficientes para verificação da segurança da IA.

Kim Se-ung, Líder de Desempenho de Sinergia de IA da Kakao, enfatizou a importância de priorizar a segurança juntamente com a inovação, afirmando: "Continuaremos a nos esforçar para oferecer modelos e serviços de IA que priorizem segurança e confiança."

À medida que a tecnologia de IA evolui, a necessidade de avaliação proativa de riscos se torna cada vez mais crítica. Kim Myung-ju, diretor do Instituto de Pesquisa em Segurança de IA, ecoou esse sentimento, destacando seu compromisso em construir uma estrutura de avaliação robusta.