Kakao e Instituto de Investigación en Seguridad de IA Colaboran en Marco de Evaluación de Seguridad de IA

Kakao ha firmado un memorando de entendimiento (MOU) con el Instituto de Investigación en Seguridad de IA para desarrollar un marco integral para evaluar la seguridad de la IA. Esta colaboración tiene como objetivo crear un enfoque sistemático para identificar riesgos asociados con las tecnologías de IA.

La asociación incluirá evaluaciones de seguridad conjuntas y el desarrollo de herramientas de evaluación que cumplan con estándares globales. Kakao proporcionará sus modelos y agentes de IA para la evaluación, mientras que el Instituto de Investigación en Seguridad de IA se encargará de refinar las metodologías de evaluación.

La iniciativa se llevará a cabo en tres fases, comenzando con evaluaciones de seguridad de modelos de lenguaje, seguida de modelos multimodales y agentes de IA. En la fase final, ambas organizaciones trabajarán juntas para crear herramientas de evaluación eficientes para la verificación de la seguridad de la IA.

Kim Se-ung, Líder de Desempeño de Sinergia de IA de Kakao, enfatizó la importancia de priorizar la seguridad junto con la innovación, afirmando: "Continuaremos esforzándonos por ofrecer modelos y servicios de IA que prioricen la seguridad y la confianza."

A medida que la tecnología de IA evoluciona, la necesidad de evaluación proactiva de riesgos se vuelve cada vez más crítica. Kim Myung-ju, director del Instituto de Investigación en Seguridad de IA, coincidió con este sentimiento, destacando su compromiso de construir un marco de evaluación robusto.