Principios éticos de IA 'SPIRIT' e guía de implementación
Gestión de riesgos de agentes autónomos en cinco áreas clave
Lista de verificación integral de IA a aplicarse antes de fin de año
Kakao ha establecido principios éticos e guía de implementación aplicables desde la planificación hasta la operación de servicios de IA, en respuesta a la expansión de agentes autónomos. Con el objetivo de reducir los riesgos que pueden surgir cuando la IA planifica y actúa de forma independiente, la compañía gestionará el control humano, la responsabilidad y la autoridad otorgada a la IA, además de construir un sistema que verifique elementos de riesgo a lo largo de todo el ciclo de vida del servicio.
Kakao anunció el 15 de octubre que la compañía presentó los 'Principios éticos de IA e guía de implementación para la era de agentes autónomos' en la conferencia de desarrolladores 'if(kakao)26', celebrada el día 13 en el campus de IA de Kakao.
Ha Jin-hwa, jefe de comunicación de IA de Kakao, enfatizó en su intervención la necesidad de un sistema de ejecución que establezca el juicio humano y la responsabilidad en un entorno donde la IA planifica y actúa de forma independiente, e integre la ética en el diseño y operación de servicios.
El nuevo principio ético de IA 'SPIRIT' se compone de seis elementos: seguridad, privacidad, inclusión, responsabilidad, autonomía del usuario y transparencia y confiabilidad. Este marco adoptó como referentes principales los tres valores fundamentales y siete principios del 'Principio ético de inteligencia artificial de Corea del Sur'. Con esta base, Kakao complementó los detalles específicos para adaptarlos a sus servicios.
Kakao estableció 'NORMA' como el método de implementación para aplicar los principios éticos en servicios reales. Se trata de un enfoque que gestiona cuestiones complejas de ética en IA a nivel organizacional y las concreta en etapas ejecutables.
En la elaboración de estos principios e guía de implementación participaron siete asesores externos del Subcomité de Ética de IA y Tecnología, constituido en julio. El comité asesor verificó la coherencia con normativas nacionales e internacionales, mientras que departamentos de seguridad de IA, privacidad, seguridad de la información y servicios de Kakao realizaron revisiones desde una perspectiva operativa.
Kakao dividió los riesgos de agentes autónomos en cinco áreas de gestión: control de iniciativa, objetivos, autoridad, recursos de referencia e interacción, conectándolos con controles necesarios como supervisión humana, control de emergencia, control de autoridad y protección de datos.
La 'Lista de verificación de implementación ética de IA' resultante funciona en tres etapas: identificación de propiedades del servicio, evaluación de riesgo previa y verificación y decisión de elementos de control. Se prevé aplicar la lista de verificación antes de fin de año.
Kakao también refuerza la verificación para la protección de menores. Además de la 'Lista de verificación de protección digital de menores' que ha aplicado desde 2025, la compañía tiene previsto incorporar en la nueva lista de verificación elementos específicos de evaluación de riesgos para menores basados en el marco de clasificación de riesgos en línea para niños de la OCDE y UNICEF (5Cs).
Kim Se-woong, presidente del Subcomité de Ética de IA y Tecnología, declaró: "Hemos logrado establecer un sistema de revisión de riesgos que funciona en todo el ciclo de vida de servicios de IA, integrando las perspectivas tanto del comité asesor externo como de la organización interna. A medida que aumenta la autonomía de la IA, nos comprometeremos a aclarar el juicio y la responsabilidad humana, así como a desarrollar servicios de IA en los que los usuarios puedan confiar y sentirse seguros".
Por otra parte, Kakao suscribió el mes pasado un acuerdo de colaboración con el Instituto de Investigación de Seguridad de IA para evaluar conjuntamente la seguridad de IA e impulsar la construcción de un sistema de evaluación. Ambas partes están llevando a cabo la evaluación conjunta de la seguridad de modelos y agentes de IA, así como el desarrollo de herramientas de evaluación para identificar factores de riesgo.
* Este artículo ha sido traducido por IA.