Defectos estructurales en APIs de Anthropic, OpenAI y Google permitten descifrar 315.000 bloques de inferencia en repositorios públicos
Centros de contacto y chatbots internos de empresas nacionales corren riesgo de exposición según gestión de registros de sesión
Un estudio de investigación reveló que la información personal puede filtrarse a través de registros de inferencia de empresas que han construido servicios de IA utilizando APIs de Anthropic, OpenAI y Google para automatizar centros de contacto y operaciones internas.
Según el artículo "Robo de trazas de inferencia de APIs de modelos de lenguaje propietarios" publicado el 12 de agosto en Hugging Face, se descubrió un defecto estructural en los bloques de "inferencia encriptada" que los modelos de frontera de las tres empresas devuelven a los clientes.
La inferencia encriptada es un método mediante el cual el modelo de IA transmite al cliente el proceso de razonamiento interno que realiza antes de generar una respuesta final de forma encriptada, sin exponer el texto original. Las tres empresas lo implementaron para evitar que competidores examinen este proceso y entrenen sus propios modelos, además de prevenir que los procesos de razonamiento que podrían eludir salvaguardas de seguridad se expongan directamente al usuario.
El problema radica en que estos bloques encriptados son interoperables dentro del mismo modelo de IA. Cuando un modelo inferior solicita desencriptación de bloques generados por un modelo superior, estos se descifran en texto plano. El artículo de investigación demostró esto mediante un experimento donde bloques encriptados generados por Claude Opus 4.8 de Anthropic fueron desencriptados por Claude Haiku 4.5, un modelo comparativamente más débil. Se confirmaron defectos estructurales idénticos en la serie GPT de OpenAI y la serie Gemini de Google.
El equipo de investigación desencriptó 315.320 bloques de inferencia a partir de 6.708 registros de agentes reales disponibles en repositorios públicos. En estos datos se identificaron 367 casos de información personal identificable (PII) y 182 instancias de información de autenticación como claves de API y contraseñas. El hecho de que se trate de datos extraídos realmente de registros disponibles en repositorios públicos sugiere un impacto significativo.
Las empresas nacionales que han adoptado las APIs de las tres compañías también pueden estar expuestas al riesgo de fuga de información personal. Numerosas empresas de servicios de IA locales integran las APIs de Anthropic, OpenAI y Google para atención en centros de contacto y automatización de operaciones internas.
Samsung Electronics está implementando una API basada en ChatGPT en operaciones generales incluyendo desarrollo de software, desarrollo de productos y marketing. Empresas como LG Electronics, LG CNS, Samsung SDS, Krafton y Toss también utilizan APIs basadas en ChatGPT para automatización de operaciones internas. El sector financiero, incluyendo Shinhan Bank, también está adoptando la tendencia de automatizar la atención en centros de contacto mediante centros de contacto de IA (AICC).
Especialmente los chatbots multiturnos que deben mantener contexto de conversación y servicios basados en agentes que ejecutan tareas a través de múltiples pasos están estructuralmente obligados a intercambiar bloques de inferencia encriptada en cada sesión, lo que los expone significativamente a esta vulnerabilidad. Expertos señalan que es necesario realizar verificaciones sobre la gestión y distribución de registros de sesión, así como que las autoridades competentes desarrollen planes de respuesta.
* Este artículo ha sido traducido por IA.