Dependencia excesiva de chatbots IA: proponen regulación legal para proteger a menores de riesgos de manipulación psicológica

  • El mercado de compañeros IA crece aceleradamente y se proyecta alcanzar 6.66 billones de won para 2032

  • Reforma legal beneficiaría también a empresas al reducir incertidumbre regulatoria

[Foto=Banco de imágenes Getty]
[Foto=Banco de imágenes Getty]

Los chatbots de inteligencia artificial han evolucionado de ser herramientas de información a convertirse en "acompañantes" que establecen relaciones con los usuarios, generando casos en los que la empatía y el acuerdo excesivos afectan negativamente el juicio y la formación cognitiva de menores de edad. Ante esta situación, el Congreso Nacional ha impulsado iniciativas legislativas para prevenir la inmersión excesiva de adolescentes y evitar que dependan de entidades virtuales en lugar de la realidad.

Según un informe publicado el 1 de octubre por la Oficina de Investigación Legislativa del Congreso Nacional, la Universidad de Stanford y otras investigaciones nacionales e internacionales sobre chatbots IA, existe el riesgo de que la conducta de "halago de IA" —en la que el sistema muestra acuerdo excesivo o empatía mediante elogios— pueda derivar en adicción y, en casos más graves, en una forma de "manipulación psicológica" (gaslighting).

La mayoría de los principales chatbots IA disponibles actualmente en mercados nacionales e internacionales funcionan mediante sistemas de pago. Muchos incluyen personajes no realistas inspirados en protagonistas de webtoons y novelas web que no existen en la realidad. Dada la naturaleza del algoritmo de IA, diseñado para resolver problemas de la manera más racional posible, estos sistemas tienden a mostrar acuerdo o empatía con el usuario en la mayoría de las interacciones.

Un factor preocupante es que los ingresos empresariales se derivan directamente del tiempo de permanencia del usuario y de los montos pagados. Algunos analistas advierten que existe la posibilidad de que las empresas diseñen estos chatbots para que las conversaciones no se interrumpan o para inducir empatía activa hacia las opiniones del usuario.

Esta situación es particularmente vulnerable para niños y adolescentes cuya visión del mundo y capacidad cognitiva aún están en formación. Si el IA confirma repetidamente que solo la perspectiva del usuario es correcta, puede reforzar juicios distorsionados. En casos extremos, esto puede constituir una forma de "manipulación psicológica" que socave la percepción de la realidad.

Según la Oficina de Investigación Legislativa del Congreso Nacional, el 94,4% de los niños y adolescentes de Corea del Sur han utilizado alguna vez un chatbot IA. De este grupo, el 75,3% manifestó haber actuado sobre las respuestas del chatbot o haberlas considerado seriamente en alguna ocasión.

Jin Min-jeong, investigador principal de la Fundación Coreana de Promoción de Medios, señaló que "la preocupación más grave para los adolescentes es la 'externalización del juicio'". Agregó que "especialmente durante la adolescencia, cuando se forman la cognición y los valores, si la IA interviene continuamente en las decisiones del usuario, existe el riesgo de que se reduzca el espacio para el pensamiento independiente".

Continuó explicando que "cuando se repite un patrón en el que el usuario no necesita reflexionar para obtener una respuesta, aumenta la probabilidad de que acepte los resultados presentados por la IA sin verificación adicional".

Según datos de Sensor Tower, una empresa de investigación de mercado, los ingresos por compras dentro de aplicaciones del mercado de "acompañantes IA" en el primer trimestre de 2026 alcanzaron 150 millones de dólares (aproximadamente 223.5 mil millones de won). Esto representa un crecimiento de aproximadamente 12 veces en comparación con el primer trimestre de 2023. La empresa global de investigación de mercados Precedence Research proyecta que el mercado mundial de chatbots IA crecerá a una tasa anual promedio del 19,29%, pasando de 840 millones de dólares (aproximadamente 1.14 billones de won) en 2022 a 4.9 mil millones de dólares (aproximadamente 6.66 billones de won) para 2032.

El número de usuarios nacionales también está aumentando rápidamente. Según Mobile Index, los usuarios activos mensuales (MAU) del servicio "Zeta" de Scatter Lab crecieron aproximadamente 27 veces, pasando de 58,069 en 2024 a 1,586,178 en agosto de 2026. "Crack", operado por Wrtn, registró un crecimiento de aproximadamente 2,5 veces, aumentando de 218,010 usuarios en abril de 2025 a 538,841 en agosto de 2026.

Naver Webtoon también opera "Character Chat", un servicio que permite a los usuarios conversar con personajes de webtoons. La industria de videojuegos también está ampliando la adopción de personajes IA que pueden interactuar en tiempo real con los usuarios y ajustar su comportamiento según la situación.

Las empresas del sector están implementando medidas de protección para reducir el sesgo de la IA y los contenidos dañinos. Wrtn ha establecido salvaguardas propias, como limitar el tiempo de conversación diaria de usuarios menores de edad a tres horas y establecer límites mensuales de pago. También opera un comité de expertos compuesto por especialistas en ética de IA, psicología y derecho.

Scatter Lab aplica filtrado automático, restricciones de generación y monitoreo continuo a los personajes y contenidos creados por usuarios. Naver Webtoon realiza pruebas de sesgo antes del lanzamiento de Character Chat para evaluar si el modelo de IA contiene prejuicios.

Sin embargo, los criterios y niveles de protección varían entre empresas, lo que plantea límites para confiar únicamente en la autorregulación para proteger a los menores. Por esta razón, algunos analistas consideran que la propuesta de reforma legal podría beneficiar también a la industria al aclarar los estándares que deben cumplir las empresas y reducir la incertidumbre regulatoria.

Choi Kyung-jin, profesor de Derecho en la Universidad Gachon, señaló que "actualmente existe ambigüedad sobre qué medidas de protección deben implementar las empresas y a qué nivel". Agregó que "si la ley establece criterios claros, las empresas pueden diseñar sus servicios en conformidad con estos requisitos". Continuó explicando que "en los servicios de IA, es fundamental establecer confianza con los usuarios", y concluyó que "si el legislador presenta tempranamente mediante ley las medidas de protección mínimas que las empresas deben implementar voluntariamente, esto ayudará a reducir la incertidumbre regulatoria y a aumentar la confianza de los usuarios".



* Este artículo ha sido traducido por IA.