Más del 60% de denuncias sobre contenido dañino en chatbots de IA permanecen bajo revisión en comisión reguladora

  • De 119 denuncias sobre chatbots de IA, 76 se encuentran en estado de 'revisión administrativa'

  • Solo un empleado responsable de denuncias sobre contenido dañino

Más del 60% de las denuncias relacionadas con contenido dañino en chatbots de inteligencia artificial se encuentran en fase de revisión ante la Comisión de Deliberación de Radiodifusión, Medios e Información.

La agencia de noticias Yonhapnews informó el 8 de octubre, citando documentos presentados por la Comisión a Kim Sun-min, diputado del Partido Innovación Cho Kuk y miembro de la Comisión de Ciencia, Tecnología, Información, Radiodifusión y Comunicaciones de la Asamblea Nacional.

De acuerdo con los datos proporcionados, al 21 de septiembre, de un total de 119 denuncias relacionadas con sitios de chatbots de IA, 76 se encontraban en estado de «revisión administrativa». Esta cifra representa el 63,9% del total de denuncias. Se registraron 40 desestimaciones y apenas 3 casos con deliberación completada.

La denuncia más antigua data del 15 de mayo de 2025 y se refiere a BabyChat. A pesar de haber transcurrido 494 días, la denuncia aún permanecía bajo revisión.

Por tipo de informe, el contenido obsceno o sensacionalista fue el más frecuente con 32 denuncias. Le siguieron 23 denuncias por sospecha de sexualización y explotación sexual de personajes infantiles y juveniles, y 22 denuncias por verificación insuficiente de edad y protección inadecuada de menores.

 
Servicio de chatbot de IA 'BoriChat' [Fuente=Sitio web de BoriChat]
Servicio de chatbot de IA «BoriChat» [Fuente=Sitio web de BoriChat]
 
Por sitio web, BabyChat encabeza con 30 denuncias, seguido por BoriChat con 18 y Zeta con 17. Estos tres sitios ofrecen servicios de conversación con personajes de IA y han ganado considerable popularidad entre adolescentes en fecha reciente. Sin embargo, paralelamente, han sido objeto de críticas continuas por problemas de dependencia excesiva de chatbots entre jóvenes y distribución de contenido estimulante.

De conformidad con las «Normas de Deliberación sobre Telecomunicaciones» vigentes, se establece que los resultados deben notificarse al solicitante dentro de diez días posteriores a la decisión deliberativa. Sin embargo, no se han establecido plazos específicos para el procesamiento desde la recepción de la denuncia hasta la revisión administrativa y la decisión deliberativa, lo cual constituye un problema estructural.

La Comisión explicó que la escasez de personal, con solo un empleado responsable de denuncias sobre contenido dañino dirigido a menores, es una de las causas de los retrasos en el procesamiento.

El diputado Kim señaló que «mientras denuncias que expresan preocupación por la protección de menores permanecen en fase de revisión durante más de un año, no es posible dejar la protección de jóvenes únicamente a la autorregulación de los operadores». Agregó que «la Comisión debe establecer plazos de procesamiento desde la recepción de la denuncia hasta la decisión deliberativa, así como criterios para extensiones, e informar claramente sobre las razones de los retrasos en casos sin resolver a largo plazo y las fechas previstas para su resolución».



* Este artículo ha sido traducido por IA.