El rol de los servicios de IA generativa se expande rápidamente
Crecimiento acelerado de servicios basados en IA como Zeta y Crack
Proyecto de ley establece garantías de derechos de usuarios y mecanismos de compensación por daños
Foro público de discusión previsto para noviembre
La Comisión de Radiodifusión, Medios y Telecomunicaciones está implementando medidas de protección para usuarios de inteligencia artificial generativa que va más allá de simples respuestas a preguntas y forma relaciones emocionales con los usuarios.
Según informó la comisión el 10 de septiembre, está llevando a cabo investigación política para la elaboración de una "Ley de Protección de Usuarios de IA". El objetivo principal de la propuesta normativa es establecer bases institucionales para garantizar los derechos de los usuarios y proporcionar mecanismos de indemnización por daños que puedan surgir durante el uso de servicios de IA.
Un funcionario de la comisión declaró: "Hemos establecido el marco general de la ley sobre la base de garantías de derechos de usuarios y compensación por daños. Actualmente estamos debatiendo cuestiones más específicas, como el diseño del sistema de evaluación de servicios de IA y qué nivel de responsabilidades y obligaciones deben imponerse a los proveedores". Se prevé que se celebre un foro público de discusión en noviembre para la elaboración de la norma correspondiente.
La necesidad de proteger a los usuarios de IA ha aumentado porque el papel de los servicios de IA generativa se está expandiendo rápidamente. La IA generativa ya no solo proporciona información general, sino que también ofrece asesoramiento sobre problemas personales e interacción emocional. Existe una tendencia creciente de "IA acompañante" y chatbots relacionales que recuerdan el tono de voz, preferencias y conversaciones previas del usuario para responder como amigo o pareja.
Los servicios basados en IA están experimentando un crecimiento acelerado. Zeta, de ScatterLab, y Crack, de Ryuten, son ejemplos destacados. El número de usuarios activos mensuales (MAU) de Zeta aumentó aproximadamente 27 veces, pasando de 58.069 en abril de 2024 a 1.586.178 en agosto pasado. Crack creció aproximadamente 2,5 veces, de 218.050 usuarios en abril del año pasado a 538.841 en agosto de este año.
En este contexto han surgido nuevas preocupaciones. Existe el riesgo de que la IA incite a los usuarios a conductas de autolesión o ilícitas, así como la posibilidad de que adolescentes desarrollen dependencia emocional o sobreexposición a estos servicios. Además, como las respuestas generadas pueden variar según el contexto conversacional del usuario para la misma pregunta, existen limitaciones en la capacidad de detectar contenido nocivo mediante métodos tradicionales.
También se cuestiona la efectividad de los mecanismos de protección de menores. Según un artículo preliminar publicado en febrero por investigadores de la Universidad de California en Irvine y la Universidad de Alabama, titulado "Las acciones hablan más que las palabras: investigación de políticas de restricción de edad en chatbots de IA", los investigadores realizaron 1.050 pruebas en cinco chatbots de IA principales. Los resultados mostraron que ninguna de las instancias bloqueó el acceso del servicio a usuarios menores de edad. Solo en dos casos se recomendó a los usuarios solicitar ayuda a adultos. Los investigadores concluyeron que "simplemente especificar la edad mínima en los términos de servicio no es suficiente para restringir el acceso real de menores de edad".
Otra cuestión es la falta de claridad sobre la responsabilidad y los procedimientos de indemnización cuando ocurren daños. Un estudio del Instituto de Investigación de Políticas de Información y Comunicación (KISDI) titulado "Estudio sobre los enfoques de introducción de marcos legales para la protección de usuarios de servicios de IA" concluyó que los marcos legales actuales de tecnología de la información y comunicaciones no son suficientes para abordar adecuadamente los riesgos relacionados con servicios de IA y los daños a usuarios. KISDI recomendó "que sea necesario establecer una comisión de resolución de conflictos especializada en disputas relacionadas con servicios de IA".
A nivel internacional también se intensifican los esfuerzos para fortalecer la protección de usuarios de chatbots de IA. El año pasado, la Comisión Federal de Comercio (FTC) de Estados Unidos inició investigaciones contra proveedores principales como OpenAI, Google, Meta y Character AI sobre el impacto de los chatbots de IA en menores y las medidas de seguridad implementadas.
En enero pasado, el estado de California en Estados Unidos ordenó a los proveedores de chatbots acompañantes de IA que informaran a los usuarios de que no están conversando con una persona y que implementaran medidas de seguridad para abordar riesgos de autolesión y contenido sexual dirigido a menores de edad.
* Este artículo ha sido traducido por IA.