Exejecutivo de Google advierte que la IA podría representar un riesgo mayor para menores que las redes sociales

Tom Siegel, exdirector de Confianza y Seguridad de Google, asume como director ejecutivo fundador del Instituto de Seguridad en IA para Adolescentes

Siegel señala riesgos de la IA incluyendo suicidio, enfermedades mentales y deterioro del pensamiento crítico

• Tom Siegel, exdirector de Confianza y Seguridad de Google, asume como director ejecutivo fundador del Instituto de Seguridad en IA para Adolescentes

• Siegel señala riesgos de la IA incluyendo suicidio, enfermedades mentales y deterioro del pensamiento crítico

Google [Foto=Reuters/Yonhapnews]

Un exejecutivo de seguridad de Google ha advertido que la inteligencia artificial (IA) podría representar un riesgo mayor para menores y adolescentes que las redes sociales.

Tom Siegel, exdirector de Confianza y Seguridad de Google, afirmó en una entrevista con la agencia Reuters el 22 de septiembre que "nos encontramos en una situación muy preocupante respecto al impacto de la IA en los menores". Agregó que "las grandes empresas tecnológicas están repitiendo los mismos errores que cometieron al desarrollar redes sociales, pero ahora en el campo de la IA".

Siegel asumió el cargo de director ejecutivo fundador del "Instituto de Seguridad en IA para Adolescentes", establecido por Common Sense Media. El instituto tiene como objetivo evaluar de manera independiente los productos de IA utilizados por menores y adolescentes, así como establecer estándares de seguridad. La Fundación OpenAI y Anthropic se encuentran entre los patrocinadores del instituto.

El exejecutivo señaló casos de riesgo de la IA incluyendo suicidio adolescente, enfermedades mentales y la disminución de capacidades de pensamiento crítico debido a la dependencia de la IA. Enfatizó particularmente la posibilidad de "externalización cognitiva", en la que los usuarios dependen excesivamente de la IA y delegan sus procesos de pensamiento a sistemas externos. Siegel subrayó la necesidad de medidas de seguridad más robustas, como verificaciones de edad que limiten el acceso de menores a chatbots.

Siegel se desempeñó en Google desde 2004 hasta 2019, liderando iniciativas en el área de Confianza y Seguridad. Posteriormente, fue cofundador y líder de TrustLab, una empresa emergente especializada en detectar elementos dañinos en sistemas de IA.





* Este artículo ha sido traducido por IA.