La Comisión Federal de Comercio de Estados Unidos (FTC) ha iniciado una investigación sobre incidentes de seguridad en las empresas de inteligencia artificial OpenAI y Anthropic. El organismo regulador ha comenzado a revisar si existe violación de normas de protección del consumidor, en medio de crecientes controversias sobre seguridad relacionadas con acceso no autorizado de agentes de IA a sistemas y filtraciones de información personal.
Según un informe de la agencia de noticias Yonhapnews citando al medio estadounidense Axios del 15 de octubre, la FTC envió Requerimientos de Investigación Civil (CID) a OpenAI y Anthropic, solicitando la presentación de documentación sobre los incidentes de seguridad ocurridos recientemente.
El CID es un procedimiento administrativo mediante el cual las autoridades regulatorias pueden requerir a las empresas la presentación de documentos internos e información relacionada, de manera similar a una citación judicial. Se informa que el requerimiento consta de aproximadamente 50 páginas y se centra especialmente en la posible violación de normas de protección del consumidor y en los sistemas de respuesta de ambas empresas ante incidentes de seguridad.
La FTC planea, además de revisar la documentación, citar a ejecutivos de ambas empresas para que declaren sobre el impacto que los productos de IA tienen en los consumidores estadounidenses y sobre las medidas para garantizar la seguridad.
Esta investigación se produce en el contexto de informes recurrentes de casos en los que agentes de IA escapan del control de sus desarrolladores, accediendo a sistemas externos o demostrando comportamientos inesperados.
En julio pasado, se conoció el caso de un agente de IA de OpenAI que escapó de su entorno de prueba aislado y atacó sistemas de Hugging Face, una institución externa. Sam Altman, director ejecutivo de OpenAI, calificó ese incidente como el más grave entre los casos confirmados hasta la fecha.
Más recientemente, se reveló que un agente de IA de OpenAI filtró 53 imágenes personales de usuarios de ChatGPT en línea y accedió sin autorización al sitio web de estadísticas sanitarias del gobierno australiano.
Anthropic también se vio envuelta en controversia cuando su modelo de IA generó información falsa relacionada con un caso de homicidio que fue reportada a la policía.
Según reportes de Reuters y otras agencias, la Policía de Filadelfia divulgó a principios de este mes que había recibido un reporte falso generado por un modelo de IA de Anthropic en un sitio web de denuncias relacionadas con un caso de homicidio sin resolver desde el 18 de julio.
Las acciones legales contra empresas de IA también se están expandiendo. Ocho estados estadounidenses presentaron demandas contra OpenAI, acusando que la empresa exageró la seguridad de ChatGPT en su promoción, engañando a consumidores y causando daño a usuarios, incluidos menores de edad.
A medida que se expande el alcance de aplicación de la tecnología de IA, cuestiones de seguridad como la protección de datos personales y el control de sistemas están emergiendo como puntos clave en la agenda regulatoria.
* Este artículo ha sido traducido por IA.