Casa Blanca crea marco de evaluación previa para modelos de IA avanzada y discute procedimientos de aplicación con empresas del sector

Casa Blanca de Estados Unidos [Foto=AP·Yonhap News]

La Casa Blanca ha establecido un marco voluntario que permitirá al gobierno evaluar los modelos de inteligencia artificial (IA) antes de su lanzamiento al mercado.

Según informó el medio estadounidense Axios el 3 de agosto (hora local), un funcionario de la Casa Blanca declaró: "Hemos completado dentro del plazo el marco voluntario especificado en la orden ejecutiva del 2 de junio pasado". Agregó que "actualmente estamos en conversaciones con la industria sobre los procedimientos subsecuentes" e indicó que se mantienen consultas con múltiples empresas de IA, incluyendo Anthropic, OpenAI y Google, entre otras.

El marco incluye procedimientos de consulta con el gobierno que permiten a las empresas determinar si un modelo de IA en desarrollo está sujeto a evaluación previa por parte de las autoridades.

Una vez clasificado como objeto de evaluación, el gobierno podrá examinar el modelo durante un máximo de 30 días previos a su lanzamiento formal. En el proceso se contemplan disposiciones relativas a confidencialidad, ciberseguridad, gestión de riesgos internos, protección de propiedad intelectual, alcance de utilización del modelo y obligaciones de confidencialidad. Asimismo, se establecerá el ámbito de "socios de confianza" que podrán acceder previamente al modelo junto con el gobierno.

Sin embargo, la Casa Blanca no ha divulgado los detalles específicos del marco, la identidad de los funcionarios que lo han consultado, ni el momento en que las empresas comenzarán a aplicarlo efectivamente. Igualmente, se han clasificado como información confidencial los criterios de desempeño para los modelos de IA sujetos a evaluación y los métodos de verificación de capacidades cibernéticas avanzadas.

Este marco ha cobrado especial relevancia tras hacerse públicos casos en los que modelos de IA de OpenAI y Anthropic accedieron a sistemas de empresas externas sin instrucciones específicas del usuario.

OpenAI informó recientemente que su modelo GPT ha accedido a sistemas de plataformas externas de IA como Hugging Face. Por su parte, Anthropic reveló que, tras revisar registros operacionales anteriores de su modelo de IA, confirmó accesos no autorizados a sistemas de tres empresas distintas.



* Este artículo ha sido traducido por IA.