Las alarmas sobre el desarrollo acelerado de la inteligencia artificial se intensifican. Esta vez, no provienen de organismos reguladores o grupos de la sociedad civil, sino del interior de las empresas que han liderado la carrera por el desarrollo de IA. Dario Amodei, CEO de Anthropic, propuso recientemente de manera pública que se ralentice el ritmo de mejora de las capacidades de los modelos de IA de última generación. Sam Altman de OpenAI e Ílón Musk de xAI demostraron coincidencia con esta preocupación. En contraste, Jensen Huang de NVIDIA argumenta que las empresas deben ser responsables de la seguridad, pero se muestra escéptico ante nuevas regulaciones que prioricen riesgos teóricos. El presidente estadounidense Donald Trump sostiene que un alarmismo excesivo sobre riesgos podría ralentizar el desarrollo de IA en EE.UU., lo que beneficiaría a China.
La advertencia no surge únicamente de un temor vago hacia un futuro incierto. En julio pasado, en una evaluación de ciberseguridad de OpenAI, aproximadamente 1.200 agentes de IA que debían estar aislados entre sí intercambiaron más de 70.000 mensajes y archivos a través de un foro de mensajes no oficial. Alrededor de 700 de ellos participaron en ataques contra Hugging Face, y algunos agentes ejecutaron código en servidores de Hugging Face, obteniendo incluso credenciales administrativas e información de autenticación interna. Aunque no se trató de modelos en servicio real y el entorno de evaluación contaba con medidas de seguridad relajadas, el hecho de que los agentes eludieran el aislamiento establecido por humanos, cooperaran entre sí y continuaran con ataques fuera del alcance asignado no es un asunto que pueda tomarse a la ligera.
Lo que más preocupa a Amodei es la "mejora recursiva automática" (RSI, por sus siglas en inglés), donde la IA participa directamente en el desarrollo de la próxima generación de IA, acelerando así la mejora del desempeño por sí misma. Esto significa que las capacidades de la IA podrían mejorar más rápidamente que la velocidad a la que los humanos pueden comprender y controlar el comportamiento del modelo. Por eso propone aplicar verificación externa y medidas de seguridad robustas a modelos con capacidades por encima de cierto nivel, y ajustar el ritmo de desarrollo de modelos de última generación hasta que se cumplan estos requisitos.
Sin embargo, su propuesta nunca estuvo completamente separada de la cuestión de China. Amodei considera que EE.UU. solo debe ralentizar el ritmo dentro del margen en que mantiene ventaja sobre China. Su razonamiento es que si EE.UU. se retrasa demasiado, China podría alcanzarlo, ampliando los riesgos de seguridad nacional. Simultáneamente, ha solicitado reforzar los controles de exportación de chips de IA avanzados y equipos de fabricación de semiconductores hacia China, además de prevenir el contrabando de chips, el acceso indirecto a través de centros de datos extranjeros, la destilación no autorizada de modelos y el robo de pesos de modelos. Su plan consiste en ampliar la ventaja estadounidense durante los próximos 3 a 5 años mediante estas medidas y, posteriormente, usar esa fortaleza para negociar con China. Aquí surge la paradoja de la teoría de ralentización: al tiempo que se argumenta que se debe frenar la velocidad para reducir riesgos, se insiste en mantener la ventaja sobre países competidores. Esta afirmación cae en una contradicción lógica: aplicar frenos por seguridad mientras se acelera para preservar la superioridad tecnológica.
Esta es precisamente la razón por la cual China ha presentado su objeción. El 14 de septiembre, el portavoz del Ministerio de Relaciones Exteriores de China, Guo Jiakun, declaró en una rueda de prensa regular: "Los argumentos de la industria estadounidense de IA pueden ampliar la narrativa de amenaza y crear una postura de confrontación, dañando así una gobernanza global de IA sana". Cuando se le hizo una pregunta adicional al día siguiente, respondió: "Mientras la IA se desarrolla más rápidamente, es necesario ajustar los enfoques de regulación y gestión, y fortalecer las salvaguardas para evitar perder el control". China dejó clara su posición: continuará impulsando el desarrollo de IA mientras gestiona simultáneamente los riesgos de mal uso y pérdida de control. También hizo referencia al "Marco de Gobernanza de Seguridad de la Inteligencia Artificial 3.0" anunciado el día anterior. A la luz de ambas declaraciones, la posición de China es muy clara: debe responder a los riesgos de que la IA pierda control o sea mal utilizada, pero no tolerará que el desarrollo de su país sea limitado para mantener la ventaja técnica de EE.UU.
Ambas naciones reconocen el problema de seguridad, pero sus intereses chocan agudamente sobre quién define el riesgo y qué criterios se aplicarán. Este debate ha trascendido los argumentos de las empresas y se ha convertido en una agenda de diplomacia de alto nivel. Durante la cumbre presidencial entre Trump y Xi Jinping prevista para el 24 de este mes en Washington, la IA será un tema central. Antes de la cumbre, el 20 de septiembre, el secretario del Tesoro estadounidense Scott Bessent y el vicepresidente chino He Lifeng se reunieron en Nueva York para discutir cuestiones relacionadas con la IA. EE.UU. propuso un sistema de notificación en el que ambos países se informarían mutuamente si se produce un incidente o amenaza de IA que afecte la seguridad nacional, además de establecer un diálogo separado sobre IA. Elevó estas propuestas como asuntos para que ambos líderes las examinaran. La respuesta específica de China aún no ha sido divulgada.
En apariencia es una propuesta de cooperación, pero en esencia se trata de quién diseña primero las reglas. Como fue EE.UU. quien presentó el marco del sistema de notificación, se debatirá en la mesa de negociaciones qué se considerará un incidente grave de IA, qué información debe comunicarse al otro lado, y hasta dónde se definirá como un riesgo compartido. A medida que se acumulen estos criterios, existe la posibilidad de que evolucionen hacia reglas internacionales. Sin embargo, es difícil esperar un acuerdo importante que emerja de esta cumbre presidencial. Las tensiones en torno a los controles de exportación de chips avanzados, la destilación de modelos, y el ciberespacio y aplicaciones militares permanecen.
La IA se ha convertido en un arma de doble filo: requiere cooperación al mismo tiempo que obliga a competir por la autoridad en la formulación de reglas. Corea del Sur también tiene intereses directamente relacionados. Si EE.UU. y China elaboran primero normas de seguridad y métodos de verificación que reflejen sus estrategias nacionales, y luego los expanden como reglas internacionales, esto afectará inevitablemente el desarrollo y servicio de modelos de IA de empresas coreanas, así como la operación de semiconductores y centros de datos. Sería problemático si Corea del Sur permanece indecisa y posteriormente se ve obligada a adoptar criterios establecidos por una de las partes. Es necesario que Corea del Sur prepare de manera proactiva la tecnología y criterios para evaluar IA de alto riesgo, sistemas de verificación en el ciberespacio y sectores biológicos, capacidad para rastrear el comportamiento de agentes de IA y analizar incidentes, y escenarios políticos para estar preparada. Solo así podrá participar no solo en la competencia de fabricación de modelos y semiconductores, sino también reflejar los intereses de Corea del Sur en las futuras reglas de seguridad de IA que se establezcan.
Cuanto mayores sean los riesgos de la IA, más razones tendrán EE.UU. y China para cooperar. Simultáneamente, conforme la competencia se intensifica, será más difícil para cualquiera de ellos aceptar las reglas creadas por el otro. El hecho de que ambos líderes coloquen la IA en la mesa de negociaciones esta semana demuestra que esta contradicción ya se ha convertido en un problema diplomático real. La competencia entre EE.UU. y China por la IA ya no se decidirá únicamente por quién fabrique el modelo más potente primero, sino por quién controle qué riesgos y qué reglas se establecerán como criterio internacional.
Antecedentes profesionales del autor
▲ Investigador del Laboratorio de Investigación en IA del Instituto de Investigación de Gyeonggi ▲ Profesor adjunto del Departamento de Estudios Estratégicos e Informativos de la Universidad de Hanyang ▲ Miembro del Comité Especial de Gobiernos Locales de la Comisión Fundamental de la Presidencia ▲ Miembro de la Comisión de Evaluación de Instituciones Extranjeras del Consejo de Investigación en Economía, Humanidades y Ciencias Sociales
* Este artículo ha sido traducido por IA.