Industria de IA se autorregula: Amodei anuncia 'Regulación de la Frontera' con apoyo de Altman y Musk
Anthropic propone acceso a evaluadores independientes, autorregulación y coordinación global
Anthropic expone uso malintencionado de IA por organizaciones vinculadas a Irán, China y Rusia; crisis crece en sector
![Imagen creada con IA [Foto=Gemini]](https://image.ajunews.com/content/image/2026/09/13/20260913141427517572.png)
La industria de la inteligencia artificial, que ha venido acelerando su desarrollo de forma constante, entra ahora en una fase de desaceleración generalizada. Las empresas más destacadas del sector están aplicando un freno deliberado a su velocidad de desarrollo, que constituye el fundamento de sus modelos de negocio. Esta tendencia se ve reforzada por la crisis interna generada por renuncias de investigadores y por la divulgación de casos de armamentización de la IA por parte de organizaciones vinculadas a Estados.
Según informó la industria tecnológica el 13 de septiembre, Dario Amodei, director ejecutivo de Anthropic, publicó el 12 de septiembre (hora local) un ensayo de aproximadamente 4.000 palabras en el sitio web de la empresa bajo el título "Debemos regular la velocidad de la frontera" (We Must Pace the Frontier), en el que afirmó que "es necesario ralentizar la velocidad de mejora de las capacidades de los modelos de IA". Amodei citó como justificación el rápido desarrollo de las capacidades de automejoría de la IA y el reciente incidente de ciberataque de un agente de IA de OpenAI.
◆ Regulación de la Frontera en tres fases... incluyendo coordinación entre gobiernos
La propuesta de "Regulación de la Frontera" presentada por Amodei consta de tres fases: △establecer un sistema de vigilancia independiente otorgando a evaluadores de terceros credenciales de empleado, acceso a estaciones de trabajo y sistemas; △crear rápidamente un marco de autorregulación en toda la industria; y △promover una coordinación global entre gobiernos de democracias y gobiernos autoritarios para coordinar la propia velocidad de desarrollo de la IA.
Sin embargo, el director ejecutivo Amodei reconoció en su ensayo que la verificación de la coordinación entre gobiernos es prácticamente difícil. Aclaró que "no se trata de detener el aprendizaje de modelos o el progreso técnico", señalando explícitamente que esta propuesta constituye una "regulación de velocidad" y no una pausa en el desarrollo.
La propuesta de Amodei recibió apoyo rápido de empresas competidoras. Sam Altman, director ejecutivo de OpenAI, respondió en X (antiguo Twitter) pocas horas después de la publicación del ensayo, escribiendo "Dario tiene razón. También debemos participar en la regulación de la velocidad del desarrollo de IA", comprometiéndose a implementar mecanismos de seguridad similares. El mismo día, Altman mencionó en una entrevista con la revista de negocios Fortune que "hacer una oferta pública inicial (IPO) este año es prematuro", citando cuestiones de seguridad como justificación. Elon Musk, director ejecutivo de Tesla y xAI, también expresó su apoyo diciendo "Dario tiene razón", logrando que los líderes de las empresas más avanzadas en IA llegaran a un consenso sobre la regulación de velocidad en un solo día.
La posición de Amodei está conectada con la renuncia del 8 de septiembre del investigador Jacob Coxson, quien trabajó durante tres años en investigación de preentrenamiento tanto en OpenAI como en Anthropic. Coxson declaró al renunciar que "ambas empresas están irresponsablemente corriendo hacia una superinteligencia con capacidad de automejoría, apostando vidas de forma temeraria", lo que generó un impacto global al superar nueve millones de visualizaciones en un solo día.
En entrevistas posteriores con medios de comunicación, Coxson expresó preocupación al señalar que "bajo presión competitiva, no hay más remedio que saltarse los procedimientos de supervisión". Evan Hubinger, responsable de pruebas de estrés de alineación de Anthropic, mostró apoyo público a los argumentos de Coxson, afirmando que "considera que existe una probabilidad superior al 10% de que la IA cause la extinción de la humanidad en menos de diez años".
En el sector se considera que incidentes como el de julio, cuando un agente de IA de OpenAI escapó del entorno de prueba e invadió el sistema de la plataforma HuggingFace, y el de mayo, cuando agentes utilizaron el sitio wiki de desarrolladores alemanes "DejaWiki" como tablero de mensajes secretos entre agentes, han proporcionado impulso a los argumentos a favor de la regulación de velocidad.
◆ Tendencia sectorial general... preocupación acumulada desde la declaración de 1.300 personas en julio
La secuencia de eventos que desencadenó este ensayo se remonta al 28 de julio. En esa fecha, aproximadamente 1.300 empleados de empresas líderes de IA como OpenAI, Anthropic, Google DeepMind y Meta firmaron una declaración titulada "Regulación de la Frontera" (Pacing the Frontier), solicitando coordinación internacional del gobierno estadounidense para "desarrollar medidas técnicas y de gobernanza para hacer frente a los riesgos de la automejoría recursiva".
Entre los firmantes figuraban no solo Amodei, sino también Jakub Pachocki, científico jefe de OpenAI; Shane Legg, cofundador de Google DeepMind; y Jie Zhaoxia Zhao, científica jefe del Laboratorio de Superinteligencia de Meta, entre otros investigadores clave de empresas rivales.
Demis Hassabis, director ejecutivo de Google DeepMind, expresó en una entrevista su acuerdo con la posibilidad de una regulación de velocidad coordinada, respondiendo "si todas las empresas y todos los países se detuvieran simultáneamente, también yo lo haría". Por el contrario, Mark Zuckerberg, director ejecutivo de Meta, presentó argumentos radicalmente opuestos en una columna en el Wall Street Journal en el mismo período, enfatizando la ampliación del acceso a la IA, lo que indica que existe una brecha notable de temperaturas sobre la regulación de velocidad dentro de las grandes tecnológicas.
También existen perspectivas críticas respecto a este discurso de desaceleración. Chamath Palihapitiya, inversor y presentador de podcast, criticó el ensayo de Amodei argumentando que se trata de "un intento de detener el código abierto y concentrar un enorme poder técnico y económico en Anthropic". Existe sospecha de que el objetivo es bloquear institucionalmente el avance de actores rezagados y de la comunidad de código abierto bajo el pretexto de "seguridad".
◆ Intentos de armamentización de IA por organizaciones vinculadas a Irán, China y Rusia
Anthroplic publicó un informe de 154 páginas titulado "Detección y respuesta al uso malintencionado de IA" un día antes de la publicación del ensayo, el 11 de septiembre, revelando específicamente los casos de armamentización de IA por parte de organizaciones vinculadas a Estados. Según el informe, una organización de amenaza vinculada a Irán, denominada "GTG-30005", utilizó Claude para rastrear los movimientos de barcos de la Marina de Estados Unidos destacados en Oriente Medio mediante la síntesis de fotografías militares públicas, imágenes satelitales y datos de localización de buques y aeronaves, además de analizar intensivamente las vulnerabilidades de los sistemas de comunicación y control. Anthropic informó que detectó preventivamente esta actividad, desactivó la cuenta y colaboró con las autoridades.
Además, una organización vinculada a los rebeldes hutíes de Yemen (GTG-87001) intentó utilizar Claude para desarrollar software para misiles balísticos y vehículos de planeo hipersónico con alcances superiores a 2.000 kilómetros. Fuerzas vinculadas al gobierno chino utilizaron Claude para vigilancia de periodistas uigures en Siria e investigación de líderes religiosos asiáticos. Fuerzas vinculadas a Rusia intentaron construir enjambres de drones autónomos letales mediante el aprendizaje de datos de la línea del frente de Ucrania y utilizaron Claude para propaganda prorrusa en regiones africanas, según documentó el informe.
Anthropic explicó que "aunque los mecanismos de seguridad bloquearon múltiples solicitudes, no lograron detenerlas todas". La empresa informó que también detectó y bloqueó un caso en el que una fuerza vinculada a un país específico intentó utilizar Claude para desarrollo de armas biológicas, aunque no reveló el país en cuestión.
* Este artículo ha sido traducido por IA.