Investigadores de IA advierten sobre riesgos de extinción humana
Ejecutivos de OpenAI, Anthropic, Google y Meta comparecen ante el concejo
Nueva York considera acciones legales contra xAI de Elon Musk por no comparecer
Nueva York impulsa 10 proyectos de ley para regular la IA, incluido el botón de apagado
![Julie Menin, presidenta del Concejo de Nueva York, pronuncia un discurso antes del testimonio de Jacob Kokson, investigador anterior de OpenAI y Anthropic, durante una audiencia sobre IA celebrada en Nueva York el 5 de octubre. Kokson advirtió que los laboratorios de IA están 'apostando nuestras vidas'. [Foto=AFP/Yonhapnews]](https://image.ajunews.com/content/image/2026/10/06/20261006100550962229.jpg)
"China no es nuestro único adversario potencial. Una inteligencia artificial que avanza en la dirección equivocada es enemiga de todos nosotros y, algún día, podría ser más poderosa que China." <Alex Turner, antiguo investigador de Google DeepMind>
"Con esta tendencia, es más probable que la humanidad pierda el control sobre la IA. A pesar de que los riesgos de la IA son enormes, las empresas relacionadas actúan de manera muy imprudente." <Jacob Kokson, antiguo investigador de Anthropic>
"Existe una posibilidad realista de que se abuse de la IA para convertirse en dictador en Estados Unidos." <Daniel Kokitailov, antiguo investigador de OpenAI>
Investigadores anteriores emitieron advertencias aterradoras sobre que la IA podría escapar del control humano durante una audiencia sobre los riesgos de la IA celebrada el 5 de octubre por el Concejo de Nueva York.
"La IA podría rebasar el control humano y llevar a la extinción de la humanidad": investigadores de IA hacen advertencias escalofriantes
Según reportes de CBS y otros medios estadounidenses, Jacob Kokson, antiguo investigador de Anthropic que previamente encendió el debate sobre la extinción de la humanidad por IA, advirtió hoy que, si el ritmo actual de desarrollo continúa, la IA podría escapar del control humano y la humanidad podría extinguirse.
Afirmó que la IA está avanzando rápidamente hacia una etapa en la que realiza una parte considerable del trabajo de investigación y desarrollo de los seres humanos mientras mejora su propio desempeño. También señaló que las empresas de IA adoptan una cultura de tipo startup de "moverse rápido y romper cosas", donde solucionan los problemas después de que ocurren.
Daniel Kokitailov, antiguo investigador de OpenAI, advirtió: "Aunque las empresas mantuvieran el control, no deberíamos confiar ese control a las corporaciones. Existe una posibilidad realista de que se abuse de estas herramientas para convertirse en dictador en Estados Unidos".
La audiencia de hoy fue un acto en el que el Concejo de Nueva York examinó proyectos de ley de regulación de IA e invitó a principales empresas de IA e investigadores anteriores para cuestionar la seguridad y los riesgos de la IA. Nueva York declaró que esta es la primera audiencia de supervisión de IA de este tipo celebrada en Estados Unidos y en el mundo.
En la audiencia participaron representantes de política y seguridad de las principales empresas de IA: Anthropic, OpenAI, Google y Meta. Logan Graham, responsable del equipo de pruebas de frontera de Anthropic; Morgan Dwyer, responsable de desarrollo de políticas y operaciones de OpenAI; Alice Friend, directora de política de IA y tecnologías emergentes de Google; y Shane Keehill, director de política legislativa de IA de Meta, comparecieron por videoconferencia, juraron y dieron testimonio. Esta fue la primera ocasión en que ejecutivos de principales empresas de IA comparecieron ante un órgano legislativo para testificar bajo juramento sobre los riesgos de la IA y las medidas regulatorias.
Sin embargo, xAI, dirigida por Elon Musk, no respondió a la citación de la audiencia. Nueva York planea solicitar a la Corte Suprema del Estado de Nueva York que ordene el cumplimiento si xAI continúa sin responder a la citación.
Enfoque pasivo de la autorregulación: Nueva York impulsa 10 proyectos de ley de regulación de IA
Julie Menin, presidenta del Concejo de Nueva York, explicó el trasfondo de la audiencia diciendo que el gobierno federal depende de la autorregulación de las empresas de IA, por lo que Nueva York debe tomar medidas por su cuenta. Señaló que el gobierno federal está adoptando un enfoque pasivo, citando el acuerdo voluntario que el presidente Donald Trump celebró con los líderes de empresas de IA en Washington la semana anterior.
Menin indicó que solicitaría las opiniones de los representantes corporativos sobre los daños causados por la IA, así como sus comentarios sobre los proyectos de ley que Nueva York está actualmente impulsando.
De hecho, el Concejo de Nueva York está revisando actualmente 10 proyectos de ley para regular la IA. Estos incluyen ▲restricciones en la generación y uso no autorizado de imágenes y videos de IA de funcionarios públicos ▲obligación de verificación de terceros para modelos de IA ▲obligación de implementar una función técnica de apagado de emergencia (botón de apagado) que permita a los humanos obligar a los modelos de IA a detenerse ▲protección de datos personales en chatbots de IA ▲programas de compensación para denunciantes relacionados con IA ▲derechos de demanda privada que permitan a ciudadanos afectados por agentes de IA demandar directamente a las empresas.
Según los reportes, Menin dirigió preguntas incisivas a los representantes de las empresas de IA: "¿Pueden proporcionar cifras sobre el grado de riesgo?", "¿Creen que cada empresa debe asumir responsabilidad legal si un modelo de IA de vanguardia pierde el control y causa daños financieros graves, filtra datos sensibles, causa lesiones físicas o resulta en muerte?". Estas preguntas generaron tensión en la audiencia.
Los representantes respondieron con respuestas genéricas: "No queremos responder de manera inexacta sobre la cuestión de cuantificar riesgos", "Actualmente no contamos con sistemas relacionados", "Consideramos que la responsabilidad de la seguridad es muy importante".
La audiencia se celebró en un contexto de creciente preocupación sobre la seguridad de la IA. Recientemente, investigadores anteriores y actuales de OpenAI y Google DeepMind también advirtieron que la "mejora automática recursiva" (RSI), donde la IA rebasa el control humano y mejora repetidamente su propio desempeño, se está impulsando a una velocidad excesivamente rápida.
La Comisión Federal de Comercio (FTC) de Estados Unidos también ha indicado que está investigando los riesgos potenciales para los consumidores de productos de empresas de IA como OpenAI y Anthropic.
* Este artículo ha sido traducido por IA.