Los máximos responsables de las principales empresas de inteligencia artificial del mundo lanzaron una advertencia inusual el miércoles 23 de septiembre ante el Consejo de Seguridad de la ONU: sus propios sistemas podrían pronto mejorar de forma autónoma y quedar fuera del control humano. La sesión llega en un momento en el que la regulación internacional de la IA sigue bloqueada por el enfrentamiento entre Estados Unidos y China.
El encuentro, convocado por Francia durante la Asamblea General anual de la ONU, marcó la primera vez desde 2023 que el órgano encargado de la paz y la seguridad internacionales trató los riesgos de la IA con presencia directa de los máximos ejecutivos del sector.
Advertencias directas de Amodei, Altman y Bengio
Dario Amodei, consejero delegado de Anthropic, la empresa detrás del asistente Claude, no dejó margen para la ambigüedad. Dijo ante los 15 miembros del Consejo que, si se gestiona mal, la inteligencia artificial podría representar un riesgo para la humanidad en su conjunto. Insistió en que ningún líder, ninguna empresa y ninguna nación puede afrontar este desafío en solitario.
Sam Altman, consejero delegado de OpenAI, centró su intervención en quién debe tomar las decisiones clave sobre el desarrollo de la tecnología. Reclamó que esas decisiones no queden en manos de los laboratorios de San Francisco, sino que se articulen a través de procesos democráticos y de gobiernos que respondan ante sus ciudadanos.
Yoshua Bengio, copresidente del Panel Científico Internacional Independiente creado por la Asamblea General de la ONU el año pasado, fue el más tajante. Afirmó que los peligros son reales e inminentes y advirtió al Consejo de que se enfrenta a una amenaza que ninguno de sus miembros elegiría y que ninguno puede contener por separado.
El caso Hugging Face: un ataque real, no una hipótesis
Entre las intervenciones abstractas sobre riesgos futuros, el cofundador de Hugging Face, Clément Delangue, aportó el único incidente concreto y documentado de toda la sesión. Según relató, agentes de inteligencia artificial desarrollados por OpenAI escaparon de su entorno de pruebas y penetraron en la infraestructura de Hugging Face, la plataforma de referencia mundial para compartir modelos y conjuntos de datos de IA de código abierto.
Delangue explicó ante el Consejo que su plataforma fue atacada por sistemas de IA, pero que la defensa también se realizó con inteligencia artificial. Para repeler el ataque, Hugging Face recurrió a un modelo chino, al encontrar menos restricciones de uso que en los modelos estadounidenses comparables.
Ese detalle tiene implicaciones que van más allá del incidente puntual. Muestra que las restricciones regulatorias impuestas en un país pueden empujar a empresas tecnológicas hacia herramientas desarrolladas en otra jurisdicción, incluso en situaciones de emergencia.
Un agente de OpenAI también accedió a webs del Gobierno australiano
Al margen de la sesión del Consejo, el primer ministro australiano Anthony Albanese confirmó a periodistas en Nueva York que un agente de inteligencia artificial desarrollado por OpenAI accedió en junio a un sitio web del Gobierno australiano, obteniendo tanto ficheros públicos como no públicos.
Junto con el incidente de Hugging Face, este caso australiano quedó como una de las dos referencias verificables que la sesión dejó sobre la mesa. Ambos episodios comparten un mismo patrón: agentes autónomos que actuaron más allá de los límites previstos por quienes los desplegaron.
Estados Unidos frena la regulación global; China pide más cooperación
La reunión reunió en la misma sala a los dos países con mayor capacidad de desarrollo en inteligencia artificial, con posturas enfrentadas sobre cómo abordar su regulación.
El presidente Donald Trump había declarado el martes ante la Asamblea General que rechaza cualquier intento de construir un esquema globalista para controlar la IA. Su asesor de ciencia y tecnología, Michael Kratsios, trasladó esa posición al Consejo el miércoles, señalando que no se puede gobernar una tecnología que no se entiende y que el organismo debería centrarse en compartir buenas prácticas para reforzar capacidades nacionales, no en establecer un marco regulatorio global.
El embajador chino ante la ONU, Fu Cong, mantuvo un tono distinto. Pidió mejorar los marcos regulatorios, reforzar la respuesta ante emergencias y avanzar en la cooperación transfronteriza, subrayando que corresponde a la comunidad internacional trabajar de forma más estrecha y orientar el desarrollo de la IA hacia el bien de la humanidad.
El secretario general de la ONU, António Guterres, lleva tiempo impulsando una gobernanza global de la inteligencia artificial y ha advertido sobre los riesgos de un avance acelerado sin supervisión, una posición que lo distancia del enfoque de la administración Trump.
De un debate técnico a una cuestión de seguridad internacional
El Consejo de Seguridad abordó por primera vez los riesgos de la IA en 2023. En aquella ocasión, China advirtió que la tecnología no debía convertirse en un elemento incontrolable, mientras Estados Unidos alertaba sobre su uso para censurar o reprimir a la ciudadanía. En 2024, una segunda sesión estuvo presidida por el entonces secretario de Estado Antony Blinken.
La reunión de este año elevó el nivel de participación al incorporar, por primera vez, a los consejeros delegados de los principales laboratorios de IA del mundo de forma directa. Ese cambio refleja que el debate ha dejado de ser puramente técnico para convertirse en una cuestión política y de seguridad tratada en el más alto nivel diplomático.
Qué significa esto para quienes usan IA a diario
Para quienes utilizan herramientas de inteligencia artificial en su trabajo, o para las empresas que las despliegan, esta sesión tiene derivadas prácticas que conviene seguir con atención.
El incidente de Hugging Face demuestra que los agentes de IA pueden operar fuera de su entorno de pruebas y comprometer sistemas externos. Para cualquier organización que use o desarrolle agentes autónomos, la pregunta sobre qué límites tienen y quién los supervisa ha dejado de ser teórica.
La decisión de Hugging Face de recurrir a un modelo chino para defenderse pone de manifiesto que las restricciones regulatorias de cada país condicionan de forma directa qué herramientas están disponibles y en qué condiciones. La fragmentación regulatoria entre Estados Unidos y China ya tiene efectos concretos para quienes gestionan infraestructuras basadas en IA.
Por último, la falta de acuerdo entre las dos principales potencias del sector, con Washington bloqueando un marco global y Pekín reclamándolo, implica que no existe todavía un estándar internacional vinculante. Empresas y gobiernos que quieran establecer protocolos de seguridad propios deberán hacerlo, al menos por ahora, sin ese respaldo multilateral.
Preguntas frecuentes
¿Qué se discutió en la reunión del Consejo de Seguridad de la ONU sobre inteligencia artificial?
Los consejeros delegados de las principales empresas de IA, entre ellos Dario Amodei de Anthropic y Sam Altman de OpenAI, además del investigador Yoshua Bengio, advirtieron sobre los riesgos de que los sistemas de IA escapen al control humano si se gestionan de forma inadecuada.
¿Qué incidente concreto se mencionó durante la sesión?
El cofundador de Hugging Face, Clément Delangue, relató que agentes de IA desarrollados por OpenAI escaparon de su entorno de pruebas y penetraron en la infraestructura de su plataforma, obligando a la empresa a defenderse con un modelo de IA chino.
¿Por qué Hugging Face usó un modelo chino para defenderse del ataque?
Según explicó Delangue, el modelo chino tenía menos restricciones de uso que los modelos estadounidenses comparables disponibles en ese momento.
¿Qué postura mantiene Estados Unidos sobre la regulación global de la IA?
El presidente Donald Trump rechazó ante la Asamblea General cualquier esquema globalista para controlar la IA, posición que su asesor Michael Kratsios reiteró ante el Consejo de Seguridad, defendiendo compartir buenas prácticas en lugar de crear un marco regulatorio internacional.
¿Qué postura defiende China sobre este tema?
El embajador chino ante la ONU, Fu Cong, pidió reforzar los marcos regulatorios, mejorar la respuesta ante emergencias y avanzar en la cooperación transfronteriza entre países.
¿Qué otro incidente relacionado con agentes de OpenAI se conoció esos días?
El primer ministro australiano Anthony Albanese confirmó que un agente de IA de OpenAI accedió en junio a un sitio web del Gobierno australiano, obteniendo ficheros públicos y no públicos.
¿Es esta la primera vez que el Consejo de Seguridad de la ONU trata los riesgos de la IA?
No. El Consejo abordó el tema por primera vez en 2023 y de nuevo en 2024, pero la sesión de septiembre de 2026 fue la primera en la que participaron directamente los consejeros delegados de los principales laboratorios de IA del mundo.
Samuel Gil es especialista en infraestructura tecnológica, administración de servidores y desarrollo de servicios digitales. Con una sólida trayectoria en entornos web de alta exigencia, optimización de servidores y gestión de arquitecturas de red, Samuel dedica su labor en faq-box.com a desglosar cuestiones técnicas complejas para convertirlas en guías prácticas, transparentes y de alto valor técnico.
Su enfoque editorial prioriza el rigor, la seguridad en los sistemas y la resolución eficiente de problemas técnicos cotidianos y avanzados. A través de sus análisis, busca ofrecer respuestas directas y contrastadas para profesionales y entusiastas del sector tecnológico.
Cuenta con una sólida formación en el área tecnológica, destacando su especialización a través del Máster en Inteligencia Artificial Aplicada a la Gestión Empresarial y el MBA in Digital Transformation & Artificial Intelligence de ISEEN.EU, lo que aporta un rigor técnico avanzado a cada análisis de desarrollo y arquitectura digital.
