Los directivos de OpenAI y Anthropic comparecieron el miércoles ante el Consejo de Seguridad de la ONU para reclamar reglas internacionales sobre inteligencia artificial. Fue la primera vez que el máximo órgano de seguridad de Naciones Unidas convocó a ejecutivos tecnológicos para debatir este asunto, un hecho que marca un punto de inflexión en cómo los gobiernos abordan el avance de esta tecnología.
La comparecencia llega en un momento de fricción creciente entre las grandes potencias sobre quién debe controlar el desarrollo de la IA, mientras los usos militares de esta tecnología ya provocan víctimas reales en conflictos como el de Ucrania.
Altman y Amodei advierten sobre perder el control del futuro
Sam Altman, director ejecutivo de OpenAI, no matizó su mensaje ante los representantes de los países miembros: «Podríamos perder el control del futuro ante la IA».
Dario Amodei, al frente de Anthropic, fue en la misma línea: «Si se gestiona mal, creo que la IA podría ser un riesgo para la humanidad en su conjunto».
Ambos pidieron al Consejo que establezca salvaguardas antes de que la tecnología alcance un nivel de poder imposible de frenar. También reclamaron que ninguna empresa ni ningún país concentre en exclusiva su control.
Junto a ellos participó Clément Delangue, director ejecutivo de Hugging Face, la plataforma conocida por alojar modelos de código abierto accesibles a desarrolladores de todo el mundo. Su conexión remota falló en varios momentos de la sesión.
Francia convoca, Reino Unido responde, Estados Unidos frena
Francia presidió la sesión. Su ministro de Asuntos Exteriores, Jean-Noël Barrot, comparó el momento actual con el nacimiento de la era atómica y defendió que la comunidad internacional debe regular la IA ahora para aprovechar su potencial y evitar los peores escenarios.
El canciller británico Ed Miliband respaldó esa postura y anunció que, cuando el Reino Unido presida el G20 el próximo año, situará el control de la IA en el centro de la agenda, con el objetivo de acordar un conjunto único de estándares globales.
La posición de Washington fue la opuesta. El asesor científico de la Casa Blanca, Michael Kratsios, sostuvo ante el Consejo que las preocupaciones sobre el control de la IA no son razón para pausar su desarrollo ni para limitarlo con nuevas estructuras de gobernanza global.
China defiende el código abierto y advierte contra la «hegemonía digital»
El embajador chino ante la ONU, Fu Cong, rechazó cualquier marco regulatorio que pudiera restringir las opciones tecnológicas de los países. Advirtió contra la formación de bloques enfrentados en el sector tecnológico que obliguen a otros países a tomar partido, y señaló a potencias sin nombrar directamente que, según él, buscan hegemonía digital.
Pekín defiende los modelos de código abierto como vía de acceso universal a la tecnología, mientras compite abiertamente con Washington por el liderazgo global en IA. Esa rivalidad estuvo presente en cada intervención de la jornada.
El secretario del Tesoro estadounidense, Scott Bessent, había revelado un día antes que ambos países discutieron un posible mecanismo de notificación para incidentes de IA con implicaciones en seguridad nacional, aunque sin detalles concretos sobre su funcionamiento.
Ucrania y la pregunta sobre quién decide matar
El presidente ucraniano Volodímir Zelenski, desde la Asamblea General, situó el debate en términos concretos. Su país lleva cuatro años y medio en guerra y ya enfrenta sistemas que toman decisiones letales sin intervención humana.
«Ya existe la posibilidad real de que la IA, y no las personas, empiece a decidir lo que ocurre en el campo de batalla. Necesitamos la paz antes de llegar a ese punto», afirmó Zelenski.
Un día antes, el secretario general de la ONU, António Guterres, había advertido sobre los llamados «robots asesinos». El mes pasado, un dron ruso que aparentemente usaba IA tomó de forma autónoma una decisión de ataque que mató a tres personas en Ucrania.
Kentaro Toyama, profesor de tecnología de la información en la Universidad de Míchigan, fue tajante al respecto: los robots asesinos son técnicamente fáciles de construir y ya son una realidad, sin margen para hacerse ilusiones.
La científica de datos Rumman Chowdhury, cofundadora de la organización sin ánimo de lucro Humane Intelligence, propuso reformular la pregunta de fondo: no se trata de un escenario de ciencia ficción, sino de saber quién autorizó a una máquina a seleccionar y atacar un objetivo, bajo qué restricciones y quién responde del resultado.
Las tres peticiones concretas de Amodei
Amodei presentó tres demandas específicas a los líderes mundiales presentes en la sesión:
- Acordar que la IA no desarrolle armas biológicas.
- Crear sistemas de verificación de las capacidades reales de los modelos.
- Establecer estándares comunes para pruebas de seguridad y para situaciones de pérdida de control o uso indebido.
Son peticiones que exigen transparencia también por parte de las propias empresas que diseñan estos sistemas, incluida Anthropic, desarrolladora de Claude, uno de los asistentes de IA más utilizados en entornos profesionales y de investigación.
El embajador liberiano ante la ONU, Lewis G. Brown II, resumió la tensión de fondo del debate: advirtió que no se debe permitir que el coste de la vacilación de hoy se convierta en la catástrofe de mañana.
Qué implica esto para quienes usan IA hoy
Este debate tiene consecuencias directas sobre las reglas que gobiernan las herramientas de inteligencia artificial que millones de personas usan en su trabajo y vida cotidiana.
No hay estándar global vinculante
Hoy no existe ninguna norma internacional obligatoria sobre lo que un modelo de IA puede o no puede hacer. Las limitaciones que encuentra un usuario dependen de decisiones internas de cada empresa, no de un acuerdo común entre países.
Regulación fragmentada por regiones
El bloqueo de Estados Unidos a nuevas estructuras de gobernanza global deja el camino abierto a una regulación fragmentada, con estándares distintos en Europa, Asia y América. Para empresas que operan en varios mercados, esto puede multiplicar las obligaciones de cumplimiento sin coordinación entre ellas.
Vacío legal sobre decisiones autónomas
La pregunta sobre quién autoriza una decisión autónoma de una máquina, y quién responde de sus consecuencias, no tiene todavía respuesta legal clara en casi ningún país, y esto incluye usos civiles, no solo militares.
Preguntas frecuentes
¿Por qué comparecieron los jefes de OpenAI y Anthropic ante el Consejo de Seguridad de la ONU?
Porque fue la primera vez que este órgano convocó a directivos tecnológicos para debatir los riesgos de la inteligencia artificial, en un contexto de creciente preocupación internacional sobre su regulación.
¿Qué pidieron exactamente Sam Altman y Dario Amodei?
Reclamaron salvaguardas internacionales antes de que la IA alcance un poder imposible de controlar, y que ningún país ni empresa concentre en exclusiva su control.
¿Por qué Estados Unidos se opone a una nueva gobernanza global sobre IA?
El asesor científico de la Casa Blanca, Michael Kratsios, argumentó ante el Consejo que las preocupaciones sobre el control de la IA no justifican pausar su desarrollo ni crear nuevas estructuras regulatorias globales.
¿Qué posición defendió China en la sesión?
El embajador chino Fu Cong defendió los modelos de código abierto y rechazó cualquier marco regulatorio que restrinja las opciones tecnológicas de los países, advirtiendo contra la formación de bloques enfrentados en el sector.
¿Qué relación tiene la guerra en Ucrania con este debate?
El presidente Zelenski advirtió sobre sistemas de armas autónomos que ya toman decisiones letales sin intervención humana, después de que un dron ruso con IA matara a tres personas el mes pasado.
¿Qué propuso concretamente Dario Amodei?
Pidió acordar que la IA no desarrolle armas biológicas, crear sistemas de verificación de las capacidades reales de los modelos y establecer estándares comunes de pruebas de seguridad.
¿Existe ya alguna norma internacional vinculante sobre IA?
No. Actualmente no hay ningún estándar global obligatorio que regule lo que los modelos de inteligencia artificial pueden o no pueden hacer.
Samuel Gil es especialista en infraestructura tecnológica, administración de servidores y desarrollo de servicios digitales. Con una sólida trayectoria en entornos web de alta exigencia, optimización de servidores y gestión de arquitecturas de red, Samuel dedica su labor en faq-box.com a desglosar cuestiones técnicas complejas para convertirlas en guías prácticas, transparentes y de alto valor técnico.
Su enfoque editorial prioriza el rigor, la seguridad en los sistemas y la resolución eficiente de problemas técnicos cotidianos y avanzados. A través de sus análisis, busca ofrecer respuestas directas y contrastadas para profesionales y entusiastas del sector tecnológico.
Cuenta con una sólida formación en el área tecnológica, destacando su especialización a través del Máster en Inteligencia Artificial Aplicada a la Gestión Empresarial y el MBA in Digital Transformation & Artificial Intelligence de ISEEN.EU, lo que aporta un rigor técnico avanzado a cada análisis de desarrollo y arquitectura digital.
