Los jefes de Anthropic y OpenAI alertan en la ONU de que la IA está creciendo peligrosamente
Por Francesc Peiron Arques — Portada
Los jefes de Anthropic y OpenAI alertan en la ONU de que la IA está creciendo peligrosamente
En la ONU
Dario Amodei y Sam Altman piden en su comparecencia en el Consejo de Seguridad una coordinación internacional para abordar los riesgos, despreciados por el presidente Trump, que plantea la inteligencia artificial a medida que los sistemas se vuelven más potentes
Sam Altman, jefe ejecutivo de OpenAI, aparece sentado a la derecha siguiendo la comparecencia por vídeo conferencia de su colega Dario Amodei, CEO de Anthropic, en el Consejo de Seguridad de la ONU
John Lamparski / Bloomberg
Nueva York. Corresponsal
24/09/2026 00:52 Síguenos en Google 0:00 Audio generado por IA 0:00 0.5x 0.8x 1x 1.2x 1.5x SUSCRÍBETE PARA ESCUCHAR
No es nada habitual que dos tecno-oligarcas, según el término empleado por el presidente español Pedro Sánchez, comparezcan en el Consejo de Seguridad, el órgano de poder de la Organización de Naciones Unidas, y lo hagan para advertir del peligro que supone para la humanidad la herramienta de su negocio, en su caso la inteligencia artificial.
Pero así fue la tarde de este miércoles, en una sesión celebrada en el marco de la Asamblea General de la ONU. Los directores ejecutivos de OpenAI, Sam Altman, y el de Anthropic, Dario Amodei, pidieron ante ese organismo una coordinación internacional para abordar los riesgos que plantea la IA a medida que los sistemas se vuelven más potentes y apelaron a los gobiernos a trabajar de forma conjunta.
Su intervención se produjo después de que el presidente de Estados Unidos, Donald Trump, rechazara el martes desde el estrado de la Asamblea General “un plan globalista” para controlar esta industria bajo el argumento de que la visión apocalíptica es una falsedad que solo busca beneficiar a China. “No voy a frenar el crecimiento de algo que será más grande que la Revolución Industrial”, dijo Trump.
Amodei subrayó ante los quince miembros del consejo, cuyo objetivo primordial es mantener la paz y seguridad internacionales, que si esta herramienta se gestiona de manera inadecuada, “la inteligencia artificial podría suponer un peligro para la humanidad en su conjunto”.
La reunión, convocada por Francia como presidente del consejo durante este mes en que se celebra el debate general que congrega a líderes de todo el mundo, se produjo cuando no cesan de surgir advertencias de que los sistemas de IA podrían pronto mejorar por sí mismos y escapar al control humano.
“A pesar de todas las diferencias entre las personas que estamos en esta sala, debemos dejar de lado esas diferencias para hacer frente a esta oportunidad y a esta amenaza global que se nos presentan al mismo tiempo. Ningún líder, ninguna empresa y ninguna nación puede gestionar esto por sí sola”, remarcó el cofundador de Anthropic.
“A lo largo de nuestra historia ha habido momentos en los que países que compiten entre sí y que no siempre se tienen demasiado aprecio han aunado esfuerzos en defensa de intereses comunes y del bien colectivo ante una nueva tecnología poderosa”, terció Altman. “Creemos que éste debe de ser uno de esos momentos”, insistió.
Los gobiernos de todo el mundo han tenido dificultades para seguir el ritmo de los rápidos avances de la inteligencia artificial. Estados Unidos y China, las dos principales potencias en su desarrollo, han adoptado enfoques diferentes en materia de supervisión y regulación. Trump sostiene que EE.UU. no necesita nuevas regulaciones específicas, mientras que China ha impuesto normas que regulan los algoritmos de IA y los datos utilizados para su entrenamiento, incluidos requisitos para que el contenido generado por IA esté claramente identificado.
Hace solo unos días, a primeros de este mes, Amodei sacudió al sector tecnológico al publicar una propuesta para ralentizar el ritmo de desarrollo de la inteligencia artificial. Altman, en una más que inusual muestra de solidaridad con su principal rival, coincidió públicamente con Amodei en la necesidad de “marcar el ritmo de la frontera”.
Las prácticas de seguridad de ambas compañías han sido objeto de un intenso escrutinio después de que investigadores del sector advirtieran del creciente potencial de la IA para causar daños catastróficos. Uno de los expertos que trabajó para ambas empresas avisó de que se aproximaban al fin del mundo.
“Si la IA ha de ser democrática, las decisiones más importantes no pueden tomarse únicamente en los laboratorios de San Francisco. Deben configurarse mediante procesos democráticos y por gobiernos que rindan cuentas ante las personas a las que sirven”, reclamó Altman ante el consejo, un empresario que para muchos representaba la codicia desmedida.
“Superar a las empresas en una carrera competitiva no es motivo para tomar decisiones precipitadas”, señaló Altman. “En el pasado hemos ralentizado unilateralmente nuestro ritmo. Lo volveremos a hacer en el futuro”, prometió.
En paralelo a la reunión del Consejo de Seguridad, el primer ministro australiano, Anthony Albanese, declaró a los periodistas en Nueva York que un agente de IA desarrollado por OpenAI se infiltró en junio en un sitio web del Gobierno australiano y accedió a archivos públicos y no públicos de los servicios sanitarios, el último de los incidentes conocidos de alto nivel que se atribuyen a un cíberataque de la inteligencia artificial.
El Consejo de Seguridad se reunió por primera vez para abordar los riesgos de la IA en 2023, cuando China afirmó que la tecnología no debía convertirse en un caballo desbocado y Estados Unidos advirtió contra su uso para censurar o reprimir a la población. El entonces secretario de Estado estadounidense, Antony Blinken, presidió una reunión del Consejo de Seguridad sobre IA en 2024. Pero todo se ha acelerado desde que OpenAI sacó el chatbot ChatGPT que popularizó la inteligencia artificial, en el 2022.
Yoshua Bengio, científico canadiense considerado uno de los padrinos de la IA y copresidente del Panel Científico Internacional Independiente —creado por la Asamblea General de la ONU en el 2025, declaró este miércoles ante el consejo que “los peligros son reales e inminentes”.
Según vaticinó, “este consejo se enfrenta a una amenaza sin precedentes, una amenaza que ninguno de sus miembros elegiría, que ninguno puede contener por sí solo y que no respeta las fronteras que defendemos”.
“No se puede regular una tecnología que no se comprende. Este organismo y otros similares deberían centrarse en compartir las mejores prácticas para desarrollar capacidades nacionales, no en establecer un marco regulatorio global”, replicó Michael Kratsio, asesor de Ciencia y Tecnología de la Casa Blanca que se hizo eco en esa reunión de las palabras de Trump.
El embajador de China ante la ONU, Fu Cong, señaló que era necesario mejorar continuamente los marcos regulatorios, la respuesta ante emergencias y la cooperación transfronteriza en materia de IA.
“La comunidad internacional debe trabajar de manera más estrecha, conceder la misma importancia al desarrollo y a la seguridad, y orientar el desarrollo de la IA hacia fines positivos, en beneficio del bien y de la humanidad”, indicó.
António Guterres, secretario general de la ONU, lleva tiempo haciendo campaña por una gobernanza mundial de la IA. Al contrario de Trump, el político portugués alertó de que el rápido avance de la IA plantea riesgos que no pueden ignorarse.
Francesc Peirón
Corresponsal de 'La Vanguardia' en Nueva York
Etiquetas
Mostrar comentarios
Fonte: Portada
