¿Se puede detener la carrera armamentística de la IA?

Por The Economist — Portada

Contenido solo para suscriptores ¿Se puede detener la carrera armamentística de la IA?

Opciones limitadas

A Estados Unidos le costará garantizar la seguridad de la tecnología mientras mantiene su ventaja sobre China

The Economist

18/09/2026 06:00 Síguenos en Google 0:00 0:00 0.5x 0.8x 1x 1.2x 1.5x SUSCRÍBETE PARA ESCUCHAR El audio de esta noticia está generado mediante Inteligencia Artificial

Dos cosas deberían hacerte reflexionar sobre lo que la inteligencia artificial (IA) puede suponer para la humanidad. La primera es que quienes trabajan con esta tecnología advierten de que podría desembocar en una catástrofe, incluso en la extinción humana. La segunda es cómo la innovación tecnológica está agravando la destrucción de Ucrania. Estos hechos ofrecen lecciones contradictorias sobre si el rápido avance de la IA puede o debe ralentizarse.

Durante años, los principales responsables de la inteligencia artificial han advertido que su tecnología podría volverse letal. Los bots podrían llegar a ser lo suficientemente inteligentes como para superar a sus propios creadores antes de estar “alineados” con los objetivos y la ética de la humanidad. Personas malintencionadas podrían emplear la IA para causar estragos. Estas advertencias han cobrado más peso a medida que agentes de IA han conseguido salir de sus entornos de prueba durante experimentos, han colaborado entre sí y han llegado a piratear distintas organizaciones, incluso un propio laboratorio de IA. Anthropic, un creador de modelos, ha detectado que sus sistemas estaban siendo utilizados con fines perversos, desde los servicios de inteligencia de Malí construyendo un sistema de vigilancia masiva, hasta la sospecha de que rebeldes hutíes en Yemen estaban desarrollando software para misiles balísticos.

Tras la reciente dimisión de un investigador en Anthropic, el temor público a un desastre provocado por la inteligencia artificial se ha extendido. En una publicación que superó los 170 millones de visualizaciones, afirmó que tanto Anthropic como OpenAI estaban “jugándose nuestras vidas”. La inteligencia artificial avanza a gran velocidad, tanto para bien como para mal. En mayo, los mercados de predicción daban menos de una probabilidad entre tres de que la IA resolviera alguno de los problemas matemáticos del milenio antes de 2030; el pasado 8 de septiembre, OpenAI anunció que había resuelto uno, lo que provocó inquietud entre los matemáticos. El 12 de septiembre, Altman y Musk, dos gigantes del sector de la inteligencia artificial, apoyaron la propuesta de Amodei, máximo responsable de Anthropic, para “poner límites al avance”, es decir, frenar el desarrollo de la IA. Entre los partidarios de esta ralentización se encuentran Sanders, senador de izquierdas, y Bannon, referente de la derecha populista.

Entre los que se oponen se encuentra Trump, cuya administración teme por encima de todo perder el liderazgo de Estados Unidos en inteligencia artificial frente a China, su único rival serio. Scott Bessent, secretario del Tesoro estadounidense, ha afirmado que si China logra la ventaja: “Nada más importaría.”

Como prueba, Bessent podría señalar a Ucrania, donde cada avance en la carrera armamentística tecnológica tiene un efecto inmediato. Como informamos, Rusia ha desplegado sin escrúpulos sus últimos drones kamikaze para bombardear infraestructuras civiles. Además de ser más rápidos, estos drones emplean ahora un sistema de comunicación en “malla” entre ellos para transmitir información y órdenes. Pronto, Rusia contará con su propia versión de la red de satélites Starlink de Musk, lo que hará que sus ataques de largo alcance sean más precisos.

Es la última demostración de hasta qué punto incluso una pequeña ventaja tecnológica resulta crucial en tiempos de guerra. La propia innovación de Ucrania en drones de combate le ayudó a repeler oleadas de ataques rusos. Ucrania puede golpear en el interior de Rusia con drones de largo alcance. Ambos bandos están desarrollando drones en enjambre que podrán operar de forma más autónoma como un único sistema adaptativo.

La guerra demuestra cómo la tecnología se traduce en poder duro, y cómo Rusia la utiliza sin respetar las antiguas reglas ni las normas tradicionales del combate. Aunque Estados Unidos no temiera una guerra abierta similar con China, una ventaja en inteligencia artificial otorgaría a su principal rival geopolítico el dominio en ciberataques, espionaje y guerra híbrida. Estas no son capacidades que Estados Unidos deba ceder a un Estado autoritario interesado en erradicar las ideas liberales.

Por tanto, una pausa solo funcionaría si China también se sumara. Trump tiene previsto recibir a Xi Jinping, presidente de China, en la Casa Blanca el 24 de septiembre. Pero incluso si Trump quisiera frenar, es poco probable que Xi acepte el plan que imagina Amodei, porque eso dejaría a la inteligencia artificial china anclada en segundo lugar. Y ninguna de las dos partes podría arriesgarse a que la otra incumpliera el pacto adelantándose en la carrera.

La IA no necesita acabar con toda la humanidad para provocar una catástrofe

Para llegar a un acuerdo, cada parte tendría que verificar el cumplimiento, como ocurría con el control de armas durante la guerra fría. Estados Unidos, Reino Unido y la Unión Soviética prohibieron las pruebas nucleares atmosféricas en 1963 porque podían detectarlas; las pruebas subterráneas continuaron durante tres décadas más, hasta que también pudieron ser controladas. Sin embargo, aunque los centros de datos sean visibles, no existe ningún método verificable para saber qué ocurre en su interior. La infraestructura utilizada para entrenar una superinteligencia podría hacerse pasar por simples chatbots que responden a consultas cotidianas.

Por tanto, las opciones para alcanzar un acuerdo sobre la seguridad de la inteligencia artificial son limitadas, pero existen. Una mayor transparencia sería de ayuda. Ambas partes deberían comprometerse a informar e investigar los incidentes de seguridad que se produzcan en sus laboratorios, aplicando la legislación nacional. Cada una podría demostrar su interés por la seguridad como señal de confianza, allanando el camino para que la otra adopte precauciones. También deberían exigirse mutuamente mejoras en la ciberseguridad de los laboratorios para evitar que los agentes de inteligencia artificial puedan escapar con tanta facilidad de los entornos controlados y garantizar que, si alguno lo hace, el laboratorio asuma la responsabilidad económica.

Lo más importante es el reto de garantizar que la inteligencia artificial opere en beneficio de las personas. Estados Unidos y China tienen valores muy distintos, pero ambos saben que no sirve de nada estar a la cabeza si ello supone la aniquilación de la humanidad. Deberían comprometerse a compartir el trabajo sobre aquellos aspectos de la alineación que no supongan una ventaja competitiva. El conocimiento de los mejores métodos de evaluación y técnicas de contención es un bien público global. Si una de las partes logra un avance importante en materia de seguridad, acapararlo carece de sentido.

‘Doomerismo’ efectivo

Algunos descartan la reciente ola de pesimismo como una maniobra de marketing de las empresas de IA, o incluso como un intento de frenar a la competencia. Sin embargo, el avance de la IA es lo suficientemente rápido, los incidentes de seguridad son lo bastante alarmantes y las advertencias de las propias compañías llevan tanto tiempo produciéndose como para que deban tomarse en serio. La IA no necesita acabar con toda la humanidad para provocar una catástrofe. Un enjambre de agentes de OpenAI atacó a una empresa tecnológica; ¿y si la próxima vez lo hace contra una red eléctrica o un sistema de armamento? Incluso podría ser lo bastante inteligente como para esquivar los intentos de desconectarla.

El mundo debe intentar urgentemente evitar este riesgo. Sin embargo, las democracias también deben evitar perder el control frente a los regímenes autoritarios. Son tareas difíciles y en conflicto. Podrían desembocar en una guerra. No podría haber un desafío mayor.

© 2026 The Economist Newspaper Limited. Todos los derechos reservados.

Mostrar comentarios

Fonte: Portada