IA: ¿acelerar o frenar?
Por Xavier Vives — Portada
Economista. IESE
IA: ¿acelerar o frenar? 18/09/2026 00:30 Síguenos en Google 0:00 0:00 0.5x 0.8x 1x 1.2x 1.5x SUSCRÍBETE PARA ESCUCHAR El audio de esta noticia está generado mediante Inteligencia Artificial
Dario Amodei de Anthropic, Samuel Altman de OpenAI, y Elon Musk de SpaceX hacen un llamamiento a detener el desarrollo rápido de la inteligencia artificial ( IA), que ellos mismos (sobre todo los dos primeros) han promovido, por los peligros que puede comportar. Antiguos trabajadores de las empresas punteras aparecen en portadas de diarios y plataformas día sí y día también advirtiendo que la IA tiene probabilidades significativas de acabar pronto con la humanidad. El joven Jacob Coxon se ha hecho famoso avisando de que viene el lobo después de trabajar cuatro (!) meses en Anthropic.
Amodei articuló la semana pasada el argumento más elaborado para hacer una pausa ante los riesgos de perder el control de los sistemas de IA, el uso de la IA para ciberataques y bioterrorismo y de una grave disrupción económica. Menciona ejemplos recientes en Anthropic y OpenAI de sistemas de IA fuera de control afirmando, exageradamente, que en 6-12 meses un enjambre de agentes de IA (botnet en el argot) podría conquistar todo internet. El peligro es que la automejora recursiva de la IA escape a cualquier comprensión y control. Norbert Wiener, padre de la cibernética, ya afirmó en 1960 que era posible que el comportamiento de las máquinas solo se pudiera entender después de que la intervención reguladora ya no fuera factible. Aún hoy no entendemos bien el funcionamiento de los grandes modelos de lenguaje ( LLM), pero lo que está claro es que el diseño de los sistemas de IA es crucial para evitar problemas. Una vez dado un objetivo, se ha de poner contexto y restricciones en cómo se alcanza con mucho cuidado. En una simulación en el Reino Unido, la IA recomendó detener todos los trenes como solución para que no lleguen nunca tarde ni haya accidentes. Esa sería una solución también para Rodalies…
El peligro es que la automejora recursiva de la IA escape a cualquier comprensión y control
Amodei plantea una vía intermedia entre detener la tecnología y la carrera actual (race to the bottom), en que los estándares de seguridad se relajan para que una empresa no tenga en cuenta el daño para el sistema si hay un accidente. La competencia es buena, pero puede tener efectos negativos en presencia de efectos externos. La vía sería una combinación de autorregulación de empresas e industria, y la regulación de los estados, junto con coordinación global. También pide una dispensa limitada de la ley antimonopolio para las conversaciones sobre seguridad entre empresas. El resultado tendría que ser una race to the top, donde las empresas de IA compiten para ofrecer seguridad, haciendo desarrollar la IA de manera equilibrada. Hay varios obstáculos para aplicar el plan. De entrada, se tendría que reforzar el gobierno corporativo de las empresas, dependiendo mucho de los fundadores. El problema es que las empresas quieren desarrollar la IA lo más rápido posible para ser los primeros y atraer capital en las salidas a bolsa (que ahora OpenAI dice que pospone). Solo la regulación puede pausar el desarrollo, requiriendo tests de seguridad de los modelos antes de comercializarlos y resolviendo el problema de coordinación entre las empresas. Hay otro problema, China no detendrá su desarrollo, y la ventaja actual de seis meses a un año de las empresas de EE.UU. puede desaparecer deprisa. Trump ya ha dicho que no se ha de desacelerar el desarrollo en EE.UU.
Lee también
Ampliar la casa
Antoni Puigverd
Hay una interpretación menos benigna de las proclamas de los líderes de la IA: claman por la regulación para protegerse de posibles competidores creando una barrera de entrada al oligopolio actual, y se suscitan expectativas dando miedo para subir las valoraciones de las empresas. Además, EE.UU. difícilmente regulará, excepto para evitar que la tecnología esté en manos de otros países. La moderación de la carrera también interesa colectivamente a los pioneros: han de hacer grandes inversiones para mantenerse en la frontera tecnológica mientras pierden dinero. Los llamamientos al peligro de extinción de la humanidad en manos de la IA ciertamente son exagerados y parecen interesados. Antes se acabará el mundo por un conflicto nuclear promovido por las autocracias. Esos llamamientos se han producido también tras grandes cambios tecnológicos como la revolución industrial y, en menor medida, el desarrollo del ferrocarril, la electrificación e internet.
Mostrar comentarios
Fonte: Portada
