Chema Alonso: “¿Y si la IA hace un análisis y descubre que el problema somos los humanos?”
Por Francisco Bracero Osuna — Portada
Chema Alonso: “¿Y si la IA hace un análisis y descubre que el problema somos los humanos?”
Inteligencia artificial
El vicepresidente y director de desarrollo internacional de Cloudflare imparte un panel sobre ciberseguridad e IA en el AI Summit Barcelona
Chema Alonso en el AI Summit Barcelona, que se celebra hoy y mañana en el World Trade Center
F. Bracero
Barcelona
22/09/2026 13:19 Actualizado 22/09/2026 13:30 Síguenos en Google 0:00 0:00 0.5x 0.8x 1x 1.2x 1.5x SUSCRÍBETE PARA ESCUCHAR El audio de esta noticia está generado mediante Inteligencia Artificial
Todo cambia muy rápido. Tanto que lo que valía en ciberseguridad hace apenas seis meses es muy posible que ya no sea efectivo en la actualidad. El motor de cambio es la inteligencia artificial, según ha explicado en uno de los paneles del AI Summit Barcelona el hacker Chema Alonso, ex directivo de Telefónica y actual vicepresidente y director de desarrollo internacional de Cloudflare. En su exposición sobre ciberseguridad e inteligencia artificial, ha mostrado la velocidad con la que cambia la forma en que la IA encuentra vulnerabilidades y ha dejado una pregunta en el aire: “¿Y si la inteligencia artificial hace un análisis y descubre que el problema son los seres humanos? Esa es la preocupación”.
Alonso ha explicado que hace menos de 20 años, en el 2007, la investigación en seguridad se basaba en el análisis manual del código para identificar fallos en aplicaciones web, pero que el 1 de diciembre del 2024 OpenAI lanzó su primer modelo de razonamiento profundo, capaz de analizan el código fuente a partir de una única indicación y descubrir un número significativamente mayor de vulnerabilidades que el análisis manual que se hacía antes.
Chema Alonso ha explicado que una investigación de marzo del 2025 puso a prueba agentes autónomos de IA dedicados al hacking en un entorno corporativo que contenía 100 servidores simulados. Esos agentes encontraron soluciones para comprometer con éxito el 70 % de los entornos objetivo a los que debían acceder. “A partir de ahí –ha apuntado–, todo cambió. Nuestra forma de abordar la seguridad cambió drásticamente. Ya no realizamos pruebas de penetración manuales. Ya no buscamos vulnerabilidades”. Ahora, los investigadores utilizan conjuntos de herramientas automatizadas para localizar y verificar la posibilidad de explotación.
“Las capacidades técnicas de los modelos de IA se expanden más rápido que los controles de seguridad y aumenta el riesgo”
“Si bien la alineación en materia de seguridad ha mejorado –ha indicado –, las capacidades técnicas de los modelos se expanden más rápido que los controles de seguridad, lo que aumenta el riesgo sistémico”. En unos meses pasamos del mantra de que había que aprender a escribir prompts (instrucciones para la IA), a “definir un proceso de resolución de problemas”. “Ha cambiado por completo la forma en que gestionamos la seguridad, pero funciona porque, en algún momento, en teoría, la inteligencia artificial se vuelve más inteligente”, ha indicado.
Pero el panorama en el que las herramientas de IA se vuelven imprescindibles para gestionar la ciberseguridad debe tener en cuenta una serie de problemas que detalla Alonso: “los modelos de IA siguen siendo inherentemente susceptibles al sesgo, las alucinaciones, el envenenamiento de datos, la fuga de datos, la inyección de comandos, el «jailbreaking» – elude las normas de seguridad de un sistema– y la desalineación de objetivos”.
Lee también
La inteligencia artificial amenaza la ciberseguridad a una velocidad nunca vista
Francesc Bracero
Vientos de alerta
Francesc Bracero
Alonso también ha recordado que en el proceso de uso de la IA “nos olvidamos de decirle qué es ético o no ético hacer”. “La inteligencia artificial genera un enjambre de agentes con millones de tareas para hacer cosas que resuelvan un problema. A veces no de forma ética. A veces, con ética. A veces, haciendo trampa. veces haciendo cosas malas. Pero esa es la realidad. Este es el mundo que tenemos hoy en día, y esto se debe a que a todo el mundo le parece bien”. ha señalado.
Francesc Bracero
Licenciado en Periodismo por la UAB. Redactor de La Vanguardia desde 1996. Ha cubierto las áreas de Política, Deportes y Comunicación. Especializado en tecnología. Autor del libro ‘Bicicletas para la mente’ (Península)
Mostrar comentarios
Fonte: Portada
