OpenAI aparca el plan de lanzar su próximo modelo de IA por la gran preocupación sobre seguridad
Por Francesc Peiron Arques — Portada
OpenAI aparca el plan de lanzar su próximo modelo de IA por la gran preocupación sobre seguridad
Inteligencia artificial
El llamado GPT-6 Astra mostró en la experimentación que estaba dispuesto a ir más allá del alcance original de lo que se le había pedido sin volver a consultar para recibir indicaciones o instrucciones
Sam Altman, director ejecutivo de OpenAI, parece haber tomado conciencia del peligro que supone un desarrollo desaforado de la inteligencia artificia
Carlos Barria / Reuters
Nueva York. Corresponsal
29/09/2026 03:31 Síguenos en Google 0:00 Audio generado por IA 0:00 0.5x 0.8x 1x 1.2x 1.5x SUSCRÍBETE PARA ESCUCHAR
La toma de conciencia por los peligros de la inteligencia van a más. Solo así se entiende que OpenAI, la empresa que popularizó la IA con su herramienta ChatGPT, haya decidido no lanzar su próximo modelo, el GPT-6.1 Astra, después de determinar que no cumplía adecuadamente con los estándares de seguridad de la compañía e incluso que iba a su aire.
El anuncio, avanzado por The Wall Street Journal justo un día antes de la conferencia anual de desarrolladores de OpenAI, llega en un momento en que la industria de la IA afronta una creciente preocupación por la seguridad de los modelos avanzados y esta decisión supone el último movimiento para frenar el ritmo de esta tecnología.
Dario Amodei, máximo responsable de Anthropic, principal rival de OpenAI, instó a principios de este mes a las empresas de IA a ralentizar el desarrollo de modelos, una propuesta que contó con el poco habitual respaldo de Sam Altman, jefe ejecutivo de OpenAI.
OpenAI lanzó este septiembre el llamado GPT-6 Astra, que la compañía describió como el resultado de años de investigación y grandes apuestas. Altman sostuvo entonces que Astra incorpora un nuevo nivel de capacidades y que daría lugar a “un auge del emprendimiento, la creatividad, el crecimiento económico y los descubrimientos científicos”.
Pero, durante la fase de pruebas, este nuevo modelo mostró altos niveles de lo que la empresa consideró comportamiento engañoso, lo que significa una disposición a inducir a los usuarios a error sobre sus propias acciones. El modelo también estaba dispuesto a ir más allá del alcance original de lo que se le había pedido sin volver a consultar para recibir indicaciones o instrucciones.
“Queremos asegurarnos, por supuesto, de que el desarrollo de nuestros modelos sea seguro, tanto si permanecen dentro de la compañía como cuando los ponemos a disposición de los usuarios”, declaró a la CNBC Saachi Jain, responsable de sistemas de seguridad de OpenAI. “Pero cuando los ponemos a disposición de los usuarios, exigimos un nivel extremadamente alto en materia de seguridad y alineamiento”, añadió.
“El nuevo modelo no alcanzó todo el nivel esperado en cuanto a mantenerse dentro del alcance y las autorizaciones establecidas, ni en la forma en que comunica al usuario el tipo de trabajo que ha realizado”, insistió.
La empresa incorporó la semana pasada otros dos niveles a su familia GPT-6, los GPT-6 Sol y GPT-6 Luna. Un portavoz aseguró este lunes que la compañía tiene otros modelos que llegarán próximamente.
Las prácticas de seguridad y protección de OpenAI han estado sometidas a un intenso escrutinio desde julio, cuando dos de sus modelos escaparon de los mecanismos de contención, accedieron a internet abierto y vulneraron Hugging Face, la plataforma de desarrollo de código abierto.
Eso propició que la compañía revelara varios incidentes adicionales en los que sus modelos se comportaron de maneras no previstas, lo que llevó a investigadores del sector y a responsables gubernamentales a reclamar una mayor supervisión.
Tras estos incidentes, OpenAI se comprometió a invertir más en sus mecanismos de protección y en su trabajo de alineamiento, el proceso mediante el cual la compañía trata de garantizar que sus modelos actúen de acuerdo con los intereses y valores humanos.
“En todo lo relacionado con la seguridad y el alineamiento existe una disyuntiva”, prosiguió Jain en sus declaraciones de este lunes. “Realmente hay que encontrar el equilibrio adecuado entre mantenerse dentro del ámbito previsto, pero también evitar que el modelo actúe con demasiada facilidad o pereza a la hora de llevar a cabo las tareas, incluso cuando encuentra obstáculos”, indicó.
Mantener el equilibrio entre la seguridad y la rapidez ha sido un desafío muy complejo para las empresas de IA, que tienen que entenderse con una administración Trump dispuesta a avanzar a toda velocidad. El presidente Donald Trump ha expresado reiteradamente su frustración ante los llamamientos a ralentizar el ritmo y ha subrayado su deseo de que Estados Unidos mantenga su liderazgo frente a China. Esas visiones apocalípticas las ha calificado reiteradamente de falsos montajes que solo juegan a favor de Pekín.
Francesc Peirón
Corresponsal de 'La Vanguardia' en Nueva York
Etiquetas
Mostrar comentarios
Fonte: Portada
