Empresas proponen crear una entidad de supervisión regulatoria

La Jornada

Las compañías deberán someter los nuevos modelos a un examen

OpenAI, Anthropic y GoogleDeepMind trabajan en la creación de un organismo de supervisión de los riesgos asociados a la inteligencia artificial (IA), indicó OpenAI.

La idea de una entidad de supervisión surgió de una propuesta de Demis Hassabis, de Google DeepMind, para crear un organismo inspirado en la Autoridad Reguladora de la Industria Financiera (Finra), que supervisa a los corredores y firmas de inversión en Estados Unidos.

“La financiación tendría que ser sustancial y probablemente provenir en su mayor parte de la industria”, escribió Hassabis.

Igualmente, Sam Altman, director ejecutivo de OpenAI, creador del ChatGPT, expresó su apoyo a la colaboración en todo el sector y reconoció el temor público de que la competencia entre empresas y países pueda dejar la seguridad en un segundo plano.

Ralentización del avance

“Me parece estupendo que nuestro sector diga que queremos unirnos, queremos poder coordinarnos y asegurarnos de que tenemos tiempo suficiente para hacer esto de forma segura”, afirmóAltman en conferencia.

Una vez creada la estructura de supervisión, las empresas más avanzadas en IA deberían someter sus nuevos modelos a un examen, centrado en particular en la seguridad, antes de poder comercializarlos.

Este nuevo organismo también podría impulsar una ralentización coordinada del desarrollo de la IA, en caso de que la compresión de los riesgos no vaya al ritmo del progreso de la tecnología.

Rechazo a suspender

Por su lado, Mark Zuckerberg, de Meta, rechazó los crecientes llamados a suspender o ralentizar el desarrollo de la IA, al considerar que los mecanismos de mercado y el riesgo de demandas judiciales constituyen los mejores contrapesos frente a esta tecnología.

“La gente no querrá utilizar agentes que no estén alineados con sus intereses y que no hagan lo que se les pide. Los laboratorios tienen, por tanto, un fuerte incentivo natural para hacer que sus modelos estén más alineados”, escribió Zuckerberg en X.

El “alineamiento” hace referencia a los esfuerzos destinados a conseguir que los modelos se comporten tal y como lo desean los humanos. “Todo laboratorio que no se centre en el alineamiento se quedará atrás”, añadió.

Mientras, Canadá y Alemania pretenden “transformar la investigación en productos fiables” de IA en su “compromiso con la democracia y los valores”, dijo el ministro alemán de Digitalización, Karsten Wildberger.

Estamos en un “momento crucial” en el desarrollo de la IA, y Berlín y Ottawa desean apoyar una tecnología “al servicio de la población”, señaló Evan Solomon, funcionario digital de Canadá.

¿Quiénes somos? |
Contacto |

Publicidad |
Aviso legal |
Aviso de privacidad. |
Código de Ética |

Siguenos en: