Ya os avisamos
Por Genís Roca — Portada
Presidente de Accent Obert
Ya os avisamos 05/10/2026 00:30 Síguenos en Google 0:00 Audio generado por IA 0:00 0.5x 0.8x 1x 1.2x 1.5x SUSCRÍBETE PARA ESCUCHAR
Algunos de los principales promotores de la IA consideran que su invento podría acabar con toda la humanidad y nos avisan para que lo tengamos en cuenta. Como son buena gente, y entienden que la mayoría de los gobiernos del mundo son demasiado pequeños y analógicos para decirles algo coherente, nos informan de que están trabajando en alguna forma de autocontrol. Están motivados, porque sus inversores esperan ganar mucho dinero y les viene mal que el mundo se acabe ahora.
No es ninguna novedad que una tecnología pueda destruir la vida humana: esto ya ha sido así durante todo el siglo XX con la energía nuclear. La novedad es que cuando Oppenheimer y el proyecto Manhattan buscaban la bomba atómica tenían un mando político y militar identificable, cosa que no hizo el proyecto menos destructivo, mientras que hoy quienes nos advierten de riesgos de una magnitud comparable dirigen empresas que compiten por captar capital y ganar mercado. Pueden arriesgar el dinero de sus inversores, pero ¿quién les ha autorizado a asumir riesgos en nombre de todos los demás?
Cuando una IA causa un daño deberíamos poder identificar quién debe responder por ello
Hay que asumir responsabilidades. Cuando anunciamos inversiones, ingresos y valoraciones, siempre hablamos de empresas y personas concretas, mientras que cuando hablamos de riesgos nos referimos a “la IA” y miramos hacia la tecnología como si esa cosa indeterminada fuera la responsable. El beneficio tiene propietario, pero el peligro parece tener vida propia. Pero no, la responsabilidad nunca es de una herramienta, siempre es de una persona o una empresa.
Lee también
Mitos, tópicos y fantasías sobre la IA
Genís Roca
Cuando una IA resuelve un problema matemático, felicitamos a la empresa que lo ha hecho posible. Así que cuando una IA causa un daño, también deberíamos poder identificar quién debe responder por ello. Es fácil mostrarse partidario de acelerar cuando el coste de equivocarse lo pueden acabar pagando los demás. Quisiera saber si Altman o Amodei tomarían las mismas decisiones si los daños pudieran comprometer seriamente su patrimonio, su cargo o la continuidad de su empresa. La autonomía de las máquinas no debería servir para librarse de la responsabilidad.
El problema que tenemos es que la política está fracasando. Por un lado, una política impotente, de estados que, por sí solos, tienen poca capacidad para imponer condiciones a estos oligarcas digitales. Por el otro, una política atrapada, de grandes estados que tienen esa capacidad, pero renuncian a ejercerla porque dependen de ello económica, tecnológica y militarmente. El resultado es que el poder digital nos avisa, pero somos nosotros quienes soportamos las consecuencias. Ellos captan el capital y concentran el beneficio, mientras que nos reparten los costes y los riesgos. Pese a las muchas leyes que tenemos, cada día que pasa vamos perdiendo la capacidad de exigir responsabilidades.
Es bastante sencillo: antes de desplegar un sistema, debe quedar claro quién responderá por los daños y cómo podrán reclamar los afectados. Después ya discutirán entre empresas cómo se reparten la factura. Porque, cuando llegue el momento de pagarla, “ya os avisamos” no debería servir como excusa.
Mostrar comentarios
Fonte: Portada
