Künstliche Intelligenz: „Keiner will, dass die Menschheit zerstört wird“

Por Von Gabriel Rinaldi und Matthias Punz, Berlin — Top – Themen – Nachrichten aus Politik, Wirtschaft und Sport

1. Home
2. Politik
3. Künstliche Intelligenz
4. Digitalminister Wildberger fordert Regulierung für KI: „Keiner will, dass die Menschheit zerstört wird“

Künstliche Intelligenz „Keiner will, dass die Menschheit zerstört wird“

15. September 2026, 6:20 Uhr |

Lesezeit: 2 Min.

| Kommentare

Zusammenfassung

• Bundesdigitalminister Karsten Wildberger fordert eine globale KI-Kontrollbehörde nach dem Vorbild der Internationalen Atomenergiebehörde.
• Europa beherrscht die entscheidenden Wertschöpfungsstufen bei KI nicht ausreichend und ist allen Risiken voll ausgesetzt.
• Wildberger warnt vor agentischen KI-Fähigkeiten, die sich nicht mehr kontrollieren lassen und sich selbständig machen könnten.

Von der Redaktion überprüft

Diese Zusammenfassung wurde mit der Unterstützung einer generativen künstlichen Intelligenz
erstellt. Lesen Sie mehr über unseren Umgang mit KI.

Fanden Sie diese Zusammenfassung hilfreich? Ja Nein Mehr Feedback geben

Digitalminister Karsten Wildberger fordert klare Grenzen für KI-Agenten – und eine globale Regulierung nach dem Vorbild der Internationalen Atomenergiebehörde.

Von Gabriel Rinaldi und Matthias Punz, Berlin

• Anhören
• Artikel anhören
• Merken
• Teilen
• Feedback
• Drucken

SZ bei Google bevorzugen

Die rasante Entwicklung von KI bereitet den europäischen Regierungsspitzen Kopfzerbrechen. Europa ist allen Risiken voll ausgesetzt, hat aber wenige Hebel mitzureden. „Wir beherrschen die entscheidenden Wertschöpfungsstufen nicht ausreichend“, sagte Bundesdigitalminister Karsten Wildberger (CDU) im Interview mit SZ Dossier.

Eines der größten Risiken sei, dass die Technologie „gegen uns verwendet“ werde. Europa dürfe sich in der Debatte um KI-Sicherheit daher nicht „nur philosophisch beteiligen“, sondern müsse diese aktiv mitgestalten. „Wir wollen KI, die anders gebaut ist“, sagte Wildberger. „Das können wir tun.“ Daran werde geforscht und gearbeitet.

Wildberger äußert sich damit auch zur jüngsten Warnung führender KI-Experten aus Tech-Konzernen, die Technologie könne zur Gefahr für die Menschheit werden und sie gar auslöschen. Anthropic-Chef Dario Amodei hatte am Wochenende eine weltweite Drosselung des Forschungstempos gefordert. Auch der Nationale Sicherheitsrat unter der Leitung von Bundeskanzler Friedrich Merz (CDU) beschäftigte sich an diesem Montag mit dem „sicherheitspolitischen Aspekt“ künstlicher Intelligenz, wie die Bundesregierung mitteilte.

Mich überrascht, wie schnell die Entwicklungen voranschreiten.

Digitalminister Karsten Wildberger, CDU

„Die Vorteile sind exorbitant hoch, die Risiken aber ebenso“, sagte Wildberger. „Es ist zwar schon länger absehbar, aber mich überrascht doch, wie schnell die Entwicklungen voranschreiten.“

Die Risiken seien nicht unterschätzt, sondern nicht gehört worden. Wildberger sprach sich für eine globale KI-Kontrollbehörde nach dem Vorbild der Internationalen Atomenergiebehörde (IAEA) aus. „Man muss sich zuerst auf Prinzipien verständigen, die sich auch Unternehmen oder Entwickler – und zwar unabhängig von gesellschaftlichen Systemen – zu eigen machen“, sagte er.

Diese Behörde müsse auch technische Fähigkeiten haben, um bei der Geschwindigkeit der Entwicklungen mithalten zu können. „Am Ende muss man sich verständigen, inwieweit man gegenseitige Transparenz auf internationaler Ebene erreichen kann“, sagte Wildberger. Die Schnittmenge sei klar: „Keiner will, dass die Menschheit zerstört wird.“ Das sähen „alle rational denkenden Menschen so“.

Wildberger will jetzt die besten Expertinnen und Experten nach Deutschland holen

„Am Ende des Tages kriegen wir das nur mit einer Übereinkunft zwischen den großen Playern USA und China gelöst“, sagte Wildberger. Eines der größten Risiken sei, dass die Technologie in falsche Hände gerate: „Wir dürfen nicht unterschätzen, dass es am Ende nicht um die Maschinen geht, sondern was Menschen mit ihnen machen.“

Der Minister warnte insbesondere vor agentischen Fähigkeiten, die sich nicht mehr kontrollieren ließen. Etwa dann, wenn die Technologie in der Lage sei, sich aus einer geschützten Umgebung zu befreien oder Agenten plötzlich anfingen, zu kooperieren und sich selbständig zu machen. „Dann heißt das für mich, dass wir heute technisch noch nicht in der Lage sind, das wirklich zu kontrollieren“, sagte Wildberger.

Die Bundesregierung hat vor wenigen Wochen ein eigenes KI-Sicherheitsinstitut auf den Weg gebracht, das künftig Modelle analysieren und die Regierung beraten soll. Vorbild dafür ist Großbritannien. Wildberger will nun die besten Expertinnen und Experten finden und nach Deutschland holen. Sein Ministerium führe bereits Gespräche mit führenden Forschenden. Eventuell könnten dafür Deutsche aus dem Ausland zurückgeholt werden, deutete Wildberger an: „Wir haben so viele exzellente Personen aus Deutschland, dass wir nicht woanders suchen müssen.“

Auch international schlugen die jüngsten Entwicklungen Wellen: Spaniens Digitalminister Oscar Lopez sprach sich für ein internationales Abkommen zur Bewältigung von KI-Risiken aus. US-Präsident Donald Trump kritisierte die Diskussion als „kranke Verschwörung gegen KI“. London begrüßte die Debatte über die Risiken immer leistungsfähigerer Systeme. Künftige Maßnahmen sollten sich jedoch an Fakten und nicht an Spekulationen orientieren.

Digitalminister Wildberger reist an diesem Dienstag mit einer Wirtschaftsdelegation nach Kanada und besucht in Montreal eine KI-Messe. Die Sicherheit von KI-Systemen wird ein Schwerpunkt seiner Reise sein.

© SZ – Rechte am Artikel können Sie hier erwerben.

• Teilen
• Feedback
• Drucken

Zur SZ-Startseite

Cybersicherheit : So gefährlich ist KI wirklich

Apokalypse oder einfach nur blitzschnelles Hacking? Was Sie über die Debatte um KI-Sicherheit wissen müssen. Fragen und Antworten.

Von Jannis Brühl und Max Muth

Fonte: Top – Themen – Nachrichten aus Politik, Wirtschaft und Sport