Künstliche Intelligenz: Reguliert uns

Por Von Ann-Kathrin Nezik, New York — Top – Themen – Nachrichten aus Politik, Wirtschaft und Sport

Home
Wirtschaft
USA
KI-Chefs vor dem UN-Sicherheitsrat: Reguliert und

Künstliche Intelligenz Reguliert uns

24. September 2026, 5:07 Uhr |

Lesezeit: 3 Min.

| Kommentare

Anthropic-Gründer Dario Amodei war dem UN-Sicherheitsrat virtuell zugeschaltet Brendan McDermid/REUTERS

Zusammenfassung

OpenAI-Chef Sam Altman und Anthropic-Gründer Dario Amodei sprechen vor dem UN-Sicherheitsrat über KI-Risiken und fordern eine Regulierung ihrer Branche.
Amodei warnt vor KI als "Risiko für die gesamte Menschheit", besonders durch biologische Waffen wie neuartige Viren.
Altman plädiert dafür, dass wichtige KI-Entscheidungen nicht von Laboren in San Francisco, sondern durch demokratische Prozesse getroffen werden müssen.

Von der Redaktion überprüft

Diese Zusammenfassung wurde mit der Unterstützung einer generativen künstlichen Intelligenz
erstellt. Lesen Sie mehr über unseren Umgang mit KI.

Fanden Sie diese Zusammenfassung hilfreich? Ja Nein Mehr Feedback geben

OpenAI-Chef Sam Altman und Anthropic-Gründer Dario Amodei sprechen vor dem UN-Sicherheitsrat über die Risiken von KI und fordern eine Regulierung ihrer Branche. Nur darüber, wie die aussehen könnte, haben sie unterschiedliche Vorstellungen.

Von Ann-Kathrin Nezik, New York

Anhören
Artikel anhören
Merken
Teilen
Feedback
Drucken

SZ bei Google bevorzugen

Sam Altman, dem Chef von OpenAI, eilt ein nicht sehr schmeichelhafter Ruf voraus. Er soll seinen Zuhörern immer das erzählen, was sie von ihm hören wollen, heißt es. Vor Investoren soll er den Geschäftsmann geben, der in künstlicher Intelligenz (KI) eine Chance auf schier unendliches Wachstum sieht. Vor Politikern präsentiert er sich als verantwortungsvoller Firmenlenker, der sich um die Gefahren der Technologie genauso sehr sorgt wie sie.

Am Mittwoch hatte es Altman mit einem für ihn neuen Publikum zu tun. Er sprach vor dem Sicherheitsrat der Vereinten Nationen, einem Gremium, das den Weltfrieden wahren soll, aber als dysfunktional gilt. Die Rolle, für die sich Altman diesmal entschied, war die des optimistischen Mahners. Oder des mahnenden Optimisten.

Die Welt befinde sich gerade an einem „komplexen“ Punkt, sagte er, denn KI habe „unglaubliches Potenzial“, führe aber gleichzeitig zu „nachvollziehbaren Ängsten“. Altman forderte, weder in die „Falle eines blinden Optimismus“ zu tappen und die Risiken zu ignorieren noch auf die sogenannten Doomer zu hören, die glauben, dass KI die Menschheit auslöschen könnte. Altman blieb damit so diplomatisch, dass er vermutlich direkt bei der UN hätte anfangen können.

Prinz Harry und die „Superintelligenz“

In New York ist in dieser Woche UN-Generaldebatte, Präsidenten und Prinzen sind in der Stadt. Und neben den Kriegen und Krisen der Welt hat sich der Umgang mit künstlicher Intelligenz und ihren Gefahren als eines der dominierenden Themen herauskristallisiert. Der französische Präsident Emmanuel Macron warnte davor, den USA und China nicht die alleinige KI-Vorherrschaft zu überlassen. Selbst Prinz Harry zeigte sich besorgt über die Gefahren von KI.

Auch US-Präsident Donald Trump sprach in seiner Rede am Dienstag über KI. Allerdings ging es ihm vor allem um seine neueste Obsession. Er will KI in „Superintelligenz“ umbenennen. Die Warnungen vor einer KI-Apokalypse hatte Trump zuletzt als „Hoax“ abgetan, als Schwindel. Die Versuche, künstliche Intelligenz international zu kontrollieren, nannte er vor der UN-Generalversammlung ein „globalistisches Komplott“.

Da lag es nahe, dass die Vertreter der Weltgemeinschaft auch mit den Entwicklern der Technologie sprechen wollten. Neben Altman, der eigens einflog und persönlich im Saal saß, hatte der UN-Sicherheitsrat noch andere führende Köpfe der KI-Branche eingeladen. Dario Amodei, der Gründer von OpenAIs größtem Rivalen Anthropic, war virtuell zugeschaltet. Amodei hat sich bislang von allen KI-Bossen am alarmistischsten geäußert und Anfang September gefordert, die KI-Entwicklung zu verlangsamen. Altman und Elon Musk, der Chef von SpaceXAI ist, stimmten ihm zu.

Amodei spricht vom „Risiko für die gesamte Menschheit“

Jetzt unterstrich Amodei seine Ängste erneut. „Wenn sie schlecht gehandhabt wird, könnte KI meiner Meinung nach ein Risiko für die gesamte Menschheit darstellen“, sagte er. Die größte Gefahr geht nach seiner Einschätzung von biologischen Waffen aus, die KI erschaffen könnte, etwa in Form von neuartigen Viren. Anthropic hat kürzlich öffentlich gemacht, dass ein Wissenschaftler außerhalb der USA mithilfe der KI des Start-ups untersucht habe, wie die Vogelgrippe auf Säugetiere überspringe. Folgt man Amodei, könnte so etwas in der nächsten Pandemie enden.

Auch wenn Donald Trump es anders sieht: Die Frage ist nicht mehr, ob künstliche Intelligenz reguliert werden soll, sondern wie, das wurde auch in der Sitzung des Sicherheitsrats klar. Die Ideen reichen von der Regulierung der Techkonzerne über ein internationales Abkommen analog zum Atomwaffensperrvertrag bis zu externen Experten, die die KI-Modelle der Tech-Firmen auf Risiken prüfen, bevor sie veröffentlicht werden. Letzte Idee hatte unter anderem Anthropic-Chef Amodei ins Spiel gebracht. Ihm schwebt eine Instanz wie bei der Kontrolle von Lebensmitteln oder Medikamenten vor.

Altman plädiert für demokratischen Prozess

Für die Chefs der KI-Konzerne ist die Regulierung dennoch ein heikles Terrain. Sowohl OpenAI als auch Anthropic wollen demnächst an die Börse gehen. Wirtschaftlich gesehen haben sie kein Interesse, dass sich der Staat zu sehr in ihr Business einmischt. In der Vergangenheit äußerte sich OpenAI-Chef Altman eher kritisch über eine Regulierung. Als er 2023 durch Europa tourte, drohte er kurzzeitig, dass sich OpenAI wegen der strengen KI-Gesetze der EU aus Europa zurückziehen werde. Noch 2025 sagte er vor dem US-Senat, dass ein hartes staatliches Eingreifen „desaströs“ wäre.

Vor dem UN-Sicherheitsrat sprach sich Altman nun grundsätzlich für eine Regulierung aus. „Die wichtigsten Entscheidungen können nicht von KI-Laboren in San Francisco getroffen werden. Sie müssen den demokratischen Prozess durchlaufen“, sagte er. Was das genau für OpenAI bedeuten könnte und zu welchen Zugeständnissen er bereit wäre, sagte er nicht. Stattdessen plädierte er dafür, dass die internationale Gemeinschaft zusammenarbeiten müsse. Es müsse beispielsweise Kanäle geben, über die sich Länder, „die sich nicht mögen“, über neu aufkommende KI-Bedrohungen austauschen.