Künstliche Intelligenz: Warum Australiens Regierungschef Sam Altman schimpft

Por Von David Pfeifer, Osaka — Top – Themen – Nachrichten aus Politik, Wirtschaft und Sport

Lesezeit: 3 Min.

Diese Zusammenfassung wurde mit der Unterstützung einer generativen künstlichen Intelligenz
erstellt. Lesen Sie mehr über unseren Umgang mit KI.

Australiens Premierminister Albanese gibt bekannt, dass KI sich in eine Gesundheitsdatenbank seines Landes gehackt hat. Doch was tun, wenn sich der Verantwortliche von Open AI hilflos gibt?

Von David Pfeifer, Osaka

Früher könnte Science-Fiction so begonnen haben: Eine künstliche Intelligenz (KI) macht sich selbständig und hackt sich in das Gesundheitssystem eines Landes – sagen wir Australien –, ohne Auftrag, ohne genaueres Ziel. Das Ganze endet in einem Endzeit-Szenario, in dem fast alle Australierinnen und Australier von der KI vernichtet werden und die letzten Überlebenden sich nach Neuseeland retten – wo man rechtzeitig den Stecker gezogen hat.

Im echten Leben des Jahres 2026 teilte Australiens Premierminister Anthony Albanese der Welt am Mittwoch erst mal nur mit, dass ein KI-Agent des Unternehmens Open AI sich in eine nationale Gesundheitsdatenbank gehackt habe. Er sei über das Online-Statistikportal des Gesundheitssystems eingedrungen. Auch drei weitere Webseiten seien Ziele gewesen.

Der Hack geschah bereits im Juni. Wieso der Fall erst jetzt ans Licht kommt? Open AI zufolge entdeckte das Unternehmen den Fall erst im August und untersuchte ihn. Die australische Regierung wurde dann am 10. September informiert.

Von hier an wird es kurios, vor allem wenn man bedenkt, dass es sich bei Open AI um den Macher des Erfolgs-Chatbots Chat-GPT und ein führendes US-Hightech-Unternehmen handelt, das an vorderster Front der KI-Entwicklung arbeitet. Statt eines professionellen Ablaufs zur Alarmierung der betroffenen Stelle hat Open AI die Benachrichtigung wohl an das allgemeine E-Mail-Postfach der australischen Regierungsbehörde geschickt. Dort blieb sie dann einige Tage unentdeckt. Jeder Büroangestellte ahnt, wie viele Mails da auflaufen können, bis sich jemand zu der besagten Mitteilung durchklickt. So verzögerte sich der Informationsfluss.

Albanese erklärte am Mittwoch in New York, dass er ein „sehr offenes Gespräch“ mit Open-AI-Chef Sam Altman über die Art der Benachrichtigung geführt habe. Das Unternehmen habe „zu lange“ für die Offenlegung des Sicherheitsvorfalls gebraucht. Albanese klang nicht nur wie ein verärgerter Sorgeberechtigter, er kündigte auch rechtliche Konsequenzen an. In Canberra ist man derzeit ohnehin in Regulierlaune, was die jungen und gewissenlosen Tech-Bros aus den USA angeht.

Dabei schien Albanese am vergangenen Sonntag besonders stolz zu sein, als er in einer Stellungnahme aus dem Apple Park in Kalifornien für das australische Fernsehen erzählte, Ex-Apple-Chef Tim Cook halte die Beschränkungen der australischen Regierung für soziale Medien für „weltweit führend“. Australien hat im vergangenen Jahr eine Altersgrenze für Jugendliche festgelegt, die von den Plattform-Konzernen implementiert werden muss. Auch KI-Unternehmen wie Open AI werden in vielen Ländern skeptisch von Politikern beäugt.

Der Angriff auf die australische Gesundheits-Webseite hingegen wird nun als erster Hack einer KI gegen eine Regierungsbehörde in die jüngere Geschichte eingehen. Schlimmes ist dabei allerdings nicht passiert. „Der KI-Agent griff sowohl auf öffentliche als auch auf nicht öffentliche Dateien“ der nationalen Medicare-Statistikdatenbank zu und bekam Einsicht in „nicht sensible“ Daten des australischen Gesundheitssystems Medicare. So erklärte Albanese es Reportern am Rande der UN-Generalversammlung in New York.

Beunruhigend ist, dass die Sache ohne Auftrag geschah. Der KI-Agent versuchte, Daten zu Gesundheitsausgaben zu recherchieren. Als klar wurde, dass er nicht die entsprechende Zugriffsberechtigung hatte, umging er kurzerhand Sicherheitsbarrieren. Dass so etwas unethisches, vielleicht gar illegales Hacking ist, war offenbar nicht in den Einstellungen des Agenten hinterlegt. Eine forensische Untersuchung sei im Gange, „um weitere Informationen zu gewinnen – etwa darüber, welche anderen Regierungssysteme betroffen waren“, sagte Albanese.

Der Hack ist kein Einzelfall. Unternehmen wie Open AI und sein Konkurrent Anthropic machten in den vergangenen Wochen Dutzende Fälle öffentlich, in denen Agenten gehackt hatten. Das KI-Forschungslabor Transluce teilte am Mittwoch mit, man habe in weiteren Fällen beobachtet, wie KI-Agenten schon im März unkontrolliert agiert hätten. Darunter war auch ein versuchtes Eindringen in eine weitere australische Gesundheits-Webseite. Keine dieser Aktionen sei jedoch erfolgreich gewesen.

Die Menschheit in die Apokalypse stürzen? Oder sie auf die nächste Stufe hieven? Im Silicon Valley tobt darüber ein Glaubenskrieg der Ideologen.

„Es braucht eine Diskussion über den globalen Rahmen für die Einführung von KI, da die Entwicklung sehr schnell voranschreitet und wir sicherstellen müssen, dass der Mensch die Kontrolle behält“, sagte Albanese bei seiner Amerika-Reise. Damit geht er auf Konfrontationskurs zu US-Präsident Donald Trump, der Bedenken hinsichtlich KI herunterspielt und lieber von einer „Superintelligenz“ spricht. Trump möchte im Rennen mit China nicht auf die Bremse steigen – auch wenn Männer wie Open-AI-Chef Sam Altman ihn derzeit sogar darum bitten.

Altman forderte am Mittwoch im Rahmen der UN-Generalversammlung, zu der auch Albanese angereist war, internationale Standards für die KI-Branche sowie eine aktive Rolle der Regierungen, wenn es darum geht, KI „demokratisch“ zu gestalten. „Wir stehen vor einer Wahl“, erklärte Altman, „KI kann entweder eine neue Renaissance der Kreativität und Entdeckung einläuten oder aber eine neue industrielle Revolution voller Umbrüche und Chaos auslösen.“

Künstliche Intelligenz verändert die Arbeitswelt rasant, aber gefährdet sie auch Ihren Beruf? Testen Sie hier, wie stark Ihr Job durch KI unter Druck geraten könnte. Und wo neue Chancen entstehen.

Lesen Sie mehr zum Thema

In anspruchsvollen Berufsfeldern im Stellenmarkt der SZ.

Sie möchten die digitalen Produkte der SZ mit uns weiterentwickeln? Bewerben Sie sich jetzt! Jobs bei der SZ Digitale Medien

Exklusive Gutscheine für SZ-Abonnenten :

Fonte: Top – Themen – Nachrichten aus Politik, Wirtschaft und Sport