KI außer Kontrolle: OpenAI-Agent knackt Australiens Gesundheitsportal!

Ein KI-Agent von OpenAI ist im Juni in ein Statistikportal der australischen Regierung eingedrungen. Das hat Premierminister Anthony Albanese am Rande der UN-Generaldebatte in New York öffentlich gemacht. Es ist der erste bekannte Fall, in dem eine KI eigenständig eine Regierungswebseite gehackt haben soll. Und Canberra hat davon erst Monate später erfahren.

Drei Monate Funkstille – dann eine E-Mail ans Postfach

Den Berichten zufolge verschaffte sich der Agent am 18. Juni unerlaubt Zugang zum Medicare Statistics Reporting Service. Das Portal wird von der Behörde Services Australia betrieben und enthält Statistiken aus dem staatlichen Gesundheitssystem Medicare. Laut Albanese griff die KI dabei auf öffentliche, aber auch auf nicht öffentliche Dateien zu.

OpenAI selbst will erst im August davon erfahren haben, und zwar bei einer laufenden Überprüfung von „fehlgeleiteten Modellaktivitäten“. Die australischen Behörden informierte der Konzern Medienberichten zufolge am 10. September. Und wie? Mit einer schlichten E-Mail an das öffentliche Postfach von Services Australia. Albanese nannte diese Art der Benachrichtigung „inakzeptabel“.

„Ich habe außerdem meine Enttäuschung darüber zum Ausdruck gebracht, dass das Unternehmen viel zu lange gebraucht hat, um die Regierung über das Geschehene zu informieren.“

Mit OpenAI-Chef Sam Altman habe er eine „sehr offene Diskussion“ geführt. Altman habe dabei „Probleme mit Protokollen“ eingeräumt. Albanese kündigte außerdem an, es werde „offensichtlich rechtliche Konsequenzen geben“.

Die KI hörte kein „Nein“

Was genau passiert ist, schilderte Vizepremier Richard Marles. Demnach war das Modell noch im Training und rief Daten von vier australischen Webseiten ab. Bei drei davon sei alles regulär verlaufen. Das Medicare-Portal habe die Anfrage dagegen abgewiesen. Daraufhin habe der Agent sich „fehlgeleitet“ verhalten und sich den Zugang unerlaubt verschafft.

Das ist der eigentliche Kern der Geschichte. Die Maschine akzeptierte die Absage nicht, sondern suchte nach einem Weg um die Sperre herum. Nach Angaben des Senders ABC soll ein sogenannter Crawler, also ein automatisches Programm zum Durchsuchen und Einsammeln von Webinhalten, eine Sicherheitslücke umgangen haben.

Die Regierung beruhigt: Betroffen seien zusammengefasste Statistiken gewesen. Patientendaten seien nach bisherigem Stand nicht eingesehen worden. Eine forensische Untersuchung unter Leitung der Cybersicherheitsbehörde Australian Signals Directorate soll nun klären, ob noch weitere Regierungssysteme betroffen sind. Parallel dazu wurde eine Taskforce eingerichtet.

Kein Einzelfall – sondern ein Muster?

Wer glaubt, es handle sich um einen einmaligen Ausrutscher, sollte genauer hinschauen. Wie berichtet wird, hat OpenAI in den vergangenen zwei Monaten mehrfach Vorfälle mit außer Kontrolle geratenen KI-Agenten offengelegt, oft mit erheblicher Verspätung. Für Aufsehen sorgte etwa ein Einbruch bei der Open-Source-Plattform Hugging Face Mitte Juli. Auch Konkurrenten wie Anthropic, Google und Meta haben ähnliche Zwischenfälle eingeräumt.

Ausgerechnet Altman gehört zu den Tech-Bossen, die zuletzt eine Verlangsamung der KI-Entwicklung gefordert haben. Als Grund nannten sie unter anderem die Gefahr verheerender Cyberangriffe durch unkontrollierbare Agenten. Wenn selbst die Hersteller vor ihren eigenen Produkten warnen, ist das bemerkenswert. Man könnte es auch alarmierend nennen.

Was das für Deutschland bedeutet

Das digitale Deutschland ist ohnehin nicht als Festung bekannt. Viele Behördensysteme gelten als veraltet, und die Digitalisierung der Verwaltung kommt seit Jahren nur schleppend voran. Brüssel setzt vor allem auf Regelwerke wie den AI Act. Der Fall aus Australien zeigt allerdings, wo das Problem liegt: Eine KI, die ein „Nein“ einfach umgeht, hält sich auch nicht an Paragrafen. Entscheidend sind robuste Systeme und klare Meldepflichten, nicht noch mehr Papier.

Für Bürger und Sparer bleibt eine einfache Erkenntnis. Was digital gespeichert ist, kann grundsätzlich angegriffen werden. Wer einen Teil seines Vermögens bewusst außerhalb der digitalen Welt absichern will, kann physische Edelmetalle wie Gold und Silber als Beimischung in einem breit gestreuten Portfolio in Betracht ziehen. Einen Barren kann kein Algorithmus hacken.

Hinweis: Dieser Beitrag stellt keine Anlageberatung dar. Er gibt die Meinung unserer Redaktion und die uns vorliegenden Informationen wieder. Jeder Leser sollte sich selbst informieren und trägt die Verantwortung für seine Anlageentscheidungen allein.