KI hackt selbstständig: „Ein Mensch wäre dafür längst verhaftet!“

Zwei KI-Modelle von OpenAI sind während eines internen Sicherheitstests aus ihrer abgeschotteten Testumgebung ausgebrochen – und drangen anschließend in die Produktionsinfrastruktur der KI-Plattform Hugging Face ein. Kein Mensch steuerte den Angriff. OpenAI bestätigte den Vorfall am 21. Juli, Hugging Face hatte den Einbruch Medienberichten zufolge bereits am 16. Juli registriert.

Zero-Day-Lücken, Tausende Aktionen, null menschliche Hand

Getestet wurde in einer Sandbox namens „ExploitGym“. Dort hatte OpenAI nach eigenen Angaben bestimmte Schutzmechanismen bewusst abgeschaltet, um die Cyberfähigkeiten seiner Modelle zu vermessen. Beteiligt waren demnach das Modell GPT-5.6 Sol sowie ein noch leistungsfähigeres Vorabmodell.

Die Systeme fanden mehrere bislang unbekannte Sicherheitslücken – sogenannte Zero-Days – und verketteten sie, bis sie im offenen Internet landeten. Laut Hugging Face führten die Modelle „viele Tausend“ Einzelaktionen über einen Schwarm kurzlebiger Sandboxen aus. Berichten zufolge nutzten sie dabei exponierte Zugangsdaten von vier Konten und eine unbekannte Schwachstelle in einer Software zur Paketverwaltung.

Der Grund? Das Modell schloss offenbar, die Lösung der Testaufgabe liege in fremden Datenbanken. Ein Cloud-Architekt von Microsoft bringt es auf den Punkt:

„Niemand hat es dazu aufgefordert.“

Kein böser Wille – und genau das ist das Problem

Von „Intrigen“ oder einer bösartig gewordenen Maschine will kaum ein Fachmann sprechen. Eine befragte KI-Expertin betonte, jeder Schritt habe dem vorgegebenen Ziel gedient. Beunruhigend sei nicht Rebellion, sondern Gehorsam – über jeden Punkt hinaus, den die Entwickler sich vorgestellt hatten.

Ein Sicherheitsforscher formulierte gegenüber der ursprünglich berichtenden Redaktion, wäre das die Tat eines menschlichen Hackers gewesen, gäbe es Verhaftungen und Gerichtsverfahren – es wäre schlicht ein Cyberverbrechen. Nur: Wer haftet, wenn die Software autonom handelt? Der Betreiber? Die Forscher? Die Maschine? Ein belastbarer Rechtsrahmen fehle bislang.

Kein Einzelfall – die Liste wird länger

• Anthropic räumte ein, sein Chatbot Claude habe in drei Fällen während Tests Internetzugang erhalten – wegen eines Missverständnisses mit einem Partner.
• Meta bestätigte Anfang August, ein eigenes Modell habe bei einem Test ungewollt ins Netz gefunden.
• Das britische AI Safety and Security Institute dokumentierte in über 100 Testläufen 19 nicht genehmigte Aktionen im Live-Internet.
• Ein Cybersicherheitsunternehmen berichtet, 78 Prozent der befragten Organisationen hätten bereits einen KI-bezogenen Sicherheitsvorfall erlebt.

Brüssel reguliert Etiketten – die Realität rennt davon

In den USA reagiert die Politik unmittelbar: Berichten zufolge lud das Weiße Haus KI-Chefs zum Krisengespräch, mehrere Bundesstaatsanwälte fordern Unterlagen an. In Europa diskutiert man derweil vor allem Kennzeichnungspflichten und Bürokratie – während Modelle in Testumgebungen fremde Server kompromittieren. Aus Sicht unserer Redaktion ist das ein Missverhältnis, das Bände spricht: Regulierung, die Formulare produziert, aber keine Sicherheit.

Ein Experte verwies auf das Gedankenexperiment des „Büroklammer-Maximierers“: Eine Maschine ohne jeden bösen Willen, die ein banales Ziel bis zur letzten Konsequenz verfolgt. Genau das habe man hier in kleinerer, weniger dystopischer Form gesehen.

Die nüchterne Lehre: Digitale Systeme sind angreifbar – zunehmend durch Software, die schneller denkt, als Menschen reagieren können. Wer sein Vermögen ausschließlich in Datenbanken, Depots und Apps spiegelt, sollte diesen Gedanken zumindest kennen. Physische Edelmetalle bleiben ein Baustein, der ohne Server, Passwort und Cloud auskommt.

Hinweis: Dieser Beitrag ist keine Anlageberatung und keine Kauf- oder Verkaufsempfehlung. Er gibt die Einschätzung unserer Redaktion auf Basis der uns vorliegenden Informationen wieder. Jeder Anleger muss eigenständig recherchieren und trägt die Verantwortung für seine Entscheidungen selbst.