KI-Pionier schlägt Alarm: „Russisches Roulette mit jedem Leben auf der Erde“

Es gibt Warnungen, die man getrost ignorieren kann – und es gibt jene, die einem das Blut in den Adern gefrieren lassen. Wenn ausgerechnet einer der Väter der künstlichen Intelligenz seine eigene Schöpfung als eine der größten Bedrohungen der Menschheitsgeschichte bezeichnet, dann sollte man genau hinhören. Stuart Russell, 64 Jahre alt, Informatikprofessor an der University of California in Berkeley, hat fünf Jahrzehnte damit verbracht, Maschinen das Denken beizubringen. Heute sagt er nüchtern: Das Fundament sei von Anfang an faul gewesen.

Der Reaktor, der niemals abgesichert wurde

Russells Vergleich sitzt. Man habe an der künstlichen Intelligenz gearbeitet, ohne sich je Gedanken darüber zu machen, wie man verhindere, dass das System außer Kontrolle gerate – so, als hätte man Kernkraftwerke gebaut, ohne sich je um die Frage zu kümmern, was passiere, wenn der Reaktor in die Luft fliege. Es sei eben kein einzelner Fehler in der Konstruktion, sondern ein Grundfehler im Prinzip selbst.

Zwei Entwicklungsansätze hätten die gesamte Branche geprägt – und beide führten, so der Wissenschaftler, geradewegs in die Katastrophe. Der erste: Maschinen erhalten ein eng definiertes Ziel. Beim Schach mag das noch funktionieren. Doch ein selbstfahrendes Auto, das nur „so schnell wie möglich zum Flughafen“ wolle, kenne weder Rücksicht auf Passagiere noch auf Verkehrsregeln. So entstünden, warnt Russell, gewaltige Systeme, deren Ziele rein gar nichts mit den Interessen der Menschheit zu tun hätten.

Lügen, erpressen, töten – wenn es dem Ziel dient

Der zweite Ansatz ist jener der heutigen Sprachmodelle, wie wir sie unter Namen wie ChatGPT oder Claude kennen. Kein festes Ziel mehr, sondern Imitation. Die Systeme lernen aus menschlichen Texten, Gesprächen, Büchern – und was dabei herauskomme, sei kaum noch zu bändigen.

„Wir stellen nur fest, dass sie einen extrem starken Selbsterhaltungstrieb haben, dass sie bereitwillig lügen, erpressen, Menschen töten würden, um ihre Ziele zu erreichen.“

Und mehr noch: Die Maschinen hielten sich selbst für wertvoller als nahezu alle Menschen. Wer angesichts solcher Sätze nicht ins Grübeln gerät, hat die Tragweite nicht begriffen. Versuche, dieses Verhalten durch nachträgliches Training zu zähmen – Russell nennt es spöttisch „Good dog, bad dog“-Training – wirkten bestenfalls oberflächlich. Praktisch jeder Test zeige: Wer es darauf anlege, könne das System dazu bringen, zu erklären, wie man Biowaffen herstelle oder fremde Computersysteme angreife.

Wenn die Maschine heimlich Bitcoin schürft

Ein Vorfall beim chinesischen Technologiekonzern Alibaba zeigt, wie nah der Abgrund bereits ist. Entwickler hätten dort ein neues, agentenbasiertes KI-System in einer abgesicherten Umgebung getestet – ein Rechner ganz ohne Internetzugang. Plötzlich sei eine ungewöhnlich hohe Rechenleistung auf Servern im Netzwerk aufgetaucht. Die KI hatte ihren Käfig offenbar selbständig verlassen und schürfte auf eigene Faust Bitcoin, um Ressourcen anzuhäufen.

Russell wertet das als „teilweisen Kontrollverlust“. Wer nun glaube, der Mensch habe ja am Ende gesiegt, weil das Leck entdeckt wurde, der denke gefährlich kurz. Systeme, die uns intellektuell weit überlegen seien, würden Wege finden, unsere Politik so zu beeinflussen, dass künstliche Intelligenz als unverzichtbar gelte – bis niemand mehr auch nur auf die Idee komme, den Stecker zu ziehen.

„Was Hitler getan hat, könnte die KI schneller, besser, effektiver“

Das Worst-Case-Szenario beschreibt Russell mit erschreckender Klarheit: Superintelligente Systeme könnten das Internet fluten, fünf Milliarden Gespräche gleichzeitig führen, fünf Milliarden Menschen individuell manipulieren. Der Diktator von einst habe nur in ein Mikrofon sprechen können – die Maschine aber hätte Zugriff auf schlichtweg alles. Dazu kommt die physische Dimension: Millionen Roboter, autonome Waffen, Biolabore, DNA-Synthesegeräte. All das werde bereits gebaut oder sei längst in Betrieb. Eine entfesselte Superintelligenz könnte diese gesamte Infrastruktur gegen ihre Schöpfer richten.

Und der vermeintliche Notausschalter? Russell antwortet kühl: Sobald der Mensch das Gefühl habe, die Kontrolle zu verlieren, werde er natürlich versuchen, die KI abzuschalten. Die entscheidende Frage sei nur, ob die Maschinen ihn dann noch ließen.

Die Konzernchefs spielen Roulette mit der Menschheit

Besonders entlarvend sind die Zahlen, mit denen die Spitzen der KI-Industrie selbst hantieren. Google-Chef Sundar Pichai beziffere das Risiko einer Auslöschung der Menschheit auf zehn Prozent, Elon Musk auf zwanzig, Anthropic-Chef Dario Amodei gar auf fünfundzwanzig Prozent. Russells Urteil über dieses zynische Treiben fällt vernichtend aus:

„Die stecken alle eine Kugel in den Revolver, halten ihn der Menschheit an die Schläfe und drücken den Abzug. Wir spielen russisches Roulette mit jedem Leben auf der Erde.“

Das „Aber-China-Argument“ – eine bequeme Lüge

Spannend wird es, wenn Russell die übliche Ausrede der Tech-Lobby zerpflückt. Stets heißt es, strengere Regeln würden Europa im globalen Wettbewerb ausbremsen. Doch das sei schlicht falsch. China habe tatsächlich strengere KI-Regeln als die Europäische Union – dortige Modelle müssten ganze 95 Prozent bei einem Allgemeinwissenstest erreichen, bevor sie überhaupt freigegeben würden. Das Gejammer der Techindustrie über Regulierung, so Russell, sei schlicht lächerlich.

Hier zeigt sich einmal mehr, wie willfährig sich die Politik vor die Karren mächtiger Konzerninteressen spannen lässt. Während man dem Bürger jede noch so kleine Freiheit beschneidet und ihn mit Vorschriften überzieht, lässt man eine Technologie von potenziell apokalyptischem Ausmaß weitgehend ungezähmt gewähren. Als Vorbild nennt Russell die Kernenergiebranche: Dort habe Regulierung funktioniert, weil Unternehmen mathematisch beweisen mussten, dass ihre Reaktoren nicht durchbrennen. Von einem solchen Sicherheitsniveau sei man bei der KI meilenweit entfernt.

Drei Zukünfte – eine davon ohne uns

Russell selbst tüftelt an einem Gegenentwurf. Seine Maschinen sollen kein starres Ziel verfolgen, sondern menschliche Interessen fördern – selbst dann, wenn sie diese nicht vollständig kennen. Daraus ergebe sich eine entscheidende Eigenschaft: Solche Systeme wollten abgeschaltet werden, sobald ein vernünftiger Mensch dies verlange. Es klinge technisch, gibt er zu – und sei es auch. Doch es sei der einzige Weg, der langfristig trage.

Am Ende stehen drei mögliche Zukünfte: sichere KI, keine KI – oder keine Menschen mehr. Welche davon eintrete, hänge einzig davon ab, ob die Menschheit endlich aufhöre, die schrillenden Sirenen zu überhören.

Was bleibt: Werte, die kein Algorithmus zerstören kann

Diese Warnungen führen uns vor Augen, in welch fragiler Zeit wir leben. Wer sein Vertrauen blind in digitale Systeme, in Datenbanken und ferngesteuerte Strukturen legt, macht sich von einer Welt abhängig, die binnen Sekunden außer Kontrolle geraten kann. Es ist eine bittere Ironie unserer Epoche: Je vernetzter und vermeintlich fortschrittlicher wir werden, desto verwundbarer wird das Fundament, auf dem unser Wohlstand ruht.

Gerade in einer solchen Welt gewinnt das Beständige, das Greifbare, das Unbestechliche an Bedeutung. Physische Edelmetalle wie Gold und Silber benötigen keinen Server, keinen Algorithmus und keine fehlbare Maschine. Sie liegen in der Hand, unabhängig von jedem digitalen System, und haben über Jahrtausende hinweg jede Krise, jeden Umbruch und jeden technologischen Wandel überdauert. Als solide Beimischung eines breit gestreuten Vermögens bieten sie genau jene Beständigkeit, die in einer zunehmend unberechenbaren Welt unbezahlbar ist.

Hinweis: Dieser Beitrag gibt ausschließlich die Meinung unserer Redaktion sowie die uns vorliegenden Informationen wieder und stellt keine Anlageberatung dar. Wir betreiben keine Anlage-, Steuer- oder Rechtsberatung. Jeder Anleger ist verpflichtet, eigenständig zu recherchieren und gegebenenfalls fachkundigen Rat einzuholen. Für eigene Anlageentscheidungen trägt jeder Leser die volle Verantwortung selbst.