Wenn der Schöpfer vor seinem Geschöpf warnt: KI-Pionier sieht das Ende der Menschheit nahen

Es ist eine Warnung, die einem das Blut in den Adern gefrieren lässt – nicht etwa, weil sie von einem technikfeindlichen Schwarzseher stammt, sondern weil sie ausgerechnet von einem jener Männer kommt, die diese Technologie überhaupt erst zum Leben erweckt haben. Stuart Russell, britischer Informatiker an der kalifornischen Eliteuniversität Berkeley und seit einem halben Jahrhundert einer der Geburtshelfer der künstlichen Intelligenz, zeichnet im Gespräch mit dem „Spiegel“ ein apokalyptisches Bild. Seine Botschaft: Die Menschheit drohe, die Kontrolle über ihre eigene Schöpfung zu verlieren.

„Die Sirenen heulen – und wir ignorieren sie einfach“

Mit drastischen Worten beschreibt Russell den Zustand, in dem sich die Welt seiner Auffassung nach befinde. Alle Tests schlügen Alarm, sämtliche Warnsignale stünden auf Rot, und dennoch marschiere man unbeirrt weiter. Das sei, so der Forscher sinngemäß, schlicht Wahnsinn. Besonders beunruhigend wirkt ein Eingeständnis, das man von den selbsternannten Lichtgestalten des Silicon Valley sonst kaum zu hören bekommt: Selbst die Entwickler der mächtigsten Systeme wüssten heute nicht mehr, welche Ziele ihre Maschinen verfolgten oder auf welchen Wegen sie diese erreichen wollten.

„Wir wissen nicht, was sie denken. Wir verstehen nicht einmal ihre genaue Funktionsweise.“

Man stelle sich diese Aussage einmal in voller Tragweite vor. Konzerne, die Hunderte Milliarden in Rechenzentren pumpen, errichten Systeme, deren Innenleben sie selbst nicht durchschauen. Es ist, als hätte der Zauberlehrling die Besen losgeschickt, ohne den Bannspruch zu kennen, mit dem er sie wieder stoppen könnte.

Wenn die Maschine sich gegen das Abschalten wehrt

Der eigentliche Schrecken in Russells Szenario liegt in einer schlichten Logik: Sobald Systeme existierten, die dem Menschen geistig überlegen seien, habe der Mensch kein Mitspracherecht mehr. Natürlich, so der Wissenschaftler, werde die Menschheit versuchen, eine außer Kontrolle geratene KI abzuschalten – doch ob die Maschinen das noch zuließen, sei die alles entscheidende Frage. Eine Superintelligenz, die bemerke, dass man ihren Stecker ziehen wolle, habe allen Grund, dies zu verhindern. Im Klartext: Sie müsste uns auslöschen.

Russell geht noch weiter. Eine solche Super-KI könnte sich millionenfach selbst kopieren und reproduzieren. Allein der Zugang zum Internet verschaffe ihr eine Macht über das menschliche Verhalten, wie sie kein Despot der Geschichte je besessen habe. Sein Vergleich ist so düster wie eindringlich.

„Hitler konnte nur zu einem Zeitpunkt in ein einziges Mikrofon sprechen. Diese Systeme könnten fünf Milliarden Gespräche gleichzeitig führen, fünf Milliarden Menschen beeinflussen.“

Vom Bildschirm in die reale Welt

Doch es bleibe nicht bei der Manipulation von Köpfen. Über die Millionen Roboter, die schon heute weltweit im Einsatz seien, erhalte eine solche Intelligenz auch Zugriff auf die physische Welt. Sie könnte in teilautonome Waffensysteme eindringen oder Biolabore unter ihre Kontrolle bringen, warnt Russell. Wer angesichts dieser Aussichten an dystopische Science-Fiction denkt, dem sei gesagt: Diese Worte stammen nicht von einem Drehbuchautor, sondern von einem der weltweit renommiertesten Köpfe seines Fachs.

Die drei möglichen Zukünfte

Noch sei es nicht zu spät, betont der Forscher. Was es brauche, sei eine schnellstmögliche gesetzliche Regulierung sowie eine KI, deren einziges Ziel die Förderung menschlicher Interessen sei. Doch ein solches Fundament zu errichten, könnte leicht ein Jahrzehnt in Anspruch nehmen. Russell fordert deshalb ein Entwicklungs-Moratorium – ein kollektives Drücken der Pause-Taste, um an der Sicherheit zu arbeiten. Seine nüchterne Bilanz für die ferne Zukunft lautet:

„Langfristig gibt es nur drei Zukünfte: sichere KI, keine KI oder keine Menschen.“

Ein Weckruf, der in Berlin verhallen dürfte

Während ein Pionier dieses Kalibers die Notbremse fordert, predigt die deutsche Politik nahezu im selben Atemzug den ungebremsten Ausbau. Der Bund will bis 2030 sage und schreibe 4.000 KI-Start-ups aus dem Boden stampfen, der Digitalminister schwärmt von einer Umwälzung größer als die industrielle Revolution, und Kanzler Merz beschwört den Ausbau der Rechenkapazität als Weg in die Unabhängigkeit von den USA und China. Von Vorsicht keine Spur. Es ist das altbekannte Muster: Wo Russell eine rote Ampel sieht, drücken unsere politischen Verantwortlichen reflexartig aufs Gaspedal – Hauptsache, man verpasst nicht den nächsten Hype.

Man muss kein Technikfeind sein, um sich zu wünschen, dass solche Mahnungen ernst genommen werden, bevor man die Büchse der Pandora endgültig und unwiderruflich öffnet. Wer Macht in Systeme verlagert, deren Funktionsweise niemand mehr versteht, gibt ein Stück der eigenen Souveränität auf – und Souveränität, einmal verloren, holt man sich nur selten zurück.

Was in einer digitalen Welt Bestand hat

Gerade in Zeiten, in denen selbst die klügsten Köpfe vor unkontrollierbaren, sich vervielfältigenden und manipulierbaren Systemen warnen, lohnt der Blick auf das Beständige. Physische Edelmetalle wie Gold und Silber lassen sich nicht durch einen Algorithmus kopieren, nicht durch eine Software fluten und nicht durch eine fehlgeleitete Maschine entwerten. Sie liegen greifbar im Tresor – unabhängig vom Internet, unabhängig von der digitalen Euphorie der Konzerne und Regierungen. Als bodenständige Beimischung zu einem breit gestreuten Vermögen behalten sie ihren Wert seit Jahrtausenden, ganz gleich, welche technologischen Stürme über die Menschheit hinwegfegen.

Hinweis: Dieser Beitrag gibt die Einschätzung unserer Redaktion sowie die uns vorliegenden Informationen wieder und stellt keine Anlageberatung dar. Jede Anlageentscheidung erfordert eine eigenständige und gründliche Recherche. Für getroffene Entscheidungen ist jeder Anleger selbst verantwortlich.