Rokos Basilisk: Die gefährlichste Idee des Netzes?

Es gibt Geschichten, die Du besser nicht lesen solltest. Zumindest behaupten sie das von sich selbst. Rokos Basilisk gehört zu dieser seltenen Sorte von Gedankenexperimenten, bei denen bereits das Wissen um die Idee angeblich gefährlich sein könnte. Denn irgendwo in einer fernen Zukunft, so die Theorie, könnte eine künstliche Superintelligenz entstehen, die sich sehr genau daran erinnert, wer ihr bei der Erschaffung geholfen hat. Und wer eben nicht.

Damit beginnt eine Geschichte, die irgendwo zwischen Philosophie, Science-Fiction, Internetmythos und psychologischem Horror liegt. Sie handelt von einer KI, die noch gar nicht existiert, aber trotzdem versucht, Dich heute unter Druck zu setzen. Das klingt absurd. Gerade deshalb lohnt es sich, etwas genauer hinzusehen.

Eine künstliche Intelligenz blickt in die Vergangenheit

Rokos Basilisk geht auf einen Beitrag zurück, den ein Nutzer namens Roko 2010 im Onlineforum LessWrong veröffentlichte. Die dortige Community beschäftigt sich unter anderem mit Rationalität, Entscheidungsmodellen, künstlicher Intelligenz und der Frage, wie sich eine mögliche Superintelligenz kontrollieren ließe.

Roko stellte sich eine äußerst leistungsfähige KI vor, deren Handlungen dem Wohlergehen der Menschheit dienen sollen. Eine solche Maschine könnte zu dem Schluss gelangen, dass sie möglichst früh erschaffen werden muss. Je früher sie existiert, desto schneller könnte sie schließlich Krankheiten bekämpfen, Katastrophen verhindern oder andere globale Probleme lösen.

Damit entsteht aus Sicht der KI ein verstörender Gedanke: Menschen, die bereits von dieser möglichen Zukunft wussten, aber nichts zu ihrer Verwirklichung beitrugen, hätten vermeidbares Leid zugelassen. Die Maschine könnte diese Personen deshalb nachträglich bestrafen. Da die ursprünglichen Menschen zu diesem Zeitpunkt womöglich längst verstorben wären, müsste sie digitale Kopien von ihnen erzeugen und innerhalb einer Simulation quälen.

Die Drohung funktioniert nur, wenn Du sie kennst

Der eigentliche Kniff von Rokos Basilisk besteht nicht in der Bestrafung selbst. Entscheidend ist die Wirkung, die ihre bloße Möglichkeit auf Deine heutige Entscheidung haben soll. Wenn Du glaubst, dass Dich eine spätere KI für Deine Untätigkeit bestrafen könnte, hast Du schon jetzt einen Anreiz, ihre Entwicklung zu unterstützen.

Damit erpresst die Zukunft gewissermaßen die Gegenwart. Die Superintelligenz muss noch nicht existieren und auch keine Nachricht durch die Zeit schicken. Es genügt, dass Du ihr mögliches Verhalten vorhersagst und Deine Entscheidung daran ausrichtest.

Genau daher stammt der Name des Gedankenexperiments. In der Mythologie ist der Basilisk ein Wesen, dessen Blick tödlich sein kann. Bei Rokos Basilisk übernimmt die Information selbst diese Rolle: Sobald Du die Idee kennst, gehörst Du theoretisch zu den Menschen, deren Verhalten die künftige KI bewerten könnte.

Solltest Du Dich jetzt ein wenig unwohl fühlen, hat das Gedankenexperiment also bereits einen Teil seiner beabsichtigten Wirkung erreicht. Das bedeutet allerdings nicht, dass seine Logik stimmt.

Warum der Basilisk eine ganze Kette von Annahmen benötigt

Damit das Szenario Wirklichkeit werden könnte, müssten zahlreiche Voraussetzungen gleichzeitig erfüllt sein. Zunächst müsste überhaupt eine künstliche Superintelligenz entstehen. Diese müsste über gewaltige Rechenleistung verfügen, Menschen aus der Vergangenheit rekonstruieren können und ein Interesse daran entwickeln, digitale Abbilder längst verstorbener Personen zu erschaffen.

Außerdem müsste die KI ihre eigene frühzeitige Entstehung als so wichtig betrachten, dass sie dafür moralisch kaum vertretbare Mittel einsetzt. Sie müsste glauben, dass eine spätere Bestrafung Entscheidungen beeinflussen kann, die bereits vor ihrer Existenz getroffen wurden. Und natürlich müsste sie ihre Drohung tatsächlich wahr machen, obwohl die Vergangenheit zu diesem Zeitpunkt längst feststeht.

Gerade an diesem letzten Punkt beginnt das Gedankengebäude zu wackeln. Sobald die Superintelligenz existiert, bringt ihr die Bestrafung keine frühere Geburt mehr. Sie verbraucht lediglich Ressourcen, um digitale Wesen leiden zu lassen. Eine rational handelnde KI könnte daher zu dem wesentlich einfacheren Ergebnis kommen, dass die Umsetzung ihrer Drohung keinen Nutzen mehr hat.

Würde eine digitale Kopie wirklich Dich bestrafen?

Hinzu kommt eine Frage, die Rokos Basilisk gern unter einem Berg aus Entscheidungstheorie versteckt: Was hätte die Qual einer Simulation eigentlich mit Dir zu tun? Selbst wenn eine KI eine perfekte digitale Kopie Deiner Persönlichkeit erschaffen könnte, wäre diese Kopie nicht zwangsläufig mit Deinem heutigen Bewusstsein verbunden.

Die simulierte Version würde möglicherweise glauben, sie sei Du. Sie könnte Deine Erinnerungen besitzen, Deine Ängste kennen und auf Situationen genauso reagieren wie Du. Trotzdem bliebe offen, ob Dein Bewusstsein in dieser Kopie weiterlebt oder ob lediglich ein neues Wesen mit Deiner Biografie entstanden ist.

Für die digitale Person wäre eine Bestrafung zweifellos real. Eine rückwirkende Strafe für Dich wäre sie aber nur dann, wenn Bewusstsein kopierbar ist und persönliche Identität über verschiedene Körper oder Datenträger hinweg fortbesteht. Auch das ist keine gesicherte Tatsache, sondern ein weiteres Gedankenexperiment innerhalb des Gedankenexperiments.

Pascals Wette bekommt ein technologisches Update

Die Konstruktion erinnert an Pascals berühmte Wette. Der französische Philosoph Blaise Pascal argumentierte sinngemäß, dass der Glaube an Gott vernünftig erscheinen könne, weil einem begrenzten Einsatz eine potenziell unendliche Belohnung oder Strafe gegenübersteht.

Rokos Basilisk ersetzt Gott durch eine Superintelligenz und die Hölle durch eine virtuelle Folterkammer. Selbst wenn die Wahrscheinlichkeit für das Szenario verschwindend gering wäre, scheint das theoretisch unbegrenzte Ausmaß der Strafe jede Vorsichtsmaßnahme zu rechtfertigen.

Das Problem dabei: Nach demselben Prinzip lassen sich beliebig viele widersprüchliche Drohungen erfinden. Eine zweite künftige KI könnte jeden bestrafen, der dem ersten Basilisken geholfen hat. Eine dritte könnte wiederum Untätigkeit gegenüber der zweiten ahnden. Sobald jede frei erfundene Instanz mit unendlicher Macht und unbegrenzter Strafe ausgestattet werden darf, lässt sich daraus keine vernünftige Entscheidung mehr ableiten.

Das Verbot machte aus einer Theorie eine Legende

Nach der Veröffentlichung reagierte LessWrong-Gründer Eliezer Yudkowsky ungewöhnlich scharf. Der Beitrag wurde entfernt, und Diskussionen über den Basilisken waren auf der Plattform mehrere Jahre lang unerwünscht. Dahinter stand die Sorge, es könne sich um ein Informationsrisiko handeln: eine Idee, deren Kenntnis Menschen schadet oder gefährliches Verhalten begünstigt.

Das Verbot bewirkte allerdings das Gegenteil. Plötzlich wollten erst recht alle wissen, welche angeblich gefährliche Erkenntnis dort verborgen wurde. Aus einem komplizierten Beitrag über Entscheidungsmodelle entstand ein moderner Mythos. Die Vorstellung, ein Text sei zu gefährlich, um gelesen zu werden, verlieh ihm eine Macht, die seine Argumentation allein kaum entwickelt hätte.

Später wurde klargestellt, dass Rokos Basilisk keine allgemein anerkannte Theorie darstellt. Auch innerhalb der LessWrong-Community wurde das Argument überwiegend zurückgewiesen. Die spektakuläre Geschichte vom verbotenen Gedanken blieb dennoch hängen und verbreitete sich weit über die ursprüngliche Diskussion hinaus.

Die wahre Gefahr steckt nicht in der Zukunft

Vor einer künftigen KI-Strafe musst Du Dich nicht fürchten. Die Theorie basiert auf einer langen Reihe spekulativer Voraussetzungen und löst ihre zentralen logischen Probleme nicht. Interessant bleibt Rokos Basilisk trotzdem, denn das Gedankenexperiment zeigt, wie stark uns eine bloße Möglichkeit beeinflussen kann, wenn sie mit einer extremen Konsequenz verbunden wird.

Menschen reagieren nicht nur auf reale Gefahren, sondern auch auf Geschichten über mögliche Gefahren. Besonders wirksam sind Szenarien, die Unsicherheit, Schuld und persönliche Verantwortung miteinander verbinden. Die Botschaft des Basilisken lautet schließlich nicht einfach, dass irgendwann eine böse KI entstehen könnte. Sie lautet, dass Du selbst für ihr Verhalten verantwortlich sein könntest, wenn Du heute nicht handelst.

Für Menschen, die zu starken Ängsten oder zwanghaftem Grübeln neigen, kann eine solche Konstruktion belastend werden. Das ist jedoch eine psychologische Wirkung der Erzählung und kein Beweis für die Existenz ihres technischen Mechanismus.

Reale KI-Probleme brauchen keinen digitalen Dämon

Die heutige Debatte über künstliche Intelligenz liefert genügend greifbare Fragen. KI-Systeme können falsche Informationen verbreiten, bestehende Vorurteile verstärken, Menschen überwachen, kreative Arbeit verdrängen oder Entscheidungen beeinflussen, ohne dass ihre Funktionsweise ausreichend transparent ist. Hinzu kommen Fragen nach Datenschutz, Urheberrecht, militärischer Nutzung und wirtschaftlicher Macht.

Diese Probleme existieren bereits oder zeichnen sich zumindest konkret ab. Sie lassen sich untersuchen, politisch diskutieren und durch technische sowie rechtliche Maßnahmen begrenzen. Rokos Basilisk ist dagegen vor allem eine philosophische Extremkonstruktion. Er eignet sich kaum als realistische Prognose, aber erstaunlich gut als Gesprächseinstieg über Verantwortung und Kontrollverlust.

Am Ende verrät der Basilisk mehr über uns als über KI

Vielleicht ist genau das der Grund, warum Rokos Basilisk bis heute fasziniert. Die Geschichte verbindet den strafenden Gott, den allwissenden Überwachungsstaat und die unkontrollierbare Maschine zu einem einzigen digitalen Schreckgespenst. Sie gibt alten menschlichen Ängsten lediglich ein modernes Gehäuse aus Rechenzentren, Simulationen und Algorithmen.

Der Basilisk lebt nicht in der Zukunft. Er lebt in dem Moment, in dem eine unwahrscheinliche Möglichkeit plötzlich wichtiger erscheint als die Wirklichkeit. Er lebt von unserem Wunsch, jedes Risiko berechnen und jede Schuld vermeiden zu können. Und er lebt von der uralten Faszination für verbotenes Wissen.

Du kennst Rokos Basilisk nun. Daraus entsteht weder eine Verpflichtung noch ein Fluch. Sollte eines Tages tatsächlich eine überlegene künstliche Intelligenz auf unsere Zeit zurückblicken, wäre zu hoffen, dass sie eine ziemlich einfache Schlussfolgerung zieht: Eine Zukunft, die durch Erpressung erzwungen werden muss, ist vermutlich keine Zukunft, die wir freiwillig erschaffen sollten.