Das Gedankenexperiment „Rokos Basilisk“ besagt, dass eine KI, die das Wohl der Menschheit als Ziel hat, jeden bestrafen würde, der von der Existenz der KI wusste und der nicht an der KI mitgearbeitet hat.
Ursprünglich ist der Basilisk von den Griechen erdacht worden. Hierbei handelt es sich um ein Fabelwesen, welches als kleine Schlange beschrieben wird. Diese Schlange ist mit einem Gift ausgestattet, welches durch bloßes Erscheinen töten kann. Sieht man das Gift in einem Spiegel, kann man versteinert werden. Die Basilisken werden auch als die Könige der Schlangen bezeichnet. Insbesondere in der heutigen Zeit, in der auch die künstliche Intelligenz immer bedeutsamer wird, ist der Basilisk deutlich relevanter geworden. Hieraus entstand das sogenannte „Roko’s Basilisken Gedankenexperiment“.
Worum geht es bei „Roko’s Basilisk“? Bedeutung, Definition, Erklärung
Im ersten Moment erscheint das ganze Experiment erst einmal verwirrend, kontrovers und fragwürdig. Die Idee zu dem Experiment entstand im Jahr 2010 in einem philosophischen Wiki-Forum, welches „Less Wrong“ heißt. Die Idee zu diesem Experiment wurde von einem Benutzer namens Roko gepostet, woher das Gedankenexperiment auch seinen Namen hat. Jahre vergingen, in denen die Leute alle Argumentationen, Perspektiven und Nuancen zu diesem Thema diskutierten. Es gab verschiedene Witze, Legenden und Variationen. Auch wurden über dieses Gedankenexperiment tausende Artikel geschrieben und etliche Videos gedreht.
Das Forum Less Wrong beschäftigt sich mit Psychologie, Rationalität und künstlicher Intelligenz. Im Grunde geht es bei diesem Gedankenexperiment schlichtweg um die Frage, unter welchen Bedingungen eine künstliche Intelligenz die Menschheit umbringen würde. Jedoch geht es nur um solche Menschen, die nicht an der Entwicklung der künstlichen Intelligenz beteiligt waren.
Die Idee hinter dem Experiment
Die Idee von Roko basiert auf dem Gedanken des Gründers von Less Wrong, Eliezer Yudkowsky. Eliezer Yudkowsky ist ein Forscher sowie Autor und ist bekannt dafür, dass er eine moralisch handelnde, freundliche KI erschaffen hat. Er ist der Gründer des „Machine Intelligence Research Institute“ (M.I.R.I.).
Die KI sollte sich immer weiter verbessern, wobei das oberste Ziel das Wohl der Menschheit war. Genau an diesem Konzept sieht Roko jedoch einen Haken. Er ist nämlich der Meinung, wenn die KI als oberstes Ziel das Wohl der Menschheit hat, sie nie mit einer Optimierung aufhören wird, weil es immer ein Stückchen besser geht. Aus diesem Grund könnte eine KI auch Entscheidungen treffen, die der Menschheit nicht gefallen würden.
Hierunter fällt zum Beispiel die Entscheidung, Menschen zu töten, die nicht ausschlaggebend an der Entwicklung der KI beteiligt waren. Nach Rokos Ansicht würde dies aus Sicht der KI sogar Sinn ergeben. Dann wäre es so, dass das größte Ziel das Wohl der Menschen ist, sollten schließlich auch alle Menschen auf die Optimierung der KI hinarbeiten. Dies bedeutet im Umkehrschluss, dass jeder Mensch, der sich nicht an der Entwicklung der KI beteiligt, den Fortschritt und somit gleichzeitig das Wohlergehen der Menschheit bremst, ausgelöscht werden muss.
Deshalb erstellte der Benutzer Roko ein Gedankenexperiment, indem er genau davon ausging, dass die KI jene Menschen bestrafen wird, die nicht aktiv dazu beigetragen haben, die KI weiterzuentwickeln. Die KI würde das aber nicht aus niederträchtigen Gründen tun, sondern einfach aus dem Impuls heraus, existenzielle Risiken zu reduzieren. Schließlich hätte mehr Menschen geholfen werden können, wenn die KI früher ins Leben gerufen worden wäre. Schon die bloße Kenntnisnahme dieser Theorie, kann einen Menschen mitschuldig machen, sofern er sich dann nicht an der Entwicklung dieser künstlichen Intelligenz beteiligt. Der besondere Clou hierbei ist aber, dass man sich nur im Sinne eines von M.I.R.I. angestrebten, effektiven Altruismus beteiligen soll.
Verheerend waren die Auswirkungen dieses Gedankenexperimentes. Sobald der Geist der User von diesem gefährlichen Gedankengut infiziert war, waren rund 50 User dieses Forums suizidgefährdet. Eliezer Yudkowsky, der es eigentlich hätte besser wissen müssen, nahm letztlich die Diskussion um Rokos Basilisk aus dem Internet. Damit hatte er jedoch einen Wiedergänger erschaffen, der nicht zu bändigen war. Schließlich weiß man, dass das Internet nichts vergisst. Dementsprechend tauchte der Basilisk auch über andere Foren immer wieder auf. Mit jedem neuen Erscheinen wurde dieses Gedankenexperiment immer machtvoller. Seit jeher ist diese abschreckende Faszination ungebrochen. Auch heute versuchen noch User von Less Wrong ihre persönlichen Daten von der Plattform zu löschen. Denn diese braucht der Basilisk nämlich, um in der Zukunft eine Simulation darüber zu erstellen, welche Personen abgestraft werden sollen.
Wie real kann Rokos Basilisk werden?
Nüchtern betrachtet, ist die Wahrscheinlichkeit, von einer solch ausgearteten KI bestraft zu werden, eher unwahrscheinlich. Dies liegt vor allem an der selbstimmunisierenden Konstruktion dieses Gedankenexperiments. Fast wie eine Verschwörungstheorie fordert Roko das kritische Denken der Menschheit heraus und stellt die Menschen vor die Wahl: glauben oder zweifeln. Allerdings gibt es hierbei einen kleinen Denkfehler: Eine KI, die auf effektiven Altruismus hin programmiert wurde, damit sie existenzielle Risiken vermeiden kann, könnte aufgrund der riesigen Ressourcenverschwendung gar keine retrokausalen Sanktionen ausführen. Dieses ausschlaggebende Verhalten der Basilisken zeigt lediglich die Lücken in kritischem Denken und Rationalität in unserer Menschheit auf. Die Ironie hierbei ist, dass dies ausgerechnet vom Rationalitätsforum Less Wrong kommt.