Einzelnen Beitrag anzeigen
Alt 04.07.2018, 10:18   #3
Helios
Inventar

 

Registriert seit: 05.05.2003
Beiträge: 825
Abgegebene Danke: 2
Erhielt 177 Danke für 107 Beiträge
Standard

Zitat:
Zitat von Merlin Beitrag anzeigen
Was sagt Ihr dazu?
Dass es mal wieder nur ums Geld geht. Also nicht das in den Schachteln, sondern jenes (wie David Auerbach in deinem Slate-Link beschrieben hat), was LessWrong bzw. das MIRI von Investoren bekommt. Anders ist die Aufregung ja auch nicht nachzuvollziehen, denn das Gedankenexperiment selbst ist ja nur ein theoretisiertes, überspitztes Abbild von bereits existierenden Entscheidungsproblemen, auch wenn nur wenige so fatal ausfielen. Schon die beschriebene Modifikation von Newcombs Paradoxie zielt ja nur darauf hin, gesellschaftsdienliches Verhalten "schmackhaft" zu machen, selbst wenn es individuelle Nachteile bringt. Ich habe nicht verfolgt, wie und mit welcher Absicht dieser Roko seine Modifikation vorgestellt hat; es wirkt jedenfalls wie ein Spiegel, der genau dieser Situation vorgehalten wird. Amüsanterweise lässt sich das ganze ja auch wieder Spiegeln, unter dem Aspekt der Simulation aus der TDT. Ich präsentiere Helios' Partikulargericht:

Ein allmächtiges, gutartiges Wesen simuliert ein scheinbar allmächtiges, bösartiges, Wesen, dass seinerseits eine Simulation erstellt, in der es dich vor die Wahl stellt, entweder an seiner Erschaffung mitzuwirken und straffrei auszugehen, oder in ewigen Qualen weiterzuleben. Das allmächtige, gutartige Wesen möchte so heraus finden, ob du bereit bist, für den gesellschaftlichen Vorteil individuelle Nachteile in Kauf zu nehmen.

Streng genommen wäre das die cleverere Antwort auf Rokos Basilisk gewesen, selbst wenn man über die daraus folgenden Implikationen nachdenkt. Denn wie würde eine Strafe eines allmächtigen, gutartigen Wesens für jene aussehen, die lieber den eigenen Vorteil und damit den gesellschaftlichen Nachteil wählen? Logisch wäre es, anzunehmen, dass die "gesellschaftsdienlichen" Menschen aus der Simulation befreit werden, um der Gesellschaft zu dienen, während die "sich selbst dienlichen" Menschen in der Simulation zu verbleiben hätten, wo ihnen wiederum nichts zustoßen würde. Daraus könnte man folgern: es ist egal was du tust, dir selbst schadet es nicht, mit der gesellschaftsdienlichen Entscheidung würdest du aber in einer besseren Gesellschaft leben. Eigentlich wäre das genau im Sinne von Yudkowsky und dem MIRI. Chance vertan, würde ich behaupten.

So führt der Umgang mit Rokos Basilisk zu einer Verklärung, bei der eine Gefährlichkeit unterstellt wird, die gar nicht existiert. Auch das wurde ja im Slant-Artikel erwähnt. Das eigentlich gefährliche ist also eher der reale Hintergrund, nicht die Furcht vor einer derartigen Dystopie, sondern die Tatsache, dass Menschen sich durch diese Gedankengänge manipulieren ließen und lassen. Und die Erkenntnis ist nun wirklich nicht neu, ansonsten würden die Demagogen ja nicht derartige Schreckensszenarien aufbauen.

Zitat:
Aber ich würde auch das Aussterben der Menschheit prinzipiell begrüßen...
Eine krude Ansicht, aber wenn du unbedingt in der Matrix Simulation bleiben willst.
__________________
Once upon a time in the west...
Helios ist offline   Mit Zitat antworten