Dieses erschreckende AI Gedankenexperiment hat Elon Musk ein Date gegeben

Es ist Elon Musk bei seinem Elon Musk-iest: Laut Nachrichtenberichten hat der Raumfahrt- und Elektroauto-Unternehmer seine derzeitige Freundin getroffen, indem er einen Witz über verräterische künstliche Intelligenz gemacht hat.

Musk und der Musiker Grimes, der eigentlich Claire Boucher heißt, gingen am Montag (7. Mai) als Paar zur Met Gala. Laut der Klatschpublikation Page Six trafen sich die beiden über Twitter, als Musk ein Wortspiel über "Rokokos Basilisk", ein Mashup des Gedankenexperiments "Rokos Basilisken" und den kunstvoll ornamentalen Stil im Frankreich des 18. Jahrhunderts machte.

Musk erfuhr bald, dass Grimes das gleiche Wortspiel in einem Musikvideo im Jahr 2015 gemacht hatte, und der Rest ist romantische Geschichte. Rokos Basilisk hingegen ist eine erschreckende Vision der Zukunft und das Zentrum eines jahrelangen Subkultur-Strudels.

Der Anfang

Die ganze Sache begann im Jahr 2010, als eine Person von Roko ein Gedankenexperiment auf die Seite LessWrong veröffentlichte, ein Forum, wo Leute alles von der Philosophie über die künstliche Intelligenz (KI) bis zur Kognitionswissenschaft diskutieren. Der Beitrag wurde gelöscht, RationalWiki hat jedoch eine Kopie gespeichert. Rokos Idee war, dass, wenn in Zukunft eine superintelligente KI, die das Gemeinwohl maximieren soll, entstehen sollte, könnte sie jeden bestrafen, der nicht zu seiner Existenz beigetragen hat. [Superintelligente Maschinen: 7 Robotic Futures]

"Natürlich wäre das ungerecht, aber es ist die Art von Ungerechtigkeit, die so sehr utilitaristisch ist", begründete Roko.

Dieses Hypothetische würde nach der Singularität stattfinden, dem Punkt, an dem die künstliche Intelligenz vom Leben selbst nicht mehr zu unterscheiden ist - in der Tat besser als das Leben selbst, weil sie Dinge wie sich unbegrenzt hochladen kann und eine Art Siliziumunsterblichkeit erreicht. Wenn diese gottähnliche Macht dich entdeckt, hast du nicht geholfen, sie zu erschaffen, nun, Süsh. Es könnte nur entscheiden, dass deine gerechte Belohnung ewige Qual ist. [Eine kurze Geschichte der künstlichen Intelligenz]

Der Name "Basilisk" stammt von einer mittelalterlichen Legende über eine Schlange, die mit einem Blick töten konnte.

Hier ist jedoch die Falle: Wenn Sie nicht über die Möglichkeit von Rokos Basilisk Bescheid wüssten, sind Sie im Klaren - die KI wird wahrscheinlich nur nach denen kommen, die ihre Existenz vorhergesagt haben, aber sich entschieden haben, nicht alle ihre Einwegartikel zu spenden Einkommen, um dabei zu helfen. Nur wenn du über die Möglichkeit von Rokos Basilisk gelesen hast, bist du verloren. (Es tut uns leid.)

Mit diesem Vorbehalt begann der Online-Strudel. Der Gründer von LessWrong, Eliezer Yudkowsky, kritisierte den Posten als "DUMM" und "wirklich gefährlich". Indem er sehr genau darüber nachdachte, wie eine KI Sie erpressen könnte, hatte Roko sich selbst zur Erpressung eingestellt und alle anderen, die den Beitrag lesen konnten, auf den Plan gerufen.

"Ich verbiete diesen Posten, damit er (a) den Menschen keine schrecklichen Albträume gibt und (b) fernen Superintelligenzen ein Motiv gibt, Erpressungen gegen Menschen durchzuführen, die dumm genug sind, über sie ausreichend detailliert nachzudenken", schrieb Yudkowsky.

Von Roko zur Romanze

Das Verbot von Rokos Basilisk-Diskussion über LessWrong hielt bis 2015 an. Später schrieb Yudkowsky an Reddit, dass er seine Reaktion bedauerte, was es so aussehen ließ, als ob er dachte, Roko hätte Recht; Er glaubt tatsächlich, dass keine künstliche Intelligenz, die mit den besten Interessen der Menschheit entworfen wurde, Menschen foltern würde. Stattdessen, schrieb er, löschte er den Beitrag, weil die Idee für niemanden einen potenziellen Nutzen hätte.

Moschus mochte Rokos Basilisk-Witze besonders gern, weil der ursprüngliche Posten ihn erwähnte. Roko schreibt, dass jemand wie Musk, der "im Alleingang die Gesichter von High-Impact-Industrien verändert", in der Gunst der theoretischen übermenschlichen KI stehen würde. Moschus hat sich auch über die möglichen Gefahren der KI ausgesprochen, indem er im letzten Monat zur Regulierung und Warnung aufrief, dass KI ein "unsterblicher Diktator" werden könnte.

"Wenn die KI ein Ziel hat und die Menschheit gerade im Weg ist, wird sie die Menschheit als selbstverständlich zerstören, ohne darüber nachzudenken. Keine harten Gefühle", sagte Musk in einem Dokumentarfilm mit dem Titel "Vertraust du diesem Computer?" "Das wurde im April veröffentlicht. "Es ist einfach so, wenn wir eine Straße bauen, und ein Ameisenhaufen steht uns im Weg. Wir hassen keine Ameisen, wir bauen nur eine Straße. Also, auf Wiedersehen, Ameisenhaufen."

Grimes ihrerseits ist eine kanadische Musikerin und visuelle Künstlerin, die für ihr Musikvideo "Flesh Without Blood" das Wortspiel "Rococo Basilisk" erfunden hat. Das Video zeigt eine Figur, die Perücken und voluminöse Kleider im Rokoko-Stil trägt und auf dem Tennisplatz landet und blutüberströmt wird.

"Sie ist dazu verdammt, ewig von einer künstlichen Intelligenz gequält zu werden, aber sie ist auch irgendwie wie Marie Antoinette", sagte Grimes gegenüber FuseTV.

Lassen Sie Ihren Kommentar