Die verwundbare Welt E-Book

Nick Bostrom

• Herausgeber: Suhrkamp Verlag
• Kategorie: Geisteswissenschaft
• Sprache: Deutsch

Seitenzahl: 104

Veröffentlichungsjahr: 2020

Beschreibung

Eine Schwachstellenanalyse von einem der wichtigsten Risikoforscher der Welt.

Angesichts von Klimawandel und Pandemien wächst global das Bewusstsein, dass die Welt, wie wir sie kennen, womöglich nicht ewig währt – dass die Lebenserwartung der menschlichen Zivilisation als ganzer maßgeblich von unserem Handeln abhängt. Unsere Welt ist verwundbar, ja, es sind sogar Szenarien der vollständigen Selbstzerstörung denkbar, sofern keine geeigneten Maßnahmen zu ihrer Stabilisierung ergriffen werden. Dies ist die Hypothese, die Nick Bostrom in einem vieldiskutierten Text aufstellt, der nun erstmals in deutscher Übersetzung erscheint.

Bostrom geht davon aus, dass die technologische Entwicklung unweigerlich auf einen Punkt zusteuert, an dem es kritisch wird. Historisch gesehen, war das schon einmal fast der Fall, wie er mit einem atemberaubenden Gedankenexperiment illustriert, das in der Zeit des Kalten Krieges spielt. Dann entwickelt er einige nur allzu plausible Szenarien, die den Untergang der menschlichen Zivilisation mit großer Wahrscheinlichkeit herbeiführen würden – es sei denn, wir treffen rechtzeitig Gegenmaßnahmen. Welche das sein könnten, diskutiert Bostrom im zweiten Teil dieses wichtigen Buches, das mit Empfehlungen an die Politik schließt.

Leseprobe

3Nick Bostrom

Die verwundbare Welt

Eine Hypothese

Aus dem Englischen von Jan-Erik Strasser

Suhrkamp

Übersicht

Cover

Titel

Inhalt

Informationen zum Buch

Impressum

Hinweise zum eBook

5Inhalt

Cover

Titel

Inhalt

Liegt eine schwarze Kugel in der Urne möglicher Erfindungen?

Ein Gedankenexperiment: Einfache Atombomben

Die Hypothese der verwundbaren Welt

Eine Schwachstellen-Typologie

Typ 1: »Einfache Atombomben«

Typ 2a: »Sicherer Erstschlag«

Typ 2b: »Schlimmere Erderwärmung«

Typ 0: »Überraschend seltsame Materie«

Einen stabilen Zustand erreichen

Technologischer Verzicht

Präferenzmodifikation

Einige spezifische Gegenmaßnahmen und ihre Grenzen

Governance-Lücken

Präventive Polizeiarbeit

Global Governance

Diskussion

Fazit

Politische Empfehlungen

Anmerkungen

Informationen zum Buch

Impressum

Hinweise zum eBook

3

5

7

9

10

11

13

14

15

16

17

18

19

21

22

23

24

25

27

28

29

30

31

32

33

34

35

36

37

38

39

40

41

42

43

44

45

46

47

48

49

50

51

52

53

54

55

56

57

59

60

61

62

63

64

65

66

67

68

69

70

71

72

73

74

75

76

77

78

79

80

81

83

84

85

86

87

89

90

91

92

93

94

95

96

97

98

99

100

101

102

103

104

105

106

107

108

109

110

111

112

7

Der wissenschaftliche und technologische Fortschritt könnte die menschlichen Möglichkeiten oder Motive auf Weisen verändern, die unsere Zivilisation destabilisieren würden.1Zukünftige »biologische Baukästen« beispielsweise könnten es jeder Person mit rudimentären Biologiekenntnissen erlauben, Millionen von Menschen zu töten; neue Militärtechnologien könnten zu einem Wettrüsten führen, das demjenigen, der zuerst zuschlägt, einen entscheidenden Vorteil sichert; ein neues, wirtschaftlich überlegenes Verfahren könnte katastrophale globale Konsequenzen haben, die sich kaum regulieren lassen. Dieser Aufsatz stellt das Konzept einer verwundbaren Welt vor – grob gesagt einer Welt, in der es ein Niveau der technologischen Entwicklung gibt, auf dem die Zivilisation der Zerstörung anheimfällt, sofern sie nicht den »semi-anarchischen Ausgangszustand« hinter sich gelassen hat. Mehrere kontrafaktische historische und spekulative zukünftige Schwachstellen werden analysiert und typologisiert. Die allgemeine Fähigkeit zur Stabilisierung einer verwundbaren Welt würde viel umfangreichere Präventionsmaßnahmen und Global Governance erfordern. Die Hypothese der verwundbaren Welt eröffnet somit eine neue Perspektive, um das Kosten-Nutzen-Verhältnis von Entwicklungen zu bewerten, die auf eine allgegenwärtige Überwachung oder eine unipolare Weltordnung zielen.

9Liegt eine schwarze Kugel in der Urne möglicher Erfindungen?

Man kann sich die menschliche Kreativität als das Entnehmen von Kugeln aus einer riesigen Urne vorstellen,1 wobei die Kugeln mögliche Ideen, Entdeckungen oder technologische Erfindungen repräsentieren. Im Lauf der Geschichte haben wir sehr viele Kugeln aus dieser Urne herausgefischt, die meisten davon weiß (nützlich), manche aber auch in verschiedenen Grautönen (mäßig schädlich oder mit sowohl guten als auch schlechten Folgen). Ihre kumulative Wirkung auf die conditio humana war bislang überwältigend positiv und könnte in Zukunft noch viel besser werden.2 Die Weltbevölkerung ist in den letzten 10 ‌000 Jahren um rund das Tausendfache gewachsen, und in den letzten zwei Jahrhunderten sind auch das Pro-Kopf-Einkommen, der Lebensstandard und die Lebenserwartung angestiegen.3

Bis jetzt erspart geblieben ist uns eine schwarze Kugel – eine Technologie, die immer oder normalerweise diejenige Zivilisation zerstört, die sie erfindet. Der Grund dafür war allerdings nicht unsere besondere Vorsicht oder Umsicht; wir hatten einfach nur Glück.

Menschliche Zivilisationen wurden von ihren eigenen Er10findungen zwar schon transformiert, aber bislang offenbar noch nicht zerstört.4 Gewiss gibt es Beispiele für Zivilisationen, die durch anderswo gemachte Erfindungen vernichtet wurden – die europäischen Erfindungen, die transozeanische Schiffsreisen und Machtprojektion ermöglichten, kann man als schwarze Kugeln für die indigenen Bevölkerungsgruppen in Amerika, Australien, Tasmanien und an einigen anderen Orten ansehen, und das Aussterben von Hominiden wie dem Neandertaler und dem Denisovaner hatte wahrscheinlich mit der technologischen Überlegenheit des Homo sapiens zu tun. Doch bisher haben wir anscheinend keine selbstzerstörerische Erfindung gemacht, die als schwarze Kugel für die Menschheit gelten kann.5

Was aber, wenn sich doch eine solche Kugel in der Urne befindet? Sofern die wissenschaftliche und technologische Forschung weitergeht, werden wir schließlich auf sie stoßen und sie herausziehen. Unsere Zivilisation ist ziemlich gut darin, Kugeln zu Tage zu fördern, aber sie kann sie nicht wieder in die Urne zurücklegen. Wir können erfinden, aber nicht »unerfinden«. Unsere Strategie besteht in der Hoffnung, dass keine schwarzen Kugeln existieren.

Dieser Text entwickelt einige hilfreiche Konzepte für das Nachdenken über die Möglichkeit einer technologischen schwarzen Kugel und die verschiedenen Formen, die ein solches Phänomen annehmen könnte. Außerdem wird es um einige Konsequenzen für die Globalpolitik gehen, insbesondere im Hinblick darauf, wie man Fortschritte bei der Massenüberwachung und Schritte in Richtung einer effektiveren Global Governance oder einer unipolaren Weltordnung 11beurteilen sollte. Diese Implikationen entscheiden keineswegs schon darüber, ob Änderungen bei den genannten makrostrategischen Variablen wünschenswert sind – es gibt schließlich noch andere, äußerst relevante Faktoren, die hier nicht behandelt werden, aber in Betracht gezogen werden müssten. Gleichwohl bilden sie eine wichtige und zu wenig beachtete Menge von Überlegungen, die in zukünftigen Debatten über diese Themen zu berücksichtigen wären.

Bevor wir an die konzeptionelle Arbeit gehen, sollten wir uns jedoch ein konkreteres Bild davon machen, wie eine technologische schwarze Kugel aussehen könnte. Den offensichtlichsten Fall stellt eine Technologie dar, die es einem sehr leicht machen würde, enorme Zerstörungskräfte freizusetzen. Nuklearexplosionen sind das auf der Hand liegende Beispiel für derartige Kräfte – also was, wenn es sehr einfach gewesen wäre, sie zu entfesseln?

13Ein Gedankenexperiment: Einfache Atombomben

Am Morgen des 12. September 1933 las Leo Szilard in der Zeitung einen Artikel über eine Rede, die kurz zuvor von Lord Rutherford gehalten worden war, der heute vielen als Vater der Kernphysik gilt.1 Rutherford hatte die Idee der Gewinnung von Energie aus Kernreaktionen dort als »Unfug« bezeichnet, was Szilard so ärgerte, dass er erst einmal frische Luft schnappen musste. Während des Spaziergangs kam ihm dann die Idee einer nuklearen Kettenreaktion – die Grundlage sowohl für Kernreaktoren als auch für Atombomben. Spätere Forschungen zeigten, dass die Herstellung einer Atomwaffe mehrere Kilogramm Plutonium oder hochangereichertes Uran erfordert, die beide sehr aufwändig und teuer in der Herstellung sind. Aber was, wenn es anders gewesen wäre, wenn es einen ganz einfachen Weg gegeben hätte, die Kernenergie freizusetzen – etwa, indem man einfach einen Stromstoß durch ein Metallobjekt schickt, das sich zwischen zwei Glasscheiben befindet?

Betrachten wir also einen kontrafaktischen Geschichtsverlauf, in dem Szilard die Kernspaltung erfindet und erkennt, dass sich eine Atombombe bauen lässt, indem man 14etwas Glas, Metall und eine Batterie auf eine bestimmte Weise anordnet. Was geschieht als Nächstes? Szilard bekommt kalte Füße – ihm wird klar, dass er diese Entdeckung um jeden Preis geheim halten muss. Aber wie? Sein Einfall wird auch anderen kommen. Vielleicht sollte er mit denjenigen seiner Kollegen und Freunde sprechen, die am ehesten über die Idee stolpern werden, und sie davon überzeugen, nichts über nukleare Kettenreaktionen oder die dazu führenden Schritte zu veröffentlichen? (Genau das tat Szilard in Wirklichkeit.)

Jetzt steht er vor einem Dilemma: Erklärt er seine Entdeckung genauer, verbreitet sich das gefährliche Wissen weiter; tut er es nicht, wird er viele seiner Kollegen nicht vom Publizieren abhalten können. So oder so steht er auf verlorenem Posten, denn der wissenschaftliche Fortschritt wird für die Verbreitung der gefährlichen Erkenntnisse sorgen. Schon bald wird keine Genialität mehr gebraucht, um herauszufinden, wie man eine Kettenreaktion mit Metall, Glas und Elektrizität auslöst; jede halbwegs findige MINT-Studentin wird dazu in der Lage sein.

Sehen wir dem Treiben noch etwas länger zu. Die Lage scheint aussichtslos, doch Szilard gibt nicht auf. Er beschließt, einen Freund ins Vertrauen zu ziehen, jemanden, der gleichzeitig der berühmteste Wissenschaftler der Welt ist – Albert Einstein –, und überzeugt ihn von der drohenden Gefahr (auch das geschah in Wirklichkeit). Jetzt hat Szilard die Unterstützung eines Mannes, der ihm bei jeder Regierung Gehör verschaffen kann. Die beiden schreiben einen Brief an Präsident Roosevelt, und etliche Sitzungen und 15Berichte später sind die obersten Ebenen der US-Regierung schließlich hinreichend überzeugt, um alle nötigen Maßnahmen zu ergreifen.

Welche Maßnahmen stehen den Vereinigten Staaten zur Verfügung? Betrachten wir erst einmal, was tatsächlich passierte.2 Nachdem die US-Regierung die von Einstein und Szilard zur Verfügung gestellten Informationen verdaut und von den Briten, die sich ebenfalls mit der Angelegenheit beschäftigten, weitere Anstöße dazu erhalten hatte, startete sie das Manhattan-Projekt, um aus der Kernspaltung so schnell wie möglich eine Waffe zu machen. Sobald die Bombe fertig war, benutzte die U. ‌S. Air Force sie, um japanische Städte zu zerstören. Viele Wissenschaftler hatten ihre Teilnahme mit der tödlichen Gefahr begründet, dass Nazideutschland die Bombe zuerst in die Hände bekommen würde; dennoch setzten sie die Arbeit fort, nachdem Deutschland besiegt worden war.3 Szilard plädierte vergeblich dafür, »den Apparat« über einem unbewohnten Gebiet zu zünden.4 Nach Kriegsende befürworteten zwar viele der Wissenschaftler eine internationale Kontrolle der Atomenergie und engagierten sich in der Abrüstungsbewegung, aber ihre Ansichten hatten kaum Gewicht, da ihnen die Entscheidung schon aus den Händen genommen worden war. Vier Jahre später zündete dann die Sowjetunion eine eigene Atombombe. Die sowjetischen Bemühungen wurden zwar von Spionen im Manhattan-Projekt unterstützt, aber auch ohne Spionage wäre den Russen der Bau innerhalb von ein oder zwei weiteren Jahren gelungen.5 Es folgte der Kalte Krieg, auf dessen Höhepunkt 70 ‌000 nukleare Sprengköpfe bereitstan16den, die Erde zu verwüsten, wobei auf beiden Seiten ein zittriger Finger über dem »roten Knopf« schwebte.6

Zu unserem Glück wurde nach der Zerstörung von Hiroshima und Nagasaki keine weitere Atombombe mehr in böser Absicht gezündet. Auch dank internationaler Verträge und anderer Nichtverbreitungsanstrengungen gibt es 73 Jahre später nur neun Atommächte, und kein nichtstaatlicher Akteur soll jemals Nuklearwaffen besessen haben.7

Aber wie läuft das Ganze nun ab, wenn es einen einfachen Weg gibt, solche Waffen herzustellen? Vielleicht können Szilard und Einstein die US-Regierung davon überzeugen, die gesamte Kernforschung (außerhalb hochsicherer Regierungseinrichtungen) zu verbieten? Ein solches Verbot der Grundlagenforschung stünde allerdings vor enormen rechtlichen und politischen Herausforderungen – zumal der Grund dafür nicht im Detail öffentlich gemacht werden könnte, ohne ein inakzeptables informationelles Risiko zu schaffen.8

Nehmen wir dennoch an, Roosevelt könne irgendwie genug politische Unterstützung mobilisieren, um ein Verbot durchzusetzen, und der Oberste Gerichtshof der USA könne es auf irgendeine Weise als verfassungsgemäß bestätigen. Dann stehen wir immer noch vor gewaltigen praktischen Problemen. Alle Physikfakultäten müssten geschlossen, Sicherheitskontrollen eingeführt und sehr viele Dozenten und Studierende rausgeworfen werden. Über den Grund für all diese extremen Maßnahmen würde es viele Spekulationen geben. Aus ihrem Fachgebiet verbannte Doktorandinnen und Professoren würden beisammensitzen und sich fragen, 17worin das Risiko bestünde. Einige von ihnen würden es herausfinden. Und von diesen würden wiederum einige ihre Kollegen mit ebenjenem Wissen beeindrucken wollen; und diese würden es weitersagen, um zu zeigen, dass auch sie im Bilde sind. Alternativ könnte jemand, der sich dem Verbot widersetzen wollte, das Geheimnis im Alleingang veröffentlichen, vielleicht, um zu beweisen, dass das Verbot unwirksam ist oder die Vorteile einer Veröffentlichung die Risiken überwiegen.9 Unachtsame oder verärgerte Mitarbeiter von Regierungslabors gäben schließlich ebenfalls Informationen preis, und Spione würden das Geheimnis in die Hauptstädte anderer Länder tragen. Selbst wenn es wundersamerweise in den USA nie herauskäme, würden ausländische Wissenschaftler es selbst entdecken und damit die Quellen vervielfachen, aus denen es sich verbreiten könnte. Früher oder später – wahrscheinlich eher früher – wäre das Geheimnis keines mehr, und heute, wo man alles sofort und anonym ins Netz stellen kann, wäre es noch schwieriger, die Verbreitung von wissenschaftlichen Geheimnissen einzuschränken.10

Alternativ könnte man vielleicht alle Glas- und Metallobjekte oder alle Stromquellen (außer vielleicht in einigen streng bewachten Militärdepots) beseitigen. Angesichts der Allgegenwart dieser Materialien wäre ein solches Unterfangen allerdings äußerst schwierig. Die politische Unterstützung für derartige Maßnahmen zu sichern wäre nicht einfacher, als den Physikunterricht zu streichen. Aber nachdem erst einmal über einigen Städten Atompilze aufgestiegen wären, würde sich der nötige politische Wille dazu wahrschein18