Und wie elektrische Schafe träumen wir E-Book

Timothy Snyder

• Herausgeber: Passagen
• Kategorie: Geisteswissenschaft
• Serie: Passagen Thema
• Sprache: Deutsch
• Veröffentlichungsjahr: 2020

Seitenzahl: 86

Beschreibung

Der Historiker Timothy Snyder nimmt den 1950 entwickelten Turing-Test des englischen Mathematikers und Logikers Alan Turing und eine etwa zeitgleich erschienene Kurzgeschichte von Isaac Asimov zum Ausganspunkt, um verschiedenen Konstellationen der Interaktion zwischen menschlichen und digitalen Wesen nachzugehen. Unweigerlich ergeben sich daraus Problemstellungen betreffend Ethik, Freiheit und Wahrheit. Und es stellt sich die grundlegende Frage: Was heißt es, Mensch zu sein? Snyders Zeitdiagnose fällt dabei düsterer aus als die dystopischen Visionen der Science-Fiction-Literatur. Es gibt in unserer Zeit, so der Autor, bereits Ansätze einer digitalen Tyrannei, die sich durch eine systematische Negation der Wahrheit auszeichnet. Sein Fazit: Ohne Festhalten an der Wahrheit und an Fakten lassen sich weder Freiheit noch Demokratie bewahren.

Leseprobe

Der Historiker Timothy Snyder nimmt den 1950 entwickelten Turing-Test des englischen Mathematikers und Logikers Alan Turing und eine etwa zeitgleich erschienene Kurzgeschichte von Isaac Asimov zum Ausganspunkt, um verschiedenen Konstellationen der Interaktion zwischen menschlichen und digitalen Wesen nachzugehen. Unweigerlich ergeben sich daraus Problemstellungen betreffend Ethik, Freiheit und Wahrheit. Und es stellt sich die grundlegende Frage: Was heißt es, Mensch zu sein? Snyders Zeitdiagnose fällt dabei düsterer aus als die dystopischen Visionen der Science-Fiction-Literatur. Es gibt in unserer Zeit, so der Autor, bereits Ansätze einer digitalen Tyrannei, die sich durch eine systematische Negation der Wahrheit auszeichnet. Sein Fazit: Ohne Festhalten an der Wahrheit und an Fakten lassen sich weder Freiheit noch Demokratie bewahren.

Timothy Snyder ist Richard C. Levin Professor für Geschichte an der Yale University und Permanent Fellow am Institut für die Wissenschaften vom Menschen.

UND WIE ELEKTRISCHE SCHAFE TRÄUMEN WIRPASSAGEN THEMA

Herausgegeben am Institut für dieWissenschaften vom Menschen

Timothy SnyderUnd wie elektrische Schafeträumen wir

Humanität, Sexualität,Digitalität

Passagen Themaherausgegeben vonPeter Engelmann

Deutsche Erstausgabe

Originaltitel: And we dream as electric sheep.

On humanity, sexuality and digitality

Aus dem Englischen von Andreas Wirthensohn

Die Deutsche Nationalbibliothek verzeichnet diese Publikation in der Deutschen Nationalbibliografie; detaillierte bibliografische Daten sind im Internet über http://dnb.dnb.de/ abrufbar.

Alle Rechte vorbehalten

ISBN 978-3-7092-0412-2

eISBN (EPUB) 978-3-7092-5026-6

© 2019 by Timothy Snyder

© der dt. Ausgabe 2020 by Passagen Verlag Ges. m. b. H., Wien

Grafisches Konzept: Gregor Eichinger

Satz: Passagen Verlag Ges. m. b. H., Wien

http://www.passagen.at

Inhalt

Und wie elektrische Schafe träumen wir

Anmerkungen

Editorische Notiz

Und wie elektrische Schafe träumen wir

„Können Maschinen denken?“1 Der Informatiker Alan Turing stellte diese Frage und hatte auch gleich eine mögliche Antwort darauf parat.

Wir erinnern uns folgendermaßen an den Turing-Test: Ein Computer beantwortet Fragen, die ihm von einem Menschen gestellt werden. Hält der Mensch den Computer fälschlicherweise für einen anderen Menschen, dann folgern wir daraus, dass Maschinen denken können. Dies war aber nicht, was Turing (1912–1954) im Sinn hatte. Sein Nachahmungsspiel, wie er es nannte, begann mit der Frage, wie gut wir einander verstehen.

Welchen Unterschied, wollte er wissen, können wir Menschen besser erkennen – den zwischen einem Mann und einer Frau oder den zwischen einem Computer und einer Frau? In dem Moment, da wir Frauen von Computern nicht besser unterscheiden können als von Männern, können Maschinen denken.

Dies stellte nicht gerade eine Fortschrittsprognose dar. Computer könnten einfach besser darin werden, uns nachzuahmen; wir könnten aber auch schlechter darin werden, einander zu verstehen. Wir könnten geistlose Maschinen erschaffen, die unsere eigenen Fähigkeiten außer Kraft setzen. Computer könnten sich ob des Beweises, dass sie denken können, an unserer Unfähigkeit ergötzen. Möglicherweise wird unsere Unfähigkeit aber auch von digitalen Wesen kultiviert, die keinerlei Freude an unserer Erniedrigung empfinden.2

Heute, da sich das Internet immer weiter ausbreitet, die Demokratie sich im Niedergang befindet und der Klimawandel fortschreitet, sind diese Möglichkeiten durchaus einer Überlegung wert. Das Rätsel am Beginn des Computerzeitalters ist ein guter Ausgangspunkt dafür.3

Turings Imitationsspiel, wie er es 1950 entwickelte, besteht aus zwei Phasen. In der ersten messen wir, wie gut Menschen zwischen einer Frau und einem Mann, der sich als Frau ausgibt, unterscheiden können. Anschließend finden wir heraus, ob Menschen den Unterschied zwischen einer Frau und einem Computer, der eine Frau imitiert, besser oder schlechter erkennen können.

Turings Beschreibung zufolge sollten an der ersten Phase des Spiels drei Menschen beteiligt sein. In einem Raum befindet sich ein Fragesteller (C), ein Mensch, dessen Aufgabe darin besteht, das Geschlecht der beiden Menschen in einem zweiten Raum festzustellen. Er weiß, dass einer von ihnen ein Mann (A) und einer von ihnen eine Frau (B) ist, aber nicht, wer was ist. Eine Öffnung zwischen den beiden Räumen erlaubt die Übermittlung von Notizzetteln, aber keinen sensorischen Kontakt. Der Fragesteller (C) stellt den beiden anderen wechselweise schriftliche Fragen, und sie beantworten sie.

Der Fragesteller (C) gewinnt das Imitationsspiel, wenn er herausfindet, wer von den beiden eine Frau ist. Der Mann (A) gewinnt, wenn er den Fragesteller davon überzeugen kann, dass er eine Frau ist. Die Frau (B) scheint überhaupt nicht gewinnen zu können.

In Turings Beispiel dafür, wie diese erste Phase des Spiels ablaufen könnte, beantwortet der Mann (A) eine Frage nach der Länge seiner Haare mit einer Lüge. Die Frau (B), so malte sich Turing aus, antwortet daraufhin wahrheitsgemäß. Sie muss dies tun, während sie sich mit einem Mann in einem Raum befindet, der vorgibt, eine Frau zu sein (wahrscheinlich, indem er ihren Körper beschreibt), und in der Ungewissheit, ob es ihr gelingt, ihre Argumente glaubhaft vorzubringen, denn sie kann den Fragesteller nicht sehen.

Nun, fragte Turing: „Was passiert, wenn in diesem Spiel eine Maschine die Rolle von A übernimmt?“ In der zweiten Phase wird der Mann im zweiten Raum durch ein Computerprogramm ersetzt.

Das Nachahmungsspiel beginnt erneut, diesmal mit einer anderen Zusammensetzung der Beteiligten: Es sind nicht mehr drei Menschen involviert, sondern zwei Menschen und ein Computer. Der Fragesteller im ersten Raum ist nach wie vor ein Mensch. Im zweiten Raum befinden sich nun ein Computer (A) und die gleiche Frau (B). 1950 ging Turing davon aus, in den kommenden Jahrzehnten würden menschliche Fragesteller leichter zwischen Computern und Frauen als zwischen Männern und Frauen unterscheiden können. Ab einem bestimmten Zeitpunkt aber, war er übrerzeugt, würde ein Computer eine Frau genauso überzeugend imitieren können wie ein Mann.4

In Turings Aufsatz über das Imitationsspiel bedeutet männlich zu sein, dass man kreativ ist und durch einen Computer ersetzt werden kann; weiblich zu sein heißt, dass man authentisch ist und von einem Computer besiegt werden kann. Die Frau (B) tritt als permanente Verliererin in Erscheinung. In der ersten Phase agiert sie defensiv, während der Mann stolz seine Kreativität auslebt. In der zweiten Phase, wenn ein Computer den Mann ersetzt hat, muss sie das Menschsein als solches definieren und damit letztlich scheitern. Die Geschlechterrollen ließen sich jedoch auch umkehren. Das hat die Science-Fiction, die mit Turings Frage aufgewachsen ist, getan.

Aber was heißt es, Mensch zu sein? Können wir beurteilen, ob Maschinen denken, ohne festzulegen, was es für Menschen bedeutet zu denken? Turing konzipierte den Fragesteller (C) als idealen menschlichen Denker, teilte uns über C aber nicht genügend mit, um ihn wirklich als Menschen betrachten zu können. Anders als A und B, die über ihre Körper sprechen, scheint C keinen zu haben. Weil Turing uns nicht daran erinnert, dass C eine körperliche Existenz besitzt, denken wir erst gar nicht daran, nach C’s Interessen zu fragen. Von A und B abgeschirmt, könnte ein isolierter C mit einem Körper womöglich anfangen, darüber nachzudenken, was für ihn persönlich am besten wäre. Analytische Fähigkeiten, isoliert von den Mitgeschöpfen, tendieren dazu, dem Komfort des Geschöpfs zu dienen. Ist vielleicht eine Lüge für C’s Körper besser als die Wahrheit?

Ohne Körper hat C kein Geschlecht. Gerade weil wir das Geschlecht von A und B kennen, folgen wir der Konversation und der Täuschung, von der Turing erzählte. Die Person, die C spielt, müsste eigentlich auch ein Geschlecht haben. Dies wäre von Bedeutung.5 Könnte ein männlicher A in der ersten Phase jemals eine weibliche Fragestellerin C zum Narren halten, wenn er Fragen zum weiblichen Körper beantworten müsste? Könnte eine weibliche C Andeutungen machen, die eine Frau versteht, ein Mann aber nicht? Wäre das nicht vielleicht sogar ihr allererster Schachzug?6 Und würde in der zweiten Phase eine weibliche C einen Computer auf die gleiche Weise von einer Frau zu unterscheiden versuchen, wie ein Mann dies täte?

Es macht einen ziemlichen Unterschied, ob man jemandem Fragen danach stellt, was er oder sie ist, oder danach, was er oder sie zu wissen glaubt. Würde ein männlicher C eher gegen einen Computer A verlieren als eine weibliche C, weil männliche Weiblichkeitserwartungen sich leichter modellieren lassen als tatsächliche Weiblichkeit? Würde ein Computerprogramm, das A nachahmt, nicht versuchen, das Geschlecht von C zu bestimmen? Angesichts der Tatsache, dass das Internet auf weibliche Menstruationszyklen reagiert, erscheint Letzteres durchaus plausibel.7

Zugegeben, es ist verführerisch, sich C als reinen Geist vorzustellen. Dies appeliert an beruhigende Vorannahmen darüber, wer wir sind, wenn wir denken. Wir müssen uns keine Gedanken über Selbstsucht machen, wenn wir kein Selbst haben, genauso wenig wie über Schwächen, wenn wir kein verwundbares Fleisch besitzen. Ohne einen Körper wirkt C unvoreingenommen und unangreifbar. Wir würden nie auf die Idee kommen, Turings Version von C könnte den Computer für nicht vom Spiel vorgesehene körperliche Zwecke nutzen, oder der Computer könnte etwas anderes ins Visier nehmen als C’s Gehirn.8 Turing räumte zwar ein, dass die „für die Maschine beste Strategie“ möglicherweise eine andere wäre, als einen Menschen zu imitieren, tat das jedoch als „unwahrscheinlich“ ab. In dieser Hinsicht lag der große Mann womöglich falsch.

In Turings Nachahmungsspiel trennt die drei Protagonisten eine Wand sowie der kompetitive Charakter des Unterfangens. Indem Turing A, B und C voneinander absonderte, ermöglicht er es uns, verschiedene Denkstile in Erwägung zu ziehen und danach zu fragen, was es heißt, sie gegeneinander zu stellen.

Die drei Denkweisen lassen sich mit philosophischen Traditionen in Verbindung bringen, mit unterschiedlichen Vorstellungen davon, was es heißt zu denken. Die Figur B etwa wirkt wie eine Existentialistin, die sich entscheidet, in der falschen Welt, in der sie sich wiederfindet, die Wahrheit zu sagen. Ist es möglicherweise ganz normal, dass ein Mann deinen Körper anstarrt und gleichzeitig Mitteilungen schreibt, in denen er deine physischen Eigenschaften für sich reklamiert, und die er durch eine Öffnung in der Wand an eine dritte Partei unbestimmten Geschlechts weiterreicht? Und dass dieser Mann dann den Raum verlässt und durch eine Maschine ersetzt wird, sodass du von dem Dreiergespann das einzige Wesen mit definierbarer Sexualität bist, einem Geschlecht, das Gegenstand der konzentrierten und befremdlichen Aufmerksamkeit der beiden anderen Wesen ist? B verteidigt die Wahrheit inmitten eines Strudels der Absurdität. Leben besteht aus unablässiger, pflichtbewusster Berichterstattung.9

Für A heißt Denken anders als für B nicht, die Wahrheit zu sagen. Damit A das Spiel gewinnt, muss er versuchen, die Welt sowohl so zu erfahren wie B (denn sie ist das nächste weibliche Wesen, und seine Aufgabe ist es, sich als Frau auszugeben) als auch wie C (denn er muss in der Vorstellung von C als Frau firmieren). Denken ist somit mit Empathie verbunden: Es geht darum, andere Perspektiven miteinzubeziehen, bevor man etwas sagt, und sie sogar, soweit möglich, über die eigene zu stellen. A erinnert an einen Girardianer, wenn er B unter dem Druck des Wettbewerbs nachahmt oder opfert. Man kann sich ihn aber auch in einer rücksichtsvolleren Position vorstellen.10