Was kann und darf Künstliche Intelligenz? E-Book

Julian Nida-Rümelin

• Herausgeber: Piper ebooks
• Kategorie: Geisteswissenschaft
• Sprache: Deutsch
• Veröffentlichungsjahr: 2023

Beschreibung

Autonomer Individualverkehr und Pflege-Roboter, softwaregesteuerte Kundenkorrespondenz und Social Media, Big-Data-Ökonomie und Clever-Bots, Industrie 4.0: Die Digitalisierung hat gewaltige ökonomische, aber auch kulturelle und ethische Wirkungen. In Form eines Brückenschlags zwischen Philosophie und Science-Fiction entwickelt dieses Buch die philosophischen Grundlagen eines Digitalen Humanismus, für den die Unterscheidung zwischen menschlichem Denken, Empfinden und Handeln einerseits und softwaregesteuerten, algorithmischen Prozessen andererseits zentral ist. Eine Alternative zur Silicon-Valley-Ideologie, für die künstliche Intelligenz zum Religionsersatz zu werden droht.

Leseprobe

Mehr über unsere Autorinnen, Autoren und Bücher:

www.piper.de

© Piper Verlag GmbH, München 2023

(Die ursprüngliche Ausgabe erschien unter dem Titel »Digitaler Humanismus«.)

Covergestaltung: Büro Jorge Schmidt, München

Covermotiv: imago images/allOver/Karl Thomas

Konvertierung auf Grundlage eines CSS-Layouts von digital publishing competence, München mit abavo vlow, Buchloe

Sämtliche Inhalte dieses E-Books sind urheberrechtlich geschützt. Der Käufer erwirbt lediglich eine Lizenz für den persönlichen Gebrauch auf eigenen Endgeräten. Urheberrechtsverstöße schaden den Autoren und ihren Werken. Die Weiterverbreitung, Vervielfältigung oder öffentliche Wiedergabe ist ausdrücklich untersagt und kann zivil- und/oder strafrechtliche Folgen haben.

Inhalte fremder Webseiten, auf die in diesem E-Book hingewiesen wird, macht sich der Verlag nicht zu eigen und übernimmt dafür keine Haftung. Wir behalten uns eine Nutzung des Werks für Text und Data Mining im Sinne von § 44b UrhG vor.

Text bei Büchern mit inhaltsrelevanten Abbildungen ohne Alternativtexte:

Inhalt

Inhaltsübersicht

Cover & Impressum

Warum es den digitalen Humanismus braucht – Einführung zur aktualisierten und erweiterten Neuausgabe

Vorwort von Julian Nida-Rümelin

Vorwort von Nathalie Weidenfeld

1

2

»Guten Morgen, wie kann ich Ihnen behilflich sein?«

3

»Willst du mit mir zusammen sein?«

4

»Alles beginnt mit einer Entscheidung«

5

»Wir brauchen dich nicht«

6

»Einige Menschen müssen geopfert werden«

7

»Crew entbehrlich«

8

»Willst du mein Freund sein?«

9

»Ich war die logische Wahl«

10

»Rette Calvin!«

11

»Das Gespräch hat keinen Zweck mehr«

12

»Willkommen in der Wüste des Realen«

13

»Please, I need your assistance«

14

»I own a Tiguan. Her name is Akira«

15

»Sie können nun Ihren Status auf Facebook updaten!«

16

»Ich will mehr Informationen!«

Lebensweltliches und nicht-lebensweltliches Orientierungswissen

Fachwissen

Kanon als gemeinsames Hintergrundwissen

Urteilskraft

Persönlichkeitsbildung

17

»Was ist, wenn die Demokratie gar nicht mehr existiert?«

18

»Alles, was Sie für Ihr Glück brauchen«

19

»Upgraden Sie Ihren Körper!«

20

»Da draußen ist die wirkliche Welt und das hier drin ist der Traum«

21

»Ich bin manchmal glücklich und manchmal tarurig«

22

»Der Frühling kommt, so zart und licht«

23

»C-Beams, glitzernd im Dunkeln, nahe dem Tannhäuser Tor«

Schluss

Anmerkungen

Buchnavigation

Inhaltsübersicht

Cover

Textanfang

Impressum

Warum es den digitalen Humanismus braucht – Einführung zur aktualisierten und erweiterten Neuausgabe

Als 2018 die ursprüngliche Ausgabe unseres Digitalen Humanismus erschien, ahnten wir nicht, dass dieser Begriff in den nächsten Jahren international so stark aufgegriffen werden würde[1]. Das gilt besonders für Österreich, Italien und die USA. Auch wenn unterschiedliche Akteure damit unterschiedliche Akzente setzen, ist den Anhängern eines »digitalen Humanismus« gemein, dass sie den Menschen und nicht die Maschinen zum Ausgangspunkt und zum Zentrum der digitalen Entwicklung machen wollen.

Unterdessen ist die digitale Entwicklung weiter vorangeschritten. Wir haben ChatGPT, die Diskussion um Metaversen hat wieder an Dynamik gewonnen, der Einsatz digitaler Medien in den Schulen hat zugenommen und nachdem KI Beethovens 10. Sinfonie »fertigkomponiert« hat, gibt es intensive Diskussionen darüber, ob wir KI nicht auch ein kreatives Potential zuschreiben müssen.

Man könnte glauben, dass sich die Menschheit an digitale Tools soweit gewöhnt hat, dass sie sie nicht mehr verteufelt oder heiligspricht – doch das Gegenteil ist der Fall. Die überzogenen Erwartungen und apokalyptischen Ängste im Bezug auf KI haben nach wie vor Hochjunktur. Mehr denn je werden Softwaresysteme mystifiziert. Viele Menschen interpretieren ihre beachtliche Leistungsfähigkeit als Ausdruck von Urteilskraft, Empathie, Einsicht, wie etwa Kognitionswissenschaftler Eric Schulz, der in seinem Intreview mit dem SPIEGEL im Frühjahr 2023 die These vertrat, Programmierer könnten Chatbots wie ChatGPT Angst oder Paranoia beibringen. Andere wiederum geraten angesichts dieser Perspektiven in Panik, erwarten eine Machtübernahme durch KI und halten – von Unternehmern wie Elon Musk über Wissenschaftler wie Hawkin bis hin zu Künstlern wie dem deutschen Digital-Künstler Ulf Langheinrich[2] – das Ende der Menschheit für möglich.

Anlässlich der Markteinführung von ChatGPT im November 2022 hat sich das Future of Life Institute, prominent unterstützt durch Elon Musk und Yuval Harari, für ein Moratoriun digitaler Innovationen ausgesprochen. Die Angst, dass uns Künstliche Intelligenzen als unkontrollierte Entitäten schaden könnten, greift immer mehr um sich.

Auch unsere damalige Beschreibung des Phänomens der Verknüpfung heilsgeschichtlicher Erwartungen mit digitalen Technologien sowie der animistischen Aufladung der Figur des Roboters ist zu einer kulturellen Kraft mit problematischen Nebenwirkungen geworden. Darunter schlummert die Gefahr eines Menschenbilds, nach dem wir – in Analogie zu software-gesteuerten Systemen – als deterministische Maschinen gelten. Auch der Begriff von digitalen »neuronalen Netzen« ist Ausdruck für eine mechanistische Analogisierung von Mensch und Maschine. Es steht viel auf dem Spiel in der Diskussion um KI und Digitalisierung: Es geht um nichts geringeres als um unsere menschliche Würde, unser Selbstverständnis als fühlende, kreative und humane Wesen.

Neue Technologien wurden in der Menschheitsgeschichte oft von großen Erwartungen im Hinblick auf eine radikal neue gesellschaftliche und spirituelle Transformation begleitet. Vor allem im 19. und 20. Jahrhundert ist eine heilsgeschichtliche Aufladung der neuen Technologien zu beobachten. Wenn Henry Ford von einem »kommenden Paradies« spricht, das mit seinem Kraftwagen entstehen wird, in dem Menschen eine »neue Welt schaffen, einen neuen Himmel und eine neue Erde, wie sie die Propheten seit unvordenklichen Zeiten ersehnt haben«[3], oder wenn der deutsche Chemie Nobelpreisträger Emil Fischer davon überzeugt ist, dass die synthetische Chemie in der Lage sein werde, »den Geschlechtern das goldene Zeitalter zu bescheren, wo nur noch Glück und Freude auf unserem Planeten existiert«[4], dann wird deutlich, wie sich uralte, in den abrahamitischen Religionen wurzelnde Visionen, herausgefordert und inspiriert durch neue Technologien, rhetorisch wiederholen. Angesichts neuer digitaler Technologien versprechen uns CEOs aus dem Silicon Valley in uralter Rhetorik und Bildersprache die Erlösung der Welt und den Übergang zu einem neuen Zeitalter.

In fast allen Stock-Images zum Thema »Digitalisierung« rekurriert das Thema einer blauen Welt, die von weißen mathematischen Symbolen durchzogen ist. Der darin abgebildete Mensch ist Teil dieser durchdigitalisierten Welt. Er streckt seine Hände aus, als könne er das Ungreifbare begreifen. Die Durchsichtigkeit ist hier Programm. Die Welt soll sich dem Menschen durch der Digitalisierung offenbaren. Das digitale Paradies hat nicht nur in ästhetischer Hinsicht eine protestantische Schlagseite: Es ist von Klarheit und Transparenz geprägt und legt nahe, dass die Gläubigen in der Lage sein werden, alles zu durchleuchten, alles aufzuklären. Illu KI

Das Digitale wird als Modus der Erkenntnis verkauft, die Welt- und Innenschau zugleich für jeden Einzelnen ermöglicht.[5]

Es ist sicherlich kein Zufall, dass die Apple-Stores weltweit nach dem Vorbild protestantischer Kirchen konstruiert sind: mit klaren Linien und Formen, wenig Dekoration, und der Konzentration auf das Wichtigste: das digitale Produkt als göttliches Versprechen bzw. Verbindung zwischen Mensch und Gott. Auch die Welt der sozialen Medien entbehrt nicht eines gewissen Anteils am Paradies, existiert in der Welt von Instagram oder Facebook doch eine Art unsterbliche und auf ewig wiederholbare Präsenz, die selbst den Tod ihrer User übersteht. Das Versprechen, das ansonsten nur die Kirche gegeben hat, wird also nun von Software-Produzenten gegeben, so etwa von der Firma Somnium Life, welche ihren Usern einen Avatar verspricht, der auch nach deren Tod angeblich selbstständig im Metaversum agieren kann.

Das digitale Paradies – wie es uns US-Produkte versprechen – referiert in seiner Bildsprache deutlich auf die puritanischen Tugenden wie Klarheit, Nüchternheit, Reinheit und Nicht-Ambiguität. In der digitalen Sprache lässt sich alles auf »0« oder »1« zurückführen. Es gibt keine Zwischentöne. Dass sich die User im Metaversum nicht real sinnlich begegnen müssen, ist aus puritanischer Sicht reizvoll, schließlich haben ausgelebte sinnliche Gelüste schon so Manchen ins Verderben gestürzt.

Ob die Verprechen aus dem Silicon Valley ein bewusster Marketing-Trick sind oder von den Beteiligten tatsächlich so geglaubt werden, kann hier offenbleiben. Interessanterweise agiert Hollywood in dieser Hinsicht als eine Art fiktives Korrektiv. Verspricht Silicon Valley das Paradies, warnt uns Hollywood vor der digitalen Hölle. In Filmen wie Blade Runner, Minority Report oder Thron werden dem Zuschauer Welten gezeigt, in denen die Digitalisierung entweder zu einer unmenschlichen Militarisierung, umfassender Ökonomisierung oder zu diktatorischen Herschaftsstrukturen missbraucht wird. Auch wenn Hollywood auf die reelle Gefahr des Missbrauchs digitaler Strukturen hinweist, überwiegen in seinen Darstellungen die fiktiven Konstruktionen personalisierter digitaler Dämonen: sei es der »böse« Bordcomputer Hal aus Space Odysee 2001 (USA, Stanley Kubrik, 1968) oder in seiner weiblichen Version, die böse Femme fatale Ava aus Ex Machina (GB, Alex Garland, 2014). Dass Software-Systeme wie ChatGPT so programmiert sind, dass sie ihren Nutzern eine Identität vorgaukeln, da sie in »Ich-Form« mit ihnen kommunizieren, verstärkt die begriffliche Konfusion. Wenn man zu diesen Diskussion die imaginären Projektionen auf die Figur des Roboters hinzufügt, mit denen wir in Filmen oder unserer Vorstellung operieren, ist das Chaos komplett.

Dennoch personalisieren nicht nur Hollywood-Regisseure, sondern auch einzelne Forscher und Massenmedien Softwaresysteme, indem sie ihnen Intentionen und andere personale Eigenschaften zuschreiben. Immer wieder taucht dabei die Idee der sich selbst programmierenden Roboter auf, die ihre Schöpfer längst überholt haben und nun darüber bestimmen, was mit der Menschheit geschehen soll. Ob dabei eine Art psychologischer Kompensationsmechanismus am Werk ist, der uns über manche kollektiv unterdrückte Schuldgefühle hinwegtrösten soll, kann hier offenbleiben.

Viel ist darüber spekuliert worden, ob wir in Zeiten von Selfies und Selbstdarstellungen nicht eine Verstärkung des Narzissmus erleben. Wie Freud in seinem Werk Totem und Tabu ausführt, neigen narzistische Menschen, auch Kinder, dazu, sich die Welt magisch zu erschließen, sie projezieren Wünsche auf unbeseelte Objekte. Dem eigenen Denken wird dabei eine magische Fähigkeit zugesprochen, nämlich Dinge und Vorgänge durch Wünsche hervorzurufen. Freud nennt dies den Glauben an die »Allmacht der Gedanken«.

»Sound Cracker«, 1994, von Nam June Paik aus der Ausstellung Dimensions: Digital Art since 1859[6]

Imaginäre Aufladungen dieser Art haben den Nachteil, dass sie die betreffende Person in einem kindlichen und passiven Status verharren lassen. Darüber hinaus kanalisieren sie die Aufmerksamkeit in eine falsche Richtung. Menschen beseelen KI und erwarten von ihr, dass sie den weiteren Verlauf der Entwicklungen für uns bestimmt. Der Digitale Humanismus will uns daran erinnern, dass wir Menschen es sind, die entscheiden, was mit Technologien geschieht. Digitale Innovationen erzwingen nicht bestimmte Anwendungsformen, dies wäre ein irrtümlicher Glaube an einen Technikdeterminismus. Die Entscheidung, ob wir aus einem Rad eine Töpferscheibe, ein Spielzeug oder einen Autoreifen machen, ist nicht in der Natur des Rades begründet.

Angesichts der Tatsache, dass wir in einer Welt leben, die vor zahlreichen Herausforderungen steht, wie etwa dem Verlust der Artenvielfalt, dem Klimawandel, der Ungerechtigkeit auf den Weltmärkten und der neuen weltpolitischen Unsicherheit, können wir es uns nicht leisten, unsere Aufmerksamkeit auf imaginäre Probleme zu richten, wie etwa die Frage, wann und wie Künstliche Intelligenz die Menschheit übernehmen wird. Die realistische und weitaus dringendlichere Frage ist, wie digitale Technologien dazu verwendet werden können, unser Leben humaner zu gestalten, und wie man den menschenfeindlichen Tendenzen entgegentreten kann.

Es gibt keinen »homo digitalis«, wie es der Titel einer Fraunhofer-Studie nahelegt, die sich mit den Auswirkungen der Digitalisierung auf das menschliche Leben befasst – zumindest nicht in der Form einer neuen Evolutionsstufe des Menschen als direktes Ergebnis der neuen digitalen Technologien. Der Mensch ist und bleibt das, was er seit Jahrtausenden gewesen ist: ein empfindsames, vernunftbegabtes, aber auch zur Irrationalität fähiges Lebewesen, das darauf gerichtet ist, in einer menschlichen Gemeinschaft zu leben, in der es sich seiner Selbstwirksamkeit gewahr ist und sein Leben sinnvoll gestaltet. Digitale Technologien spielen die gleiche Rolle wie andere Technologien in unserer Zivilisationsgeschichte auch: Sie verändern weder den Wesenskern des Menschen, noch die conditio humana. Sie sind lediglich Werkzeuge für seine Lebensgestaltung. Und als Werkzeuge entscheiden sie nichts, weder bedrohen noch retten oder manipulieren sie uns. Hinter jeder digitalen Technologie stecken Menschen, die sie einsetzen – zu diesem oder jenem Zweck. Der Digitale Humanismus will, bei allem Respekt vor den Leistungen der KI Forschung und Softwareentwicklung, daran erinnern, dass wir Menschen es letzlich sind, die über den Einsatz von Technik entscheiden. Und dass uns die damit verbundene ethische Verantwortung niemand abnehmen kann.

Julian Nida-Rümelin & NathalieWeidenfeld im Juli 2023

Vorwort von Julian Nida-Rümelin

Nach dem Abitur am humanistischen Wilhelmsgymnasium in München wusste ich, was mich interessiert, aber nicht, was ich studieren sollte. Drei Bereiche interessierten mich besonders: das Gestalterische (mein Vater hatte mir nur mit Mühe ausreden können, ebenfalls Künstler zu werden), einschließlich Technik, Handwerk und Design, das Mathematisch-Naturwissenschaftliche, speziell die Physik, und schließlich die philosophische Reflexion. Ich entschied mich dann für ein Doppelstudium Philosophie und Physik, in der Erwartung, dass sich meine zukünftige berufliche Tätigkeit aus der Physik (und Mathematik) ergeben würde, ich aber mit dem Philosophiestudium die Basis legen könnte für eine lebenslange Beschäftigung mit philosophischen Fragen. Es ist anders gekommen. Nach dem Vordiplom in Physik bekam ich die Chance, bei Wolfgang Stegmüller, dem damals renommiertesten europäischen Wissenschaftstheoretiker, zu promovieren, und entschied mich ganz für die Philosophie. Ich habe es nicht bereut, aber die anderen Interessen haben sich dadurch nicht erübrigt.

Dieses Buchprojekt bot die Chance, eine Brücke zu schlagen zwischen Philosophie, Technik, Naturwissenschaft und Kultur. Damit diese nicht zu einseitig ausfällt, wurde es in Co-Autorschaft geschrieben mit Nathalie Weidenfeld, die mit Naturwissenschaft und Technik wenig anfangen kann, umso mehr aber mit den fiktionalen Welten der Literatur und des Films. Unsere Hoffnung und die des Piper Verlags, auf den die Anregung zu diesem Buch zurückgeht, ist es, dass diese Autorenkombination nicht nur beim Schreiben Spaß gemacht hat, sondern auch Ihnen als Leserin oder Leser zugutekommt.

Allerdings kann und will ich Sie nicht mit komplexen Argumenten verschonen. Das vielleicht komplexeste überhaupt stammt nicht von mir, sondern von Kurt Gödel, ein meta-mathematisches Theorem aus den 1930er-Jahren, das zeigt, dass es wahre Sätze in der Mathematik und der Logik gibt, die algorithmisch nicht beweisbar sind. Dieses Theorem spielt für meine Argumentation eine wichtige Rolle, und ich hoffe, dass diese im Zuge der unterschiedlichen Reflexionen des Buches zunehmend deutlich wird.

Digitale Computer sind algorithmische Maschinen oder auch Turing-Maschinen (nach dem Mathematiker Alan Turing).[7] Menschen und andere hoch entwickelte Lebewesen sind keine Maschinen. Die Natur als Ganzes ist keine Maschine. Viele Mythen seit der Antike bis ins heutige Hollywood kreisen um dieses Verhältnis Mensch/Maschine. In manchen Mythen ist der Mensch nur eine Maschine, in anderen ist die Natur als Ganzes eine Maschine, in anderen unterjochen Maschinen Menschen, und manche Utopisten glauben, dass das endgültige Reich der Freiheit darin bestehen wird, ausschließlich Maschinen arbeiten zu lassen. Ein digitaler Humanismus transformiert den Menschen nicht in eine Maschine und interpretiert Maschinen nicht als Menschen. Er hält an der Besonderheit des Menschen und seiner Fähigkeiten fest und bedient sich der digitalen Technologien, um diese zu erweitern, nicht um diese zu beschränken.[8]

Dieses Buch ist keine wissenschaftliche Abhandlung, aber es beruht auf Wissenschaft. Ich habe mich in den vergangenen Jahren intensiv mit Fragen der Technik-Philosophie befasst, unter anderem im Rahmen eines größeren EU-Forschungsprojektes (RoboLaw). Zusammen mit Fiorella Battaglia und Mitarbeitern haben wir uns unter anderem mit den Kriterien der Verantwortung in der Robotik, aber auch mit ethischen Aspekten autonomen Fahrens auseinandergesetzt.[9] Zudem haben mich die bayerischen Landesminister Ilse Aigner und Ludwig Spaenle Anfang 2017 zum Leiter des Bereichs Kultur im Zentrum Digitalisierung Bayern (ZD.B)[10] berufen. Auch im Rahmen dieser Aktivitäten habe ich mir vorgenommen, einen Beitrag zu leisten, um zur Rationalisierung des Digitalisierungsdiskurses beizutragen. Jenseits apokalyptischer Untergangsszenarien und technizistischer Erlösungshoffnungen gibt es den mittleren Weg der Bewahrung und Verbesserung der menschlichen Lebensbedingungen durch den kulturell, sozial und politisch kontrollierten Einsatz technologischer Möglichkeiten. Die menschliche Existenzform ist nicht Annex technischer Entwicklung, vielmehr ist es die große Herausforderung unserer Verantwortlichkeit, die Digitalisierung so zu gestalten, dass sie zur Humanisierung der Welt beiträgt.

Vorwort von Nathalie Weidenfeld

In meiner Dissertation beschäftigte mich die Frage, welche kulturwissenschaftliche Rolle die Figur des Außerirdischen in der US-amerikanischen Kultur spielt. Mir fiel auf, dass die Darstellung von Außerirdischen – sei es in Filmen wie E. T. – Der Außerirdische (Regie: Steven Spielberg. USA, 1982), Species (Regie: Roger Donaldsons. USA, 2007), Cocoon (Regie: Ron Howard. USA, 1985), Mars Attacks! (Regie: Tim Burton. USA, 1996) oder auch in vermeintlichen Tatsachenberichten (den Berichten über angebliche Entführungen durch Außerirdische) – sich immer zwischen zwei Polen bewegt: Einerseits gibt es den bedrohlichen und andererseits den Heil bringenden Außerirdischen. Diese beiden Stereotype sind dieselben deren sich die westliche Kultur seit Jahrhunderten bedient hat, um das jeweils als »anders« Markierte (Indianer, Frauen etc.) in einem sogenannten »primitivistischen Gestus« zu beschreiben und dabei eigene Ängste, Hoffnungen und Obsessionen auf das Andere zu projizieren und zu reflektieren.

Auch in der Beschreibung (zukünftiger oder fiktiver) Roboter finden sich dieselben Stereotype wie bei den Außerirdischen: Es gibt den grausamen und betrügerischen Roboter, der den Menschen überlegen ist und droht, die Menschheit auszulöschen oder zu versklaven, wie etwa in der Filmtrilogie Matrix (Regie: Geschwister Wachowksi. USA, 1999), und es gibt den unschuldigen und (oft auch) moralisch überlegenen Roboter, wie zum Beispiel Sonny aus I, Robot (Regie: Alex Proyas. USA, 2004), der geschaffen worden ist, Menschen zu gehorchen, und sich dann im Laufe des Films in eine Art digitalen Martin Luther King verwandelt. Die Darstellung kann aber auch innerhalb eines einzigen Films zwischen diesen beiden Polen oszillieren, wie etwa in Ex Machina (Regie: Alex Garland. UK, 2015), wo die Roboterfrau Ava zu Beginn dem Stereotyp des versklavten, unschuldigen Roboters entspricht, um sich am Ende des Films als Stereotyp des grausamen, kalten und bösen Roboters zu entpuppen.

Hollywoodfilme sind aufschlussreich, weil sich an ihnen die immer wiederkehrenden ideologischen Haltungen ablesen lassen, die in der Diskussion um KI (Künstliche Intelligenz) und Digitalisierung der Gesellschaft eine Rolle spielen. Filme sind unsere modernen Mythenmaschinen. Sie sind nicht nur dramaturgisch so aufgebaut wie klassische Mythen, sondern entwickeln auch eine vergleichbare Prägekraft. Dabei haben sie durchaus eine sich selbst verstärkende Wirkung. Sie sind nicht nur Ausdruck unserer Ängste, Hoffnungen und Obsessionen, sie fördern diese auch.

Möglicherweise erfüllen die Figur des Roboters und die Darstellung einer volldigitalisierten Welt, wie sie in Filmen imaginiert wird, auch eine psychologische Funktion: In einer Zeit, in der weder Gott noch die Natur den Menschen der westlichen Welt Ehrfurcht einflößen kann, braucht es vielleicht die Vorstellung einer hochavancierten Technik, die so fortgeschritten ist, dass sie den Menschen bedrohlich werden kann, um in ihm Gefühle wie Respekt und Demut zu reaktivieren. In jedem Fall sind Science-Fiction-Filme auch immer Ausdruck einer Reflexion über die conditio humana. In dem von Fiorella Battaglia und mir herausgegebenen Band Roboethics in Film (2014) befasst sich mein Beitrag »Lessons in humanity: What happens when robots become human« mit ebendieser Frage.

Als Martin Janik vom Piper Verlag Julian Nida-Rümelin den Vorschlag machte, ein Buch über KI und Digitalisierung zu verfassen, kam uns die Idee, auch die zeitgenössischen Mythen, wie sie sich besonders im Hollywoodfilm manifestieren, in die Analyse einzubeziehen und damit zwei unterschiedliche Kompetenzen – die von Julian Nida-Rümelin im Bereich Philosophie, Logik und Wissenschaftstheorie sowie meine im Bereich Literaturwissenschaft und Filmtheorie – zusammenzuführen. Für uns war diese Kooperation eine interessante Erfahrung. Zu jedem philosophischen Argument fielen mir sofort mehrere Beispiele aus der Filmliteratur ein, die dieses illustrierten. Wir nahmen uns vor, die trockene philosophische Analyse mit fiktionalen Welten zu verbinden und damit erfahrungsgesättigter und lebensnaher zu machen. Denn in den modernen Mythen aus Hollywood werden existenzielle Fragen unseres Selbstverständnisses verhandelt, die eine philosophische Tiefendimension haben, die in den Filmen allenfalls angedeutet wird, aber in diesem Buch ausgelotet werden sollen.

1

Das digitale Zeitalter – Eine historische Einordnung

Möglicherweise wird man in einer fernen Zukunft auf die Menschheitsgeschichte zurückblicken und von drei großen disruptiven technologischen Innovationen sprechen. Der Übergang von der Jäger-und-Sammler-Kultur zur sesshaften Agrarkultur mit Ackerbau und Viehzucht in der Jungsteinzeit, der Übergang zum Maschinenzeitalter auf der Grundlage fossiler Energieträger im 19. Jahrhundert und schließlich die digitale Revolution des 21. Jahnhunderts: die Nutzung künstlicher Intelligenz. Sollte dies einmal so sein, dann stehen wir heute erst am Anfang einer technologischen Revolution, ähnlich wie Europa in den ersten Jahrzehnten des 19. Jahrhunderts. Und so wie damals sind die technologischen Neuerungen auch heute von apokalyptischen Ängsten, aber auch euphorischen Erwartungen begleitet.

Dieses Buch befasst sich mit kulturellen und philosophischen Aspekten der Künstlichen Intelligenz und plädiert für einen digitalen Humanismus. Dieser ist technik-, aber auch menschenfreundlich. Er setzt sich von den Apokalyptikern ab, weil er der menschlichen Vernunft vertraut, und er setzt sich von den Euphorikern ab, weil er die Grenzen digitaler Technik achtet.

Der Traum von der menschlichen Erschaffung künstlicher Wesen ist seit Jahrtausenden Teil mythologischer Erzählungen. In der Antike ist es der Mythos des Prometheus, eines Gottes aus dem Titanengeschlecht, der ohne göttliche Erlaubnis denkende und fühlende Lehmwesen schafft und dafür von Zeus bitter bestraft wird. Im Mittelalter findet sich dann die Geschichte des Golem, eines aus Lehm geschaffenen künstlichen Wesens, das zwar stumm und nicht vernunftbegabt ist, aber viel Kraft besitzt und Aufträge ausführen kann. Auch die Literatur verarbeitet den Mythos des künstlich geschaffenen Wesens. So etwa die romantische Erzählung Der Sandmann von E. T. A. Hoffmann (1816), in dem es um eine geheimnisvolle Frau namens Olimpia geht, in die sich der Protagonist Nathanael verliebt, die aber in Wahrheit eine belebte Puppe ist. Das berühmteste Beispiel aus dieser Zeit ist vermutlich Mary Shelleys Roman Frankenstein oder Der moderne Prometheus (1818). In dieser tragischen Geschichte erschafft ein Schweizer Naturwissenschaftler einen künstlichen Menschen. Diese Kreatur erregt durch ihre Größe und Hässlichkeit so viel Abscheu und Angst, dass sie keinen Anschluss an die menschliche Gesellschaft finden kann und, im Gegenteil, immer mehr Wut und Hass in sich ansammelt. Am Ende tötet sie die Braut seines Schöpfers und sich selbst.

Dass wir humanoide Maschinen als »Roboter« bezeichnen, verdanken wir einem Theaterstück des tschechischen Schriftstellers Karel Čapek, der 1920 das Drama R. U. R. veröffentlichte, in dem er, wie er selbst sagte, den Mythos des Golem verarbeitete. Es geht in diesem Drama um eine Firma namens R. U. R. (Rossums Universal Roboter), die künstliche Menschen – also Roboter – herstellt, um sie als billige Arbeitskräfte zu missbrauchen, die sich allerdings im Laufe der Geschichte gegen ihre Sklaverei auflehnen und die Menschheit auslöschen.

Heute sind es vor allem Science-Fiction-Geschichten, in denen der »Frankenstein-Komplex«[11] weiterlebt, zum Beispiel in den Romanen und Erzählungen Stanisław Lems[12] oder des US-amerikanischen Autors Philip K. Dick[13], in denen Roboter und künstliche Wesen eine wichtige Rolle spielen. In den letzten Jahren haben vor allem US-amerikanische Sci-Fi-Blockbuster auf die mythologische Figur des künstlichen Menschen zurückgegriffen. Dieser taucht nun als von Menschen hergestellter Roboter auf, der in der Zukunft auf der Erde oder auch auf Raumschiffen mit Menschen kooperiert.

Aber auch die Vorstellung einer volldigitalisierten Welt wird in Science-Fiction-Filmen aufgegriffen und reflektiert – fast immer als dystopische Vision: sei es die von Maschinen vollständig beherrschte Welt der Matrix-Trilogie, in der die Maschinen den Menschen in einer digital erzeugten Welt gefangen halten, oder die Bilderwelt von Tron (Regie: Steven Lisberger. USA, 1982) beziehungsweise seinem Sequel Tron: Legacy (Regie: Joseph Kosinski. USA, 2010), in denen eine zukünftige Welt imaginiert wird, in der die Digitalisierung so weit fortgeschritten ist, dass sie selbst eine Art dämonisches Eigenleben entwickelt, das danach trachtet, die Welt vollständig zu kontrollieren, oder das futurische »Paradies« in Demolition Man (Regie: Marco Brambilla. USA, 1993), in dem die Menschen aufgrund digitaler Anweisungen handeln und interagieren und selbst sexuelle Kontakte nur über die Vermittlung digitaler Medien erfolgen darf. Unnötig zu erwähnen, dass dieses »Paradies«, das in Wahrheit ein diktatorisches Regime ist, am Ende des Films zerstört wird.

Unterdessen ist manches, was in der Menschheitsgeschichte fantasiert wurde, Realität geworden. Das berühmteste Beispiel hierfür ist wohl das aufklappbare »Bord-Handy« Captain Kirks aus der US-TV-Serie Raumschiff Enterprise (1966–1969), das etwa fünfzig Jahre später in Form des Klapphandys StarTAC von Motorola eine technologische Realisierung erfuhr. Es scheint sogar so, dass die Mythen lediglich eine durch neue Technologien imprägnierte Form annehmen, aber im Kern unverändert bleiben: der Mythos der Maschine in Menschengestalt, die am Ende die Macht übernimmt, der Mythos der belebten Puppe, der Mythos einer Freundschaft zwischen Mensch und Maschine. Aber im Unterschied zu früheren Jahrhunderten scheinen diese Mythen nun durch konkrete technologische Optionen wiederbelebt zu sein.

Es kann kein Zweifel bestehen, wir leben in einer Zeit des technologischen Umbruchs. Dieses und das nächste Jahrhundert – davon sind viele überzeugt – werden das Zeitalter sein, in dem Roboter viele Arten menschlicher Arbeit übernehmen. Es wird Roboter geben, die Pakete austragen, Taxi fahren, sich als Bankberater betätigen, den Weltraum erkunden, in Callcentern arbeiten, neben Ärzten in Krankenhäusern operieren und möglicherweise auch Romane schreiben oder sich anderweitig als Künstler betätigen. Die Digitalisierung hat schon heute unsere Arbeitswelt, aber auch unsere privaten Lebenswelten durchdrungen und übt einen gewaltigen Veränderungsdruck auf die ökonomischen und sozialen Verhältnisse aus. Dies wirft viele Fragen auf.

Zum Beispiel die, welche Folgen die Schaffung humanoider Roboter für uns und den Fortbestand der Menschheit haben wird. Nicht nur Bestsellerautoren wie Daniel H. Wilson (Robocalypse, 2011), sondern auch ein ehemaliger wissenschaftlicher Mitarbeiter der Carnegie Mellon University, der in Robotik promovierte, entwirft das Szenario einer Bedrohung der Menschheit durch Roboter, auch Wissenschaftler wie Stephen Hawking[14] oder der Philosoph Nick Bostrom[15] warnen davor, Roboter könnten eines Tages die menschliche Spezies an Denk- und Handlungskompetenz übertreffen und ihre Fähigkeiten gegen die Menschheit wenden.[16]

Parallel zu diesen zuweilen apokalyptischen Befürchtungen gibt es aber auch utopische Hoffnungen auf eine neue digitale Welt. Eine Welt, in der uns digitale Roboter als moderne Sklaven ein Reich der Freiheit und der unbegrenzten Entfaltung menschlicher Fähigkeiten begründen oder – glaubt man KI-Theoretikern wie etwa Hans Moravec[17] – dem Menschen durch die Bereitstellung eines künstlichen Körpers, mit dem das menschliche Hirn vernetzt werden könnte, eine unsterbliche Existenz ermöglicht wird.

Es spricht viel dafür, dass das, was im Digitalisierungsdiskurs als »starke KI« bezeichnet wird – also die These, dass Softwaresysteme über Bewusstsein verfügen, Entscheidungen treffen, Ziele verfolgen, dass ihre Leistungen nicht lediglich Simulationen personaler Kompetenzen sind, sondern diese realisieren (worauf wir zum Beispiel im 2. und 5. Kapitel noch näher eingehen werden) –, eines Tages als eine Form des modernen Animismus, also der Beseelung von Nicht-Beseeltem, gelten wird.

Aber natürlich präsentiert sich eine solche Digitalisierungsideologie nicht als regressiv und kindlich, sondern ganz im Gegenteil als rational und wissenschaftlich. Sie hat eine lange kulturelle Vorgeschichte und beginnt in unserem Kulturkreis bei den Pythagoräern im 5. Jahrhundert vor Christus. Es ist die Vorstellung einer streng in numerischen Relationen geordneten Welt, deren Harmonie und Rationalität sich erst in der mathematischen Analyse erschließt. Zweihundert Jahre später fügen die stoischen Philosophen dieser Theorie die These der Übereinstimmung von Weltvernunft und Menschenvernunft (logos) hinzu. Demnach sind Menschen nur deshalb in der Lage, vernünftig zu denken und zu handeln, weil sie fähig sind, an der Weltvernunft teilzuhaben. Der Logos ordnet die Welt nach streng deterministischen Gesetzen, und der Mensch hat sich in diese Weltvernunft einzufügen. Schon den Stoikern und ihren Gegnern fiel allerdings auf, dass sich hier ein Spannungsfeld auftut zwischen einer Weltsicht umfassender Determiniertheit und einer Selbstsicht als freier und verantwortlicher menschlicher Akteur. Führt die KI-Ideologie zu einer Neuauflage dieses Konfliktes, überwindet der digitale Humanismus denselben.

Wir entwickeln in diesem Buch die Grundzüge eines digitalen Humanismus als Alternative zu dem, was man etwas vereinfachend als »Silicon-Valley-Ideologie« bezeichnen kann.

Diese hängt mit der uramerikanischen, puritanisch geprägten Erlösungshoffnung zusammen, eine Welt der Reinen und Gerechten zu schaffen, die Schmutz und Sünde hinter sich gelassen haben. Ähnlich dem Prediger John Winthrop, der in seiner berühmten Rede »City upon a hill« (Stadt auf einem Hügel) im Jahre 1630 den puritanischen Siedlern Mut und Hoffung machen wollte, indem er sie auf ihre Sonderstellung und die herausragende Bedeutung der Besiedlung für den Rest der Welt hinwies, verkünden viele Softwareingenieure aus Silicon Valley wie Steve Jobs ihre »Auserwähltheit« und die Einzigartigkeit ihres Arbeitsplatzes, an dem Dinge entstehen, die für den Rest der Menschheit wichtig sind: »The people who built Silicon Valley were engineers. They learned business, they learned a lot of things, but they had a real belief that humans, if they worked hard with other creative, smart people, could solve most of humankind’s problems. I believe that very much.«[18] Silicon Valley und die Arbeit an KI wird damit metaphysisch aufgeladen. Sie bedeutet nicht nur Big Business, sie ist auch eine Glaubensfrage.

Die zentralen Werte dieses Glaubens sind Transparenz und Berechenbarkeit, ökonomischer Erfolg und mäzenatisches Engagement. In Zeiten der Digitalisierung bringen sie perfekt konstruierte Gegenüber hervor, Softwareidentitäten, deren Konstruktion jeden Fehler ausschließt und die uns als Partner in ein technologisches Utopia führen. Der Schlüsselbegriff ist dabei der der Künstlichen Intelligenz, aufgeladen mit unausgesprochener Metaphysik und Theologie, eine sich selbst verbessernde, hyperrationale, zunehmend beseelte Entität, deren Schöpfer allerdings nicht Gott oder Götter sind, sondern Softwareingenieure aus Silicon Valley, die sich selbst nicht lediglich als Teil einer Industrie verstehen, sondern einer übergreifenden geistigen Bewegung, wie es Reid Hoffmann formuliert: »Silicon Valley is a mindset, not a location.«

Die Silicon-Valley-Ideologie nimmt humanistische Impulse als Ausgangspunkt, um sie dann – nicht zum ersten Mal in der Kulturgeschichte der Menschheit – zu anti-humanistischen Utopien zu transformieren. Sie beginnt bei der Verbesserung des Humanen und endet in seiner finalen Überwindung. Sie will das menschliche Leben auf dem Planeten verbessern und stellt die Bedingungen von Humanität infrage. Sie überführt den Humanismus zum Transhumanismus und zur technizistischen Utopie, in der das Menschliche auf der Strecke bleibt. Dem stellt sich der digitale Humanismus als eine Ethik für das Zeitalter der Künstlichen Intelligenz entgegen.

2