Künstliche Intelligenz und der Sinn des Lebens E-Book

Richard David Precht

• Herausgeber: Goldmann Verlag
• Kategorie: Geisteswissenschaft
• Sprache: Deutsch
• Veröffentlichungsjahr: 2020

Seitenzahl: 289

Beschreibung

Richard David Precht beschäftigt sich mit den wichtigsten Fragen rund um das Thema »Künstliche Intelligenz« – und bezieht dabei auch die tiefgreifenden gesellschaftlichen Veränderungen durch die aktuelle Krise mit ein.

Während die drohende Klimakatastrophe und der enorme Ressourcenverbrauch der Menschheit den Planeten zerstört, machen sich Informatiker und Ingenieure daran, die Entwicklung einer Künstlichen Intelligenz voranzutreiben, die alles das können soll, was wir Menschen auch können – nur vielfach »optimierter«. Ausgehend von völlig falschen Annahmen soll den Maschinen sogar eine menschenähnliche Moral einprogrammiert werden. Richard David Precht macht uns eindringlich klar, dass das nicht möglich ist. Denn unser Leben besteht nicht aus der Abfolge vorausberechneter Schritte. Wir sind viel mehr als das.

Leseprobe

Buch

Das Zeitalter der künstlichen Intelligenz zwingt uns dazu, völlig neu über uns selbst nachzudenken. Welches Glück verspricht uns die immer intelligentere Technologie, und welchen tieferen Sinn kann sie stiften?

Glück und Sinn liegen nicht in der Technik selbst, sondern in der Art, wie wir sie nutzen. Denn der wichtigste Wert menschlichen Lebens ist nicht irgendein Glück, sondern unser ganz subjektiver Lebenssinn – und der ist weit mehr als die Summe von Glücksmomenten. Ein verantwortungsvoller Umgang mit einem neuen Werkzeug setzt immer das Wissen um seine Grenzen voraus. Künstliche Intelligenz kann nicht über Menschen richten, ohne die Gesellschaft damit gleichzeitig unmenschlicher zu machen.

Richard David Precht plädiert dafür, jede sogenannte »ethische Programmierung« von Computern und Robotern zu verbieten. Er zeigt uns, welche Beziehung zur Welt dem Menschen ein Gefühl von Sinn verleiht – und welche nicht!

Richard David Precht

Künstliche Intelligenz und der Sinn des Lebens

Der Inhalt dieses E-Books ist urheberrechtlich geschützt und enthält technische Sicherungsmaßnahmen gegen unbefugte Nutzung. Die Entfernung dieser Sicherung sowie die Nutzung durch unbefugte Verarbeitung, Vervielfältigung, Verbreitung oder öffentliche Zugänglichmachung, insbesondere in elektronischer Form, ist untersagt und kann straf- und zivilrechtliche Sanktionen nach sich ziehen.

Der Verlag behält sich die Verwertung der urheberrechtlich geschützten Inhalte dieses Werkes für Zwecke des Text- und Data-Minings nach § 44 b UrhG ausdrücklich vor. Jegliche unbefugte Nutzung ist hiermit ausgeschlossen.

Copyright © 2020

by Wilhelm Goldmann Verlag, München,

in der Penguin Random House Verlagsgruppe GmbH,

Neumarkter Str. 28, 81673 München

Covergestaltung: UNO Werbeagentur, München

Covermotiv: FinePic®, München

Redaktion: Regina Carstensen

JT · Herstellung: kw

Satz: Buch-Werkstatt GmbH, Bad Aibling

ISBN 978-3-641-14191-2 V006

www.goldmann-verlag.de

Der Zyklon vermag eine Stadt wegzufegen, aber nicht einmal einen Brief zu entsiegeln oder den Knoten einer Schnur zu lösen.

Paul Valéry

Vorwort

Dieses Buch ist der Essay eines Philosophen, der sich fragt, was künstliche Intelligenz mit unserem Selbst- und Menschenbild macht und wie sie unsere künftige Selbstverwirklichung beeinflusst. Es sagt Ihnen nicht, wie künstliche Intelligenz technisch funktioniert oder welche vielfältigen Einsatzmöglichkeiten sie in der Gegenwart und Zukunft bietet. Es geht, mit einem Wort, um die Frage eines künftigen Menschseins in einer immer technisierteren Welt; einer Welt, in der Technologie nicht wie ein Automat funktioniert, sondern in der sie die Automation selbst automatisiert und damit selbsttätig in unser Leben eingreift. Was bedeutet das für uns? Welcher Sinn wird dadurch gestiftet und welcher wird genommen? Und vor allem: Welche Grenzen müssen wir ziehen, damit diese Zukunft tatsächlich human wird?

Das Buch wurde in den viel zu warmen Wintertagen dieses Jahres geschrieben, und es war noch nicht beendet als das Coronavirus die Welt still zu stellen schien, in einer endlosen Abfolge von Sonntagen. Die Biopolitik des Unsichtbaren, der verordnete Stillstand und verordnete Abstand zu anderen Menschen wie zu den eigenen Routinen, machte vielen Menschen teils schmerzhaft deutlich, wie verletzlich sie als biologische und als soziale Wesen sind. Wie vielen von uns schien dies zuletzt kaum noch bewusst? Und wie viele von uns fühlten sich nicht inzwischen näher mit ihren Smartphones verwandt als mit Tieren und Pflanzen?

Qua Technik schien der Mensch aus der Natur wie aus der Geschichte herausgetreten zu sein, das Virus hingegen belehrt ihn eines anderen. Mehr als ein ganzes Jahrzehnt fürchteten sich die Menschen der westlichen Welt mehr vor Computerviren als vor »echten« Viren, vor ihrem virtuellen Identitätsverlust durch versehentliche Löschung als vor ihrer Auslöschung. Welcher Jugendliche dachte bei Viren noch an seine Gesundheit? Auch kollektiv sollten es vor allem Computerviren sein, die die große Maschine der Weltökonomie lahmlegten, keine biologischen Viren. Dass Viren, die das menschliche Immunsystem abstürzen lassen, andere sind, als jene, die einen Computer abstürzen lassen und dass sich nicht jeder menschliche Organismus wieder »hochfahren« lässt, muss erst wieder gelernt werden.

Kein Zweifel: Das Virus weckt die Welt aus ihrem technotopischen Schlummer. Die wirkliche Wirklichkeit ist nicht digital. Doch in den Visionen des Silicon Valley (Bill Gates einmal ausgenommen) gibt es keine unberechenbare Natur, nur eine permanent fortschreitende Technisierung von allem. Jede Kurve geht exponentiell nach oben: Schneller, Höher, Weiter und Mehr! Beschleunigung, der Fetisch der Gelangweilten, ist alternatitvlos, bedingungslose Expansion, der Fetisch der Wertfreien, ebenso. Für die Geistesgegenwart aber sollten künftig mehr und mehr kluge Maschinen sorgen. Wie sehr haben sie sich geirrt! Denn das Erwachen aus dem technotopischen Schlummer, die Rückkehr der Biologie im Zeichen des Virus, zeigt: Kurven, die nach unten gehen, können Hoffnung geben, fallende Raten Zuversicht. Expansion ist kein Wert an sich, Entschleunigung kann die Sicherheit erhöhen, Resonanz ist nicht Reichweite oder Erreichbarkeit, Künstliche Intelligenz sagt niemandem, was zu tun ist, und digitales Gerät schützt nicht vor existenziellen Lebensrisiken.

Menschen, so heißt es in diesem Buch, sind nicht das „Andere der Natur“, sondern das „Andere der künstlichen Intelligenz“. Wie sichtbar trat es in diesem Frühjahr zutage. Wir sind keine defizitären Rechner, sondern empfindsame, verletzliche und resonanzbedürftige Wesen, die sich ihr Leben erzählen, um es mit Sinn auszustatten, der wichtigste Requisite unseres eigenen Films. Wenn die gewohnte Resonanz ausbleibt, unsere Alltagsserie stockt, beginnt die Unruhe irritierter Instinkte. Den Klugen weckte es den Sinn für das Nachdenken.

Wenn die eigene Lebenserzählung fragwürdig wird, sehen sich Menschen, mitunter ganze Gesellschaften, auf einmal aus der Distanz; eine faszinierende Lerngeschichte! Politiker entdeckten ihre gesamtgesellschaftliche Verantwortung für die Gesundheit der Menschen, deren Psyche und die sozialpsychologischen Folgen gleichermaßen. Die Ökonomie verlor für einen winzigen Moment, eine Synkope, ihr Primat. Die Natur um uns herum durfte sich eine Atempause gönnen und die Menschheit eine Denkpause. Das Fenster, in Alternativen zu denken, stand einen Moment lang offen. Denn weiß die Geschmeidigkeit, mit der wir uns an unseren Alltag anpassen, nicht mehr, worauf sie sich richten soll, schärft sich der suchende Blick: auf unseren eigenen Lebensentwurf wie auf den Gesamtentwurf, den Wirtschaft und Technik von unserem künftigen Glück zeichnen. Nichts anderes versucht dieses Buch.

Richard David Precht

Düsseldorf, Anfang April 2020

Zwei Linien

Der Redebeitrag sorgte zunächst für Unverständnis. Das Publikum auf der lit.Cologne 2019 wirkte genauso irritiert wie meine Gesprächspartner Hans Joachim Schellnhuber und Robert Habeck. Auf die Frage »Ist die Erde noch zu retten?« hatte ich geantwortet, ich sähe zwei große übergeordnete Tendenzen, ja, man könne sagen evolutionäre Bewegungen. Die eine sei der Versuch, aus dem gnadenlosen Prozess des Wachstums auszubrechen und die belebte Natur wiederzuentdecken, statt sie allein als Ressource zu betrachten. Diese Bewegung dränge über kurz oder lang auf die Überwindung des Kapitalismus. Wer dies nicht wolle, der müsse sich wohl oder übel auf die Alternative, die Überwindung des Menschen, einlassen; dass sich Homo sapiens von den Fesseln seiner Biologie löst, »posthuman« wird und seine persönliche wie seine Gattungszukunft »postbiotisch« auf alternativen Datenträgern sucht; verbunden mit dem Versprechen von Unsterblichkeit.

Das Publikum wurde unruhig. Mochte der eine oder andere sein Herz nicht an den Kapitalismus hängen, den Menschen wollte auf der lit.Cologne keiner überwinden; der Kölner ist halt gern Mensch. Doch die Lage ist ernst. Sollte es in hundert Jahren noch Historiker geben, werden sie über die erste Hälfte des 21. Jahrhunderts wohl vor allem eines sagen: dass wir versuchten, wie Götter zu werden, während wir gleichzeitig den Planeten so zerstörten, dass tatsächlich nur noch Götter auf ihm hätten leben können.

Die Gefahr bleibt groß, dass das jetzige das letzte, äußerst kurze Zeitalter wird, von dem Menschen noch etwas wissen, weil es für alle späteren keine menschlichen Chronisten mehr geben wird. Nicht »Ist die Erde noch zu retten?« hätte es auf der lit.Cologne heißen müssen, sondern »Ist die Menschheit noch zu retten?«. Während wir die dunkle Intimität unseres Gehirns durchleuchten und als bunte Bilder grell veröffentlichen, während wir unser so lange sicher verstecktes Erbgut in Millionen Teile zerlegen, um es neu zusammenzubasteln im Blick auf eine freudestrahlende Zukunft, vollführen wir doch nur die letzten aller Menschheitsstreiche – nicht auf dem Weg zum »Übermenschen«, den Nietzsche im späten 19. Jahrhundert aus seiner Lektüre sozialrassistischer Autoren fertigte, sondern auf dem Weg zum Verschwinden.

Der Stolz, dass im Bonuspack der Evolution das Menschentier zu der Fähigkeit kam, sein gelerntes Wissen anders und umfassender zu speichern als andere Tiere (und sein stummes Wissen um das, was ihm guttut, im gleichen Prozess zu verlieren); dieser Stolz auf ein Vermögen, das Homo sapiens die Gravitationskraft und den Elektromagnetismus enträtseln, Atomwaffen, Artensterben und All-you-can-eat-Tarife hervorbringen ließ, Diäten und Denkmalschutz, Fußball und Fernbedienungen, glutenfreie Nudeln und Gummibärchen, Iglus und die Inquisition, Kola und den Koran, Makramé-Eulen und Mindestlohn, Nominalzinsen und Nofretete, Pyramiden und PayPal, Röntgengeräte und das Rote Kreuz, Schönheitschirurgie und Sportwetten, die Vereinten Nationen und Vielfliegerrabatte – dieser Stolz lässt noch immer viel zu viele Angehörige der Spezies Homo sapiens nicht sehen, was jeder, der Augen hat zu sehen, täglich sieht: dass unser Erdzeitalter, das Anthropozän, ein Monetozän ist, ein Zeitalter des Geldes, in dem nicht »der Mensch« biotisch, sedimentär und geochemisch die Erde umpflügt, sondern die Verwertungsinteressen des Kapitals. Je mehr davon angehäuft oder im Umlauf ist, desto größer die naturgeschichtlichen Folgen. Noch einige Jahrzehnte unerschrocken so weiter, und Homo sapiens bleibt im großen Weltenschauspiel keine weitere Rolle mehr zu spielen, als neugierigen Aliens irgendwann als Leitfossil unseres Erdzeitalters zu dienen: als letztes Glied in einer Kette von Trilobiten, Graptolithen, Ammoniten und Foraminiferen.

Wer wünschte sich da nicht, den Art-Namen ernster zu nehmen und tatsächlich mehr Homo sapiens in der Welt zu sehen, mit der Weisheit, der sapientia, gesegnet, nicht nur sich selbst, sondern die eigenen Grenzen zu erkennen? Je mehr wir über den Zustand unseres Planeten wissen, je mehr wir erahnen können, wie das Menschenwerk des technischen Fortschritts ausfallen könnte, umso klarer sehen wir, dass die scientia die Sapientia nicht ersetzen kann. Wer wir sein werden, wird weniger damit zu tun haben, wie wir uns den Maschinen anverwandeln, die wir erschaffen, als damit, die biologische Welt besser zu verstehen, die wir heute so leichtfertig aufs Spiel setzen, obwohl wir sie niemals ersetzen können. Doch ist das Bewusstsein der Gesellschaften schon auf der Höhe der Zeit? Lässt sich das Alltagsverständnis dessen, wer wir sind, derzeit nicht leichter von futuristischen Szenarien über hochintelligente Maschinen verunsichern als durch die Einsicht in den ökologischen Gefahrenindustrialismus, mit dem wir uns alle Lebensgrundlagen rauben? Sollten unsere intelligenten Maschinen uns in künftigen Jahrzehnten die Existenz streitig machen (was zutiefst unwahrscheinlich ist), es bleibt ihnen, wirtschaften wir so weiter wie bisher, nicht viel zu vernichten übrig.

In Zeiten der fortschreitenden Klimakatastrophe und des rasant anschwellenden ökologischen Desasters haben sich viele Vorzeichen geändert. Man kann nicht mehr über die Zukunft reden wie in der Vergangenheit. Das betrifft auch und vor allem die Rolle der Technologie. Die Geschichte der Technik ist eine Erfolgsgeschichte des Homo sapiens, um sich in einer Natur zu behaupten, die auf ihn keine Rücksicht nimmt. Dass er seinerseits nun mehr und mehr gezwungen ist, auf die Natur Rücksicht zu nehmen, ist eine sehr moderne Erfahrung. Sie fehlt noch völlig in den ungetrübt optimistischen Erzählungen der Techno-Euphoriker aus den Siebzigern, Achtzigern und Neunzigern. Überraschend schnell sind sie uns heute altmodisch geworden und auf verstörende Weise weltfremd. Mochten der Austrokanadier Hans Moravec und die US-Amerikaner Marvin Minsky, Frank J. Tipler und Vernor Vinge von beseelten Maschinen, artifizieller Superintelligenz, siliziumbasierten Gehirnen, menschlicher Unsterblichkeit und der raschen Besiedlung des Kosmos fabulieren – ihre im Gewand von Sehern verkündeten Visionen waren ebenso blind für die Janusköpfigkeit des neuen Maschinenzeitalters, wie sie es für das alte waren.

Futuristische Naivität ist im 21. Jahrhundert unverzeihlich geworden als Mangel an Umsicht, Einsicht und Information. Dass die Industrieproduktion, so wie wir sie bislang kennen, die Ressourcen des Planeten bis zur Erschöpfung ausbeutet, bis sie keine mehr findet, hatten der französische Gesellschaftsvisionär Charles Fourier schon zu Anfang, der britische Philosoph John Stuart Mill in der Mitte des 19. Jahrhunderts erkannt – die Futuristen der digitalen Welt aber kennen bislang weder Rohstoffmangel noch Müllberge, keine Umweltzerstörung und keine als CO2-Deponie missbrauchte Atmosphäre. Kein arktisches Eis schmilzt in ihrer perfekten Zukunft, keine Dürren schicken Abermillionen Menschen auf die Reise, keine Millionenstädte am Äquator versinken in den Fluten.

Die Fähigkeit, diese einander so stark entgegenlaufenden Entwicklungen so in ihrem Bewusstsein zu speichern, dass sie dort bis heute nicht zusammentreffen, ist eine erstaunliche Kunst unserer Kultur. Die beiden Linien, jene vom unbegrenzten technischen Fortschritt und jene der ungebremsten Zerstörung der natürlichen Lebensgrundlagen des Menschen, scheinen Geraden zu sein, die sich erst im Unendlichen schneiden. Zwischen dem Kampf um die Erhaltung der ökologischen Lebensgrundlagen und der Produktion immer leistungsfähigerer Rechen- und Mustererkennungsmaschinen fehlt jede echte Brücke. Die Menschheit gleicht einem Verrückten, der weiß, dass sein Keller brennt und dass die Flammen sich immer schneller nach oben ausbreiten. Umso fiebriger baut er seinen Dachstuhl aus, um dem Himmel näher zu kommen. Warum hält er nicht inne, um zu löschen?

Es fällt nicht schwer, die Geschichte des informationstechnischen Fortschritts synchron zu erzählen zur Geschichte des Umweltbewusstseins in den westlichen Industriestaaten. Es ist eine Erzählung aus der gleichen Zeit, der gleichen Kultur und einander nicht unähnlicher Menschen. Initial wurde die Zündung zur Erforschung und Produktion einer zum ersten Mal so benannten »künstlichen Intelligenz« (artificial intelligence) im Sommer 1956. Zehn Wissenschaftler und ein sechswöchiger Workshop genügten, um die frische Brise einer aufregenden Zukunft durch die ehrwürdigen Hallen des Dartmouth College in Hanover, New Hampshire, wehen zu lassen: »Wir schlagen vor, im Laufe des Sommers 1956 über zwei Monate ein Seminar zur künstlichen Intelligenz mit zehn Teilnehmern am Dartmouth College durchzuführen. Die Studie soll von der Annahme ausgehen, dass grundsätzlich alle Aspekte des Lernens und anderer Merkmale der Intelligenz so genau beschrieben werden können, dass eine Maschine zur Simulation dieser Vorgänge gebaut werden kann. Es soll versucht werden herauszufinden, wie Maschinen dazu gebracht werden können, Sprache zu benutzen, Abstraktionen vorzunehmen und Konzepte zu entwickeln, Probleme von der Art, die zurzeit dem Menschen vorbehalten sind, zu lösen und sich selbst weiter zu verbessern. Wir glauben, dass in dem einen oder anderen dieser Problemfelder bedeutsame Fortschritte erzielt werden können, wenn eine sorgfältig zusammengestellte Gruppe von Wissenschaftlern einen Sommer lang gemeinsam daran arbeitet.«[1]

Dem kurzen Sommer von 1956 folgten seitdem mehr als sechs Jahrzehnte; vierundsechzig Jahre, in denen Maschinen lange und mühevoll lernten, »sich selbst weiter zu verbessern«. Zunächst fand man Regelkreise, in denen sich das menschliche Denken in einigen Teilbereichen simulieren ließ. Speicherprogrammierte Computer traten auf den Plan und bald darauf immer größere Zentralrechner. Die erste Generation der Künstlichen-Intelligenz-Forscher sah zugleich, wie der US-amerikanische Biologe und Ökologe Barry Commoner Ende der Fünfzigerjahre die Schattenseite moderner Technik anprangerte, die fürchterlichen medizinischen Schäden von Atomwaffentests. Der Titel seines Buches, ein Jahrzehnt später, könnte prägnanter und hellseherischer kaum sein: Science and Survival. In Deutschland hatten Ende der Fünfziger- und zu Beginn der Sechzigerjahre der Zoologe Reinhard Demoll und der Mediziner Bodo Manstein den Boden bereitet: Sorgen um die Gewässer, vor Luftverschmutzung und atomaren Strahlen mündeten in Büchern mit drastischen Titeln: Bändigt den Menschen. Gegen die Natur oder mit ihr? und Im Würgegriff des Fortschritts.

In Houston liefen derweil die IBM-Rechner der NASA heiß, Rechenzentren, Programmiersprachen, Betriebssysteme und Anwendungsprogramme entstanden. Die Zahl der Rechner stieg 1968 allein in den Vereinigten Staaten auf 700 000.[2] Umweltorganisationen in den USA, Frankreich, England und Schweden schlossen sich zur gleichen Zeit zu den Friends of the Earth zusammen. 1971 gründeten Atomkraftgegner und Pazifisten in Vancouver Greenpeace. Ein Jahr darauf veröffentlichte der Club of Rome seinen Bericht zu den »Grenzen des Wachstums«. Noch betreffen die Sorgen und Prognosen der vom Massachusetts Institute of Technology (MIT) durchgeführten Studie die Industrialisierung im Allgemeinen, das Bevölkerungswachstum, die Unterernährung, die Ausbeutung der Rohstoffreserven und die Zerstörung von Lebensraum. Der Energieverbrauch künftiger Rechner und der damit verbundene CO2-Ausstoß fehlen noch auf der Rechnung.

Derweil erblicken im Xerox Palo Alto Research Center die ersten Personal Computer das Licht der Welt, und Intel stellt den ersten Mikroprozessor vor. 1976 gründen Stephen Wozniak und Steve Jobs die Apple Computer Corporation. Das zweite Maschinenzeitalter hat begonnen mit Maschinen, die menschliche Rechen-, Mustererkennungs- und Kombinationsleistungen übertreffen. Algorithmen starten heuristische Suchen und verwenden ebenso abstrakte wie flexible Repräsentationen.

Während Computer Einzug in die Wohnungen der westlichen Welt halten, lesen besorgte Deutsche das Buch des CDU-Politikers Herbert Gruhl: Ein Planet wird geplündert. Die Schreckensbilanz unserer Politik. In Westeuropa gründen sich die Grünen. Umweltdemos, zunächst gegen die Atomkraft, werden Normalität. »Saurer Regen«, Robbensterben, Ozonloch und Tschernobyl stellen das Wachstums- und Fortschrittsdenken der Industrienationen infrage. In Japan startet derweil das »Computerprojekt der fünften Generation«, um künstliche Intelligenz entscheidend voranzutreiben. »Expertensysteme« unterstützen Firmen, Universitäten und Krankenhäuser bei ihren Entscheidungen. Die Neunzigerjahre bringen das Mobiltelefon für jedermann. Das World Wide Web, 1989 ersonnen, wird 1993 Allgemeingut. Vier Jahre später schlägt der Computer Deep Blue den Schachweltmeister Garri Kasparow. Die ersten Videotelefone kommen auf den Markt, und Privatpersonen lassen sich Websites bauen. Die neuen Systeme der künstlichen Intelligenz bestehen aus mehrschichtigen neuronalen Netzen. Computer können nun aus der Erfahrung »lernen« und verallgemeinern. Sogenannte konnektionistische Systeme erheben Informationen, bilden selbsttätig Modelle, erstellen Prognosen und kontrollieren das Ergebnis. Die Finanzindustrie ist begeistert. Um die Wende ins Jahr 2000 sind Anlagefonds ohne »evolutionäre« Algorithmen und künstliche »neuronale Netze« nicht mehr vorstellbar.

Während künstliche Intelligenz öffentlich wird, wird die Sorge um die Umwelt privater. Bio-Supermärkte, Öko-Labels und Fair-Trade-Handel etablieren sich als Marktsegmente der Wachstumsgesellschaften. Grüne Parteien in Westeuropa drängen in Koalitionen und werben um die »Mitte der Gesellschaft«. Greenpeace, aus der Wahrnehmung der Öffentlichkeit fast verschwunden, nimmt die IT-Industrie ins Visier und fordert Green IT. Hewlett Packard und Apple werden Ziele von Kampagnen gegen giftige Chemikalien in den Geräten und gegen die mangelnde Bereitschaft, Elektronikschrott zu recyceln. Derweil durchziehen die Adern der künstlichen Intelligenz die Wirtschaft und Gesellschaft des 21. Jahrhunderts. Maschinelles Lernen, statistische Physik, Bioinformatik, kombinatorische Optimierung, Robotik und komputationale Genetik erschaffen gemeinsam eine neue Welt aus künstlichen neuronalen Netzen, genetischen Algorithmen und genetischer Programmierung. Künstliche Intelligenz gewinnt nicht nur bei Schach und Dame, Backgammon, Othello, Scrabble, Jeopardy! und Go gegen Menschen, sondern erkennt Sprache, Muster und Gesichter. Gewaltige Rechenzentren durchforsten riesige Datenmengen im Dienste des Profits, des Militärs und der Geheimdienste. Voll automatisierte Waffensysteme lauern auf ihren Einsatz, intelligente Algorithmen verändern Preise und Kaufempfehlungen, suchen Begriffe, reservieren Tische, regieren den Hochfrequenzhandel, überwachen Lagerbestände, zeigen Karten und Routen an, verbessern die medizinische Technik, Diagnose und Entscheidungen, versprechen das Alter zu erleichtern und staubsaugen Wohnungen. Mehr als zehn Millionen Roboter gibt es im Jahr 2020 auf der Erde, recht viel im Vergleich zum verbliebenen Rest von 400 000 Elefanten, 30 000 Nashörnern und 20 000 Löwen.

Die vom Menschen gemachte Welt nimmt zu, die natürliche Welt nimmt ab. Derweil Politiker, Investoren und Manager von neuer Wertschöpfung durch künstliche Intelligenz reden, ereignet sich zugleich die größte Wertvernichtung seit Menschengedenken. Doch während man mühselig gelernt hat, Industrieproduktion, Kraftwerke, Flug-, Straßen- und Schifffahrtsverkehr auf Kohlenstoffemissionen, Ressourcenverbrauch und Umweltschäden zu befragen, ist es bei der Digitalisierung erstaunlich still. Computer, Laptops, Tablets und Smartphones haben Akkus und Batterien. Ihr Lithium stammt aus Ländern wie Chile, Bolivien oder Argentinien, mit erheblichen Umweltfolgen für Tiere und Ureinwohner. Giftiger Staub, Versalzung und Wassermangel in Südamerika sind noch fast harmlos im Vergleich zu den Kobaltminen im Kongo. Militärs und Geheimdienste schubsen die Arbeiter und Zwangsarbeiter durch die Minen, Kinder tragen schwere Erzsäcke ans Tageslicht für formschön designtes Digitalgerät. Nicht besser steht es um die Gewinnung von Coltan, Niob und Gold. Schwerste Menschenrechtsverletzungen begleiten ihren Weg aus der Erde. Viele der Erlöse finanzieren den blutigen Bürgerkrieg. In Südafrika verlieren ungezählte Menschen ihr Land, ihr Wasser und damit ihre Lebensgrundlage durch die Gier nach Platin. Und das alles für Geräte, deren Akkus auch noch mit voller Absicht rasant ihre Leistung verlieren und Bedarf schaffen für immer neue Modelle, während die alten dorthin zurückverfrachtet werden, woher ihre Rohstoffe einmal stammten. Über 150 000 Tonnen Elektroschrott allein aus Deutschland landet in Ghana. Auf den Müllbergen von Agbogbloshi, der verseuchtesten Deponie der Welt, suchen die Ärmsten der Armen nach Verwertbarem aus dem Schrott von Hightech-Konzernen, die vorgeben, die Welt jeden Tag ein bisschen besser zu machen.

Zum Drama der Rohstoffe kommt der Transport. Wer berechnet die CO2-Emissionen des Lieferverkehrs? Das Internet mag frei von geografischem Raum sein, der Transport der Bestellungen ist es nicht. Woher soll die gewaltige Menge an Energie stammen, die Server und Blockchains schon heute verbrauchen? Glaubt man den Forschern der TU Dresden, dann verbraucht das World Wide Web im Jahr 2030 so viel Strom wie die gesamte Weltbevölkerung im Jahr 2011.[3] Noch gehen nur knapp vier Prozent an weltweiten Treibhausgasemissionen auf das Konto digitaler Technik. Doch schon im Jahr 2040, so meinen Physiker der McMaster University in Hamilton, Ontario, wird die Digitaltechnik etwa halb so viel Treibhausgase entstehen lassen wie der gesamte globale Verkehr.[4] Allein die Produktion von Smartphones könnte dann 125 Megatonnen CO2 pro Jahr in die Luft blasen.[5]

Nein, man kann nicht mehr über die Zukunft reden wie in der Vergangenheit. Man wird auch nicht weiterhin sagen können, dass alles wirtschaftliche Wachstum im Dienst der Menschheit geschieht, auch wenn viele Menschen von den Vorzügen profitieren. Auf das Ganze der Menschheit gerechnet, müssen sich der Nutzen und die Kosten, die Zugewinne an menschlicher Lebensqualität und der Verlust an Natur, Ressourcen und biologischen Lebensbedingungen miteinander abgleichen lassen – jede andere Art des Fortschritts wäre keiner, sondern schlichtweg Wahnsinn. Und selbst wenn künstliche Intelligenz Konzernen wie Google dabei hilft, ihre Server besser zu kühlen und Strom zu sparen, wenn clevere Industrievernetzung weniger Energie verbrauchen könnte – all diese Effizienz im Einzelnen ist erst dann effektiv, wenn die Gesamtmenge des Energie- und Ressourcenverbrauchs dadurch tatsächlich abnimmt und nicht wie bisher dramatisch steigt.

Digitale Technologie, insbesondere Maschinenlernen und künstliche Intelligenz, sind einerseits Beispiele unter vielen im Hinblick auf unseren Ressourcenverbrauch. Zum anderen, und das ist hier wichtiger, stehen sie paradigmatisch für den Fortschritt, für die Gestaltung unserer menschlichen Zukunft. In dieser Sicht wird KI gleichsam zum Symbol eines alten Denkens im Angesicht neuer Herausforderungen.

Wenn der schwedische Philosoph und IT-Visionär Nick Bostrom von einer »barmherzigen und triumphalen Nutzung unseres kosmischen Erbes« durch künstliche Intelligenz spricht, dann wundert man sich nicht nur über den cäsarenhaften Imperativ zur Triumphalität, man erschrickt auch darüber, dass seine Version von »Barmherzigkeit« kein einziges soziales, geschweige denn ökologisches Problem unserer Zeit überhaupt anspricht.[6] Bostroms Angst, dass eine »Intelligenzexplosion die ganze Welt in Brand steckt«, benötigt zu ihrer Erfüllung keine böse, gegen den Menschen gerichtete künstliche Intelligenz.[7] Wie viele naheliegendere Brandrodungen entscheiden in den nächsten Jahrzehnten über das Schicksal der Menschheit als ausgerechnet jene übel entgleister Computer!

Doch es gibt noch immer viel zu wenige, die sich für beides gleichermaßen interessieren: für die Sorge und die Notwendigkeiten des biologischen Überlebens und für den technischen Fortschritt durch künstliche Intelligenz. Es scheint, als fände beides auf getrennten Planeten statt. Bei der Umweltfrage geht es fast nie um die anthropologische Weiterentwicklung der Spezies Mensch; in der KI-Debatte fast nie um Energieverbrauch, Ressourcenausbeutung und CO2-Emissionen. Der Gedanke, Menschen irgendwo in den unwirtlichen Weiten des Weltalls anzusiedeln, scheint IT-Gurus und Techno-Utopisten näher zu sein, als den Lebensstil der Industrienationen auch nur sanft anzuzweifeln; die Gründe dafür dürften im Weiteren deutlich werden. Techno-Visionen und Ökologie – es ist die Kluft, der Graben unserer Zeit!

Unter solchen Vorzeichen ist die Orientierungslosigkeit im Umgang mit Ökologie und Technik vor allem eine Vernunftkrise. Wir scheinen nicht mehr recht zu wissen, was ein vernünftiger Fortschritt ist.

Der Aufbruch ins zweite Maschinenzeitalter muss nicht nur clever, klug und geschmeidig sein, er muss auch künftige Desaster erkennen und vermeiden. Was können wir von einer selbstlernenden digitalen Technik künftig erwarten und was nicht? Wo ist künstliche Intelligenz ein Segen, und wo wird sie mittel- bis langfristig zum Fluch?

Im Mittelpunkt steht damit die neue alte Frage, was es heißt, Mensch zu sein. Sie stellt sich heute mit größter Brisanz. Unsere Selbstdeutung und Selbstverwirklichung verlangen dringend nach einer Revision. Was sind unsere realistischen Erwartungen? Was unsere Einschätzungen einer guten Zukunft? Und welche Sinngebungen kommen darin vor? Denn eine Diskussion des technischen Fortschritts, die eine solche Sinndimension nicht kennt, geht notwendig am Menschen vorbei. Sinn ist jener Horizont, vor dem das, was Menschen jenseits des nackten Überlebens tun, verständlich wird. Wenn sich die Frage nach der technischen Zukunft auf verstörende Weise von der Frage nach dem Sinn des Lebens gelöst hat, so gilt es nun, diese Dimension zurückzugewinnen. Und sie kennt vor allem zwei Fragen: »Wohin?« und »Wozu?«

Das Andere der künstlichen Intelligenz

Wie schade wäre es, wenn den Menschen die Wende nicht rechtzeitig gelänge! In diesem letzten Abschnitt ihrer Geschichte könnten sie so viel über sich selbst lernen. Es ist faszinierend zu sehen, wie das Zeitalter der künstlichen Intelligenz die Philosophie zwingt, den Menschen ganz neu zu sehen. Oder wie es der US-amerikanische Nobelpreisträger Herbert A. Simon bereits 1977 formulierte: »Die wahrscheinlich wichtigste Frage über den Computer ist, was er mit dem menschlichen Selbstverständnis und seinem Platz im Universum getan hat und weiterhin tun wird.«[8]

Was wäre eine solche realistische Neubewertung, ein angemessenes Selbstverständnis? Zweieinhalbtausend Jahre lang waren die Menschen der westlichen Kultur ihrem Selbstverständnis nach das Andere der Natur. Beseelt vom göttlichen logos, der ihnen Vernunft, Urteilsfähigkeit und Sprache schenkte, setzten sie sich die Pflanzen und Tiere als das Triviale entgegen. Geist, Denken, Vernunft und Kalkül waren jene Eigenschaften, die Männer an der schönen Küste Kleinasiens, im verbrannten Süden Italiens oder in einer Kleinstadt unweit des Ägäischen Meeres im 5. und 4. vorchristlichen Jahrhundert zu den Wesensmerkmalen des Menschlichen erklärten. Der Logos schenkte ihnen die Teilhabe an einer höheren Sphäre des Seins, die größer ist als der Mensch selbst. Vom Himmel ins Bewusstsein geholt, wird sie zur Allzweckwaffe. Sie ist Denkmethode, Instanz, Sinnstiftung – aber vielleicht auch nur eine Fiktion, geboren in den Bewusstseinszimmern enger Wirbeltiergehirne.

Wir stehen heute zu Beginn eines neuen Jahrtausends christlicher Zeitrechnung. Jedes Jahrtausend hat die Menschen qua Logos von der umgebenden Natur und Tierwelt entfernt und entfremdet. Der Logos hat die Welt entzaubert, aber in gleichem Maße den großen Entzauberer selbst verzaubert, sodass er sein eigenes Wesen aus den Augen verlor. Die heutige Generation der Logos-Sekte träumt von enorm potenzierten Gehirnen durch »Emulation«. Hohepriester des Silicon Valley lehren uns, in Menschen unvollständige Maschinen zu sehen, statt in Maschinen unvollständige Menschen. Der Logos will rein werden; hinweg mit dem Zufall, den natürlichen Barrieren, der sterblichen Hülle. Menschliche Gehirne sollen gescannt und im Computer modelliert werden, Nootropika, leistungssteigernde Medikamente, sollen die Neuronen und Synapsen zum Tanzen bringen, die optimalen Spermien mit den schönsten Eizellen sich beim In-vitro-Casting vereinen, Hirnimplantate überlegene Cyborgs hervorbringen.

Der Drang in ein bizarres Mehr, die Steigerung ins Absurdistan des technisch Denkbaren befeuert sich durch eine tiefe Kränkung. Unsere Maschinen können besser sehen, hören, rechnen und kalkulieren als Menschen. Definieren wir unser Wesen weiter über den Logos und nehmen wir an Maschinen Maß, so müssen wir uns optimieren, um nicht auf der Strecke zu bleiben. Doch die Welt des Maschinen-Logos ist zugleich erschreckend eintönig, man muss wohl sagen »blutleer« und banal. Und genau darin liegt die Pointe: das Nicht-Banale am Menschen neu zu entdecken und ihn neu zu definieren, nicht als das Andere der Natur, sondern als das Andere der künstlichen Intelligenz.[9] Es ist das neue Selbstverständnis, zu dem uns der Computer zwingt, je intelligenter er auf seine Weise wird. »Die KI«, wie der US-amerikanische Informatiker Donald Knuth von der Stanford University schreibt, »kann mittlerweile so ziemlich alles, was ›Denken‹ erfordert, aber kaum etwas von dem, was Menschen und Tiere ›gedankenlos‹ tun – das ist irgendwie viel schwieriger!«[10]

Die Lage ist paradox. Während Menschen sich mehr und mehr mit Computern vergleichen statt mit Tieren, erkennen wir zugleich, wie wenig die Leistung von Rechnern überhaupt mit menschlicher Intelligenz vergleichbar ist. Die Hoffnung der Dartmouth-Teilnehmer und vieler ihrer Nachfolger, in kürzester Zeit in die Dimension menschlicher Intelligenz vorzudringen, hat sich nicht erfüllt. Dabei geschah und geschieht stets das Gleiche. KI-Visionäre von den Sechzigerjahren bis heute wähnten und wähnen sich in dieser Frage jedes Mal kurz vor dem Ziel. Sie prognostizierten und prognostizieren weiterhin eine dem Menschen adäquate Intelligenz innerhalb der jeweils nächsten Dekade. Und sie scheitern ein ums andere Mal. Denn immer präzisere Mustererkennung und immer leistungsfähigere Statistiksysteme schaffen noch lange keine echte Intelligenz.

Menschliche Intelligenz ist, nach einer berühmten Formulierung des Schweizer Entwicklungspsychologen Jean Piaget, »das, was man einsetzt, wenn man nicht weiß, was man tun soll«. Logik und Kalkül spielen dafür allerdings nur in wenigen Fällen und auch erst ab einem bestimmten Alter eine Rolle. Die menschliche Intelligenz ist durchzogen von Emotionalität und Intuition, Spontanität und Assoziation. Der »gesunde Menschenverstand« (common sense) ist kein Synonym für Rationalität, sondern im gleichen Maße Einfühlung in die Situation unter dem Einfluss von Werten. Menschen denken viel seltener und viel weniger logisch als von KI-Forschern angenommen, und nicht das logische Denken macht die Menschlichkeit aus.

Wenn es um die Zukunft von KI geht, braucht es eine »Kritik der kortikalen Vernunft«. Dass menschliche Intelligenz vor allem logisch und streng rational sein soll, ist eine Fehlinterpretation und Übertreibung. Entsprechend groß ist die Zahl der IT-Experten, vor allem in Deutschland, die den Begriff »künstliche Intelligenz« ohnehin nur für ein Marketing-Wort halten. Im Gegensatz zu Computern denken Menschen nicht »regelbasiert«. Ihre Entscheidungswelt ist nicht sorgsam begrenzt und durch eine Zielfunktion eingehegt und festgelegt. Der Geist des Menschen operiert nicht in einem programmierten System, sondern erst Gefühle, Gedanken, Wörter und Sätze ziehen ihn täglich aus dem Nichts. Gerade das Nicht-Programmierte nämlich erlaubt es Menschen, sich und die Welt zu reflektieren. Computer dagegen sind unfähig, das eigene Wissen zu wissen. AlphaGo, das Computerprogramm von Google DeepMind, das 2016 den südkoreanischen Go-Großmeister Lee Sedol schlug, verstand nicht entfernt, was es tat, und es konnte es auch nicht erklären. Das Programm begriff noch nicht einmal, was Go ist, geschweige denn, warum Menschen Go spielen. Es versteht ja nicht einmal, warum Menschen überhaupt spielen.

Was KI heute kann, ist zwar beeindruckend, aber in keiner Form ähnlich oder gar gleich menschlicher Intelligenz. KI hat einiges mit Intelligenz zu tun, aber kaum etwas mit Verstand und nicht entfernt mit Vernunft. Dass sich daran in absehbarer Zeit etwas ändert, ist, wie wir sehen werden, ziemlich unwahrscheinlich. Die Lektion des Computers ist nicht, dass er uns bald ersetzt. Sie besteht vor allem darin, das zu entdecken, bei dem er uns nicht ersetzen kann. Der Computer lehrt uns, das Analoge wiederzuentdecken in seiner fantastischen Vielschichtigkeit und unberechenbaren Komplexität. So viele großartige Fähigkeiten unterscheiden Menschen nicht nur graduell, sondern prinzipiell von ihren Maschinen.

Die künstliche Intelligenz, die den Go-Meister schlug, ist nicht emotional. Emotionalität ist kein irrationales Manko des Menschen, wie viele antike Griechen und manche Aufklärungsphilosophen, wie zum Beispiel Immanuel Kant, meinten. Ohne unsere Gefühle wüsste unser Verstand überhaupt nicht, was er tun soll. Es sind unsere emotionalen Willensimpulse und ihre Erfüllung, die wesentlich unsere Glücksdynamik bestimmen. Und selbst unser Pflichtgefühl ist ebendies, ein Gefühl. Dass künstliche Intelligenzen Emotionen mit Sensoren erspüren und mimisch und stimmlich imitieren können, macht sie beileibe nicht zu emotionalen Wesen. Affective computing verhält sich zum Empfinden von Emotionen wie Donald Duck zu einer Stockente. Auch können künstliche Intelligenzen nicht alle menschlichen Gefühle lesen. Gefühle entstehen, wenn Emotionen Vorstellungen auslösen. Komplexe Formen der Traurigkeit, wie Selbstmitleid, Reue oder Einsamkeit, sind ebenso wenig lesbar wie komplexe Formen der Freude, wie Schadenfreude, Stolz oder Zuversicht. Ob eine sensorisch erfasste Information Verwirrung oder Erstaunen ist, Frustration oder Rachsucht, Wissbegierde oder Hoffnung, ist mitunter nicht mal dem völlig bewusst, der sie hat. Maschinen können die Zwischentöne und Fantasien echter Gefühle weder beobachten, noch können sie sie verstehen oder erzeugen.

Unsere emotionale Sensitivität macht Menschen weiterhin und dauerhaft zu Tieren. In diesem Punkt sind wir sogar näher an Pflanzen als an Maschinen. Die Corona-Krise, bei der sich viele Menschen ihrer biologischen Verletzbarkeit teils panisch bewusst wurden, dürfte dies vielen wieder gegenwärtig gemacht haben. Doch unsere animalische Sensitivität neu zu entdecken ist nicht nur mit nachvollziehbaren Ängsten verbunden. Zugleich ist es eine fantastische Reise in biologisch oft weithin unerforschtes Gebiet. Man denke nur an die etwa einhundert Billionen Bakterien, die in Tausenden verschiedenen Stämmen im menschlichen Darm leben. Ihr Gesamtgewicht übertrifft sogar das unseres Gehirns. Diese Bakterien, oft viel älter als der Mensch, beeinflussen nicht nur unsere Verdauung, sondern auch unser Denken und möglicherweise sogar das Verhalten; ein Ökosystem von enormer Diversität, das wir, wie so vieles andere in der Natur, noch nicht einmal ansatzweise verstanden haben.

Die neue philosophische Biologie schaut viel weniger darauf, was andere Lebewesen für den Menschen bedeuten. Sie versucht zu verstehen, was Sensitivität, Wahrnehmung und Leben für die jeweiligen Lebewesen bedeuten. Was eine Fledermaus für den Menschen ist, ist gewiss etwas anderes als das, was es für eine Fledermaus bedeutet, eine Fledermaus zu sein.[11] Wer die Paviane verstünde, der sei ein größerer Philosoph als John Locke, bemerkte einst Charles Darwin. Aber einen Pavian wirklich zu verstehen bedeutet zu verstehen, was es für einen Pavian heißt, ein Pavian zu sein.

Eine solche Forschung beobachtet nicht schlichtweg Lebewesen. Sie beobachtet, wie andere Lebewesen beobachten. Ihr Pionier, der Este Jakob Johann von Uexküll, realisierte Anfang des 20. Jahrhunderts, dass Tiere nicht in einer Umwelt leben, sondern jedes Lebewesen in einer je eigenen Umwelt.[12] Meine Umwelt ist das, was ich als meine Umwelt wahrnehme und gestalte – bei der Zecke nicht anders als beim Menschen. Und die Grenzen meiner Wahrnehmung sind die Grenzen meiner spezifisch auf mich zugerichteten Welt. Raum und Zeit, Verhalten und Bedeutung sind subjektive Leistungen – eine Erkenntnis, die nach Uexküll im Zentrum jeder Biologie stehen sollte, es aber bis heute nicht tut.

Erst im letzten Jahrzehnt ist die Frage, wie fremde Erscheinungsformen in ihrer Fremdheit angemessen verstanden werden können, wieder ins Licht gerückt. Wiederbelebt hat sie Ian Bogost vom Georgia Institute of Technology in Atlanta, und zwar als alien phenomenology.[13] Der Literaturwissenschaftler Timothy Morton von der Rice University in Houston spricht von Tieren und Pflanzen als strange strangers, im Gegensatz zu vertrauten Fremden, etwa anderen Menschen.[14] Für den Philosophen Levi Bryant vom Collin College bei Dallas ist dies »transzendentaler Empirismus«.[15] Transzendentalphilosophie ist nach Immanuel Kant die Frage nach der Bedingung der Möglichkeit von etwas. Der transzendentale Empirismus fragt dies im Hinblick auch auf andere Erlebnissubjekte als dem Menschen: Was sind, wie bei Uexküll, die Bedingungen der Erfahrungsmöglichkeiten anderer Lebewesen?

Menschliche Sensibilität und die damit einhergehende Intelligenz ist nur eine unter ungezählten anderen. Isolieren wir den Teilbereich der »Rationalität« und potenzieren seine Möglichkeiten – was für ein Wesen haben wir dann geschaffen? Gerade die völlig andere »Erfahrungswelt« des Computers befeuert heute die Frage nach den alien phenomenologies wie keine andere. Liebgewonnene Unterscheidungen, wie jene zwischen Mensch und Tier, Natur und Kultur, Subjekt und Objekt, werden weniger wichtig und geraten mitunter völlig aus dem Blick.[16] Stattdessen rücken Pflanzen, Tiere und Menschen viel näher zusammen, eben als das Andere der künstlichen Intelligenz.

Doch der Unterschied innerhalb der alien phenomenologies ist groß. Ein Buch Wie Affen die Welt sehen lässt sich schreiben;[17] ein Buch Wie Computer die Welt sehen