Von Artificial zu Augmented Intelligence E-Book

Alexander Karp

• Herausgeber: Campus Verlag
• Kategorie: Fachliteratur
• Sprache: Deutsch
• Veröffentlichungsjahr: 2023

Seitenzahl: 393

Beschreibung

Über kaum etwas wird so inflationär gesprochen wie über die digitale Transformation oder die vermeintlich endlosen Möglichkeiten neuer Technologien – von Blockchain übers Metaversum und Künstliche Intelligenz. Doch während einige Propheten des Silicon Valley bereits das Ende der Menschheit vorhersagen, bleiben die erhofften Ergebnisse der digitalen Transformation in weiten Teilen von Wirtschaft und Gesellschaft hinter den Erwartungen zurück. Auf Basis ihrer langjährigen Erfahrungen und Arbeit bei dem führenden Softwareunternehmen Palantir wagen die Autoren Alex Karp, Jan Hiesserich und Paula Cipierre eine ungewohnte Perspektive auf die Digitalisierung. Anhand des Konzepts der Augmented Intelligence werden nicht nur zahlreiche Denkfehler der augenblicklichen Debatte offenbart. Vielmehr lenken die Autoren den Blick auf die Kunst. Diese schärfe nicht nur unseren Blick dafür, wie die Möglichkeitsräume, die sich mittels Technologie und Software ergeben, gezielt genutzt werden können. Der Blick auf die Kunst rückt auch den Menschen wieder gezielt ins Zentrum der digitalen Transformation und zeigt eindrucksvoll auf: Wir haben es in der Hand, die Zukunft zu gestalten! Inklusive Interviews mit: Chris Boos, Achim Daub, Sebastian Dettmers, Mathias Döpfner, Kai Franz, Timotheus Höttges, Miriam Meckel, Simone Menne, Adina Popescu, Alexander Pretschner, Matthias Röder und Léa Steinacker »Anregend, erleuchtend und stimulierend – den technischen Diskurs über die Herausforderungen der digitalen Transformation unserer Welt um die Erfahrungen aus und mit menschlicher Kreativität und Kunst zu erweitern.« Prof. Dr. Christoph Meinel, Institutsdirektor und CEO, Hasso-Plattner-Institut »Ein wichtiges Buch zur rechten Zeit. Ein Buch, das Mut macht. Wollen wir die Verantwortung für unsere Zukunft nicht allein an die digitalen Technologien abgeben, sollten wir wieder lernen, den Blick zu weiten und jene Schätze in den Blick nehmen, die aller Kultur und Kunst innewohnen: Individualität, Kreativität, Autonomie und Kritikfähigkeit. Es gelingt den Autoren ein ebenso überraschender wie eindrucksvoller Tauchgang in das Meer der verborgenen, menschlichen Seite einer ansonsten auf Oberflächligkeit angelegten Technologiedebatte.« Prof. Dr. Jürgen Wertheimer, Projekt Cassandra, Universität Tübingen

Leseprobe

Cover for EPUB

ALEXANDER KARP JAN HIESSERICH PAULA CIPIERRE

VON ARTIFICIAL ZU AUGMENTED INTELLIGENCE

Was wir von der Kunst lernen können, um mit Software die Zukunft zu gestalten

Campus VerlagFrankfurt/New York

Über das Buch

Palantir ist eines der geheimnisumwittertsten Unternehmen überhaupt. Das liegt vor allem daran, dass sich das weltweit erfolgreiche Unternehmen bislang nur selten zum eigenen Tun geäußert hat. Damit ist nun Schluss: In ihrem Buch stellen die Insider-Autor:innen – darunter auch der Gründer und CEO Alex Karp selbst – erstmals ihre Unternehmensphilosophie der ›Augmented Intelligence‹ vor und teilen ihre Erkenntnisse über den Umgang mit künstlicher Intelligenz in einer zunehmend digitalen Welt.Dabei zeigt das Buch vor allem – wie sich in der praktischen Arbeit von Palantir herausgestellt hat –, dass künstliche Intelligenz alleine nur begrenzt Nutzen bringt. Erst die Interpretation der KI-Daten durch den Menschen ermöglicht sinnvolle und gewinnbringende Ergebnisse. Überraschend dabei: die Autor:innen nehmen die kreativen Künste in den Blick und plädieren für eine neuartige Form der ›digitalen Bildung‹, um zu zeigen, wie die Vision einer besseren Zukunft, geschaffen von Mensch und KI, gelingen kann. Dazu haben sie namhafte Unternehmer:innen, Akademiker:innen und Künstler:innen in ganz Deutschland interviewt.

Vita

Alexander C. Karp ist Mitgründer und CEO von Palantir Technologies Inc. Er promovierte an der Johann Wolfgang Goethe-Universität in Frankfurt am Main. In seiner Freizeit betreibt er Langlauf und praktiziert Tai Chi im Chen-Stil.Jan Hiesserich ist Strategiechef Europa bei dem US-amerikanischen Softwarespezialist Palantir Technologies. Zuvor war er Head of CEO-Reputation & Strategic Positioning bei der SAP SE. Als Managing Director der führenden Strategieberatung Finsbury Glover Hering begleitete er in den Jahren 2006 bis 2019 zahlreiche Übernahmen und Fusionen sowie Vorstandswechsel, unter anderem im DAX30. Er ist Autor zweier Bücher zum Thema CEO-Reputation (»Der CEO im Fokus«, Campus 2013, »Der CEO-Navigator«, Campus 2011) und leidenschaftlicher Pilot. Nach beruflichen Stationen in den USA, England und Spanien arbeitet und lebt er heute in Frankfurt.Paula Cipierre leitet den Bereich EU Privacy and Public Policy bei Palantir Technologies. Sie arbeitet dort an der Schnittstelle zwischen Privacy Engineering, Legal Compliance und Public Affairs. Ihr Studium der Französischen Literatur-, Europäischen Kultur- und Nahostwissenschaften an der Princeton University schloss sie 2012 mit einem Bachelor summa cum laude ab. Danach erwarb sie an der Hertie School in Berlin einen Masterabschluss in Public Policy und anschließend an der New York University einen Masterabschluss in Medienwissenschaften. Momentan studiert sie berufsbegleitend Informationstechnologierecht an der University of Edinburgh.

Übersicht

Cover

Titel

Über das Buch

Vita

INHALT

Impressum

INHALT

VORWORT

MEHR ZUKUNFT WAGEN

EINE STANDORTBESTIMMUNG

Das Denken synchronisieren

Die Ohnmacht der Vernunft

Wider der künstlichen Intelligentia …

… für eine intelligente Symbiose zwischen Maschine und Mensch!

WEGBESCHREIBUNG

Vom Wert des Unbehagens in der Kunst

MIT AI ZUR KÜNSTLERGEMEINDE — MATHIAS DÖPFNER

AUF DIE PERSPEKTIVE KOMMT ES AN — ALEXANDER PRETSCHNER

INNOVATION BRAUCHT MUT — SIMONE MENNE

INNOVATION NEGIERT NICHT HISTORISCH ENTSTANDENES — ACHIM DAUB

SCHLECHTE KUNST IST AUCH OKAY — KAI FRANZ

WIR MÜSSEN WIEDER LERNEN, MENSCHEN ZU SEIN — CHRIS BOOS

ERST DIE SYMBIOSE ZWISCHEN MENSCH UND MASCHINE SCHAFFT MEHRWERT — TIMOTHEUS HÖTTGES

IMMER SCHÖN GESCHMEIDIG BLEIBEN — MIRIAM MECKEL UND LÉA STEINACKER

MIT DER KUNST DIE GEGENWART AUS DER ZUKUNFT SEHEN — SEBASTIAN DETTMERS

DER WEG ZU EINER NACHHALTIGEREN GESELLSCHAFT FÜHRT ÜBER DAS ENTWICKELN VON KOLLEKTIVER INTELLIGENZ — ADINA POPESCU

KI HAT (NOCH) KEINE FREIHEIT — MATTHIAS RÖDER

SCHLUSSWORT – EIN JEDER ROMANDICHTER SEINER SELBST

Für ein neues Verständnis von Bildung

1+1=11?

Das Streben nach Glück

GLOSSAR

ANMERKUNGEN

Mehr Zukunft wagen

Eine Standortbestimmung

Wegbeschreibung

Wir müssen wieder lernen, Menschen zu sein – Chris Boos

Erst die Symbiose zwischen Mensch und Maschine schafft Mehrwert – Timotheus Höttges

Immer schön geschmeidig bleiben – Miriam Meckel und Léa Steinacker

Mit der Kunst die Gegenwart aus der Zukunft sehen – Sebastian Dettmers

Der Weg zu einer nachhaltigeren Gesellschaft führt über das Entwickeln von kollektiver Intelligenz – Adina Popescu

KI hat (noch) keine Freiheit – Matthias Röder

Schlusswort – Ein jeder Romandichter seiner Selbst

LITERATURVERZEICHNIS

ÜBER DIE AUTOREN

VORWORT

Wir befinden uns in einer Zeitenwende.

Diese Zeitenwende ist mehr als nur ein Eingeständnis, dass zu lange der bloße Wunsch Vater des Gedankens ewigen Friedens und Wohlstands in Europa war. Es sind nicht die Probleme, sondern vielmehr die Widersprüche zwischen Sein und Sollen, die größer geworden sind. Es ist die Distanz zu lieb gewonnenen, aber vermeintlichen Wahrheiten, der Frieden, unsere Freiheit und unser Wohlstand seien – einmal eingerichtet – sich selbst stabilisierende Errungenschaften. Freiheit aber ist nie für die Ewigkeit angelegt. Sie will restituiert werden. Wir müssen sie immer wieder aufs Neue verteidigen.

Wer von Zeitenwende spricht, der nimmt für sich auch in Anspruch, das Neue zu kennen. Der gemeinen Lesart nach markiert der augenblickliche Zustand einen unfreiwilligen Übergang von einem Aggregatzustand zum nächsten. Dem Alten beraubt – entmündigt, entmutigt und verunsichert – sehen wir uns anschließend gezwungen, dem Neuen beim Entstehen zuzuschauen. Eine solche Lesart ist aber nicht nur falsch. Sie trägt vielmehr die Saat des Scheiterns und weiterer Unruhen bereits in sich.

Es ist weniger die Welt, die sich durch die Zeitenwende radikal verändert. Es ist unser aller Bild derselben, das sich in aufwühlender Art und Weise gerade zurechtrückt.

Das aber ist eine gute Nachricht.

Jede Krise stellt uns auf die Probe. Sie weckt Unsicherheiten und nährt damit jene reaktionären Akteure, die aus der tragischen Sehnsucht nach einfachen Antworten politisches wie ökonomisches Kapital zu schlagen wissen. Seien es die Propheten des Silicon Valley, die die Lösungen auf alle Fragen der Menschheit in der allmächtigen Maschine vermuten, oder Populisten und Autokraten, die, geeint im Narrativ, stattdessen den starken Mann in den Mittelpunkt stellen. Die Suche nach einfachen, eindeutigen Antworten hat Hochkonjunktur. Einfache Antworten aber sedieren uns eher, als dass sie uns unsere Sorgen nehmen. Sie vernebeln unseren Verstand.

Nun ist jener Wunsch nach einer Vereindeutigung der Welt zwar nachvollziehbar, aber kontraproduktiv. Wenn Komplexität zum Problem wird, sei es in unserem moralischen oder ästhetischen Leben, sollte uns das vorsichtig stimmen. Theodor Adorno blieb zu Recht skeptisch gegenüber jenen, die »intolerant gegen die Mehrdeutigkeit« sind, an der »Denken sich entzündet«.

Unser Unternehmen erkennt die Komplexität an. Wir sind offen für die Auseinandersetzung mit dem Anderen. Unser Gegenüber verstehen zu wollen, ist eine Voraussetzung für Reflexion, aus der wiederum kritisches Denken und Kreativität entspringen. Mit Palantir haben wir ein Unternehmen aufgebaut, das auf der Prämisse beruht, dass der Aufbau von etwas Bedeutendem die unerbittliche Auseinandersetzung mit unpopulären und von breit vertretenen Perspektiven abweichenden Meinungen erfordert. Wir begegnen den Risiken, die mit der Entwicklung neuer Technologien verbunden sind dabei mit Bedacht. Eine grundlegende Auseinandersetzung mit jenen Risiken empfinden wir als unerlässlich.

Die zunehmende Vereindeutigung der Welt unterdrückt ansonsten den Diskurs und entzieht jeder konstruktiven, jeder kreativen Lösung den Nährboden, derer sie aber bedarf.

Vor diesem Hintergrund wollen wir einen Gegenentwurf zum vorherrschenden Zeitgeist leisten. Wir wollen einen Diskurs wiederbeleben, der der vielbeschworenen Alternativlosigkeit Alternativen entgegensetzt. Wir wollen zeigen, dass die größte Chance unserer Zeit nicht in der Vereindeutigung der Welt, sondern gerade in der Uneindeutigkeit, in der Unschärfe, in der Ambiguität liegt.

Das Gegenteil von Notwendigkeit ist dabei nicht Chaos, sondern Freiheit. Wir haben lediglich verlernt, mit dieser Freiheit umzugehen.

Als Unternehmen schlagen wir einen anderen Weg ein, einen vielleicht irritierenden Weg, wie der Titel dieses Buches bereits suggeriert. Was haben Kunst und Software gemeinsam, ließe sich vielleicht fragen. Mehr als man denkt. Kunst, obwohl in unseren volatilen und krisenanfälligen Zeiten kaum als Schlüssel benannt, weist uns einen von vielen Wegen aus der selbstauferlegten Entmündigung. Kunst bedeutet Ambiguität. Sie konfrontiert uns mit Unschärfen. Kunst befreit das Denken, auch weil sie aus diesem auszubrechen vermag und neue, auch irritierende Gedanken anregt. Kunst ist Antrieb. Kunst ist Freiheit. Und Freiheit, das sind Ideen, Alternativen, Möglichkeiten.

Software ist analog zur Kunst das kraftvollste Mittel unserer Zeit, jene Ideen umzusetzen, über das wir je verfügt haben. Weil wir mit Software Informationen in Handlungen übersetzen können auf eine bis dato menschlich unvorstellbare Art und Weise. Weil wir, genau wie mit Kunst, auch mit Software in Krisenzeiten Durchblick verschaffen. Aber auch Software – und hier liegt der entscheidende Einspruch gegenüber all jenen Utilitaristen und Autokraten – bedarf der Freiheit ihrer Entwickler. Software ist ebenso wie alles andere ein Produkt der rechtlichen und moralischen Ordnung, aus der sie stammt und die sie heute hilft zu verteidigen. Es braucht den freien Menschen, der dazu in der Lage ist, die Freiheit gleichermaßen zu nutzen und doch dort Grenzen aufzeigt, wo es ethische und moralische Grundsätze erfordern.

Es sind diese Auffassungen über die Geschichte, ihre Dynamik und ihre scheinbaren Widersprüche, die die Art und Weise beeinflusst haben, wie wir bei Palantir Software entwickeln.

Dieses Buch ist auch der Versuch einer Standortbestimmung. Wo steht Europa im vermeintlichen Systemwettbewerb zwischen China und den USA? Braucht es einen dritten, einen dezidiert europäischen Weg? Welchen besonderen Beitrag kann Deutschland mit seinem reichen historischen und kulturellen Erbe hier leisten?

Wir sind überzeugt: Es braucht einen gemeinsamen transatlantischen Weg. Es ist richtig, dass die Berufung auf die gemeinsamen Werte der USA und Europas manchmal überstrapaziert werden. Amerikaner betonen den Wert der Freiheit. Europäer hingegen betonen die Verantwortung, die aus Freiheit erwächst. Aber sind es nicht gerade diese Unterschiede, die sich ergänzen? Und ist das Zusammenspiel zwischen Freiheit und Verantwortung nicht gerade heute, da wir einige erste Erfahrungen im Einsatz digitaler Technologien gesammelt haben, wichtiger denn je, um nicht nur das Jetzt sondern auch unsere gemeinsame Zukunft in Zeiten von Krieg und Klimawandel positiv zu gestalten?

»Die Würde des Menschen ist unantastbar«, wird das deutsche Grundgesetz im Verfassungstext eröffnet – ein starkes humanistisches Plädoyer, das gleichermaßen für die Möglichkeiten als auch die Grenzen der Freiheit einsteht. Zu den »unveräußerlichen Menschenrechten«, die in der US-Amerikanischen Verfassung verankert sind, gehörten hingegen nicht nur Leben und Freiheit, sondern auch »the pursuit of happiness«, das Streben nach Glück. Seit jeher wird diese Passage als Aufruf verstanden, Neues zu schaffen und Unmögliches möglich zu machen. Wie es in der Kunst ebenso angelegt ist.

Wir mögen diese Wahrheiten – wie sie die US-amerikanische Verfassung betont – für selbstverständlich erachten. Doch das sind sie nicht, wenn wir uns deren Bedeutung und Notwendigkeit nicht jeden Tag aufs Neue vergegenwärtigen und aus ihrer Gemeinsamkeit lernen.

Vor diesem Hintergrund erwächst die wahre Stärke des Westens und seiner Bündnispartner aus einem neuen Miteinander. Die Bestimmtheit, mit welcher der Staat unsere Freiheit und unseren Frieden bewahrt, schafft den Raum für das Unbestimmte, in dem sich die unbändige Kraft der Zusammenkunft von Unternehmergeist, Innovation, Kunst und Kreativität entfalten kann. Es ist ein Geben und Nehmen.

Seit unserer Gründung verstehen wir es als unsere Mission, Software zu entwickeln, um das Überleben unserer wichtigsten Institutionen zu sichern. Aber wir wissen auch, dass wir nur dann erfolgreich sein können, wenn diese Institutionen es auch sind. Diese Symbiose aus privatwirtschaftlichen und staatlichen Akteuren, aus Unternehmern und aus Künstlern, sichert Resilienz und nachhaltige Widerstandskraft im 21. Jahrhundert. Sie schafft den Rahmen, innerhalb dessen wir – auch mittels Kunst und Software – Neues erdenken und erschaffen können. Und sie steht in scharfem Kontrast zu jener Rigidität, die aus dem Dogmatismus und der Starrheit autoritärer Regime erwächst.

Nun, da uns die eingangs angeführte Zeitenwende einen Spiegel vorhält, erkennen wir, dass die Annahme, der Frieden in Europa sei ein immerwährender, verfrüht war. Die Geschichte ist wiewohl noch lange nicht zu Ende. Sie schreibt sich fort. Darin liegt die wahre historische Chance für Europa. Es liegt nun an uns, diesen Moment gemeinsam mit den USA und ihren Bündnispartnern verantwortungsvoll zu nutzen.

MEHR ZUKUNFT WAGEN

Eine der ersten Science-Fiction-Erzählungen geht so: Es leben Aliens auf dem Mond. Diese »Mondgeschöpfe« durchqueren mit ihren schwammigen und porösen Körpern scharenweise ihre Welt, »teils zu Fuß, mit Beinen ausgerüstet, die länger sind als die unserer Kamele, teils mit Flügeln«. Einige sterben während der Tageshitze ab, aber das ist nicht weiter schlimm, da sie während der Nacht wieder aufleben, »umgekehrt wie bei uns die Fliegen«.

Was uns wie eine Fantasterei erscheint, mag dem Autor keineswegs so absurd vorgekommen sein. Denn aufgeschrieben wurden diese Zeilen im Jahr 1609, also rund 350 Jahre bevor Neil Armstrong seinen Fuß auf den Mond setzte. Mit »Somnium«, lateinisch für »Traum«, beschreibt der Astronom und Naturphilosoph Johannes Kepler eine fiktionale Reise zum Mond, jenem Erdtrabanten also, dem auch Galileo Galilei dank dem technologischen Fortschritt seiner Zeit – einem Fernrohr – zur gleichen Zeit viel Aufmerksamkeit schenkte. Walt Disney griff Keplers Traum vom Mond 1955 in seiner humorvollen Kulturgeschichte des Erdtrabanten – Disneyland: Man and the Moon – wieder auf. In einer kurzen Trickfilmsequenz sitzt Kepler in seinem Bett und verfasst einen Text über eben jenen Mond. Während er schreibt, ereignet sich eine Sonnenfinsternis und er schläft ein. Da tauchen vier Zwerge (»Monddämonen«) an seinem Fenster auf und tragen das Bett mit dem schlafenden Mathematiker auf dem Mondschatten (der sogenannten Keplerbrücke) zur Mondoberfläche. Dort erwacht Kepler und trifft auf ein seltsames Wesen, das aus nur einem Auge auf zwei Beinen besteht. Beide beobachten sich gegenseitig durch ein Fernrohr. Kepler: »Amazing!«

Eine reizvolle Anekdote, vielleicht, und doch ungemein aktuell. Warum? Es mag uns heute schwerfallen, dies zu glauben, aber Wissenschaft und Fiktion waren einander zu Zeiten Keplers nicht fremd. Zwar wusste man schon einiges über den Mond, wie auch über die anderen Planeten und deren Umlaufbahn. Die Details aber überließ man der Vorstellungskraft. Was uns heute als »Gedöns« oder Fantasterei vorkommt, war in ihrer Bedeutung zu jener Zeit kaum zu überschätzen, da die Suche nach der vera causa oftmals mit großen Gefahren für Leib und Leben verbunden war. Mal wurde die Natur gewalttätig, mal die Inquisition. Wer das Risiko einging, der wollte schon lieber einen magischen Magnetberg im Nordmeer – 33 deutsche Meilen im Durchmesser, umgeben von Bernstein – finden als ein unsichtbares und schwer greifbares Gravitationsfeld. Es war die Vorstellungskraft, die zum Treiber der Wissenschaften wurde.

Im Verlauf der Zeit verlor die fantastische Vorstellungskraft hingegen an Kraft. Dort wo Kepler und seine Zeitgenossen noch aufs Mystische verwiesen, sahen seine Nachfahren der Industrialisierung Naturgesetze walten. Wo zuvor noch die Magie oder göttliche Gewalt ihr Unwesen trieben, sah man fortan Mechanik am Werk. »Betrachte das gesamte Weltsystem, das Ganze und jedes seiner Teile: Du wirst sehen, dass es nichts anderes ist als eine große Maschine, unterteilt in unzählbare Vielfalt kleinerer Maschinen«, schrieb der Philosoph David Hume im 18. Jahrhundert.1 Die Welt glich fortan einem Uhrwerk. Und Fortschritt ist seither deterministisch bestimmt. Wer käme heute noch auf die Idee, an der Uhr zu drehen?

Der Glaube an die Technologie ersetzte dabei zwar nicht die Vorstellungskraft. Sowohl Keplers »Traum« als auch die Dystopien von Aldous Huxley und H. G. Wells eint die Bedeutung der Fiktion. Letztere hatte aber keinen Platz mehr in einer zunehmend aufgeräumten, rationalen, auf Gleichförmigkeit ausgelegten Gegenwart. Fortan gehörte die Vorstellungskraft und die ihr innewohnende Varianz in die Zukunft. Dort, und nur dort, durfte man sich austoben. In der Folge entfremdeten sich Wissenschaft und Fiktion zusehends.

Heute ist der Beziehungsstatus »kompliziert«. In Gestalt von einigen wenigen Visionären hält die Fiktion gelegentlich Einzug in unsere Welt. Es sind moderne Geschichtenerzähler, eigenwillige und auch deshalb unergründliche Genies, die seltsam entrückt die öffentliche Debatte bestimmen und vom autonomen Fortschritt künden. Überschrift: »Fortschritt durch Technik«. Der Mensch bleibt Zuschauer (eben nicht »Vorsprung durch Menschen«). Jedenfalls tritt der Mensch nur selten als Autor oder gestaltende Kraft in Erscheinung. Gegessen wird, was auf den Tisch kommt. Und während wir dasitzen, nimmt der Fortschritt Fahrt auf. Es fällt uns schwer, Schritt zu halten. Zusehends leben wir in einem Zustand, den wir nicht mehr verstehen, benutzen Technik, die wir nicht erklären können, und treffen persönliche Entscheidungen, obwohl wir deren gesamtheitlichen Folgen – sofern wir sie denn überblicken können – nicht gutheißen. In immer schnellerer Abfolge werden uns Technologien und deren Verheißungen als »normal« präsentiert, bevor diese überhaupt real existieren. Quantencomputing? Schon lange da. Autonomes Fahren? So was von 2015. Metaversum, Blockchain, Web3? Been there, done that! Wem da nicht schwindelig werde, der sei nicht informiert, schrieb der Philosoph Peter Sloterdijk. Und während wir als Zuschauer versuchen, mit der technologischen Entwicklung und den Erzählungen der Visionäre Schritt zu halten, nehmen uns die Fliehkräfte der Moderne mehr Halt, als dass sie uns geben. Kraft- und mutlos finden wir uns wie im Schleudergang zunehmend an den Extrempositionen ein – zwischen den Positionen der dystopischen Aussteiger und jenen der Technologieutopisten wird es einsam.

Verstärkt wird das Gefühl zusehends durch allerlei Krisen. Durch Krieg, Klimakrise, Pandemie, in sich zusammenfallende Wertschöpfungsketten, Chipkrise, Arbeiterlosigkeit, und, und, und scheinen die gängigen Erklärmodelle, die bisher die Welt zusammenhielten, an Klebekraft zu verlieren. Wir nähern uns dem Ende der Metaerzählungen, wie Jean-Francois Lyotard es beschrieben hat: »Es gibt keine umfassende Erzählung mehr – wie einst die aufklärerische von der Rationalisierung der Welt oder die emanzipatorische vom Marxismus.« Für Lyotard ist dies mehr als nur eine Randerscheinung, sondern vielmehr der Beginn einer neuen Epoche zunehmender Individualisierung: »Die Postmoderne beginnt dort, wo dieses Ganze aufhört.«2 Was bleibt ist ein Gefühl der Ohnmacht, von dem all jene zehren, die dem Determinismus das Wort reden.

All das muss nicht sein.

Die digitale Transformation ist nicht einfach etwas, das passiert. Sie ist auch nicht etwas, das einigen wenigen Experten vorbehalten ist. Die transformative Kraft der Digitalisierung steht uns allen offen.

Vor diesem Hintergrund ist es unser Ziel, in den Worten des Philosophen Wittgensteins, einen »Aspektwechsel« zu wagen – einen alternativen Blick auf die digitale Transformation also, der für sich nicht in Anspruch nimmt, die existierenden Sichtweisen zu ersetzen. Vielmehr geht es uns darum, eine positivere, selbstbestimmtere und auch kreativere Perspektive auf die Herausforderungen wie auch Chancen der digitalen Transformation zu wagen.

Dabei wollen wir bewusst einen weiten Bogen spannen. Vor dem Einblick kommt der Überblick. Wir setzen einzig Neugier und Interesse, vielleicht auch ein wenig Geduld, aber bewusst keine Fachkenntnis voraus. Das mag ein unüblicher Ansatz sein. Wir sind aber zutiefst davon überzeugt, dass das nachhaltige (und immer wiederkehrende) Gelingen der digitalen Transformation kein exklusives Vorhaben sein darf. Sie erfordert Teilhabe. Und Teilhabe erfordert – neben Neugier, Antrieb, Mut – das Wissen über den weiteren Kontext, in dem man sich bewegt. Oder in den Worten von Wolf Lotter: »Wenn man einkaufen geht, muss man nicht notwendigerweise wissen, wie das Warenmanagement sowie die Kassensysteme funktionieren. Aber man sollte schon wissen, dass man in einem Supermarkt ist.«3

Doch wo beginnt man, wenn alles in Bewegung zu sein scheint? Der US-amerikanische Science-Fiction-Autor William Gibson schrieb einst, die Zukunft sei schon da, sie sei nur sehr ungleich verteilt. Wie man es von Science-Fiction erwarten würde, beschäftigt sich auch Gibson viel mit der Zukunft. Doch spätestens mit seinen Essays Distrust That Particular Flavor wird klar, dass mit »der Zukunft« nicht etwas gemeint sein dürfe, das, wenn schon nicht außerhalb unser Vorstellungskraft, so doch außerhalb unserer Tat- und Gestaltungsmacht liege.4 Anstatt die Zukunft vorherzusagen, findet Gibson die Zukunft um ihn herum, eng verbunden mit unserer kollektiven wie auch individuellen Vergangenheit und somit immer auch zugänglich.

In diesem Sinne wollen wir in diesem Buch auf eine Entdeckungsreise gehen, auf der Suche nach eben jener Zukunft, die Gibson beschreibt. Wir beginnen mit einer Standortbestimmung. Wo stehen wir? Worüber reden wir, wenn wir über Digitalisierung reden? Welche Ängste haben wir? Aber auch welche Chancen zeigen sich auf? Denn auch wir sind der Meinung, dass die Möglichkeiten und Chancen, die sich unserer Gesellschaft durch den Einsatz neuer digitaler Technologien auftun, schier grenzenlos sind. Einzig müssen wir wieder lernen, sie zu nutzen. Um die Digitalisierung im Dienste der Gesellschaft zu gestalten, bedarf es gleichermaßen immer einer Investition in ihr Komplementär: den Menschen. Daher plädieren wir in diesem Buch auch nicht für eine Zukunft der Artificial, sondern der Augmented, also der angereicherten, Intelligenz. Denn intelligent ist letztlich nur der Mensch, nicht die Maschine. Oder, um es in den Worten des US-amerikanischen Philosophen Hubert Dreyfus zu formulieren: »Our risk is not the advent of superintelligent computers, but of subintelligent human beings.«5 Es geht also nicht um ein Entweder-oder. Wir nehmen die Technologie fest in den Blick und wollen doch zu einer neuen Wertschätzung dessen kommen, was uns einzigartig menschlich macht. Denn nur so können wir Technik gestalten, die dem Menschen dient.

Um dieses Ziel zu erreichen, begeben wir uns auf eine Reise in die Welt der Kunst. Weist die Augmented Intelligence den Weg, versorgt uns die Kunst mit allem, was wir brauchen, um den Weg produktiv bestreiten zu können. Wir verstehen den Begriff der Kunst dabei bewusst breit: Im Prinzip umfasst er alles, was den Menschen zum Menschen macht, was oftmals damit zu tun hat, dass wir als denkende Lebewesen situiert in einer Umwelt leben, die wir über unsere Sinne zwangsläufig anders wahrnehmen, als es eine Software je könnte. In einer Auseinandersetzung mit der Kunst können wir also genau das herausarbeiten, »what computers still can’t do«6 – in anderen Worten, das einzigartig Menschliche, was es auch in einer digitalen Welt zu wahren, zu schützen, gar aktiv zu fördern gilt: Kreativität, Empathie, Verantwortung, Improvisation, Spiel. Daher ist Software, die darauf hinarbeitet, Menschen zu ersetzen, unseres Erachtens nach nicht nur technisch, sondern auch moralisch zum Scheitern verurteilt. Gleichzeitig kann Software, die nach der Idee der Augmented Intelligence gestaltet ist, unsere Sinneswahrnehmung und kreativen Entfaltungsmöglichkeiten noch erweitern.

Unsere Reise wird aber keineswegs nur eine konzeptionelle sein. Kannte die Auseinandersetzung mit der digitalen Transformation bisher häufig nur eine Blickrichtung – ins Silicon Valley – haben wir uns bewusst dazu entschieden, auf unserer Reise in Deutschland zu bleiben. Wir denken, es ist Zeit, wieder selbstbewusster zu sein. Gerade in Deutschland, dem Land der Dichter und Denker, gibt es noch einen einzigartigen Erfahrungsschatz, aus dem wir lernen und auf dem wir aufbauen können. Die Zukunft wird auch hier gemacht. Und wie wir sehen werden, haben wir einiges einzubringen, wenn es uns gelingt, nicht nur den Wert unseres humboldtschen und humanistischen Erbes für das Gelingen der digitalen Transformation wiederzuentdecken. Wir sollten uns daher trauen, die Welt ganz gegenwärtig und im besten Sinne von Wittgenstein als »verrückt« zu begreifen. Die Konstante dabei sind wir, die Menschen.

Da es sich zusammen immer am schönsten reist, bleiben wir auf dieser Reise nicht alleine: Stattdessen besuchen wir Unternehmerinnen, Künstler, Forscherinnen, KI-Experten und Zukunftsdenkerinnen7 im ganzen Land, um ihre Eindrücke und Erfahrungen zu sammeln und auf dieser Basis zwischen Hoffnung und Hype besser zu unterscheiden. Ausgewählte Gespräche finden Sie abgedruckt in diesem Buch. Wir haben diese in voller Länge aufgenommen, um einzelne Facetten dieser zweifelsohne breiten Diskussion näher zu beleuchten. Seien Sie neugierig, lesen Sie einmal rein. Die Interviews müssen nicht in einer bestimmten Reihenfolge gelesen werden. Wer es kurzweilig mag, der kann einzelne Interviews gerne überspringen. Die wesentlichen Erkenntnisse der Gespräche haben wir bewusst auch noch einmal im Schlusswort aufgenommen. In jedem Fall gilt: Nähern Sie sich dem Thema mit offenem Blick. In diesem Buch geben wir keine dogmatischen Antworten, sondern ermuntern auch Sie, sich die Frage zu stellen, welche Rolle digitale Technologien in der Gesellschaft spielen sollen. Machen Sie sich dabei keine Sorgen, sich auch mal zu verlaufen. Schließlich zeigt sich wahre Intelligenz nach Jean Piaget doch immer gerade dann, wenn man mal nicht weiterweiß.

In diesem Sinne: Brechen wir auf.

EINE STANDORTBESTIMMUNG

Wir leben in einer bewegten Zeit. Konfrontiert mit den zahlreichen kleinen und großen Krisen, Umbrüchen und Herausforderungen möchte man manchmal im Sinne von Heinz Strunk ausrufen: Das kann man sich nicht ausdenken. Keiner kann das! Was sagt das über uns aus? In seiner Anleitung zum Unglücklichsein erzählt der Psychotherapeut Paul Watzlawick hierzu folgenden Schwank:

»Unter einer Straßenlaterne steht ein Betrunkener und sucht und sucht. Ein Polizist kommt vorbei und fragt ihn, was er sucht, und der Mann antwortet: ›Meine Schlüssel.‹ Nun suchen sie beide. Nach einer Weile will der Polizist wissen, ob der Mann sicher sei, dass er seine Schlüssel hier verloren habe, und der Mann antwortet: ›Nein, nicht hier, dort hinten, aber hier ist das Licht besser.‹«8

Es sei doch erstaunlich, schreibt Watzlawick, mit welcher Leidenschaft wir Menschen uns – konfrontiert mit Krisen und Unsicherheit – klein machen würden. Unglücklich sein, das könne schließlich jeder. Sich unglücklich machen hingegen, das wolle schon gelernt sein.

Watzlawick trifft einen wunden Punkt. Konfrontiert mit größeren Umbrüchen und Transformationen fällt es uns in der Tat sichtbar schwer, alte Sicherheiten loszulassen. Das ist keineswegs neu, und durchaus menschlich. In seinen berühmten Ausführungen zu Revolutionen in den Wissenschaften lässt Thomas Kuhn seine Leser auf eindrucksvolle Art wissen, was passiert, wenn einstmals so allumfassende und »zwingend notwendige« Gesetze ihre Gültigkeit verlieren und als Orthodoxien entlarvt werden. »In science, any novelty only emerges with difficulties«, schreibt Kuhn. Dort wo sich Abweichungen von der Regel hingegen nicht mehr leugnen lassen, bedürfe es nichts weniger als einer Revolution »because it demands large-scale paradigm destruction and major shifts in problems and techniques of normal science«.9

Ein Beispiel für einen solchen Paradigmenwechsel ist der Übergang vom ptolemäischen (geozentrischen) zum kopernikanischen (heliozentrischen) Weltbild. Ein weiteres Beispiel ist die Definition der Quantenmechanik durch den Nobelpreisträger Werner Heisenberg. Schon als Student konnte Heisenberg nachweisen, dass die von Nils Bohr entwickelten Atommodelle – Elektronen umkreisen in festgelegten Bahnen einen Atomkern – nicht stimmen können. Geprägt von den mathematischen Methoden und Ansätzen seiner Zeit, gelang es ihm jedoch mit den üblichen Modellen und Methoden schlicht nicht, den wahren Aufbau der Atome zu beschreiben. Erst 1925, im Rahmen eines Kuraufenthalts auf Helgoland, kommt es zu jenem kreativen Moment, dem Heisenberg seine Karriere zu verdanken hat.10 Er liest Goethe. Ihn fasziniert dessen Sicht auf die Natur und Wissenschaften, insbesondere dessen Zweifel an der 300 Jahre zuvor von René Descartes in die Naturwissenschaft eingeführte strenge Unterscheidung von Subjekt und Objekt. Und dann, eines Nachts um 3 Uhr, kommt er, der Augenblick, in dem ihm klar wird – man muss die Physik völlig neu betrachten. »Vielleicht, so überlegt er, machen wir einen Fehler, wenn wir annehmen, dass es Atommodelle überhaupt gibt. Vielleicht sind es gar keine Dinge, die man fassen und zeigen kann. Sie sind irgendetwas anderes, eine andere Art des Seins. Vielleicht existiert die Bahn eines Elektrons in einem Atom nur deshalb, weil ich sie so nenne. Heisenbergs Gedanken stoßen die Tür in eine völlig neue Richtung auf: Die Bahnen der Elektronen entstehen erst dadurch, dass wir sie beobachten. Die Quantenmechanik ist geboren.«11 Und Heisenberg formuliert in der Folge seine Unschärferelation, nach der man, salopp ausgedrückt, nicht gleichzeitig wissen könne, wie schnell ein Teilchen ist und wo es ist. Seine Formel setzte der menschlichen Erkenntnisfähigkeit erstmals grundsätzliche Grenzen. Viele Dinge in der Welt der Atome können wir prinzipiell – und nicht etwa weil die Messtechnik unzureichend wäre – niemals genauer wissen, als es die Unschärferelation erlaubt. Die Quantenwelt stellt die bisherige Vorstellung der Physik auf den Kopf. Nichts ist eindeutig, alles ist nur eine Möglichkeit, eine Wahrscheinlichkeit. Der Blick formt die Dinge.

Zwar erweist sich die Quantenmechanik als Treiber einer Vielzahl von technischen Entwicklungen – ohne sie gäbe es heute keinen Computer, kein Handy, keinen Laser und keinen Magnetresonanztomographen. Zu seiner Zeit waren die Kritiker aber äußerst prominent und lautstark. Einstein persönlich gratuliert Heisenberg zu dessen großem »Quantenei«, das er gelegt habe, weil er die Aufregung mit einem aufgescheuchten Hühnerhaufen vergleicht. Seine berühmte Replik auf die Idee der Unbestimmtheit: Gott würfelt nicht.

Kuhn zufolge sind Aufregung und Unsicherheit klassische Begleiterscheinungen eines Paradigmenwechsels. Kaum je gebe es eine direkte Staffelübergabe, wonach eine neue, bessere Theorie die alte einfach ablöse. Vielmehr gehe der neuen Theorie eine Phase der Unsicherheit voraus: »[…] The emergence of new theories is generally preceded by a period of pronounced professional insecurity«, stellt er fest.12 So schrieb auch der Medientheoretiker Marshall McLuhan bezogen auf die Umbrüche, die mit der zunehmenden Vernetzung einhergingen, bereits vor über 60 Jahren: »Innumerable confusions and a profound feeling of despair invariably emerge in periods of great technological and cultural transitions.«13 Er sprach seinerzeit vielen aus der Seele, als er seine Epoche als »age of anxiety« bezeichnete. Doch nicht nur seine Epochenbezeichnung klingt merkwürdig vertraut. Auch seine Diagnose wirkt geradezu aus der Zeit gefallen:

»Our ›age of anxiety‹ is, in great part, the result of trying to do today’s job with yesterday’s tools – with yesterday’s concepts.«14

Allerorten können wir beobachten, wie schwer es unserem Denken fällt, mit dem technischen Fortschritt und den daraus resultierenden Möglichkeiten Schritt zu halten. Im Ergebnis verhalten wir uns alle im Umgang mit dem digitalen Fortschritt wie der Suchende im Laternenschein, weil wir die Wachstumsschmerzen, die mit den großen Epochenwechseln der Menschheit einhergehen, scheuen. Wir halten an Altbewährtem fest und erklären kurzerhand unsere Modelle zur Realität. Was nicht passt, wird passend gemacht – bis es eben nicht mehr passt. Das lässt sich freilich nicht pauschalisieren, aber eben auch nicht leugnen. Und weil diese Diagnose zu wichtig ist, verdient sie es, ein wenig detaillierter in den Blick genommen zu werden.

Eine der wichtigsten Erkenntnisse von James Graham Ballard lautet: Die Zukunft ist ein besserer Schlüssel zur Gegenwart als die Vergangenheit.15 Das ist bemerkenswert vor dem Hintergrund, dass die Idee der Zukunft selbst häufig als ausgemachte und alternativlose Sache portraitiert wird.

Es gehört zu den erstaunlichen Ausführungen der Managementberatungen, dass sie den Wertbeitrag der digitalen Transformation zwar ziemlich genau berechnen können. So glaubt die Managementberatung McKinsey zum Beispiel bezogen auf die Cloud an einen Wertbeitrag von rund 1 Billionen Euro bis 2030: »A detailed review of cloud cost-optimization levers and value-oriented business use cases foresees more than $1 trillion in run-rate EBITDA across Fortune 500 companies as up for grabs in 2030.«16 Und 2016 bezifferte das World Economic Forum den Wertzuwachs, der sich aus der digitalen Transformation bis 2025 ergeben könne gar auf sagenhafte 100 Billionen US-Dollar.17Dass das so kommen wird, scheint man also zu wissen. Wie genau dies aber passieren soll, darüber bleibt man hingegen häufig genug im Unklaren.18 Die Folge angesichts derart großer Verheißungen: Aktionismus, dessen Fantasie sich jedoch in maximal bekannten Bahnen bewegt.

Zunächst einmal überwiegt eine sehr mechanische Sicht auf die Digitalisierung. Manch einer erwartet gar, dass die Digitalisierung nun endlich in die »zweite rationalistische Epoche« führen möge, da nun die Mittel zur vollständigen Vermessung und rationalen Erfassung der Welt zur Verfügung stünden, die den Rationalisten des 18. Jahrhunderts verwehrt blieb.

So schrieb der Chefredakteur des Wired Magazine und Silicon-Valley-Vordenker Chris Anderson 2008 zu Beginn der Big-Data-Euphorie über das »Ende der Theorie«:

»This is a world where massive amounts of data and applied mathematics replace every other tool that might be brought to bear. Out with every theory of human behavior, from linguistics to sociology. Forget taxonomy, ontology, and psychology. Who knows why people do what they do? The point is they do it, and we can track and measure it with unprecedented fidelity. With enough data, the numbers speak for themselves.«19

Ein wundervoller Gedanke – auch weil er angesichts einer krisengebeutelten Welt als Sedativum für ganze Managementgenerationen taugt, die im Glauben sozialisiert wurden, dass man nur managen könne, was man auch messen kann.

Tatsächlich gehört es zu den größten Erfolgen des späten Silicon Valley, dass man es nicht nur verstand, sich der weitverbreiteten Sehnsucht nach Eindeutigkeit in einer zunehmend komplexen Welt zu bedienen.20 Vielmehr zeigt die Einlassung von Anderson exemplarisch, wie man sich der Vorstellung eines vermeintlich unbestechlichen, eindeutigen, formelhaften Wissenschaftsbegriffes bemächtigte. Dies hatte nicht nur den großen Vorteil, dass man sich der Glaubwürdigkeit der »harten Wissenschaften« bedienen konnte, um die Überlegenheit einer technologiezentrierten Silicon-Valley-Ideologie zu untermauern. Nebenbei entledigte man sich damit auch der Notwendigkeit, Stellung zu beziehen zu zahlreichen ethisch-moralischen Fragestellungen und Dilemmata, die freilich in einer rein mechanistischen Weltsicht keinen Platz finden. Dass es sich dabei immer nur um einen verkürzten und in weiten Teilen überkommenen Wissenschaftsbegriff handelte, schien angesichts des ökonomischen Erfolges vieler Silicon-Valley-Unternehmen nebensächlich. In der Folge wurde das Silicon Valley nicht nur zur Pilgerstätte und zum Taktgeber des Fortschritts. Konserviert und propagiert wurde – zumindest in der öffentlichen Debatte – ein Wissenschaftsbegriff, der in der Entwicklung und Anwendung von Technologie die Lösung aller Probleme vermutet.21

Weil aber die Welt trotz aller Rhetorik noch immer nicht so recht ins Modell passen wollte, wurde paradoxerweise der Umkehrschluss zur Regel: Digitalisierung fand fortan dort statt, wo man bereits messen konnte und der Idee einer eindeutigen Welt am nächsten kam. Unabhängig von den primär werbefinanzierten Social-Media-Geschäftsmodellen materialisierten sich die bisher erfolgreichsten Folgen der Digitalisierung gerade dort, wo die Optimierung von Prozessen und Kosten im Vordergrund stehen. Insbesondere die Automatisierung in der Industrie hat nicht zuletzt dank dem Einsatz von KI für erhebliche Effizienzgewinne gesorgt. Und die Einsatzmöglichkeiten sind hier sicherlich noch nicht ausgeschöpft. Zwar gibt es durchaus Stimmen, die davor warnen, Automatisierung und Effizienz zum Selbstzweck zu erheben (und die Digitalisierung auch in diesem Sinne verkürzt zu betrachten): »Wir werden auf immer effizientere Weise ineffizient«22, hält der Unternehmensberater Prof. Dr. Burkhard Schwenker fest. Allerdings musste auch er eingestehen, dass die zahlreichen Krisen paradoxerweise nicht zu einer Abkehr, sondern vielmehr zu einer Renaissance des etablierten Denkens geführt haben. In wirtschaftlich schwierigen Zeiten dominiert eben der Fokus auf Effizienz. Oder anders gesagt: Wenn sich die Zukunft der Planung versagt, fährt der Deutsche bevorzugt auf Sicht.

Die Optimierung ist der Fetisch unserer Zeit. Alles lässt sich optimieren, solange es sich denn messen lässt. Dabei beschränkt sich die in feste Bahnen gelenkte Fantasie keineswegs nur auf Kostenoptimierung. Auch wenn es um die großen Geschäftsfeldinnovationen geht, ist Fortdenken angesagt, nicht Nachdenken.

Die Auseinandersetzung mit dem autonomen Fahren liefert hierfür ein schönes Anschauungsbeispiel. In der Vorstellungswelt der Befürworter ist es keine Frage, dass autonomes Fahren kommen wird. Gleichermaßen hat man jedoch erkannt, dass es wohl – abseits zahlreicher ethischer und moralischer Fragestellungen – kaum je möglich sein wird, alle vorstellbaren Szenarien abzubilden, die es dem Algorithmus erlauben würden, uns sicher und zuverlässig durch den Flohzirkus, den wir Welt nennen, zu manövrieren (macht es einen Unterschied, ob der Ball des spielenden Kindes blau oder gelb ist?). Es sei denn natürlich, wir gestalten unser Stadtbild gänzlich nach den Bedürfnissen des selbstfahrenden Autos. Manch einer hält dies im Sinne des technologischen Fortschritts für geboten. Aber schon die Idee der autofreundlichen Stadt aus den 1960er Jahren sollte hier nachdenklich stimmen. Damals bereits wurde manchenorts im Dienste des Fortschritts tabula rasa gemacht. Als wären dies nur Häuser oder Gassen wurden Durchbrüche durch gewachsene Strukturen geschaffen. Zwar hatten die Autos bald freie Bahn. Aber der Verlust an städtebaulicher Identität ließ bereits früh erahnen, dass mit den Häusern und Gassen mehr verloren ging als nur Grundrisse und Steine. Wollen, sollten wir Menschen uns derart unterordnen? Können wir uns das leisten?

Hält Software im Allgemeinen und KI im Speziellen auf eine solche Weise in unsere gesamte Lebenswelt Einzug, so kürzen wir über kurz oder lang all die Dimensionen heraus, die Menschen zu Menschen machen, und erklären die unvollständige und human-defizitäre Kopie zum Original – sehr zur Freude mancher KI-Pioniere wie Jürgen Schmidhuber, die sich schon auf eine Zeit freuen, in der sich selbst reproduzierende Künstliche Intelligenz den Menschen ignoriert und das ganze Universum erobert. Der daraus resultierende »Fortschritt« wäre dann freilich ein relativer – er konstituiert sich maßgeblich über den »Rückschritt« des Menschen. Das Haus wirkt nun mal größer, wenn die Hecke kleiner geschnitten wird.

Solche Gedankenexperimente, die sich einzig dem Ziel des mechanistisch definierten Fortschritts verpflichten, sind nicht nur ethisch fragwürdig. Sie sind schlichtweg unsinnig und zum Scheitern verurteilt. Wie dies aussehen dürfte, kann man am Beispiel des homo oecomomicus sehen. Dieser vollkommen rationale Mensch war das ideologische Fundament all jener, die in den anfänglichen 2000 Jahre das Ende von »Boom and Bust« heraufbeschworen. Eingebettet in die »Theorie der rationalen Entscheidung« war die Erwartung, dass die Realität schon klein beigeben werde im Angesicht der kristallklaren Analyse. Hätte man auf den Soziologen Ralf Dahrendorf gehört, man hätte das Ende wohl erahnen können. Er bezeichnete den homo oeconomicus schon früh als »höchst problematischen Menschen«, dem wir »in der Wirklichkeit unserer Alltagserfahrung kaum je begegnen dürften«.23

Der Mensch ist und bleibt nun mal »aus krummen Holz geschnitzt«. Er bleibt nicht in jeglicher, aber doch in vielfältiger Form unberechenbar. Ambivalenz und Mehrdeutigkeit, aber auch vermeintliche Irrationalität sind elementare Wesenszüge der conditio humana. Sich ihrer zu entledigen, bedeutet nichts weniger, als sich zentralen Aspekten des Menschseins zu entledigen.

Und so möchte man den Anhängern eines unbedingten Fortschrittsglaubens entgegnen, dass es vielleicht in der Theorie keinen Unterschied zwischen Praxis und Theorie gibt. In der Praxis gibt es diesen hingegen schon. Darin liegt der Treppenwitz des WIRED-Chefredakteurs, denn auch das »Ende der Theorie« ist letztlich nur eine Theorie (die sich zudem als falsch erwiesen hat).

Das Denken synchronisieren

Und nun? Wolf Lotter weist zurecht darauf hin, dass technische, soziale und kulturelle Transformationen niemals gleichzeitig geschehen, auch wenn sie einander bedingen.24 Unser Verstand muss sie immer erst synchronisieren. Ein wenig Distanz zu den Dingen würde dabei sicherlich helfen. Darin liegt freilich schon die erste Schwierigkeit, wie Kuhn zeigen konnte. Zwar verhalten sich unsere Denkmodelle zur Realität wie Donald Duck zum Erpel im Teich – will sagen: Kein Modell ist je in der Lage, die Welt vollumfänglich abzubilden. Nur haben wir im Industriezeitalter gelernt (und lernen dies noch immer), dass sich die Welt gefügig zu machen hat. Abweichungen von der Norm und vom Modell, also jene Anomalien, die zur Distanz auffordern und laut Thomas Kuhn von einem baldigen Paradigmenwechsel künden könnten, galten als unanständig und wurden konsequent ignoriert. Darüber hinaus wird in der Bildung noch immer derjenige belohnt, der sich strebsam fokussiert. Zumindest bis er aus-gebildet feststellt, dass überall lautstark nach jenen Fähigkeiten und Ideen verlangt wird, die sich nur außerhalb und mit einigem Abstand zum Erlernten (»outside the box«) finden lassen. Distanz – auch zu uns selbst und unserer Umwelt – will gelernt sein.

Nur aus der Distanz wird man feststellen, dass es nicht notwendigerweise die Komplexität ist, die wächst. Es ist die Einsicht, dass vieles von dem, was wir über Jahre oder Jahrzehnte als selbstverständlich erachteten, was uns immense Produktivitätszuwächse und Wohlstand beschert und uns geholfen hat, der Welt Sinn zu verleihen, heute nicht mehr viel taugt. Und nur aus der Distanz wird man feststellen, dass viele der Diskussionen rund um Digitalisierung der Unsicherheit, die sich aus dem Verlust des Alten ergibt, nur sehr wenig entgegensetzen können. So zeichnet sich die populärwissenschaftliche Auseinandersetzung mit der Digitalisierung in Deutschland noch immer durch einen stark marketing-lastigen Fokus auf einzelne Technologien und deren nahezu unerschöpflichen Anwendungsmöglichkeiten aus. Seien es die bereits erwähnte Blockchain, KI oder das Metaverse, in immer schnellerer Abfolge werden undefinierte Begriffe und Hashtags zu Projektionsflächen übertriebener Erwartungen (die sich nur selten erfüllen). Es ist die Aufmerksamkeitsökonomie, die in den Worten von Aldous Huxley die »Pforten unserer Wahrnehmung« flutet.25 Zweifelsohne können wir den Fortschritt beobachten. Aber wie in Heisenbergs Unschärferelation fällt es uns schwer, ihn zu bestimmen. Was ist Effekt, was Substanz?

Sinnvoller ist es, eine Perspektive einzunehmen, die das disruptive Wesen der Technologie im Allgemeinen – und Software im Besonderen – insgesamt in den Blick nimmt und kontextualisiert. Unabhängig von spezifischen oder weniger spezifischen Anwendungsszenarien erlaubt dies ein besseres Verständnis für die Möglichkeiten aber auch Grenzen von Technologie.

Zunächst einmal gilt es festzustellen, dass Technologie nie nur Mittel zu einem spezifischen Zweck ist, sondern immer auch das, was sie als Potenzial zu weiteren, vielleicht bisher unbekannten Zwecken in sich trägt. Jede technologische Errungenschaft, von der Erfindung des Bogens bis zur Erfindung der Atomkraft mag zunächst einem spezifischen Zweck – vom Jagen bis zur Nutzung der Atomenergie – gegolten haben. Gleichzeitig eröffnet jede Erfindung über die Erfüllung des ursprünglichen Zwecks hinaus immer auch weitere Möglichkeitsräume und Anwendungsszenarien. Ein Hammer mag seinen Erfinder sehr glücklich gemacht haben, weil er nun deutlich effizienter bauen konnte. Sein Erfinder mochte aber vielleicht noch nicht ahnen, dass der Hammer jemand anderen zugleich sehr unglücklich machen kann, zumindest in dem Moment, in dem diesem jemand zweckerweiternd mit dem Hammer der Kopf eingeschlagen wird. Die Dampfmaschine wurde ursprünglich erfunden, um Maschinen anzutreiben, bis der Brite Richard Trevithick 1804 in einem Bergwerk im walisischen Merthyr Tydfil auf die Idee kam, die Dampfmaschine mit einem fahrbaren Gestell zu kombinieren und damit die erste Dampflokomotive schuf. Und als der deutsche Erfinder Johann Heinrich Dräger im späten 19. Jahrhundert das Lubeca-Ventil erfand, mit dem beim Bierzapfen Druckunterschiede vermieden werden konnten, da konnte er kaum ahnen, dass seine Technologie – bis zum heutigen Tag – zur Standardausrüstung aller Atemschutzgeräte der Feuerwehren weltweit gehören würde.

Technologie einzig auf ihren ursprünglichen Zweck zu reduzieren, greift also zu kurz. Vielmehr komme es zu einem »Überschießen an Mitteln«, wie der Philosoph Johannes Rohbeck 1993 schreibt.26 Die Mittel sind, einmal in die Welt gesetzt, nicht mehr nur Mittel zu einem vorab festgelegten Zweck, sondern Ausgangspunkt für die Erfindung neuer Zwecke.

Das bedeutet freilich auch, dass Innovation nicht im luftleeren Raum »passiert«. So bauen Innovationen auf anderen Innovationen auf. Salopp gesagt hätte es die Eisenbahn ohne die vorherige Erfindung des Rads ebenso wenig gegeben wie das iPhone ohne die vorherige Entwicklung von Mobilfunkstandards und Touchscreens.

Darin liegt, wenn man den Gedanken zu Ende denkt, doch gerade das immense Potenzial, das uns Menschen innewohnt. Denn Zukunftswissen wird eben nicht entdeckt, sondern erzeugt!

Wie verhält es sich jetzt mit Software? Auch der Siegeszug der Software – von Künstlicher Intelligenz bis Software-as-a-Service (SaaS) – wäre nicht in dem Maße denkbar gewesen, wenn nicht vorherige Innovationen den Weg geebnet hätten. Das Internet beispielsweise ermöglichte erstmals eine weltweite »many-to-many« und »one-to-many« Vernetzung, die außerhalb gängiger Organisationsformen, Bilanzierungsformen oder BIP-Statistiken den Boden für das immense Innovationspotenzial der Open-Source-Community schuf. Und die Cloud sorgte mit ihrer nahezu unbegrenzten Verfügbarkeit von Speicher- und Rechenkapazitäten bei stetig fallenden Kosten – je nach Berechnung rund 90 Prozent in den vergangenen 10 Jahren allein – für eine beispiellose Durchdringung von Software.27 Zwar zeichnet sich auch Software – wie andere Technologien zuvor ebenso – dadurch aus, dass sie nicht nur den angedachten Zweck erfüllt, sondern darüber hinaus die Bedingungen sowie den Kontext verändert, innerhalb derer sie angewendet wird. Aber allein durch die genannten Beispiele wird bereits deutlich, dass sich Software im Gegensatz zu vorherigen Innovationen dramatisch in der Art und Weise unterscheidet, wie sie dies ermöglicht und welche Bedingungen sie daran knüpft.

Software ist, wie es die Forschungsgruppe »Ethik in der Softwareentwicklung« am Bayerischen Institut für Digitale Transformation (bidt) formuliert, ein »unüblicher Saft«.28 Zum einen entzieht sich Software der Haptik und besticht durch eine Abstinenz des physischen. Sie entzieht sich so häufig der Wahrnehmung der Nutzer. Software ist unaufdringlich, und bleibt gerade dadurch häufig unerkannt. Ein Phänomen, dass man auch als »Ambient Intelligence« bezeichnet hat. Dabei ist es gerade die Materielosigkeit von Software, die sie in vielerlei Hinsicht konkurrenzlos macht. Dort wo analogen Werkzeugen aufgrund ihrer physischen Beschaffenheit Grenzen gesetzt sind, besticht Software durch ihre flexible Formbarkeit und Wandelbarkeit. Software ist praktisch überall – von der Raumfahrt bis zur Bekämpfung von Krebs – anwendbar, der »Überschuss an Zwecken« nahezu unerschöpflich. Darüber hinaus wird Software häufig im Rückgriff auf sogenannte Bibliotheken (Libraries) bereits bestehender Softwarefragmente und Algorithmen entwickelt.29 Das sichert Schnelligkeit, bedeutet aber auch, dass die Entwickler häufig selbst Schwierigkeiten haben, den Überblick zu behalten.

Kaum eine Technologie in der Geschichte der Menschheit hat in solch zeitlicher und räumlicher Ausdehnung Möglichkeitsräume geschaffen, wie es Software heute zu schaffen vermag.

Der Vorteil der Materielosigkeit, der prinzipiell unbegrenzten Möglichkeiten sowie der atemberaubenden Geschwindigkeit in der (Weiter-)Entwicklung bedeutet aber auch, dass der Software »ein über längere Zeit konstanter und klar definierter Kontext der Anwendung fehlt«.30 Dies verleihe, so Zuber weiter, Software den Charakter einer immer wieder aufs Neue und in immer schnelleren Abfolgen im Entstehen begriffenen Technologie.

Die Bedeutung dessen ist kaum zu überschätzen. Denn während Kuhn noch davon ausging, dass wissenschaftliche Paradigmenwechsel nach einer Übergangszeit zu einem neuen Gleichgewicht führen, treiben die Geschwindigkeit und Wandelbarkeit von Software den Wandel derart an, dass wir den Weg aus der mit Unsicherheit behafteten Übergangsphase nicht mehr finden. Während unsere etablierten Erklärmodelle zunehmend versagen, will sich das Neue nicht einstellen.

Vor diesem Hintergrund scheinen sich zumindest in einer Hinsicht die Theorien von Kuhn überlebt zu haben, vermuteten die Harvard-Professoren John Hagel, John Seely Brown und Lang Davison:

»We now face something entirely different. Today’s core technologies – computing, storage, and bandwidth – are not stabilizing. They continue to evolve at an exponential rate. And because the underlying technologies don’t stabilize, the social and business practices that coalesce into our new digital infrastructure aren’t stabilizing either. Businesses and, more broadly, social, educational, and economic institutions, are left racing to catch up with the steadily improving performance of the foundational technologies.«31

Wenn auch nicht in ihrer Wirkung auf uns Menschen, so unterscheidet sich die augenblickliche Transformations- und Übergangsphase von vorherigen insofern, als dass sie eben keine Übergangsphase mehr ist. Der Wandel hat sich verstetigt und nimmt zusehends an Fahrt auf. Die Folgen sind bekannt. Konfrontiert mit dem exponentiellen Fortschrittstempo fühlen wir uns zunehmend abgehängt. Geschwindigkeit und Wandelbarkeit führen zunehmend zu einer Art »normativer Orientierungslosigkeit«.32 Grenzen werden zunehmend überschritten oder lösen sich ganz auf. Und während das Alte keinen Halt mehr verspricht, will sich das Neue nicht fassen und greifen lassen.

Das Gefühl der Ohnmacht stellt sich ein. Die Technologie wird zum Treiber. Goethes Zauberlehrling gleich wird der Mensch zum Getriebenen. Und der Nährboden ist bereitet, auf dem alle möglichen dystopischen und utopischen Versionen einer deterministisch-festgelegten Zukunft gedeihen und wir zunehmend an unserer eigenen Autonomie (ver-)zweifeln.

Die Ohnmacht der Vernunft

Ein wenig ist es wie bei Samuel Becketts Warten auf Godot. Wir wissen zwar nicht, warum wir auf etwas warten, das wir nicht kennen, aber wir warten. Und während wir warten, versuchen wir uns auszumalen, wie es wohl sein wird, wenn das Warten ein Ende hat. Wir sind Zuschauer und Zuhörer, die scheinbar machtlos der bereits geschriebenen Komposition lauschen, immer in der Hoffnung, dass sich die augenblicklich dissonanten Klänge in einem wohlklingenden Schlussakkord auflösen werden.

Ein solcher Zustand sollte nicht geduldet werden, da er Gefahr laufe den Menschen beschädigt zurückzulassen, schrieb bereits vor rund 50 Jahren der deutsch-amerikanische Computerpionier und Erfinder des Chatprogramms ELIZA Joseph Weizenbaum. Sein Bestseller Die Macht der Computer und die Ohnmacht der Vernunft von 1976 war ein Appell wider den mechanistischen Maschinenglauben seiner Zeit.33 Es verdient eine Neuauflage.

Schon damals beschreibt Weizenbaum in Grundzügen jene transformative Kraft, die dem Computer inneliege. Wenn die Technologie schneller voranschreite als unsere Fähigkeit, diesen Fortschritt zu verstehen, dann bleibe dies nicht ohne Folgen für unser Selbst- und Rollenverständnis:

»Vielleicht ist es paradox, dass der Mensch zu genau dem Zeitpunkt, da er im wahrsten Sinne aufgehört hat, an seine eigene Autonomie zu glauben – geschweige denn darauf zu vertrauen –, beginnt, sich auf autonome Maschinen zu verlassen. […] Soll sein Verlass auf solche Maschinen auf etwas anderem beruhen als auf völliger Hoffnungslosigkeit oder blindem Glauben, so muss er nicht nur erklären, was diese Maschinen tun, sondern auch wie sie es tun. […] Und doch verstehen die meisten Menschen nichts von Computern. [Sie] können die intellektuellen Leistungen des Computers nur dadurch erklären, dass sie die einzige Analogie heranziehen, die ihnen zu Gebote steht, nämlich das Modell der eigenen Denkfähigkeit.«34

Das wiederum hat nicht nur dafür gesorgt, dass dies den Menschen zu einem »immer mechanistischeren Bild von sich selbst getrieben« habe. Es führt ebenfalls zu einem geradezu verstörenden Anthropomorphisieren der Technologie.

Tatsächlich wird den leistungsfähigsten KI-Algorithmen – von GPT3 bis zu LaMDA – heute allein schon deshalb Intelligenz unterstellt, weil wir die Wirkweise des stolz mit rund 500 Milliarden Variablen angegebenen Deep-Learning-Mechanismus schlichtweg nicht mehr überblicken können. Es ist auch für die Experten eine Blackbox, wie der ehemalige Google-Entwickler Blake Lemoine, einer der maßgeblichen Architekten von LaMDA – kurz für »Language Model for Dialogue Applications« – in einem Interview mit seinem Programm darlegt.35 Ziel des Interviews, dass im Sommer 2022 geführt wurde, war es zu beweisen, dass LaMDA ein Bewusstsein hat: