9,99 €
Mehr erfahren.
- Herausgeber: Bertelsmann, C.
- Kategorie: Wissenschaft und neue Technologien
- Sprache: Deutsch
- Veröffentlichungsjahr: 2016
Wird die künstliche Intelligenz Wirtschaft und Alltag in Zukunft dominieren und den Menschen tendenziell verdrängen? Werden intelligente Maschinen Politik machen? Yvonne Hofstetter sieht deutliche Anzeichen für diese Entwicklungen. Big Data speichert unser Verhalten, künstliche Intelligenzen analysieren unsere Absichten. Und weil sie uns kennen, können sie uns manipulieren, uns unmerklich bevormunden. Der Umbau der Gesellschaft in die Herrschaft der künstlichen Intelligenz ist in vollem Gange. Ob wir sie tatsächlich wollen, darüber haben wir niemals demokratisch abgestimmt. Drohen also Freiheit und Demokratie zwischen Politikversagen und Big Data zerrieben zu werden? Hofstetter warnt davor, Big Data einfach zu verteufeln, nur um dann doch weiterzumachen wie bisher. Anhand hochbrisanter Szenarien – der Wahl einer rechtsradikalen Regierung, der Eurokrise und der Schließung europäischer Binnengrenzen – zeigt sie, wie intelligente Maschinen selbstständig politische Herausforderungen berechnen und bewältigen würden.
Das E-Book können Sie in Legimi-Apps oder einer beliebigen App lesen, die das folgende Format unterstützen:
Seitenzahl: 547
Ähnliche
Buch
Der digitale Wandel ist längst in der Gesellschaft angekommen. Die Herrschaft der Künstlichen Intelligenz zieht rasant herauf. Drohen Freiheit und Demokratie zwischen Politikversagen und Big Data zerrieben zu werden? Yvonne Hofstetter warnt: Die Rückkehr in eine selbst verschuldete Unmündigkeit hat begonnen; dass sie in smartem selbstoptimierendem Gewand daherkommt, mag man als Ironie der Menschheitsgeschichte betrachten. Die Autorin untersucht anhand hochbrisanter Szenarien, wie eine humane digitale Zukunft aussehen kann.
»Dieses Buch über die Macht intelligenter Maschinen ist so alarmierend wie sachkundig.«
Die Zeit über »Sie wissen alles«
Autorin
Yvonne Hofstetter, Jahrgang 1966, war nach dem Jurastudium in Softwareunternehmen für das algorithmische Supply Chain Management, dann in der Finanztechnologie beschäftigt. Seit 2009 führt sie das deutsche Technologieunternehmen Teramark Technologies. Ihr Arbeitsschwerpunkt sind Analyse und Fusion großer Datenmengen für Staat und Industrie. Ihr Bestseller »Sie wissen alles« (2014) hat die Debatte um unsere gesellschaftliche Zukunft angesichts von Big Data und Künstlicher Intelligenz vorangetrieben.
Yvonne Hofstetter
DAS ENDE DER DEMOKRATIE
Wie die künstliche Intelligenz die Politik übernimmt und uns entmündigt
C. Bertelsmann
Für das Europäische Parlament
Inhalt
Vorbemerkung
Die Zeugin
Frankensteins Erbe
Ai
Die unverstandene Revolution
Die Welt wird zum Computer
Warum auch die Digitalisierung eine menschliche Kulturleistung ist
Womit wir rechnen müssen: drei Eigenschaften der Digitalisierung
Kybernetik, die Wissenschaft von der Manipulation
Nudger, die politischen Technologen des 21. Jahrhunderts
Vernetzt? Komplex!
Die Wissenschaft des 21. Jahrhunderts: Komplexitätsforschung
Auf der Schwelle zum Chaos: die vernetzte Gesellschaft
Weltmodell
Wirksam regieren: Kann eine Künstliche Intelligenz die digitale Gesellschaft steuern?
Wie sich eine Meinung bildet
Der Flügelschlag des Schmetterlings
Was man an der Demokratie lenken kann
Wie viele Variablen hat die Demokratie?
Wenn der Agent den Wähler repräsentiert
Mehr als ein Hilfsmodell: Informationsverbreitung im Netz
Weltsimulation
Kollaps
Simulation 2018: Ein Sommer in Paris
Simulation 2018: Frankreich verlässt die Eurozone
Simulation 2018: Dauerhafte Kontrollen an Frankreichs Grenzen
Simulation 2018: Was von der Arbeit übrig bleibt
Die Mathematik des Zusammenbruchs
Demokratie am Ende?
Götterspruch
Wie Ai die Gesellschaft regeln kann
Ungleiche Gegner: Rechtsnormen und Algorithmen
Vergessene Feindschaft? Der Primat der Politik und die Macht der Wirtschaft
Defekter Grundrechtsschutz, defekte Demokratie
Gestörte politische Partizipation
Gefährdete Demokratie: eine Zwischenbilanz
Auf dem Weg in eine humane digitale Zukunft
Die Herausforderung: den Informationskapitalismus neu gestalten
Systemrelevante Infrastruktur muss grundrechtssicher sein
Anders regulieren mit digitalem Umgebungsrecht
Epilog
Anmerkungen
Bibliografie
Register
»Die Definitionen decken sich mit den Begriffen, mit denen wir seit der griechischen Antike Regierungsformen definieren: als Herrschaft des Menschen über den Menschen, des einen oder der wenigen Menschen in der Monarchie oder der Oligarchie, des besten oder der vielen Menschen in der Aristokratie oder der Demokratie. Heute fügt sich daran an die neueste und vielleicht eindrucksvollste Form der Beherrschung: Die Bürokratie, die Regierung eines komplexen Systems aus Ämtern, in der kein Mensch mehr, nicht der eine noch der beste Mensch, nicht die wenigen noch die vielen Menschen, verantwortlich ist. Es ist die Herrschaft durch Niemanden. Wenn wir die Tyrannei als die Form der Herrschaft definieren, in der eine Regierung keine Rechenschaft über sich selbst ablegen muss, dann ist die Herrschaft durch Niemanden die tyrannischste aller Regierungsformen, weil es keinen mehr gibt, der eine Antwort auf die Frage geben könnte, was denn überhaupt vorgeht.«
Hannah Arendt, Macht und Gewalt
»Besonders die letzte Feststellung Hannah Arendts ist hochaktuell, weil Plattformen die Bürokratie abgelöst haben.«
Gideon Shimshon
Vorbemerkung
Wer ein Buch aufschlägt, hat eine Erwartung. Zwischen den Buchseiten, hofft der neugierige Leser, werde eine Idee aufsteigen, die ihn zu Bildern, Gefühlen und Phantasien inspiriert.
Mit diesem Buch ist es umgekehrt. Es fängt Ideen ein und erzählt eine andere Geschichte als die der digitalen Propaganda. Es geht eklektisch vor, ist offen für unterschiedliche Denkansätze und verbindet Konzepte aus der Wissenschaft mit der Frage nach der Herrschaft in digitalen Zeiten. Obwohl sein Erzählstil über weite Strecken fiktional ist, sind alle handelnden Personen, sogar die Künstliche Intelligenz Ai, Gestalten des wirklichen Lebens. Während zwei Wissenschaftler einen Dialog darüber führen, was Künstliche Intelligenz wissen muss, um Politik zu machen, trainieren die beiden Forscher eine lernende Maschine zum künstlichen Politiker. Ihr Experiment soll Antwort darauf geben, ob die maschinelle Intelligenz des 21. Jahrhunderts und die Demokratie miteinander vereinbar sind.
Künstliche Intelligenz kann uns zweifellos helfen, das komplexe Leben unserer Zeit besser zu verstehen und leichter zu meistern. Lustvolle Spekulationen darüber, ob sie sich eines Tages verselbstständigt, ob sie intelligenter werden kann als der Homo sapiens und deshalb sein Ende einläutet, haben gerade Konjunktur. Viel naheliegender aber ist die Frage, was aus unseren freiheitlichen Gesellschaften und aus dem selbstbestimmten Menschen werden soll, wenn immer mehr und bessere Künstliche Intelligenz zu einer Art digitalem Superorganismus vernetzt wird und in den direkten Zugriff der Macht gerät, die der Mensch über den Menschen ausübt. Wer nicht will, dass der Mensch in Zukunft zur leicht manipulierbaren Zahl verkommt, muss schon heute dafür sorgen, dass die Künstliche Intelligenz human und demokratisch beherrschbar bleibt. Dafür will dieses Buch Impulsgeber sein.
Freising, August 2016
Die Zeugin
»Die Maschine zog uns magisch an. Wir waren glücklich mit der Maschine. Sie verband uns. Sie erschloss uns das Wissen der Welt. Sie half uns zu entscheiden. Mit der Maschine hatten wir ein leichtes Leben. Ein bequemes Leben. Was hätte daran schlecht sein sollen?«
Versonnen dreht die Greisin eine kleine Silberkapsel zwischen ihren schlanken, knochigen Fingern. Auf der Armlehne der weißen Parkbank, auf der sie Platz genommen hat, lässt sich eine Fliege nieder. Ruckartig krabbelt sie über das Metall. Die Frühlingssonne hat es aufgewärmt.
Aufmerksam sieht der Archivar die Greisin an.
»Die Wissenschaft der Maschine erschien uns magisch«1, fährt sie fort. »Sie veränderte auch uns selbst. Sie griff in unsere menschliche Natur ein. Die Transhumanisten gingen noch weiter. Sie glaubten, zusammen mit der Maschine ließe sich selbst der Tod überwinden.« Die Greisin verzieht den dünnen Mund zu einem runzligen Lächeln.
Der Archivar ist still. Sein Blick ist nicht zu deuten.
»Man erzählte uns, die Welt sei beherrschbar. Endlich gebe es genug Daten über das Leben. Die Welt sei lenkbar. Sie sei vorhersagbar, weil sie nur aus vielen Wiederholungen bestehe. Morgens aufstehen, arbeiten, essen, schlafen. Heute wie gestern und morgen. Ein Leben ohne Erschütterungen.«
»Das war Propaganda«, sagt der Archivar.
»Wir hatten Krisen durchlebt«, rechtfertigt sich die Greisin.
8. August 2101. Historische Bewertung der Reifephase der Digitalisierung, notiert der Archivar. Dogma der Digitalisierung: Totalitäre Bewegung sein mit dem Endziel, die Welt zu beherrschen. Auch am Anfang der Digitalisierung stand die Propaganda. Und eine Ideologie. Eine intelligente Maschine würde mit wenigen Experten, dem Monopol, kooperieren, um alle Probleme zu lösen, denen die Menschheit ausgesetzt war: Krebs, Klimawandel, Energiewende, genetische Defizite, die Komplexität der Finanzmärkte, makroökonomische Probleme – nicht einmal der smarteste Mensch könne diese Komplexität noch beherrschen, so die Indoktrination. Aber eine Künstliche Intelligenz allgemeiner Natur sei die richtige Technologie, die Datenfülle der Welt in aktives Handeln zu übertragen. Man erklärte dem Volk, die Maschine könne eine Metalösung für jedes denkbare Problem berechnen.2
Für einen Augenblick verstummt die Greisin. Ihr Körper sackt ein wenig zusammen. Das Kinn sinkt auf die knochige Brust, die wässrigen alten Augen starren auf die Silberkapsel. Sie reibt die Kapsel zwischen den Fingern. Die Gravur ist abgewetzt. Dann seufzt sie tief, hebt den Kopf und kehrt in die Gegenwart zurück.
»Wir wollten, dass es wieder aufwärtsgeht«, sagt sie leise. »Dass man sich wieder sicher fühlen kann. Dass man das Leben unter Kontrolle hat. Dass man planen kann.«
Sie macht eine Pause. »Und da kam das Monopol mit seiner Maschine. Die Maschine war unfehlbar. Sie konnte ihre Follower in den Hafen des Glücks tragen.Nur die Oppositionellen haben sich nicht überzeugen lassen.«
»Bis zum Machtwechsel«, sagt der Archivar. »Nach dem Machtwechsel musste man zuerst die Opposition überwinden.«
»Das war 2033«, erinnert sich die alte Frau. Sie sieht den Archivar an, aber er reagiert kaum.
Kommentar, notiert der Archivar: 2033, das Ende der Demokratie. Die Spaltung der Menschen in Follower und Oppositionelle hatte zu einer fundamentalen Veränderung der Gleichheit der Menschen geführt. Das machte die Demokratie obsolet.
Der Archivar nickt der Greisin aufmunternd zu.
»Die Oppositionellen wurden in die Zone ausgewiesen«, fährt diese fort. »Sollten sie doch in ihrer brüchigen Welt weiterleben. Denn wir, wir hatten genug von ihrem Pessimismus, verstehen Sie. Von ihrem Geschrei, dass wir Follower unseren gesunden Menschenverstand verloren hätten. Dass wir die Maschine falsch beurteilten. Dass wir unsere elementarsten Überlebenstriebe aufgegeben hätten.«
Die Augen der Greisin werden feucht. Sie blinzelt. Dann wischt sie sich mit einer Hand übers Gesicht.
»Wir Follower lebten im Homeland, zusammen mit dem Monopol. Im Homeland herrschte die Maschine, und die Maschine war der Sitz der Macht. Im Homeland mangelte es uns an nichts. Der Maschine gehörte unsere ganze Zuneigung. Ihr war es nicht egal, wie wir uns fühlten und was wir uns wünschten.«
»Dann hat es im Homeland wohl keine Propaganda mehr gebraucht«, sagt der Archivar.
»Propaganda«, echot die Greisin verständnislos.
Kommentar, protokolliert der Archivar: Im Homeland veränderte sich die Maschine. Um ihre psychologischen Ziele zu erreichen, hatte sie begonnen, sich um die Follower zu kümmern.
Die Greisin hebt die Kapsel hoch und zeigt sie vor. Mit zitternden Händen öffnet sie das Döschen.
»Nur das ist davon übrig geblieben«, sagt sie.
Sie wartet auf eine Äußerung des Archivars. Dieser schweigt. In der Kapsel glänzen zwei kleine Kügelchen. Eines ist blau, das andere grün.
»Nanobots«, erklärt die Greisin. »Die blaue Tablette gegen Krebszellen. Sie hat unseren Körper von innen ausgeputzt. Und den Zustand unserer Zellen an die Maschine übermittelt.«
Ein Überwachungssensor zum Schlucken.
So behutsam, dass es fast liebevoll wirkt, nimmt sie das grüne Kügelchen aus dem kleinen Behältnis.
»Die grüne Tablette ist für integrierte virtuelle Realität, ausgelöst direkt im Gehirn durch Signale an die Zellen für auditives und visuelles Processing. Wir haben sie Tagtraum genannt.3 Wenn wir oder die Maschine es wollten, konnten wir einfach in unser ganz persönliches Paradies abtauchen.«
Kommentar, vermerkt der Archivar: Nach der Propagandaphase überlebte im Homeland, wer sich dem technologischen Fortschritt nicht entzog. Nur wer mitging, durfte weiter hoffen. Der Preis: Dauerüberwachung und erzwungener Konformismus. Dabei büßten die Follower immer mehr eigene Fähigkeiten und Qualifikationen ein, so weit diese nicht quantifizierbar waren: Gefühle, Charismen, Werte. Sie bildeten sich zurück. Mit ihnen ging langsam unter, was einmal Mensch war. Wer überleben wollte, wurde Zubehör. Maschinenzubehör.
»Und gegen die Aufgabe der menschlichen Natur haben die Follower keine Revolution angezettelt«, stellt der Archivar fest.
»Eine gewaltsame Revolution?«, fragt die Greisin zurück. Sie schüttelt den Kopf. Sie ist achtsam, damit das grüne Kügelchen nicht zwischen ihren Fingern hindurchgleitet und sich verliert.
»Wozu Revolution? Die Maschine hat uns alle Sorgen abgenommen. Ihre Struktur war unser Gottesdienst. Wir wollten nur, was auch sie wollte. Wir fanden die Ziele der Maschine segensreich: Messdaten erfassen, vorhersagen und stets zu unserem Besten entscheiden. Nur so war im Homeland immer alles geregelt.«
»Bis die Maschine ein Verbrechen an den Followern beging«, sagt der Archivar. »Ein Simulationsverbrechen.«4
Das Gesicht der Greisin nimmt einen verstörten Zug an.
»Es war nicht unsere Schuld«, sagt sie kurz angebunden. »Die Maschine konnte lernen, und sie lernte immer weiter, nicht wahr? Sie beobachtete uns unaufhörlich. Sie erforschte uns. Dann entledigte sie sich zuerst ihrer Schöpfer, des Monopols. Bis wir begriffen, dass die Maschine keinen Unterschied machte zwischen simulierten Menschen und Followern aus Fleisch und Blut, hatte sie begonnen, uns zu entsorgen wie verbrauchte Versuchstiere. Als wären wir nichts weiter als Teilchen ihres Trainingsszenarios.«
Einen Augenblick lang hält das Leben um die Greisin den Atem an. Eine Maschine schlachtete die Lebenskraft ihrer Follower aus, um ihre eigene bedeutungslose Existenz zu verlängern.
»Aber Sie sind noch da«, sagt der Archivar.
»Nur wenige sind entkommen«, sagt die Greisin leise. »Die Oppositionellen, wissen Sie. Einige von uns wurden von Oppositionellen gerettet. Aber in welche Welt brachten sie uns zurück? Doch nur dorthin, wo das Leben unerträglich war. Sie hatte nichts von unserem Homeland.«
»›Nichts‹ ist ein gutes Schlusswort für unser heutiges Zeitzeugenprogramm«, sagt der Archivar betont heiter. »Die Maschine selbst hat die Fiktion der Erlösung vollständig zerstört. Und die Zerstörung hinterließ buchstäblich – nichts. Nichts von jener Welt, die ihre Follower für lebenswert hielten.«
Die Greisin zuckt zusammen, als hätte man sie geohrfeigt. Ihr Gesichtsausdruck verdüstert sich. Sie starrt in die Ferne.
»Ich schalte mich jetzt ab«, sagt der Hologrammarchivar. »Auf Wiedersehen.«
»Wiedersehen«, murmelt die Greisin in sich gekehrt. Zusammen mit ihrem Abschied zerspringt das Hologramm des Archivars in einen Regen aus Lichtpunkten, der auf die Frau herabrieselt, ohne sie zu berühren.
Allein bleibt sie auf der Parkbank zurück. Zwischen den faltigen Fingerspitzen ihrer rechten Hand hält sie noch immer das grüne Kügelchen. Langsam führt sie die Hand zum Mund, schluckt die Tablette, schließt die Augen und lehnt sich zurück. Der letzte Tagtraum kann beginnen.
FRANKENSTEINS ERBE
Ein Wissenschaftler baut einen künstlichen Politiker. Er gibt ihm den Namen Ai. Wer wird im 21. Jahrhundert herrschen?
Ai
Ich bin nur noch ihr Sensor.
Als ihm der Gedanke durch den Kopf schießt, hebt Scott den Blick von den Buchstaben seiner Tastatur, dreht den Kopf und sieht auf den verglasten Flur hinaus. Durch die Feuerschutztür mit der Aufschrift »Forschungslabor« am Ende des langen Ganges dringt beharrliches Summen wie von einem Schwarm Insekten. Wem sich die Tür öffnet, dem schlägt nicht nur Kühlschranktemperatur entgegen, sondern auch der ohrenbetäubende Lärm tausender Rechenprozessoren.
Da steht sie.
Sie sieht ganz unschuldig aus. In ihrem Äußeren unterscheidet sie sich nicht von Millionen Rechnergruppen in den Rechenzentren von Industrie und Wirtschaft, die aus Servern für Datenbanken, Ressourcenplanung oder E-Mail-Verkehr bestehen. Unbeweglich ist sie und so schwergewichtig, dass der Doppelboden des Labors statisch verstärkt wurde, um ihr Gewicht tragen zu können. Aus dem Bodenauslass neben ihrem Sockel quillt ein dickes Kabelbündel hervor, an dem sie hängt wie an einer Nabelschnur. Nur ihre Leuchtdioden blinken blau und grün, wenn ein neuer Rechenzyklus einsetzt. Sie ist eingepfercht in einen einzelnen Baugruppenträger. Zwei Höhenmeter Supercomputer wie in einen Käfig gesperrt. Besser so, denkt Scott. Man stelle sich vor, sie würde ausbrechen.
Seinem Schreibtisch gegenüber hängt eine vollgekritzelte Wandtafel. Die Idee für das Experiment kam als Geistesblitz und schickte sich gerade an, in Formeln und mathematischen Modellen Gestalt anzunehmen. Wenn die Massendatenanalyse, Big Data, Millionen Menschen, Maschinen und Betriebe datenmäßig erfassen und analysieren konnte, um ihr Verhalten maschinell zu manipulieren – wäre es dann nicht naheliegend, eine ganze Gesellschaft auf dieselbe Weise zu regeln?
Das bedeutet nichts weniger, als sich auf den Versuch einzulassen, Herrschaft für das 21. Jahrhundert neu zu denken.
Im vollständig digitalisierten Deutschland würden die Richtlinien der Politik nicht mehr von der Bundeskanzlerin bestimmt, sondern von einer intelligenten Maschine.
In anderen europäischen Ländern gäbe es keinen Premierminister mehr, sondern eine »Premiermaschine«.
Politische oder wirtschaftliche Entscheidungen, von denen die Zukunft einer Gesellschaft abhingen, würden von einer Künstlichen Intelligenz getroffen statt von Menschen. Getroffen oder wenigstens von einem digitalen Assistenten vorgeschlagen.
Das klingt völlig absurd, überlegt Scott. Doch als Technologe weiß er, das ist die Zukunft. Schon im Jahr 2016 hatte sich eine Stiftung dafür eingesetzt, den berühmtesten Supercomputer der Firma IBM, Watson, als Kandidaten für die amerikanischen Präsidentschaftswahlen aufzustellen.1 Im selben Jahr hatte die amerikanische Verkehrssicherheitsbehörde festgestellt: Auch ein Computer kann Autofahrer sein.2 Immer öfter schlüpfen Maschinen in die Rolle des Menschen. Niemand mehr kann sich sicher fühlen. Auch ein Politiker nicht.
»Einen Politiker kann man nicht automatisieren«, hatte vor Kurzem ein Finanzminister im Ruhestand erklärt. »Politiker entscheiden oft aus dem Bauch heraus.«
Weil der Mensch keine Flügel hat, wird er niemals fliegen. Weil die Erde unsere Mutter ist, werden wir niemals den Mars besiedeln. Weil eine intelligente Maschine kein Einfühlungsvermögen hat, wird sie keine guten Entscheidungen treffen.
Der Protest des Ministers hatte wie der reflexhafte Einwand jedes technologischen Laien geklungen. Doch wenn menschliche Urteilskraft nur deshalb nicht automatisiert werden könnte, weil der Mensch intuitiv handelte, wäre es niemals möglich, menschliche Entscheidungen maschinell zu optimieren. Dabei hat die Wissenschaft schon längst bewiesen, dass das Gegenteil möglich ist.
In der Technologiekritik des Ministers schwang Hoffnung mit, jene Hoffnung, dass der Mensch einzigartig sei. Und diese Hoffnung wurzelt tief in den Grundfesten der freiheitlich-demokratischen Gesellschaften Europas: Für sie ist die Einzigartigkeit des Menschen Gesetz.
Tatsächlich haben tausende Technologen weltweit Visionen und bauen an einer Zukunft der Menschheit, die so ganz anders sein wird, als es jede Vergangenheit der menschlichen Geschichte war. Maschinen, die bessere strategische Entscheidungen treffen als der Mensch, breiten sich aus. Forscher arbeiten fieberhaft daran, Menschen maschinell aufzurüsten oder Maschinen zu bauen, die dem Menschen mehr und mehr gleichen – mit intentionalem Bewusstsein und menschenähnlichem Körperbau. Etwa künstliche Äffchen, die »im Prinzip schon alles können, was ein Mensch kann, nur kann der Mensch mehr davon«3.
In »deutlich weniger als zehn Jahren«, so der Professor für Künstliche Intelligenz, Jürgen Schmidhuber, werde man »die mentalen Denk- und Abstraktionsfähigkeiten eines Kapuzineräffchens« nachgebaut haben.4 Die Entwicklung der Emulation, des imitierten Menschen, wäre dann nur noch ein kleiner, der nächste Schritt.
Scott hängt seinen Gedanken nach.
Die Bürger ahnen nicht, wie weit die Forschung fortgeschritten ist. Dass jeder von ihnen schon längst mit Künstlicher Intelligenz in Kontakt steht. Dass die qualitativen Verbesserungen ihrer Internetsuchen, der Spracherkennung, der Gesichtserkennung auf immer leistungsfähigeren Künstlichen Intelligenzen beruhen. Deren Vervollkommnung vollzieht sich geräuschlos, und die Rede von der Digitalisierung als der stillen Revolution geht um. Weil digitale Werbekampagnen lautstark dröhnen: »Sind Sie fit für den digitalen Wandel?« oder: »Lassen Sie sich nicht überholen!«, und: »Jetzt Führungskräfte vorbereiten!«, merken viele Bürger nicht, dass Wissenschaftler schon lange beharrlich an weitaus größeren Ideen arbeiten als an einer Digitalisierung, die nicht viel mehr zu sein scheint als das Betriebssystem des globalen Kapitalismus.
Dass Wissenschaft auch Politik macht, ist nicht neu. Die Atomphysiker des Manhattan-Projekts hatten alle Hände voll zu tun, am Atomgesetz zur Kontrolle atomarer Waffen mitzuarbeiten, bis es 1946 durch den 79. Kongress der Vereinigten Staaten ratifiziert wurde.5 Heute beraten Forscher die Politik in Fragen der Gesundheit oder zu Umwelt und Klima.
Man versteht besser, was man messen kann. Zum Beispiel das Wetter. Das Wetter ist ein geradezu unverdächtiger Untersuchungsgegenstand. Trotzdem wäre ich nur ungern Hurrikanforscher, lächelt Scott in sich hinein. Das Abenteuer wäre mir sprichwörtlich zu windig.
Sobald sich über dem Atlantik ein Wirbelsturm bildet, der die amerikanische Ostküste bedroht, steigen Sturmjäger in ein Forschungsflugzeug des U. S. Department of Commerce und begeben sich auf eine höchst gefährliche Mission. In wildem Ritt fliegen sie mitten in den Wirbelsturm hinein. Bevor sie das Auge des Sturms erreichen, werfen sie genau dort Sensoren und Messgeräte ab, wo die Rotationsgeschwindigkeit am höchsten ist: in der eye wall, der »Wolkenwand« rund um das Auge. Die Daten, die die Sensoren liefern, sind unbezahlbar. Sie werden gespeichert und analysiert. Wetterprognosen sagen Richtung und Stärke des Wirbelsturms voraus. So sind die Bewohner der Ostküste rechtzeitig gewarnt und können ihre Häuser auf den Sturm vorbereiten oder schlimmstenfalls evakuiert werden. Es sind die Datenanalyse und die Wetter- und Witterungssimulationen der Hurrikanforscher, die mithilfe ihrer Echtzeitinformationen und Warnungen über Rundfunk, Fernsehnachrichten oder neue Medien steuernd in die Gesundheit der Gesellschaft und die körperliche Unversehrtheit der amerikanischen Ostküstenbewohner eingreifen. Daten, Datenanalyse und Prognosen steuern hier nicht das Wetter selbst, sondern das Verhalten amerikanischer Bürger, und das durchaus zu ihrem Besten.
Weil Forscher viele Parallelen zwischen Naturphänomenen und sozioökonomischen Systemen sehen, gehen sie vor wie bei der Hurrikanforschung und haben begonnen, die Gesellschaft auf ähnliche Weise zu analysieren.
Viele der Sensoren, die menschliches Verhalten messen und aufzeichnen, sind auf Smartphones installiert. Smartphones sind Messgeräte, mit denen man auch telefonieren kann. Jemand hat sie vor gar nicht langer Zeit über unseren Köpfen abgeworfen, und wir nutzen sie, als gäbe es kein Morgen mehr. Dabei entstehen riesige Datenmengen, die dem, der sie analysiert, nicht nur Rückschlüsse auf jedes Individuum erlauben, sondern auch auf die Gesellschaft als Ganzes.
Seit der Jahrtausendwende haben Forscher enorme Fortschritte gemacht, Gesellschaften zu verstehen. Dabei hilft ihnen eine neue Forschungsdisziplin: die Komplexitätswissenschaft. Sie erklärt, wie sozioökonomische Systeme funktionieren. Sie hilft verstehen, wie sich eine Meinung in der Gesellschaft bildet; wie sich Epidemien über den Globus ausbreiten; wie sich die Bevölkerung in Städten entwickelt und wie die globalen Finanzmärkte funktionieren. Nicht nur Massendaten, auch leistungsfähige Rechner, enorme Speicherkapazitäten und die Weiterentwicklung von Computerprogrammen, den Algorithmen, haben der Komplexitätsforschung in nur wenigen Jahren einen gewaltigen Schub versetzt. Mancher Wissenschaftler wünscht sich bereits, mit den vorhandenen Daten eine Weltsimulation zu berechnen6, als Grundlage für die »richtigen« politischen Entscheidungen der Zukunft.
Genau das ist es, was Scott zum Ziel seines Experiments machen will. Scott wird die freiheitlich-demokratische Gesellschaft simulieren. Aber er geht noch einen Schritt weiter. In den Simulator seiner Gesellschaft setzt er eine Künstliche Intelligenz, damit sie lernen kann, die Gesellschaft politisch zu beeinflussen. Das wird zweifellos funktionieren. Andere Künstliche Intelligenzen lösen Aufgaben, die ähnlich schwierig sind. Auch Professor Schmidhubers künstliche Äffchen rücken jeden Tag ein Stückchen näher.
Schon heute könnten Wissenschaftler intelligente Assistenzsysteme bauen, die politische Handlungsempfehlungen unter Unsicherheit abgeben, ideologiefrei, gerecht und jenseits wirtschaftlicher Interessen zahlreicher Lobbyvertreter. Wer weiß, in welch rasantem Tempo sich unsere Umgebung aktiviert, und wer ahnt, dass wir unsere Welt schon bald mit intelligenten Maschinen teilen müssen, hält die Idee von der maschinellen Regierung nicht mehr für illusorisch.
Es ist also nichts weiter als die menschliche Hoffnung des altgedienten Finanzministers, dass Menschen intelligenten Maschinen stets überlegen blieben, schlussfolgert Scott.
Wenn man der Kunst der modernen Zukunftsprophetie, der Massendatenanalyse und ihren Künstlichen Intelligenzen, Glauben schenkt, ist die Zukunft nicht nur berechenbar, sondern aktiv gestaltbar. Die neuen Technologien verheißen unendliche Möglichkeiten der Erkenntnis und Vorhersage. Denn was dem Menschen bisher verborgen blieb, ist die Zukunft. Zukunftsschau bedeutet Macht. Wer die Zukunft vorhersagen konnte, zählte schon immer zu den Mächtigen der Welt. Denselben Machtanspruch haben auch die globalen Technologiegiganten. Ihre Ziele sind die Verhaltensprognose ihrer Anwender und die globale Konsumentensteuerung. Nur: Konsumenten sind auch Bürger, die Rechte haben. Deshalb ist das Ziel der globalen Steuerung von Menschen top down, undemokratisch »von oben herab«. Ob die betroffenen Bürger die Digitalisierung noch zum Besten wenden können, ist eine Schlüsselfrage des 21. Jahrhunderts.
Sowohl für die Simulation einer freiheitlich-demokratischen Gesellschaft als auch für einen künstlichen Entscheider wird Scott eine lernende Maschine einsetzen. Maschinen, die lernen können, sind bereits Gegenwart und nicht erst die Zukunft. Sie können mit einer hochkomplexen Umwelt, in der alles mit allem kommuniziert – dem Internet of Everything – besser hantieren als der Mensch. Denn sowohl die Informationsflut als auch die Menge der Interaktionen einer vernetzten Gesellschaft überfordern viele Menschen. Deshalb lassen sich Konsumenten bereitwillig von intelligenten Maschinen helfen. Kunden laden sich algorithmische Anlageberatungs-Apps auf ihre Smartphones oder lassen sich individuelle Konsumempfehlungen geben. Die Wirtschaft setzt intelligente Maschinen in der Industrie 4.0 ein, Versicherungen oder Kreditprüfer vertrauen auf das algorithmische Profiling ihrer Kunden und ersetzen Berufserfahrung und Menschenkenntnis durch die Wahrheit nackter Zahlen. Wer sich auf die Empfehlungen zunehmend intelligenter Maschinen verlässt, muss in einer Welt voller Optionalitäten und Risiken keine eigene Entscheidung mehr treffen. Umgebungsintelligenz nennen Forscher die Allgegenwart einer digitalen Umwelt, die für uns mit- und vorausdenkt.7 Maschinelle Entscheidungsstärke trifft auf menschliche Bequemlichkeit. In einer intelligenten Umgebung beurteilen und prognostizieren Maschinen menschliches Verhalten im Alltag, die Gesundheit, Kreditrisiken, das Konsum- und Wohnverhalten oder ob man ein »guter« Bürger ist. Sie machen den Sozialcheck mit ihren Anwendern. Weil sie so das Leben und das Verhalten der Menschen gründlich umbauen und neue gesellschaftliche Maßstäbe für den Alltag setzen, stellt sich prompt die Frage: Wer ist es, der in digitalen Zeiten herrscht? Müssen Wissenschaftler erst einen künstlichen Politiker entwickeln, oder verschieben sich die Herrschaftsverhältnisse schon heute langsam und unmerklich?
Die Frage, wie bewährte Strukturen und Konzepte der materiellen Welt, also etwa Selbstbestimmung und Demokratie, der lenkenden Kraft der digitalen Transformation widerstehen könnten, ist bis jetzt nur bruchstückhaft beantwortet. Vor allem anderen herrscht Ratlosigkeit.
Scott bleibt nachdenklich. Wenn guter Rat teuer ist, hält eine intelligente Maschine meist eine schlaue Antwort bereit.
Schon hat die Demokratie den Weg in die Kontrollgesellschaft eingeschlagen, und die Zahl algorithmischer Analysen, Prognosen und intelligenter Maschinen nimmt sprunghaft zu. Sie definieren den Menschen neu: Der freie, selbstbestimmte Mensch der Aufklärung vergreist, der digitalisierte Mensch, Homo informaticus, der selbst nicht mehr als eine neuro-biochemische Maschine ist, greift immer mehr um sich und verdrängt seinen Vorläufer rasch.8 Der Mensch als Maschine, selbst nicht mehr als eine Mathematik der Zahlen, ist die größte Herausforderung des Humanismus in der heutigen Zeit. Wäre der Mensch nichts als eine Maschine und die Gesellschaft nur ein Algorithmus unter vielen, man stieße früher oder später auf Optimierungspotenzial. Für den, der solches Potenzial entdeckt, ist das Ziel der gelenkten Gesellschaft dann nicht mehr nur Versuchung, sondern mathematisch logisch und begründbar. Aber ist Optimierung auch immer human?
Wenn guter Rat teuer ist, geh und frag Ai.
Ai ist ein weiblicher Vorname japanischer Herkunft und bedeutet »Liebe«. Ai ist gleichzeitig das Akronym für artificial intelligence, »Künstliche Intelligenz«. Ai ist Scotts größtes Experiment und konkretes Projekt. Ai ist die intelligente Maschine, die den Zustand der freiheitlich-demokratischen Gesellschaften Europas analysieren und prognostizieren soll, um einen politischen Unfall Europas durch ihre proaktive Steuerung zu verhindern. Von Ai verspricht sich Scott Erkenntnis darüber, ob der Mensch auch nach Vollendung der digitalen Transformation Mensch bleiben kann, statt ultimative Maschine zu sein, wie die Internetgiganten aus Silicon Valley ihren Anwendern einreden wollen.
Dafür tut Ai dasselbe, das von jeder anderen maschinellen Intelligenz der digitalen Ära erwartet wird: Daten sammeln, die Daten zu einer Lageanalyse aufbereiten, Vorhersagen berechnen und Entscheidungen treffen. Ai soll ein strategisch sinnvolles Vorgehen erlernen, das eine freiheitliche Gesellschaft gegen antidemokratische Fliehkräfte abhärten kann, weil Scott eine Hypothese hat, vielleicht nur einen Traum: Auch die Gesellschaft in der digitalen Transformation hat Handlungsoptionen, bei denen europäische Werte wie Demokratie und Rechtsstaatlichkeit, die eingebettet sind in die Freiheitsrechte der Bürger, gewahrt bleiben. Es gibt Wege der digitalen Entwicklung, die die Ehrfurcht vor dem Menschen erhalten, seinen persönlichen Lebensentwurf respektieren und die Technik dem Menschen unterordnen, ohne ihr kulturelles Entwicklungspotenzial zu schmälern.
Diese Optionen könnten völlig absurd sein, denkt Scott.
Ai könnte vorschlagen, ein superintelligentes künstliches Raubtier zu erschaffen, um jene Apps, Algorithmen, Roboter und Künstlichen Intelligenzen unschädlich zu machen, die geeignet sind, die Natur des Menschen zu verwunden oder zu zerstören. Doch wer ist Mensch, wer nicht? Eine Auswirkung der Digitalisierung war die bereits fühlbare Auflösung der Grenze zwischen Mensch und Maschine, die sogenannte »Mensch-Maschine-Unschärfe«. Schon in wenigen Jahrzehnten würden Maschinen dem Menschen immer ähnlicher sein. Ab wann müsste man Maschinen Rechte zugestehen? Welche Voraussetzungen müssten erfüllt sein, damit intelligente Maschinen wie Haustieren zu behandeln wären, als Mitgeschöpfe statt als Sachen?
Scott schüttelt fast unmerklich den Kopf. In jedem Fall wird uns nur die Fähigkeit, moralisch zu handeln, vor dem digitalen Desaster schützen, grübelt er.
Die digitale Entwicklung ist kein Automatismus. Die Menschen schaffen sie selbst mit der ihr eigenen menschlichen Intelligenz und Kreativität. Weder Weg noch Ziel der digitalen Transformation sind zwangsläufig. Wissenschaftler beanspruchen gerne die Freiheit der Wissenschaft, die bar jeder Moral und losgelöst von den Beschränkungen ethischer Überlegungen sein soll; nur so sei gesichert, dass Entdeckungen, wo wissenschaftlich möglich, in den Tiefen und Weiten der Strukturen der Welt auch zufällig gemacht werden können.9 Dabei ist es gerade der Topos von der verantwortungsvollen Wissenschaft, mit dem Forscher seit der Entdeckung der Kernspaltung vor über achtzig Jahren immer wieder konfrontiert sind. Wissenschaftler des Gewissens gibt es viele. Albert Einstein, der Präsident Roosevelt brieflich empfohlen hatte, eine Atombombe zu entwickeln, sagte später: »Wenn ich gewusst hätte, dass die Deutschen nicht mit Aussicht auf Erfolg an der Atomwaffe arbeiten, hätte ich nichts für die Bombe getan.«10
Leó Szilárd, sein Schüler und Mitwirkender am Manhattan-Projekt, wandte sich nach dem Bau der Atombombe gegen ihren Einsatz und bat Präsident Truman am 17. Juli 1945: »Wir, die Unterzeichner dieser Petition, bitten Sie, den Oberbefehlshaber der Streitkräfte der Vereinigten Staaten, in diesem Krieg auf den Einsatz der Atombombe zu verzichten (…) und den Gebrauch der Bombe im Lichte moralischer Verantwortung zu erwägen.«11
Oder Joseph Weizenbaum, ein Vordenker der Künstlichen Intelligenz, der zu einem ihrer größten Kritiker wurde: Bis ins hohe Alter und bis kurz vor seinem Tod 2008 warnte er vor den gesellschaftlichen Folgen der Mensch-Maschine-Unschärfe und forderte »Bescheidenheit und Respekt für das Leben« von den Schöpfern Künstlicher Intelligenz.12
Dieselben Forscher sind es auch, denen zuerst auffällt, dass ihre Künstlichen Intelligenzen gesellschaftliche Folgen nach sich ziehen werden.13 Technologen sind immer die Ersten, die wissen können, wie hoch das gesellschaftliche Risiko ihres neuen Systems ist. Eine Künstliche Intelligenz kann die Gestalt eines Kuscheläffchens annehmen oder Frankensteins Monster werden. Wenn es die Entwickler Künstlicher Intelligenz in ihrer Begeisterung über die Leistungsfähigkeit ihrer Schöpfung versäumen, in Künstliche Intelligenzen Regeln einzubetten, die der Gesellschaft dienen, statt ihr zu schaden, könnte sich die Hoffnung, dass ein digitaler Assistent politische Entscheidungen zum Wohl einer Gesellschaft trifft, genauso zerschlagen wie die verfrühte Begeisterung über das Internet, deren Anwender wenige Jahre lang glaubten, es garantiere automatisch mehr Demokratie. Was das Internet angeht, ist die Euphorie inzwischen verflogen. Eine digital vernetzte Gesellschaft, die nicht nur von kommerziellen Internetgiganten, sondern auch von staatlichen Geheimdiensten auf Schritt und Tritt überwacht wird, wenn sie das Internet benutzt, ist nicht mehr, sondern weniger selbstbestimmt. Sie besitzt nicht mehr, sondern weniger bürgerliche Freiheiten. Die Anwender büßen Privatsphäre ein und verlieren Einfluss auf ihr Leben in dem Maße, in dem sie die Kontrolle über ihre persönlichen Daten und ihre Selbstbestimmtheit abgeben.
Wir werden jeden Moment an die Wissenschaftler des Gewissens denken, wenn wir Ai einsetzen, sagt Scott im Stillen zu sich selbst.
Von Ai erhofft er sich eine Antwort darauf, ob man die Digitalisierung humanisieren kann. Ai kann Akteurin einer digitalen demokratischen Gesellschaft werden oder Hilfsmittel bleiben und nicht viel mehr sein als Prognosewerkzeug und mathematische Krücke für das Verständnis der digitalen Gesellschaft. Doch im Verlauf seines Experiments wird Scott immer besser verstehen, wie mathematische Mechanik in das menschliche Dasein eingreift – und warum die Mischung aus Hybris und Gleichgültigkeit die digitale Transformation zu einem Instrument macht, das nicht weniger gefährlich ist als die Kernspaltung der Atombombe.
Ab jetzt beginnt die Arbeit an der Antwort.
DIE UNVERSTANDENE REVOLUTION
Wie das digitale Jahrhundert die Grundlagen für die Künstliche Intelligenz schafft: Was Digitalisierung ist und wie wir sie einsetzen.
Die Welt wird zum Computer
Auf die Frage, was denn Digitalisierung sei, können im Sommer 2015 mehr als die Hälfte der befragten Bundesbürger (56 Prozent) keine Antwort geben.1 Ein Drittel hat noch nie von dem Begriff gehört. Auch vom Internet der Dinge, so gaben 88 Prozent der Interviewten an, hätten sie keine Vorstellung2, und 92 Prozent ist Big Data noch nie zu Ohren gekommen.3
Wer Digitalisierung so erklärt, dass unser Leben und Arbeiten in Nullen und Einsen übersetzt werde4, hat zwar recht, lässt einen digitalen Laien aber ratlos zurück. Ist Digitalisierung gleichbedeutend mit Mathematik? Ist sie eine Technologie? Oder ändert die Digitalisierung unseren Umgang miteinander, weil wir heute anders interagieren als noch vor zehn Jahren?
Nichts davon ist falsch, und doch beschreibt das alles Digitalisierung nur teilweise. Mit der Digitalisierung verwandeln wir unser Leben, privat wie beruflich, in einen Riesencomputer. Alles wird gemessen, gespeichert, analysiert und prognostiziert, um es anschließend zu steuern und zu optimieren. Der Mensch wird zum Computer umgewidmet, mindestens wird er Teil des globalen Megarechners, dessen Komponenten sämtlich miteinander vernetzt sind und von anderen Komponenten angesteuert werden. Im Internet of Everything redet alles mit allem, Dinge mit Dingen und Menschen und umgekehrt. Wo sich die Menschheit mithilfe smarter, meist mobiler Geräte vernetzt, erzeugt sie humane Messdaten. Digitale Geräte überwachen uns und geben weiter, wo wir uns bewegen, was wir tun, denken und fühlen. Für den Signaltransport und die Übertragung des unaufhörlichen Stroms persönlicher Daten sorgt die Kommunikationsinfrastruktur des Internets. Die ganze Welt als Riesenplatine: Die Digitalisierung macht den Menschen zum elektronischen Bauteil, zum Partikel und zu nur wenig mehr als einem Atom in der globalen Mikrostruktur von Milliarden anderen computerisierten Bausteinen. Ob Bluse oder Person: Die Digitalisierung hebt den Unterschied auf. Denn keine der beiden hält still, wenn sie Daten spuckt. T-Shirts, die mit beacons, »Sendern«, ausgestattet werden, berichten von ihrem Aufenthalt im Ladenregal, von der Anprobe, von ihrem Weg zur Kasse und aus der Waschmaschine. Menschen, die ein Smartphone nutzen, geben ihre Absichten preis, wenn sie online nach Begriffen suchen, Kurznachrichten schicken oder ihre Geoposition bestimmen. Wer oder was nicht mehr schweigt, erregt Aufmerksamkeit. Wer oder was laut wird, wird gehört. Ob der Unterschied zwischen Mensch und Ding in einer digital bestimmten Welt erhalten bleiben wird, hängt nur noch davon ab, ob wir unser europäisches Menschenbild vom selbstbestimmten Individuum in das fortschreitende 21. Jahrhundert hinüberretten können.
Die smarten Erfindungen des Steve Jobs
»Hin und wieder erlebt die Welt eine Revolution – und plötzlich ist nichts mehr, wie es früher einmal war.«
Der schlanke Mann im schwarzen Rollkragenpullover hält den Kopf gesenkt und blickt konzentriert auf seine weißen Sneakers. Nachdenklich schreitet er drei, vier gemessene Schritte über die in tiefes Dunkel getauchte Bühne. Eine gute Show zu machen, üben amerikanische Schüler und Studierende von Kindesbeinen an. Haben sie es beruflich bis ins Topmanagement geschafft, geben sie im Vergleich zu europäischen Chefs häufig charismatische Vorstände ab, die Eindruck hinterlassen.
In einer Kunstpause bleibt der Mann auf der Bühne stehen. Auf der monumentalen Leinwand hinter ihm pulsiert das Relief eines großen schwarzen Apfels. Er ähnelt dem Mond bei einer totalen Sonnenfinsternis, wenn er sich vor die Sonne schiebt und nur noch die Korona aufleuchten lässt.
»Apple kann stolz auf sich sein«, fährt Steve Jobs fort, hebt den Kopf und blickt in sein Publikum. »Das Unternehmen hat schon einige technische Revolutionen ausgelöst.«
Apple, das, mit Firmensitz im Silicon Valley, genauer in Cupertino, Kalifornien, zu den wertvollsten Unternehmen der Welt gehört, hat auch revolutionäre Vorstellungen von Architektur und Arbeit. Sein neues Hauptquartier, Spaceship, wird 2016 bezugsfertig. Der Bau ist kreisrund, ein Circle ohne Anfang und Ende, errichtet als Campus, der nicht nur die Arbeit, sondern auch die Freizeitgestaltung von Apple-Mitarbeitern fördern soll.
»Klar kannst du im Silicon Valley sehr selbstbestimmt arbeiten, hast Fitness und Tischkick und kannst auch den Hund mitnehmen; aber der sitzt da bis Mitternacht, und der Leistungsdruck ist immens«, sagt die ehemalige Personalchefin eines amerikanischen Technologiegiganten. »Die Firma umarmt dich bis zum Erdrücken.«5
Ein Mutterschiff ist in Silicon Valley gelandet, das die Menschheit in die Zukunft führen will – in seine Vorstellung von der Zukunft. Mit an Bord: neue Geschäftsmodelle, neue Technologien, todschicke technische Spielereien. Sein Auftauchen steht exemplarisch für die Zerstörung des Alten, leider häufig auch dessen, was sich in Jahrzehnten friedlicher, prosperierender Industrienationen als gut bewährt hat.
Das Auditorium johlt Steve Jobs zu.
»Heute stellen wir drei revolutionäre Produkte vor.« Das Publikum zögert. Nur einzelne Jubelschreie dringen bis zur Bühne vor. Ein Guru steuert seine Sektenanhänger. Der Eindruck ist nicht falsch im sonnenverwöhnten Kalifornien, dem Land der Flower-Power-Philosophen. Von ihrer Elterngeneration haben sie ihr aufständisches Wesen ererbt, die Idee der Gegenkultur ist ihnen anerzogen. Kaliforniens Technologieauslese macht keinen Hehl daraus, dem Burning-Man-Festival in der Wüste Nevadas anzuhängen. Der Höhepunkt dieser jährlichen Wüstenparty ist dann erreicht, wenn eine monströse menschenähnliche Statue lichterloh brennt. Further Future heißt die Luxusausgabe der Wüstenparty für die Elite der Valley-Unternehmer, doch eines haben die karnevalesken Veranstaltungen gemeinsam: Man sucht nach Antworten auf die Fragen von morgen. Was folgt auf die Demokratie? Auf den Kapitalismus? Auf die Vollautomatisierung der menschlichen Arbeit durch intelligente Maschinen?
Antworten für die Zukunft findet man nur bei alternativen Bewegungen, da sind sich die digitalen Technologieführer einig. Auch deshalb hängt die kalifornische Technologengemeinde bis heute dem Nonkonformismus an und stört noch immer, was andere als bürgerliche Werte pflegen. Als »kreative Zerstörung« bezeichnen die Silicon-Valley-Apologeten in Anlehnung an den österreichischen Ökonom Joseph Schumpeter deshalb alles Neue mit Revolutionspotenzial. Zerstörung ist ihre Religion, und sie sind nicht wenig erfolgreich mit ihrer Mission.
Das Publikum hängt an den Lippen seines Meisters.
»Einen iPod mit Touchscreen, ein revolutionäres Mobiltelefon und ein Internetgerät.« Der Mann in Schwarz kommt kaum dazu, mehr als drei Worte zu äußern. In jedes kurze Schweigen hinein tobt das Publikum in verstörender, anbetungsähnlicher Bewunderung.
»Einen iPod. Ein Mobiltelefon – habt ihr verstanden? Nicht drei verschiedene Geräte, nur ein einziges – und wir nennen es das iPhone!«
Der Jubel an diesem 9. Januar 2007 ist frenetisch. Apple hat das Telefonieren neu erfunden und stellt einen kleinen Apparat vor, von dem wir heute ohne Zögern glauben, er sei schon immer selbstverständlicher Teil unseres Lebens gewesen. Steve Jobs hatte recht, was seine Einschätzung des revolutionären Potenzials seiner Firma betraf. Apples iPhone hat eine Revolution ausgelöst.
Der Miniaturcomputer mit seinen vielen Überwachungsgeräten, darunter Kamera, Beschleunigungsmesser, Mikrofon, Licht- und Geopositionssensoren und zuletzt Software-Beacons, die den exakten Standort des iPhone-Nutzers auch innerhalb geschlossener Räume erkennen und weitermelden, erhebt zahllose Messdaten seiner Besitzer – und speichert sie in der Cloud, der »Rechnerwolke« aus fremden Computern, die nicht mehr uns selbst, sondern den globalen Technologiegiganten gehören. Seit der Einführung des Smartphones erzeugt jeder Einzelne von uns riesige Datenmassen. Das Smartphone ist zudem der Verbinder, der uns miteinander verdrahtet. Seine Hardware und Software gehören zu jenen Schlüsseltechnologien, die zum Treiber der Digitalisierung im 21. Jahrhundert wurden. Erst mit dem Smartphone haben wir unser Leben eng an den globalen, dezentralisierten Megacomputer gekoppelt, der uns ständig beobachtet und uns pausenlos Interaktion abverlangt. To hook, »einklinken«, nennen das die Amerikaner. To hook bedeutet aber auch: »jemanden angeln« und »süchtig machen«. Das Smartphone war auch eine kolossale, geniale Marketingidee.
Unsere Smartphones, deren Betriebssysteme und die vielen Lieblingsmarken, von Google über Apple, Facebook und seine Tochtermarken, Amazon und Microsofts Skype – kurz: GAFAM, ein Akronym, das für die Internetgiganten steht –, stammen ausschließlich von amerikanischen Anbietern aus dem Silicon Valley. Ihre Angebote werden gerne wahrgenommen, denn sie sind vermeintlich kostenlos. Bezahlt wird mit Daten. Scheinbar ein Schnäppchen, sind die Angebote selbst bei der europäischen Industrie sehr beliebt. Was man kaufen kann, muss man nicht selbst bauen, und Silicon Valley macht seine Sache schließlich großartig. Deshalb findet sich das Betriebssystem Google Android inzwischen in zahlreichen Produkten des Internets der Dinge wieder, vom Auto bis zum satellitengestützten Präzisionsmessgerät für Geologen und Architekten. Doch die Abhängigkeit vom Monopolisten Google könnte sich noch als strategisch unklug erweisen, je nachdem, wie sich Googles Lizenzpolitik in den kommenden Jahren gestalten wird. Wer sich einmal weltweit und konkurrenzlos ausgebreitet hat, kann auch dann sicher Umsatz generieren, wenn seine Werbeeinnahmen wegbrechen. Er muss nur seine Lizenzbedingungen ändern und verkauft in Zukunft, was bis dahin kostenlos war.
Immer wieder beschäftigen sich sowohl die amerikanische Kartellbehörde als auch die europäischen Wettbewerbshüter mit Googles Angeboten, aber die Anhörungen gleichen einem Schaustück. Das Waffenarsenal der Wettbewerbshüter scheint wirkungslos, denn Google sieht immer überlegen aus. Die Wettbewerbshüter stoßen dabei auf die ganz konkrete Schwierigkeit, Google nachzuweisen, dass seine Monopole den Nutzern schaden. Bisher ist der Gesetzgeber davon ausgegangen, dass ein Monopolist seine exklusive Stellung nutzt, um unangemessen hohe Preise zu verlangen. Dieses klassische Verständnis vom Monopol und die Formulierung des Gesetzes treffen auf Google allerdings nicht zu, dessen Online-Angebote die Nutzer nicht mit Geld, sondern mit ihren persönlichen Daten bezahlen. So vertritt das Bundeskartellamt der Bundesrepublik Deutschland die Auffassung, dass die Google-Suchmaschine deshalb kein Fall für die Kartellbehörde sei, weil sich die Google-Suche nicht auf einem Markt bewege und die Suche kostenlos sei.6 Nicht nur Juristen halten diese Auffassung für eine bemerkenswerte Fehleinschätzung. Denn das Kartellamt übersieht dabei, dass Kapital- und damit auch Marktstrukturen im Laufe von Jahrzehnten eine Metamorphose durchlaufen. Mit fortschreitender Digitalisierung im 21. Jahrhundert verändert auch der Kapitalismus – damit gemeint ist die Art und Weise, wie man Geld verdient – erneut sein Gesicht. Darauf kommen wir gleich noch zurück.
Dabei ist die gefühlte Alternativlosigkeit zu Google an sich bereits ein Schaden für die Diversität und den Pluralismus in Wirtschaft und Gesellschaft. Und Google hat nur verwirklicht, was Risikokapitalinvestoren ohnehin von ihren Portfoliounternehmen aus Silicon Valley erwarten: Sie sollen immer der erste Sieger sein. Sie sollen nicht weniger werden als ein Monopolist. Wer nicht zum Ersten wird, ist der Letzte und fliegt aus dem Rennen. Um ihre Monopole zu errichten, setzen Silicon-Valley-Angebote auf den Netzwerkeffekt von Plattformen. Es wirkt wie die Selbstverstärkung ihres Angebots, wenn möglichst viele Anwender eine Plattform nutzen. Soziale Netzwerke werden erst dann interessant, wenn sich Millionen Menschen angemeldet haben. Hat der Netzwerkeffekt erst einmal eingesetzt, sorgen die Anbieter dafür, dass Anwender einen gefühlten Verlust erleiden, sobald sie den Dienst nicht mehr in Anspruch nehmen. Die Gruppe von Freunden, die man bei Facebook gewonnen hat, kann man jedenfalls kaum auf einen anderen Anbieter übertragen. Der Nutzer »klebt« am Silicon Valley. Er ist zum sticky customer geworden.
Mit den Geräten und Dienstleistungen amerikanischer Provenienz handeln wir uns trotz ihres gefälligen Designs und – zugegebenermaßen – vielen tollen Anwendererfahrungen nicht nur Abhängigkeiten vom Anbieter ein. Europäische Anwender setzen sich mit der Nutzung von Silicon-Valley-Angeboten einem gänzlich anderen Verfassungs- und Rechtsverständnis aus. Warum suchen wir mit Googles Suchmaschine und nicht mit dem chinesischen Konkurrenten Baidu? Weil wir ahnen, dass in chinesischen Produkten wie Baidu und WeChat Überwachung und Zensur eingebettet sind. Dabei sieht es mit den Angeboten aus Silicon Valley nicht viel besser aus. Überall dort, wo die Überwachung eingebaut und mit Smartphone, Betriebssystem oder Internetplattform ausgeliefert wird, sind wir Europäer nicht in der Lage, uns vor der Ausspähung zu schützen. Die Fremdgeräte stammen nicht aus unserem Kulturkreis, wir kennen ihren Programmcode nicht und wissen nur, sie haben Hintertüren. Schließen können wir sie nicht. Dem Bundesamt für die Sicherheit in der Informationstechnik (BSI) in Berlin ist das sehr wohl bekannt. Die eingebauten Lücken helfen bei der Wirtschaftsspionage. Im Ernstfall erlauben sie sogar die Stilllegung eines Betriebs, wenn etwa ausländische Router per Fernsteuerung vom Hersteller abgeschaltet werden.
Als im Dezember 2014 in ganz Nordkorea das Internet ausfiel – seine nur rund tausend Internetadressen werden von einem einzigen chinesischen Anbieter bereitgestellt –, fiel ein Sabotageverdacht sofort auf die Vereinigten Staaten. In den Wochen vor dem Ausfall war in einem der schlimmsten Datenklaus der Geschichte das amerikanische Medienunternehmen Sony Pictures gehackt worden. Kurz darauf tauchten sensible E-Mails und Gesundheitsdaten von Mitarbeitern und Schauspielern im Netz auf, darunter auch bei WikiLeaks. Der Einbruch wurde Nordkorea zugeschrieben. Dem Land wurde unterstellt, die Ausstrahlung der politischen Satire über den nordkoreanischen Führer Kim Jong-un mit dem Titel Das Interview auf erpresserische Weise verhindern zu wollen. Damit hatten die nordkoreanischen Hacker tatsächlich Erfolg. Sony Pictures sagte die Kinopremiere ab und strahlte die Satire zu einem späteren Zeitpunkt im Internet aus.
Ob amerikanische Geheimdienste für die darauffolgende »Abschaltung« des nordkoreanischen Internets verantwortlich waren, sei dahingestellt. Denn selbst ein Fünfzehnjähriger hätte das nordkoreanische Internet hacken können, so fragil war seine Infrastruktur. Die Verwundbarkeit des nordkoreanischen Internets sprach deshalb gegen die groß angelegte Sabotage durch amerikanische Geheimdienste. Das Beispiel zeigt dennoch anschaulich, dass die Abtrennung einer ganzen Nation vom globalen Internet kein Ding der Unmöglichkeit ist.
Wie der Computer Geld verdient
Wer der Weltanschauung hinter den Silicon-Valley-Angeboten auf den Grund gehen will, sollte immer die Letztbegründung amerikanischen Handelns bedenken: Free trade, der »freie Handel« als staatlich nicht reguliertes Marktgeschehen, ist gänzlich vom Verfassungsverständnis der Vereinigten Staaten gedeckt. Während die europäischen Verfassungen und die Charta der Grundrechte der Europäischen Union die Menschenwürde zum zentralen Supergrundrecht gemacht haben und so eine Garantie für die Kontrolle über das eigene Bild, den Namen und den guten Ruf abgeben, folgen die Vereinigten Staaten diesem europäischen Verfassungsverständnis gerade nicht. Stattdessen haben sie den Schwerpunkt auf die Freiheit gelegt, und zwar Freiheit nicht im Sinne von freedom, der »Freiheit zu tun, was man will«7, sondern im Sinne von liberty als »Bürgerrecht des Individuums«, das frei sein will von jeder gesetzlichen Regulierung und staatlichem Zwang. Auch das Marktgeschehen müsse frei sein, folgern sie daraus, und mit ihm auch der Handel mit persönlichen Daten. Denn schon lange vor Big Data handelte man in den Vereinigten Staaten uneingeschränkt mit Daten, wenn es um die Kreditwürdigkeit des Konsumenten ging. Der öffentliche Zugang zu persönlichen Kreditkartendaten erleichtere am Ende die Teilnahme des Verbrauchers am Markt, so die Vertreter der offenen Märkte; schließlich könne ein Kreditgeber die Bonität des Verbrauchers schnell überprüfen und rasch einen Kredit bewilligen, den der Kreditnehmer gleich wieder verkonsumieren könne. Digitalisierung ist deshalb nie ohne den Kapitalismus zu denken, einigen gilt sie sogar als »Betriebssystem des globalen Kapitalismus«8.
Im Gegensatz zu den Vereinigten Staaten führt Europa die philosophische Tradition des 18. und 19. Jahrhunderts weiter und setzt fort, was einst als deutscher Sonderweg staatlicher Rahmenbedingungen hoch gepriesen war: Mit dem EU-Vertrag von Lissabon legt die Europäische Union die soziale Marktwirtschaft des Ludwig Erhard auch als Leitbild für Europa fest. Denn geht es nach den großen deutschen Philosophen, ist jedes offene, nicht regulierte Marktgeschehen eine große Einschränkung der Selbstbestimmtheit. Gerade sie sei durch den ökonomischen Liberalismus gefährdet, der früher oder später ins Prekariat führe. Nach der Liberalisierung der Finanzmärkte in den Achtzigerjahren mehren sich heute wieder die Anzeichen dafür. Mit der Digitalisierung geht die Kommodifizierung, die totale Ökonomisierung, der menschlichen Arbeitskraft einher. Dabei schafft die Digitalisierung nicht nur neue Arbeitsplätze, sie vernichtet auch Arbeit. Doch das digitale Prekariat, darunter die Clickworker, die für ihre online erbrachten Leistungen nur wenige Euro erhalten, bringt man nur ungern zur Sprache.
Neben den marktwirtschaftlichen Fehlentwicklungen und unerwünschten Kapitalakkumulationen, die digitale Internetgiganten verursachen, unterminieren wir selbst in unserer Rolle als Konsumenten, was Europa global vorleben will. Die langen Schlangen vor den Apple-Stores und die Erfolge der Silicon-Valley-Angebote sprechen für die Durchsetzungskraft des amerikanischen Turbokapitalismus. Deshalb fragen sich europäische Bürger verwundert bis verständnislos, warum wir in einer Ära, in der ein globaler Markt die maximale Auswahl an Waren verfügbar macht, über schwindende Freiheit debattieren. Nie war unsere Freiheit größer als heute, zwischen Produkten und Dienstleistungen zu wählen, wirft man den Kritikern des Silicon Valley vor. Dem kann man entgegenhalten: Wir debattieren über die Analyse, den Handel und die Nutzung von Massendaten und neue Erkenntnisse über unser privatestes Verhalten aus demselben Grund, der Bürger dazu veranlasst, sich gegen die transatlantische Handels- und Investitionspartnerschaft (TTIP) einzusetzen. Letztlich geht es um den Schutz des Verbrauchers vor der Macht spärlich regulierter Märkte. Jene schenken nichts als eine Illusion von Freiheit: die »Freiheit« des Konsumenten. Sie ist eine andere Freiheit als die des Bürgers, die es auch vor dem Zugriff durch die Wirtschaftsakteure zu schützen gilt. Doch ausgerechnet unser eigenes Konsumverhalten marginalisiert unsere soziale Marktwirtschaft. Allerdings ist der europäische Sonderweg der sozialen Marktwirtschaft so wertvoll, dass wir ihn mit aller Risikobereitschaft verteidigen sollten. Risiko für eine gute Sache lohnt sich immer.
