Atlas der KI E-Book

Kate Crawford

• Herausgeber: C. H. Beck
• Kategorie: Wissenschaft und neue Technologien
• Sprache: Deutsch
• Veröffentlichungsjahr: 2024

Beschreibung

Wir tendieren dazu, künstliche Intelligenz als eine wundersame und körperlose Form maschineller Klugheit zu betrachten. Von der preisgekrönten Wissenschaftlerin Kate Crawford lernen wir hingegen, dass KI in Wahrheit weder künstlich noch intelligent ist, sondern in ihrer materiellen Wirklichkeit auf Ressourcenausbeutung und Machtkonzentration hinausläuft. Crawford nimmt uns mit auf eine faszinierende Reise zu Lithiumminen und Klickfabriken, zu automatisierten Arbeitsplätzen und riesigen Datenarchiven, zu KITrainingscamps und zum algorithmischen Kriegsführungsteam des Pentagon. Auf diese Weise zeichnet sie einen Atlas der künstlichen Intelligenz, der die verschiedenen Bereiche ihrer konkreten Realität kartiert, um unser kritisches Auge zu schulen. Gestützt auf ein Jahrzehnt originärer Forschung zeigt Crawford, dass KI in erster Linie eine Technologie der Extraktion ist – der Abschöpfung von Mineralien, billiger Arbeitskraft und einer unermesslichen Anzahl von Daten. Das planetare Netzwerk der KI schädigt unsere Umwelt massiv, vertieft soziale Ungleichheiten und bedroht demokratische Prinzipien. Crawfords Buch liefert uns eine dringliche Mahnung, was auf dem Spiel steht, wenn große Unternehmen und staatliche Institutionen KI nutzen, um die Welt umzugestalten.

Leseprobe

KATE CRAWFORD

ATLAS DER KI

Die materielle Wahrheit hinter den neuen Datenimperien

Aus dem Englischen von Frank Lachmann

C.H.BECK

Übersicht

Cover

INHALT

Textbeginn

INHALT

Titel

INHALT

Widmung

EINLEITUNG

Das klügste Pferd der Welt

Was ist

KI

? Weder künstlich noch intelligent

KI

wie einen Atlas betrachten

Topografien der Computertechnik

Extraktion, Macht und Politik

1: ERDE

Schürfen für

KI

Landschaften in einer computerisierten Welt

Die mineralogische Schicht

Schwarze Seen und weißer Latex

Der Mythos von der sauberen Technologie

Die logistische Schicht

Künstliche Intelligenz als Megamaschine

2: ARBEIT

Die Vorgeschichte der

KI

in der Arbeitswelt

Eine Potemkin’sche

KI

und die Schachtürken

Visionen der Zerlegung und Arbeitsplatzautomatisierung

Der Fleischmarkt

Management und Privatisierung der Zeit

Eine private Zeit

«The Rate»

3: DATEN

Maschinen das Sehen beibringen

Eine kurze Geschichte des Datenhungers

Das Gesicht erfassen

Vom Internet zu ImageNet

Das Ende der Einwilligung

Datenmythen, Datenmetaphern

Eine Ethik auf Distanz

Die Aneignung der Commons

4: KLASSIFIZIERUNG

Systeme zirkulärer Logik

Die Grenzen der Entzerrung von Systemen

Die vielen Definitionen von Verzerrung

Trainingssätze als Klassifizierungsmaschinen: Das Beispiel ImageNet

Die Macht, «Person» zu definieren

Die Konstruktion von

race

und Geschlecht

Die Grenzen der Messbarkeit

5: AFFEKT

Emotionspropheten: Wenn sich Gefühle auszahlen

«Der berühmteste Gesichterleser der Welt»

Affekt: Von der Physiognomie zur Fotografie

Gefühle einfangen: Die Kunst, Emotionen zu inszenieren

Die vielen Kritiken an Ekmans Theorien

Die Politik der Gesichter

6: STAAT

Die Entstehung des «Dritten Ausgleichs»

Auftritt Project Maven

Der outgesourcte Staat

Vom «Terrorist Credit Score» zum Sozialkredit-System

Der wirre Heuhaufen

SCHLUSS: MACHT

Spiele ohne Grenzen

Die Pipelines der künstlichen Intelligenz

Die Karte ist nicht das Gebiet

Für eine Verknüpfung der Kämpfe für Gerechtigkeit

CODA: WELTRAUM

DANKSAGUNG

BIBLIOGRAFIE

ANMERKUNGEN

Einleitung

1 Erde

2 Arbeit

3 Daten

4 Klassifizierung

5 Affekt

6 Staat

Schluss: Macht

Coda: Weltraum

BILDNACHWEIS

REGISTER

Zum Buch

Vita

Impressum

Für Elliott und Margaret

EINLEITUNG

Das klügste Pferd der Welt

Europa war am Ende des 19. Jahrhunderts gefesselt von einem Pferd namens Hans. Der «Kluge Hans» war ein wahres Wunder: Er konnte mathematische Aufgaben lösen, die Zeit angeben, Tage auf dem Kalender markieren, musikalische Töne unterscheiden sowie Wörter und Sätze buchstabieren. Die Leute rissen sich darum, den deutschen Hengst dabei zu beobachten, wie er durch das Klopfen mit seinen Hufen Antworten auf schwierige Probleme diktierte und dabei zuverlässig richtiglag. «Was ist zwei plus drei?» Hans stampfte eifrig fünfmal auf dem Boden auf. «Welcher Wochentag ist heute?» Das Pferd stampfte mit den Hufen auf, um jeden einzelnen Buchstaben auf einer zu diesem Zweck präparierten Tafel anzuzeigen, und buchstabierte auf diese Weise die korrekte Antwort. Und Hans konnte sogar noch komplexere Aufgaben lösen, etwa diese: «Ich denke an eine bestimmte Zahl. Von dieser ziehe ich neun ab und lande im Ergebnis bei der Drei. An welche Zahl denke ich?» Bis zum Jahr 1904 hatte der Kluge Hans internationale Berühmtheit erlangt; die New York Times feierte ihn mit den Worten «Berlins wundersames Pferd – es kann fast alles außer sprechen».[1]

Hans’ Trainer, ein pensionierter Mathematiklehrer namens Wilhelm von Osten, war lange schon von tierischer Intelligenz fasziniert. Er hatte sich bereits erfolglos an der Unterrichtung von Katzen- und Bärenjungen in großer Zahl versucht, doch erst die Arbeit mit seinem eigenen Pferd war erfolgreich. Am Anfang brachte er Hans das Zählen bei, indem er dessen Bein hochhielt, ihm eine Zahl präsentierte und dann die Hufe entsprechend häufig auf dem Boden aufsetzte. Bald schon gab Hans die Ergebnisse einfacher Additionen durch seine Huftritte zutreffend wieder. Anschließend brachte van Osten eine Tafel mit dem Alphabet ins Spiel, sodass Hans nun Buchstaben benennen konnte, indem er so und so viele Male aufstampfte. Nach zwei Jahren Ausbildung war von Osten überrascht von dem tiefen Verständnis komplexer gedanklicher Gebilde, das das Tier an den Tag legte. Daher ging er nun mit Hans auf Tournee, um zu beweisen, dass auch Tiere denken konnten. Damit wurde das Pferd zu einer viralen Sensation der Belle Époque.

Viele Leute waren allerdings skeptisch. Das preußische Kultusministerium richtete eine Untersuchungskommission ein, die von Ostens wissenschaftliche Behauptungen überprüfen sollte. Die «Hans-Kommission» wurde vom Psychologen und Philosophen Carl Stumpf sowie von seinem Assistenten Oskar Pfungst geleitet. Sie bestand unter anderem aus einem Zirkusdirektor, einem pensionierten Lehrer, einem Zoologen, einem Tierarzt und einem Offizier der Kavallerie. Doch auch nach ausführlichen Befragungen des Tiers sowohl in An- als auch in Abwesenheit seines Trainers konnte das Pferd die Liste seiner richtigen Antworten ununterbrochen fortführen und die Kommission keine Belege für etwaige Betrügereien finden. Wie Pfungst später schrieb, stellte Hans seine Künste vor «Tausende(n) von Zuschauern während vieler Monate» unter Beweis – «Pferdekenner, Trick-Kenner ersten Ranges, unter denen nicht ein einziger irgendwelche regelmäßige Zeichen bemerkt», die zwischen Befrager und Pferd ausgetauscht worden wären.[2]

Die Kommission befand, dass die Methoden, nach denen Hans unterwiesen worden war, eher dem «Unterricht von Kindern in der Grundschule» ähnelten als der Abrichtung eines Tiers und daher «der wissenschaftlichen Erforschung lohnten».[3] Doch Stumpf und Pfungst hegten immer noch Zweifel. Einer ihrer Befunde gab ihnen besonders zu denken: Wenn der Befrager selbst die Lösung nicht kannte oder weit entfernt von ihm stand, antwortete Hans nur selten richtig. Dies führte Pfungst und Stumpf zu der Überlegung, ob möglicherweise irgendein unbewusstes Signal die Antworten an Hans übermittelt haben könnte.

Wilhelm von Osten und der Kluge Hans

Und wie Pfungst in seinem Buch von 1911 beschreibt, hatte sie ihr Gefühl nicht getäuscht: Die Pose des Befragers, sein Atem und seine Mimik veränderten sich auf kaum merkliche Weise, wenn sich das Tier der richtigen Antwort näherte, und brachten es dazu, an der entsprechenden Stelle innezuhalten.[4] Später erprobte Pfungst diese Hypothese auch an menschlichen Testkandidaten und fand sein Ergebnis bestätigt. Am meisten faszinierte ihn an dieser Entdeckung, dass den Fragestellern im Allgemeinen gar nicht bewusst war, dass sie dem Pferd Hinweise gaben. Die Lösung des Rätsels vom Klugen Hans war also, so Pfungst, die unbewusste Anleitung durch den Befrager des Pferds:[5] Das Tier wurde daraufhin konditioniert, die Resultate zu erzielen, die sein Besitzer sehen wollte; das Publikum hingegen fand, dass dies nicht das war, was es sich unter einer außergewöhnlichen Intelligenz vorgestellt hatte.

Die Geschichte vom Klugen Hans ist in vielerlei Hinsicht verlockend: in Bezug auf das Verhältnis von Wünschen, Einbildung und Handeln; mit Blick auf die Ökonomie des Spektakels und auf die Frage, wie wir das Nichtmenschliche anthropomorphisieren; in Bezug darauf, wie ein kognitiver Bias entsteht; und hinsichtlich einer Politik der Intelligenz. Hans regte die Prägung eines Begriffs an, der in der Psychologie für eine bestimmte Art von begrifflicher Falle steht: der Kluge-Hans-Effekt, auch Observer-expectancy-Effekt genannt. Mit ihm wird der Einfluss der vom Versuchsleiter seinen Versuchspersonen unabsichtlich vermittelten Hinweise beschrieben. Das Verhältnis zwischen Hans und von Osten macht die komplexen Mechanismen deutlich, durch die kognitive Verzerrungen ihren Weg in Systeme hineinfinden, und weist darauf hin, wie Menschen sich in die Phänomene verstricken, die sie untersuchen. Heute wird diese Geschichte im Kontext des maschinellen Lernens als Mahnung erzählt, dass man nicht immer wissen könne, was ein Modell eigentlich genau aus den Daten lerne, mit denen man es füttert.[6] Selbst ein System, das im Training offenbar spektakulär abschneidet, kann furchtbar schlechte Voraussagen treffen, wenn ihm neuartige Daten aus der Welt vorgelegt werden.

Dies führt uns zu einer zentralen Frage dieses Buchs: Wie wird Intelligenz «gemacht», und welche Fallen können sich dadurch auftun? Die Geschichte vom Klugen Hans handelt auf den ersten Blick davon, wie ein Mensch Intelligenz erschaffen hat, und zwar dadurch, dass er ein Pferd dazu abrichtete, auf Signale zu reagieren und dabei ein menschenähnliches Erkenntnisvermögen zu imitieren. Auf einer anderen Ebene jedoch erkennen wir, dass dieses Verfahren der Intelligenzherstellung noch viel breiter angelegt war. Denn dieses Unterfangen war darauf angewiesen, durch eine Vielzahl von Institutionen validiert und bestätigt zu werden, darunter Universitäten, Schulen, die Wissenschaft, die öffentliche Meinung und das Militär. Und außerdem gab es ja auch noch einen Markt für von Osten und sein besonderes Pferd – emotionale und finanzielle Investitionen, die die Besichtigungstouren, Zeitungsberichte und Vorträge antrieben. Bürokratische Autoritäten wurden versammelt, um die Fähigkeiten des Tiers zu messen und zu testen. In die Konstruktion von Hans’ Intelligenz spielte also ein ganzes Konglomerat von finanziellen, kulturellen und wissenschaftlichen Interessen hinein und entschied mit darüber, ob diese tatsächlich außergewöhnlich war.

Wir sehen hier zwei unterschiedliche Mythologien am Werk. Der erste Mythos besagt, dass nichtmenschliche Systeme (seien es Computer oder Pferde) dem menschlichen Geist irgendwie analog wären. Diese Auffassung unterstellt, dass – genügend Training oder Ressourcen vorausgesetzt – eine menschenähnliche Intelligenz aus dem Nichts geschaffen werden könnte, ohne dabei die grundlegende Tatsache zu berücksichtigen, dass Menschen körperliche und soziale Wesen sind, die in größere ökologische Zusammenhänge eingebettet sind. Der zweite Mythos besagt, dass Intelligenz etwas ist, das freischwebend existiert, so als wäre sie ein natürlicher, von gesellschaftlichen, kulturellen, historischen und politischen Kräfteverhältnissen losgelöster Gegenstand. Tatsächlich hat diese Auffassung von Intelligenz im Laufe der Jahrhunderte einen enormen Schaden angerichtet und diente auch dazu, Herrschaftsverhältnisse von der Sklaverei bis zur Eugenik zu rechtfertigen.[7]

Besonders wirkmächtig sind diese Mythologien auf dem Feld der künstlichen Intelligenz, wo seit Mitte des 20. Jahrhunderts die unumstößliche Überzeugung vorherrscht, dass die menschliche Intelligenz formalisiert und durch Maschinen reproduziert werden könne. So wie Hans’ Intelligenz, die vermeintlich so sorgfältig herangezogen worden war wie ein Grundschulkind, mit der Intelligenz eines Menschen vergleichbar galt, so wurden auch KI-Systeme wiederholt als zwar simple, aber dennoch menschenähnliche Formen von Intelligenz beschrieben. 1950 prognostizierte Alan Turing, «daß am Ende des Jahrhunderts der Gebrauch von Wörtern und die allgemeinen Ansichten der Gebildeten sich so sehr geändert haben werden, daß man ohne Widerspruch von denkenden Maschinen wird reden können».[8] Der Mathematiker John von Neumann erklärte 1958, dass das menschliche Nervensystem «prima facie digitaler Natur» sei,[9] und der MIT-Professor Marvin Minsky antwortete einmal auf die Frage, ob Maschinen denken könnten: «Natürlich können Maschinen denken; wir können denken, und wir sind ‹Fleischmaschinen›.»[10] Nicht jeder teilte jedoch diese Auffassung. Joseph Weizenbaum, ein früher Erfinder im KI-Bereich und Schöpfer des ersten Chatbot-Programms namens ELIZA, war der Meinung, dass dem Bild vom Menschen als bloßem Informationsverarbeitungssystem ein viel zu vereinfachter Intelligenzbegriff zugrunde liege, der wiederum der «perversen, grandiosen Phantasie» das Wort geredet habe, dass KI-Forscher eine Maschine erschaffen könnten, die lerne «wie ein Kind».[11]

Dies war einer der entscheidenden Streitpunkte in der Geschichte der künstlichen Intelligenz. Im Jahr 1961 veranstaltete das MIT eine wegweisende Vortragsreihe mit dem Titel «Management and the Computer of the Future». Ein herausragendes Aufgebot an Computerwissenschaftlerinnen und -wissenschaftlern nahm daran teil, darunter Grace Hopper, J. C. R. Licklider, Marvin Minsky, Allen Newell, Herbert Simon und Norbert Wiener, und diskutierte über die rapiden Fortschritte, die bei der digitalen Datenverarbeitung erzielt worden waren. Zum Abschluss brachte John McCarthy die kühne These vor, dass die Unterschiede zwischen menschlichen und maschinellen Aufgaben illusorisch sei. Letztere seien einfach komplizierte menschliche Aufgaben, für die es bloß mehr Zeit brauche, um sie zu formalisieren und von Maschinen lösen zu lassen.[12]

Der Philosophieprofessor Hubert Dreyfus widersprach dem allerdings und äußerte die Sorge, dass die versammelten Ingenieure und Ingenieurinnen «die Möglichkeit nicht einmal in Erwägung ziehen, dass das Gehirn Informationen auf völlig andere Weise verarbeiten könnte als ein Computer».[13] Und in seinem späteren Werk Was Computer nicht können macht er deutlich, dass menschliche Intelligenz und Sachverstand stark von vielen un- und vorbewussten Prozessen abhängig sind, während Computer für ihr Funktionieren darauf angewiesen sind, dass alle Prozesse und Daten explizit ausformuliert und formalisiert sind.[14] Weniger formale Aspekte der Intelligenz müssten daher entweder abstrakter gefasst, eliminiert oder auf die Erfordernisse des Computers zugeschnitten werden, was ihn unfähig dazu mache, Informationen über Situationen so zu verarbeiten, wie es Menschen tun.

Auf dem Feld der KI hat sich seit den 1960er Jahren vieles verändert. Unter anderem kam es zu einem Übergang von symbolischen Systemen hin zu jener Welle der Begeisterung für Techniken des maschinellen Lernens, wie wir sie in jüngerer Zeit beobachten können. Die frühen Auseinandersetzungen darüber, was KI eigentlich leisten kann, sind vergessen, und die Skepsis ist verflogen. Seit Mitte der 2000er Jahre hat sich die künstliche Intelligenz in Windeseile sowohl zu einem akademischen Forschungsfeld als auch zu einer ganzen Industrie ausgewachsen. Heute setzen einige wenige mächtige Technologiekonzerne KI-Systeme im planetarischen Maßstab ein, und erneut werden diese als mit der menschlichen Intelligenz vergleichbar oder ihr sogar überlegen angepriesen.

Die Geschichte vom Klugen Hans erinnert uns allerdings daran, wie spezifisch das eigentlich ist, was wir unter Intelligenz verstehen oder als solche anzuerkennen bereit sind. Hans wurde gelehrt, die Lösung von Aufgaben in einem sehr eng umgrenzten Rahmen zu imitieren: addieren, subtrahieren und Wörter buchstabieren. Dies spiegelt eine eingeschränkte Perspektive wider auf das, was Pferde und Menschen können. Hans vollbrachte zwar schon beachtliche Leistungen in den Bereichen der artübergreifenden Kommunikation, der öffentlichen Vorführung und des geduldigen Abwartens, aber dennoch wurden diese nicht als Intelligenz anerkannt. Wie es die Autorin und Ingenieurin Ellen Ullman ausdrückt, habe jener Glaube, dass der Geist wie ein Computer und umgekehrt sei, «Jahrzehnte des Nachdenkens in den Computer- und Kognitionswissenschaften infiziert» und stelle eine Art Erbsünde in diesem Bereich dar.[15] In der künstlichen Intelligenz steckt die Ideologie eines kartesischen Dualismus: Sie wird im engen Sinne als entkörperlichte Intelligenz verstanden, bar jeder Beziehung zur materiellen Welt.

Was ist KI? Weder künstlich noch intelligent

Stellen wir einmal die trügerisch einfache Frage: Was ist künstliche Intelligenz? Wenn Sie eine Passantin auf der Straße danach fragen, wird sie möglicherweise Siri von Apple nennen oder Amazons Cloudspeicher, die Autos von Tesla oder den Suchalgorithmus von Google. Wenn Sie die gleiche Frage hingegen an Experten auf dem Gebiet des Deep Learning richten, dann geben diese Ihnen wahrscheinlich eine eher technische Antwort, die sich darum dreht, wie neuronale Netze sich aus Dutzenden von Schichten zusammensetzen, gelabelte Daten empfangen, Gewichtungen und Schwellenwerte zugewiesen bekommen und damit Daten auf eine Weise zu klassifizieren in der Lage sind, die noch nicht vollständig erklärt werden kann.[16] Im Zuge einer Analyse von Expertensystemen beschrieb Professor Donald Michie im Jahr 1978 künstliche Intelligenz als eine Verfeinerung des Wissens, bei der «eine Zuverlässigkeit und Kompetenz der Kodifizierung hergestellt werden kann, die über das höchste Niveau weit hinausgeht, welches ein menschlicher Experte ohne externe Hilfsmittel jemals erreicht hat, ja vielleicht auch nur erreichen konnte».[17] In einem der bekanntesten Lehrbücher zum Thema vertreten Stuart Russell und Peter Norvig die Ansicht, dass KI der Versuch sei, intelligente Wesen zu verstehen und zu konstruieren. «Intelligenz hat primär mit rationalem Handeln zu tun», wie sie behaupten. «Idealerweise vollführt ein intelligenter Akteur die bestmögliche Handlung in einer gegebenen Situation.»[18]

Jeder Versuch, künstliche Intelligenz zu definieren, tut etwas, indem er einen Rahmen dafür festlegt, wie diese aufzufassen, gemessen, bewertet und reguliert werden sollte. Wird KI von Konsumgüterherstellern für ihre konzernweite Infrastruktur definiert, dann bestimmen Marketing und Werbung ihren Horizont. Werden KI-Systeme als zuverlässiger oder rationaler als jeder menschliche Akteur betrachtet, da sie vermeintlich in der Lage sind, die «bestmögliche Handlung» auszuführen, dann legt dies nahe, dass man ihnen auch weitreichendere Entscheidungen auf den Gebieten der Gesundheitsversorgung, des Bildungswesens oder der Strafjustiz überlassen könnte. Und stehen einzig spezielle Algorithmen im Fokus des Interesses, dann suggeriert dieser Umstand, dass nur der ununterbrochene technische Fortschritt zähle und weder die Rechenkosten solcher Ansätze noch ihre weitreichenden Auswirkungen auf einen ohnehin schon unter Stress stehenden Planeten mitberücksichtigt werden.

Im Gegensatz dazu möchte ich in diesem Buch die These darlegen, dass KI weder künstlich noch intelligent ist. Künstliche Intelligenz ist vielmehr verkörpert und materiell ‒ hergestellt auf der Basis von natürlichen Rohstoffen, Kraftstoffen, menschlicher Arbeitskraft, Infrastrukturen, Logistiken, Geschichten und Klassifikationen. KI-Systeme sind ohne ein vorheriges ausgiebiges und rechenintensives Training mit umfangreichen Datensätzen oder vorgegebenen Regeln und Belohnungen weder autonom noch rational oder auch nur in der Lage, irgendetwas wahrzunehmen. Tatsächlich ist die künstliche Intelligenz, so wie wir sie kennen, in ihrer Existenz sogar vollkommen auf zahlreiche übergeordnete politische und soziale Strukturen angewiesen. Und aufgrund des Kapitals, das für die Entwicklung von KI in großem Maßstab erforderlich ist, und der Arten von Wahrnehmung, die durch sie optimiert wird, sind KI-Systeme letztlich so konzipiert, dass sie den bestehenden herrschenden Interessen dienen. In diesem Sinne ist künstliche Intelligenz ein Register der Macht.

In diesem Buch werden wir der Frage nachgehen, wie künstliche Intelligenz im weitesten Sinne gemacht wird, und die ökonomischen, politischen, kulturellen und geschichtlichen Kräfte aufdecken, die sie prägen. Haben wir die KI erst einmal mit solchen größeren Strukturen und sozialen Systemen wieder verbunden, dann können wir auch die Vorstellung mit guten Gründen zurückweisen, dass künstliche Intelligenz nur eine Sache der Technologie sei. Ganz grundlegend betrachtet sind es technische und soziale Praktiken, Institutionen und Infrastrukturen, Politik und Kultur, die KI ausmachen. Rechnerische Vernunft und verkörperte Arbeit sind zutiefst miteinander verbunden, denn KI-Systeme reflektieren soziale Beziehungen und Weltverständnisse ebenso, wie sie sie hervorbringen.

Es sei erwähnt, dass der Ausdruck «künstliche Intelligenz» in der computerwissenschaftlichen Gemeinschaft Unbehagen hervorrufen kann. Über die Jahrzehnte hinweg war er immer mal wieder ein modisches Schlagwort und wird eher beim Marketing als in der Forschung benutzt. In der technischen Literatur gängiger ist der Ausdruck «maschinelles Lernen». Trotzdem wird die Rede von KI häufig im Rahmen von Forschungsförderungsanträgen verwendet, wenn Risikokapitalgeber ihre Scheckbücher ziehen sollen oder Forschende die Aufmerksamkeit der Presse erheischen wollen, um eine neue wissenschaftliche Entdeckung publik zu machen. Das heißt, sowohl der aktive Gebrauch als auch die Ablehnung des Begriffs sorgen dafür, dass sein Bedeutungsgehalt stets im Fluss ist. Für meine Zwecke verwende ich den Ausdruck KI, um damit jenen gewaltigen industriellen Apparat zu bezeichnen, in den auch Politik, Arbeit, Kultur und Kapital involviert sind. Wenn ich hingegen vom maschinellen Lernen spreche, dann meine ich damit eine Reihe von technischen Verfahren (die aber eigentlich auch sozialen und infrastrukturellen Charakter besitzen, auch wenn sie kaum jemals unter diesem Aspekt thematisiert werden).

Es gibt jedoch gewichtige Gründe dafür, warum sich das Feld so sehr auf die technischen Aspekte konzentriert hat – auf algorithmische Fortschritte, zunehmende Produktverbesserungen und größeren Bedienungskomfort. Die Machtstrukturen an der Schnittstelle von Technologie, Kapital und Governance profitieren sehr von einer solch verengten, abstrahierenden Analyse. Um zu verstehen, inwiefern KI grundlegend politisch ist, müssen wir daher über die Betrachtung neuronaler Netze und statistischer Mustererkennung hinausgehen und stattdessen fragen, was optimiert wird sowie für wen und wer darüber entscheiden darf. Anschließend können wir dann die Auswirkungen dieser Entscheidungen nachzeichnen.

KI wie einen Atlas betrachten

Wie kann ein Atlas uns zu verstehen helfen, wie künstliche Intelligenz gemacht wird? Ein Atlas ist ein ungewöhnliches Buch: Er ist eine Ansammlung disparater Teile, mit Karten, die in ihrem Maßstab variieren – von einer Satelitenaufnahme der Erde bis hin zur detaillierten Darstellung einer Inselgruppe. Wenn Sie ihn aufschlagen, dann sind Sie vermutlich auf der Suche nach spezifischen Informationen über einen bestimmten Ort – oder eben auch nicht. Vielleicht lassen Sie sich auch einfach treiben, folgen Ihrer Neugier und stoßen auf unerwartete Pfade und neue Perspektiven. Nach Ansicht der Wissenschaftshistorikerin Lorraine Daston zielen alle wissenschaftlichen Atlanten darauf ab, den Blick zu schulen und die Aufmerksamkeit der Betrachtenden auf bestimmte aufschlussreiche Details und signifikante Merkmale zu lenken.[19] Ein Atlas vermittelt Leser:innen eine bestimmte Sichtweise auf die Welt, versehen mit dem Signum der Wissenschaftlichkeit – in Gestalt von Maßstäben und Verhältnissen, Breiten- und Längengraden –, und einen Sinn für Form und Konsistenz.

Dennoch ist ein Atlas ebenso sehr ein kreativer Akt – eine subjektive, politische und ästhetische Intervention – wie eine Sammlung von wissenschaftlichen Daten. Der französische Philosoph Georges Didi-Huberman betrachtet ihn als etwas, das sowohl im ästhetischen Paradigma des Visuellen als auch im epistemischen Paradigma des Wissens beheimatet ist. Dadurch, dass er hier beide aufführt, unterminiert er die Ansicht, dass Wissenschaft und Kunst jemals vollständig voneinander getrennt sein könnten.[20] Ein Atlas bietet uns vielmehr die Möglichkeit, die Welt neu zu lesen, disparate Teile auf andere Weise miteinander zu verknüpfen und sie «neu zu bearbeiten und wieder zusammenzusetzen, ohne zu glauben, dass wir sie zusammenfassen oder erschöpfen».[21]

Mein vielleicht liebster Ausspruch darüber, inwiefern ein kartografischer Ansatz von Nutzen sein kann, stammt allerdings aus der Feder der Physikerin und Technologiekritikerin Ursula Franklin, die schrieb: «Landkarten sind etwas Zielgerichtetes: Sie sollen nützlich sein, indem sie dem Reisenden helfen und die Kluft zwischen dem Bekannten und dem noch Unbekannten überbrücken; sie sind Zeugnisse kollektiven Wissens und kollektiver Einsicht.»[22]

Karten präsentieren uns im besten Fall eine Zusammenstellung offener Pfade – also kollektiver Wege der Erkenntnis –, die gemischt und zu neuen Verbindungen kombiniert werden können. Aber es gibt auch Karten der Herrschaft; jene Länderkarten, auf denen das betreffende Hoheitsgebiet entlang der Konfliktlinie der Macht eingezeichnet ist – von den unmittelbaren Interventionen der Grenzziehung quer durch umkämpfte Räume bis hin zur Offenlegung der kolonialen Wege der Imperien. Indem ich hier das Bild des Atlas bemühe, möchte ich ausdrücken, dass wir neue Wege brauchen, um die Imperien der künstlichen Intelligenz zu verstehen. Wir brauchen eine Theorie der KI, die die Staaten und Unternehmen benennt, die ihre Entwicklung vorantreiben und sie dominieren, den Abbau von Bodenschätzen berücksichtigt, der seine Spuren auf dem Planeten hinterlässt, sowie die massenhafte Datenerhebung und die zutiefst ungleichen und zunehmend ausbeuterischen Arbeitspraktiken mitbedenkt, die sie in Gang halten. Das sind die tektonischen Kräfteverhältnisse, die sich in Bezug auf die KI in steter Bewegung befinden. Ein topografischer Ansatz liefert verschiedene Perspektiven und Maßstäbe jenseits der abstrakten Versprechungen der künstlichen Intelligenz oder der neuesten Machine-Learning-Modelle. Ziel ist es, KI in einem größeren Zusammenhang zu begreifen, indem wir die vielen verschiedenen Landschaften der Datenverarbeitung durchschreiten und sehen, wie sie miteinander verbunden sind.[23]

Atlanten sind an dieser Stelle aber auch in anderer Hinsicht von Bedeutung. Das Feld der KI ist nämlich ausdrücklich bestrebt, die Erde in eine computerlesbare Gestalt zu bringen. Dies ist weniger eine Metapher als vielmehr das erklärte Ziel der Branche. Die KI-Industrie erstellt und standardisiert daher ihre ganz eigenen geschützten Karten, die eine Beobachtung des Menschen in seinen Bewegungen, seiner Kommunikation und seiner Arbeit aus gottähnlicher Perspektive darstellen. Einige KI-Forscherinnen und -Forscher haben sich sogar zu der Ambition bekannt, die Welt zu erfassen und andere Formen des Wissens ablösen zu wollen. So bezeichnet die KI-Professorin Fei-Fei Li ihr Projekt ImageNet als Versuch, «die gesamte gegenständliche Welt zu kartieren».[24] Russell und Norvig bezeichnen die KI in ihrem Lehrbuch als «für jede intellektuelle Aufgabe relevant; sie ist ein wahrhaft universelles Gebiet».[25] Und Woody Bledsoe, einer der Väter der KI und früher ein Tüftler auf dem Gebiet der Gesichtserkennung, drückte es ganz unumwunden so aus: «Auf lange Sicht ist KI die einzige Wissenschaft.»[26] Hier geht es nicht um den Wunsch, einen Atlas der Welt zu kreieren, sondern selbst der Atlas zu sein – die vorherrschende Art, zu sehen. Dieser kolonisierende Impuls zentralisiert die Macht auf dem Gebiet der KI – denn er legt fest, wie die Welt gemessen und definiert wird, während er gleichzeitig die Tatsache leugnet, dass dies eine durch und durch politische Aktivität ist.

Dieses Buch erhebt nicht den Anspruch auf Universalität. Es ist vielmehr der Versuch einer partiellen Darstellung der Verhältnisse, und ich hoffe, dass ich Ihnen, indem ich Sie auf meine Forschungsreise mitnehme, zeigen kann, wie meine Auffassungen entstanden sind. Wir werden sowohl gut besuchte als auch weniger bekannte Landschaften der Computertechnik kennenlernen: Bergwerkschächte, die langen Korridore energiehungriger Rechenzentren, Schädelsammlungen, Bilddatenbanken und die neonbeleuchteten Hangars von Versandlagern. Diese Orte werden hier nicht nur deshalb berücksichtigt, um die materielle Konstruktion der KI und ihrer Ideologien zu veranschaulichen, sondern auch, um «die unweigerlich subjektiven und politischen Aspekte der Kartierung zu beleuchten und Alternativen zu hegemonialen, autoritären – und oftmals naturalisierten und verdinglichten – Ansätzen aufzuzeigen», wie die Medienwissenschaftlerin Shannon Mattern schreibt.[27]

Modelle zum Verständnis von Systemen und deren Rechenschaftspflichten fußten lange Zeit auf dem Transparenzgedanken. Wie ich zusammen mit dem Medienforscher Mike Ananny geschrieben habe, wird die Fähigkeit, ein System zu erkennen, dabei manchmal mit der Fähigkeit gleichgesetzt, zu wissen, wie es funktioniert und wie man es steuern kann.[28] Doch dieser Schluss weist nur eine recht eng begrenzte Gültigkeit auf. Im Falle der künstlichen Intelligenz gibt es nicht die eine Blackbox, die es zu öffnen, oder das eine Geheimnis, das es zu lüften gilt; vielmehr liegt hier eine Vielzahl von miteinander verknüpften Machtsystemen vor. Vollständige Transparenz ist daher ein unerreichbares Ziel. Ein besseres Verständnis von der Rolle der KI in der Welt gewinnen wir eher dadurch, dass wir uns mit ihren materiellen Architekturen, kontextuellen Umgebungen und der in Bezug auf sie vorherrschend betriebenen Politik auseinandersetzen und nachzeichnen, wie diese untereinander verbunden sind.

Meine Überlegungen in diesem Buch sind von den Disziplinen der Science and Technology Studies, der Rechtswissenschaften und der politischen Philosophie sowie von meinen persönlichen Erfahrungen geprägt, die ich seit fast einem Jahrzehnt sowohl an der Universität als auch in einem kommerziellen KI-Forschungslabor gesammelt habe. In diesen Jahren haben viele großherzige einzelne Kolleginnen und Kollegen und auch ganze Gruppen meine Sicht auf die Welt verändert. Kartierung ist stets eine Gemeinschaftsaufgabe, und bei diesem Buch ist es nicht anders.[29] Ich danke den Wissenschaftlerinnen und Wissenschaftlern, die neue Möglichkeiten eröffnet haben, soziotechnische Systeme zu verstehen – darunter Geoffrey Bowker, Benjamin Bratton, Wendy Chun, Lorraine Daston, Peter Galison, Ian Hacking, Stuart Hall, Donald MacKenzie, Achille Mbembe, Alondra Nelson, Susan Leigh Star, Lucy Suchman und viele andere. Dieses Buch hat zudem von vielen persönlichen Gesprächen mit Autoren und Autorinnen profitiert, die sich mit Technologiepolitik beschäftigen, ebenso wie von der Lektüre ihrer jüngsten einschlägigen Arbeiten; unter anderem möchte ich hier Mark Andrejevic, Ruha Benjamin, Meredith Broussard, Simone Browne, Julie Cohen, Sasha Costanza-Chock, Virginia Eubanks, Tarleton Gillespie, Mar Hicks, Tung-Hui Hu, Yuk Hui, Safiya Umoja Noble und Astra Taylor nennen.

Wie jedes Buch, so ist auch dieses aus einer spezifischen gelebten Erfahrung heraus entstanden, die ihm gewisse Grenzen auferlegt. Als jemand, der in den letzten zehn Jahren in den USA gelebt und gearbeitet hat, liegt mein Hauptaugenmerk auf der KI-Industrie in den westlichen Zentren der Macht. Mein Ziel ist es jedoch nicht, einen vollständigen Weltatlas zu erstellen – schon der Gedanke daran lässt an Eroberung und koloniale Kontrolle denken. Stattdessen kann die Sichtweise jeder Autorin und jedes Autors nur eine partielle sein, die sich auf Beobachtungen und Interpretationen vor Ort stützt – also auf eine, mit der Umweltgeografin Samantha Saville gesprochen, «bescheidene Geografie», die die eigene spezifische Perspektive in den Vordergrund rückt, statt Objektivität oder die totale Kontrolle der betreffenden Sache zu beanspruchen.[30]

So wie es viele Möglichkeiten gibt, einen Atlas zu erstellen, so gibt es auch viele denkbare Zukünfte für den Einsatz von künstlicher Intelligenz in der Welt. Die zunehmende Ausbreitung von KI-Systemen mag zwar unabwendbar erscheinen, doch ist diese Überzeugung durchaus anfechtbar und greift außerdem zu kurz. Die grundlegenden Vorstellungen vom Feld der künstlichen Intelligenz entstehen ja nicht aus sich selbst heraus, sondern sind aus einer Reihe bestimmter Glaubenssätze und Perspektiven heraus erwachsen. Die maßgeblichen Schöpferinnen und Schöpfer eines KI-Atlas der Gegenwart machen zudem nur eine kleine und homogene Gruppe von Menschen aus, die in ein paar wenigen Städten leben und in einer Branche arbeiten, die derzeit die finanzstärkste der Welt ist. Wie die mittelalterlichen europäischen mappae mundi, die religiöse und klassische Motive ebenso illustrierten wie Koordinaten, sind also auch die von der KI-Industrie erstellten Karten politische Interventionen und keine neutralen Spiegelbilder der Welt. Dieses Buch richtet sich nun gegen den Geist einer solchen kolonialen Kartierungslogik und bezieht daher verschiedene Geschichten, Orte und Wissensquellen mit ein, um die Rolle der künstlichen Intelligenz in der Welt besser zu verstehen.

Heinrich Büntings mappa mundi, auch bekannt unter ihrer Überschrift «Die gantze Welt in einem Kleberblat/Welches ist der Stadt Hannover/meines lieben Vaterlandes Wapen». Die Form des Kleeblatts symbolisiert die christliche Dreifaltigkeit, mit Jerusalem als Zentrum der Welt.

Topografien der Computertechnik

Wie wird KI heute, im 21. Jahrhundert, konzeptualisiert und konstruiert? Was steht bei der Hinwendung zu künstlicher Intelligenz auf dem Spiel, und welche Arten von Politik sind in der Art und Weise impliziert, mit der diese Systeme die Welt kartieren und interpretieren? Welche sozialen und materiellen Folgen hat es, wenn KI und mit ihr zusammenhängende algorithmische Systeme in die Entscheidungsfindungsprozesse von sozialen Institutionen einbezogen werden, zum Beispiel im Bildungs- und Gesundheitswesen, in der Finanzwirtschaft, beim staatlichen Handeln, bei der Einstellung neuer Beschäftigter und ihrem Umgang miteinander oder im Kommunikations- und Justizsystem? Dieses Buch erzählt keine Geschichte über Codes und Algorithmen oder die neuesten Entwicklungen im Bereich der Computer Vision, der rechnergestützten Sprachverarbeitung oder des bestärkenden Lernens. Das machen viele andere Bücher. Es ist auch kein ethnografischer Bericht über eine einzelne Gemeinschaft und die Auswirkungen von künstlicher Intelligenz auf deren Arbeitswelt, ihre Wohnsituation oder ihre medizinische Versorgung – auch wenn wir sicherlich mehr von solchen Schilderungen gebrauchen könnten.

Stattdessen handelt es sich um einen weitergefassten Blick auf die künstliche Intelligenz als eine extraktive Industrie. Denn die Entwicklung heutiger KI-Systeme hängt von der Ausbeutung der Energie- und Rohstoffvorkommen des Planeten, von billigen Arbeitskräften und von Daten in großem Maßstab ab. Um die Auswirkungen dieses Umstands in der Realität zu beobachten, unternehmen wir einige Reisen an Orte, die die Entwicklung und Machart von KI in der Gegenwart erkennbar machen.

In Kapitel 1 beginnen wir in den Lithium-Minen von Nevada, einem der vielen Orte, an denen die Mineralien für die moderne Computertechnik gewonnen werden. Am Bergbau zeigt sich die extraktive Politik der KI am deutlichsten: Der Bedarf des Tech-Sektors an seltenen Erden, Öl und Kohle ist enorm, aber die wahren Kosten dieser Förderung werden nie von der Industrie selbst getragen. Auf der Softwareseite ist die Entwicklung von Modellen für die Sprachverarbeitung und die Computer Vision äußerst energieaufwendig, und der Wettlauf darum, immer schnellere und effizientere Modelle zu entwickeln, hat zu enorm rechenintensiven Methoden geführt, die den CO2-Fußabdruck der KI vergrößern. Von den letzten Bäumen in Malaysia, die abgeholzt wurden, um das Latex für die ersten transatlantischen Unterseekabel zu produzieren, bis hin zu einem riesigen künstlichen See mit giftigen Rückständen in der Inneren Mongolei verfolgen wir die natürlichen und menschlichen Geburtsstätten planetarer Computernetzwerke und beobachten, wie sie den Planeten weiterhin terraformieren.

Kapitel 2 zeigt, wie künstliche Intelligenz aus menschlicher Arbeit gemacht wird. Wir werfen einen Blick auf jene digitalen Tagelöhner, die für einen Hungerlohn Mikroaufgaben erledigen, damit Datensysteme intelligenter wirken können, als sie es tatsächlich sind.[31] Unsere Reise führt uns in die Lagerhallen von Amazon, wo die Angestellten im Takt der Algorithmen eines riesigen Logistikimperiums bleiben müssen, und wir besuchen die Chicagoer Arbeiterinnen und Arbeiter an den Zerlegebändern der Schlachthöfe, wo noch lebendige Tierkörper zerstückelt und für den Verzehr vorbereitet werden. Und wir werden von jenen Arbeitnehmern hören, die dagegen protestieren, wie KI-Systeme die Überwachung und Kontrolle durch ihre Vorgesetzten verschärfen.

Arbeit ist auch eine Geschichte über die Zeit. Die Aufgabe, menschliche Handlungen mit den sich wiederholenden Bewegungen von Robotern und Fließbandmaschinerien zu koordinieren, bestand schon immer auch darin, Körper in Raum und Zeit zu kontrollieren.[32] Von der Erfindung der Stoppuhr bis hin zu Googles TrueTime steht der Prozess der zeitlichen Organisation im Mittelpunkt des Arbeitsplatzmanagements. Die Koordinierung der Zeit erfordert ihrerseits allerdings immer detailliertere Informationen darüber, was die Menschen wie und wann tun.

Kapitel 3 befasst sich mit der Rolle von Daten. Sämtliches öffentlich zugängliches digitales Material – einschließlich personenbezogener oder potenziell schädlicher Daten – kann für die Erstellung von Datensätzen zum Training von KI-Modellen genutzt werden. Es gibt gigantische Datensätze voller Selfies von Menschen, Gesten, Menschen beim Autofahren, weinenden Babys und Newsgroup-Diskussionen aus den 1990er Jahren – alles zur Verbesserung von Algorithmen, die Funktionen wie die Gesichtserkennung, sprachliche Vorhersagen und die Objekterkennung ermöglichen. Wenn diese Datensammlungen aber nicht mehr als das private Material der Menschen, sondern lediglich als Infrastruktur betrachtet werden, wird auch die spezifische Bedeutung oder der Kontext eines Bildes oder eines Videos als irrelevant angesehen. Abgesehen von den gravierenden Problemen des Datenschutzes und des fortschreitenden Überwachungskapitalismus wirft die derzeitige Praxis der Datenverarbeitung in der KI somit also auch grundlegende ethische, methodologische und erkenntnistheoretische Probleme auf.[33]

Und wie werden diese ganzen Daten verwendet? In Kapitel 4 gehen wir näher auf die Klassifikationspraktiken in KI-Systemen ein, also auf das, was die Soziologin Karin Knorr-Cetina als «Wissenskulturen» bezeichnet.[34] Wir sehen, wie die heutigen Systeme Labels verwenden, um menschliche Identität zu prognostizieren, häufig unter Verwendung binärer Geschlechter- und essentialisierter Kategorien von race sowie problematischer Bewertungen des Charakters und der Kreditwürdigkeit einer Person. Ein Zeichen steht für ein ganzes System, ein Platzhalter für das Reale, und ein Spielzeugmodell soll an die Stelle der unendlichen Komplexität menschlicher Subjektivität treten. Indem wir uns ansehen, wie solche Klassifizierungen vorgenommen werden, wird deutlich, wie technische Schablonen Hierarchien forcieren und Ungleichheit vergrößern. Das maschinelle Lernen konfrontiert uns mit einem Regime des normativen Denkens, das, wenn es die Oberhand gewinnt, sich als eine mächtige und herrschsüchtige Rationalität präsentieren wird.

Von hier aus reisen wir weiter in die Bergdörfer von Papua-Neuguinea, um die Geschichte der Emotionserkennung zu erforschen – die Vorstellung also, dass Gesichtsausdrücke die innere emotionale Verfasstheit einer Person offenbaren. Kapitel 5 befasst sich mit der entsprechenden These des Psychologen Paul Ekman, wonach es eine kleine Anzahl universeller Gefühlszustände gibt, die sich direkt aus der Mimik ablesen lassen. Tech-Unternehmen setzen diese Idee inzwischen in Systemen zur Emotionserkennung ein, die Teil einer Branche sind, deren Gesamtvolumen auf mehr als 17 Milliarden Dollar geschätzt wird.[35] Die Emotionserkennung ist jedoch wissenschaftlich sehr umstritten, als Verfahren bestenfalls lückenhaft und im schlechtesten Fall irreführend. Trotz dieser unsicheren Voraussetzungen werden solche Werkzeuge aber trotzdem immer schnell in Personalbeschaffungs-, Bildungs- und Polizeisystemen eingesetzt.

In Kapitel 6 befassen wir uns damit, wie KI-Systeme als Instrument der Staatsgewalt eingesetzt werden. Die militärische Geschichte und Gegenwart der künstlichen Intelligenz hat auch in den heutigen Praktiken der Überwachung, Datenextraktion und Risikobewertung ihre Spuren hinterlassen. Die tiefgreifenden Verflechtungen zwischen dem Technologiesektor und dem Militär werden derzeit allerdings eingeschränkt, damit die KI auch in den Rahmen einer stark nationalistischen Agenda passt. Gleichzeitig haben sich die von den Nachrichtendiensten genutzten extralegalen Instrumente von der militärischen Welt in den kommerziellen Technologiesektor verlagert und kommen nun in Klassenzimmern, auf Polizeiwachen, an Arbeitsplätzen und in der Arbeitslosenverwaltung zum Einsatz. Die militärische Logik, die die KI-Systeme maßgeblich geprägt hat, ist damit mittlerweile auch ein Bestandteil der kommunalen Verwaltung geworden und führt zu einer weiteren Verzerrung des Verhältnisses zwischen dem Staat und seinen Bürgerinnen und Bürgern.

Das Schlusskapitel untersucht, wie künstliche Intelligenz als eine Machtstruktur funktioniert, die Infrastruktur, Kapital und Arbeit miteinander verbindet. Vom Uber-Fahrer, der von seiner Firma subtil genötigt («genudgt») wird, über die verfolgte illegale Immigrantin bis hin zu den Mieterinnen und Mietern von Sozialwohnungen, die mit Gesichtserkennungssystemen in ihren Häusern zu tun haben, werden KI-Systeme mit den Logiken des Kapitals, der polizeilichen Kontrolle und der Militarisierung errichtet – und diese Kombination verstärkt die ohnehin schon bestehenden Machtasymmetrien nur noch mehr. Diese Arten des Sehens beruhen auf dem doppelten Schachzug der Abstraktion und Extraktion: Bei denjenigen, die am wenigsten in der Lage sind, sich zu wehren, wird von den materiellen Bedingungen ihrer Existenzweise abstrahiert, während gleichzeitig mehr Informationen und Ressourcen aus ihnen extrahiert werden.

Aber diese Logik kann hinterfragt werden, ebenso wie sich Systeme ablehnen lassen, die zur Unterdrückung beitragen. Angesichts der sich wandelnden Umweltbedingungen auf der Erde sollten die Forderungen nach Datenschutz, Arbeitnehmerrechten, Klimagerechtigkeit und race-bezogener Gleichheit gemeinsam erhoben werden. Denn wenn diese untereinander verknüpften Initiativen für mehr Gerechtigkeit die Art und Weise beeinflussen, wie wir künstliche Intelligenz verstehen, dann werden auch andere Konzeptionen von planetarer Politik möglich.

Extraktion, Macht und Politik

Künstliche Intelligenz ist also eine Idee, eine Infrastruktur, eine Industrie, eine Form der Machtausübung und eine Art zu sehen. Gleichzeitig ist sie aber auch die Manifestation eines hochgradig organisierten Kapitals, das von riesigen Extraktions- und Logistiksystemen gestützt wird, mit Lieferketten, die die ganze Erde umspannen. Das alles ist Bestandteil dessen, was künstliche Intelligenz ist – eine Wendung aus zwei Worten, der ein komplexes Bündel von Erwartungen, Ideologien, Wünschen und Ängsten eingeschrieben ist.

Künstliche Intelligenz kann zwar wie eine gespenstische Kraft erscheinen – als körperlose Rechenleistung –, aber diese Systeme sind alles andere als abstrakt. Sie sind physische Infrastrukturen, die das Gesicht der Erde verändern ebenso wie die Art und Weise, wie die Welt gesehen und verstanden wird. Es ist wichtig, dass wir uns mit diesen vielen Aspekten der künstlichen Intelligenz auseinandersetzen – mit ihrer Formbarkeit, ihrer Verworrenheit und ihrer räumlichen und zeitlichen Reichweite. Die Vielseitigkeit von KI als Begriff, seine Offenheit dafür, neu definiert zu werden, bedeutet auch, dass er auf unterschiedliche Weise verwendet werden kann: Er kann sich auf alles beziehen, von Endgeräten wie Amazon Echo bis zu namenlosen Backend-Verarbeitungssystemen, von thematisch eng gefassten technischen Dokumenten bis zu den größten Industrieunternehmen der Welt. Dies hat allerdings auch seine Berechtigung. Die große Bandbreite des Begriffs «künstliche Intelligenz» erlaubt es uns nämlich, all diese Elemente zu betrachten und zu erkennen, wie eng sie miteinander verwoben sind – von der Geheimdienstpolitik bis hin zum massenhaften Sammeln von Daten, von der industriellen Konzentration der Tech-Branche bis hin zur geopolitischen Militärmacht und von der ausgelaugten Umwelt bis zu überkommenen Formen von Diskriminierung.

Die Aufgabe besteht darin, das Terrain aufmerksam im Auge zu behalten und die wechselnden und plastischen Bedeutungen des Begriffs «künstliche Intelligenz» zu beobachten – wie einen Behälter, in den verschiedene Dinge hineingelegt und dann wieder herausgenommen werden –, denn auch das ist Teil der Geschichte.

Einfach ausgedrückt: KI ist heute ein Faktor bei der Ausgestaltung von Wissen, Kommunikation und Macht. Diese Veränderungen finden auf der Ebene der Erkenntnistheorie, von Gerechtigkeitsgrundsätzen, der sozialen Organisation, des politischen Ausdrucks, der Kultur und des Verständnisses von menschlichen Körpern, Subjektivitäten und Identitäten statt – auf einer Ebene also, die all das betrifft, was wir schon sind und noch sein könnten. Aber wir können noch weiter gehen. Eine künstliche Intelligenz, die die Welt neu kartiert und in sie eingreift, ist Politik mit anderen Mitteln – auch wenn sie selten als solche erkannt wird. Diese Politik wird von den führenden Instanzen der KI-Entwicklung vorangetrieben, zu denen etwa ein halbes Dutzend Unternehmen zählen, die die globale Datenverarbeitung in großem Maßstab kontrollieren.

Viele gesellschaftliche Institutionen werden inzwischen von diesen Werkzeugen und Methoden beeinflusst, die ihre Wertvorstellungen und die Art und Weise, wie Entscheidungen getroffen werden, prägen und gleichzeitig eine komplexe Reihe von Folgeeffekten bewirken. Die Intensivierung der technokratischen Macht ist zwar schon seit langer Zeit im Gange, hat sich mittlerweile aber beschleunigt. Zum Teil geht dies zurück auf die Konzentration des industriellen Kapitals in einer Zeit der ökonomischen Austerität und des Outsourcings ‒ wozu auch die Kürzung von Mitteln für Sozialsysteme und für Institutionen gehört, die einst als Kontrollinstanzen für die Kräfte des Marktes fungierten. Deshalb müssen wir uns mit KI als politischer, ökonomischer, kultureller und wissenschaftlicher Größe auseinandersetzen. Denn wie Alondra Nelson, Thuy Linh Tu und Alicia Headlam Hines bemerken, sind «Kämpfe um Technologie immer auch mit übergeordneten Kämpfen um wirtschaftliche Mobilität, politische Manöver und den Aufbau von Gemeinschaften verbunden».[36]

Wir stehen heute an einem kritischen Punkt, wo wir uns schwierige Fragen über die Art und Weise stellen müssen, wie KI produziert und eingesetzt wird. Also dann: Was ist KI? Welche Formen der Politik propagiert sie? Wessen Interessen dient sie, und wer trägt das größte Risiko, Schaden durch sie zu erleiden? Und wo sollten dem Einsatz von künstlicher Intelligenz Grenzen gesetzt werden? Darauf wird es keine einfachen Antworten geben. Aber wir befinden uns nicht in einer unauflösbaren Situation oder an einem Punkt, an dem es kein Zurück gibt – dystopisches Gedankengut kann unser Handeln lähmen und dringend notwendige Maßnahmen blockieren.[37] Denn wie Ursula Franklin schreibt: «Die Lebensfähigkeit der Technologie hängt, ebenso wie die der Demokratie, letztlich von der Durchsetzung der Gerechtigkeit und der Wahrung der Grenzen der Macht ab.»[38]

In diesem Buch plädiere ich für die These, dass die Lösung der fundamentalen Probleme der künstlichen Intelligenz und der globalen Datenverarbeitung die Verknüpfung von Macht- und Gerechtigkeitsfragen voraussetzt – von der Erkenntnistheorie bis zum gesetzlichen Arbeitnehmerschutz, von der Ausbeutung von Rohstoffen bis zum Datenschutz, von der race-bezogenen Ungleichheit bis zum Klimawandel. Um dies zu bewerkstelligen, müssen wir jedoch unser Verständnis dessen erweitern, was in den Imperien der KI im Gange ist, um erkennen zu können, was auf dem Spiel steht, und um zu besseren kollektiven Entscheidungen darüber zu gelangen, was als Nächstes kommen soll.

1

ERDE

Die Boeing 757 neigt sich im Landeanflug auf den San Francisco International Airport direkt über San Jose. Als sich das Flugzeug der Rollbahn nähert, senkt sich die linke Tragfläche und gibt den Blick auf den wohl bekanntesten Standort des gesamten Tech-Sektors frei. Unter uns erstrecken sich die großen Reiche des Silicon Valley. Der gigantische schwarze Kreis des Apple-Hauptquartiers ist wie ein offenes Kameraobjektiv aufgebaut und glänzt in der Sonne. Und dann ist da noch der Hauptsitz von Google, der sich direkt an das Moffett Federal Airfield der NASA anschließt. Im Zweiten Weltkrieg und im Koreakrieg war dieser Flugplatz ein wichtiger Stützpunkt der US Navy. Jetzt hat Google ihn für 60 Jahre gepachtet, und die leitenden Angestellten parken hier ihre Privatjets. In der Nähe von Google befinden sich außerdem die großen Produktionshallen von Lockheed Martin, wo der Luft- und Raumfahrtkonzern Hunderte von Weltraumsatelliten baut, die das Geschehen auf der Erde überwachen sollen. Daneben, an der Dumbarton Bridge, reihen sich die niedrigen Gebäude des Firmensitzes von Facebook aneinander, umringt von riesigen Parkplätzen in der Nähe der schwefligen Salzteiche des Ravenswood Slough. Von diesem hohen Blickpunkt aus verraten die unauffälligen vorstädtischen Stichstraßen und die mittelgroße Skyline der Industrieanlagen von Palo Alto wenig von ihrem tatsächlichen Reichtum, ihrer Macht und ihrem Einfluss. Nur wenig deutet auf die zentrale Rolle dieser Stadt für die globale Wirtschaft und die EDV-Infrastruktur der ganzen Welt hin.

Ich bin hier, um etwas über künstliche Intelligenz zu erfahren und darüber, woraus sie gemacht wird. Um das zu verstehen, werde ich dem Silicon Valley allerdings ganz und gar den Rücken kehren müssen.

Am Flughafen springe ich in einen Van und fahre Richtung Osten. Ich überquere die San Mateo Hayward Bridge und fahre am Lawrence Livermore National Laboratory vorbei, wo Edward Teller in den Jahren nach dem Zweiten Weltkrieg seine Studien über thermonukleare Waffen betrieb. Bald erheben sich hinter den Städten Stockton und Manteca im Central Valley die Ausläufer der Sierra Nevada. Hier schlängeln sich die Straßen durch die hohen Granitklippen des Sonora-Passes und an der Ostseite der Berge hinunter in grasbewachsene Täler, die mit goldenen Mohnblumen übersät sind. Die Kiefernwälder machen dem alkalischen Wasser des Mono Lake und den ausgedörrten Wüstenlandschaften der Provinz Basin and Range Platz. Zum Tanken halte ich in Hawthorne, Nevada, dem Standort des größten Munitionslagers der Welt, wo die US Army Waffen in Dutzenden halb vergrabener Erdbunker lagert, die das Tal in symmetrischer Anordnung durchziehen. Auf der Nevada State Route 265 erblicke ich einen einsamen VORTAC in der Ferne, einen großen, kegelförmigen Funkturm, der für die Zeit vor der Einführung des GPS konzipiert wurde. Er hat eine einzige Funktion: Er sendet den Spruch «I am here» («Ich bin hier») an alle vorbeifliegenden Flugzeuge – ein wichtiger Orientierungspunkt in einer ansonsten gottverlassenen Gegend.

Mein Ziel ist die nicht eingetragene Gemeinde Silver Peak im Clayton Valley von Nevada, in der, je nach Zählweise, etwa 125 Menschen leben. Diese Bergbaustadt, eine der ältesten in Nevada, wurde 1917 fast aufgegeben, nachdem man dem Boden sämtliches Silber und Gold entrissen hatte. Ein paar Gebäude aus der Zeit des Goldrausches stehen noch und verwittern unter der Wüstensonne. Die Stadt mag klein sein und mehr Schrottautos als Menschen aufweisen, aber sie beherbergt etwas äußerst Seltenes. Denn Silver Peak liegt am Rande eines riesigen unterirdischen Lithium-Sees.

Lithium-Mine von Silver Peak

Die wertvolle Lithium-Sole unter der Oberfläche wird aus dem Boden gepumpt und in offenen, grün schillernden Teichen zum Verdunsten gebracht. Schon aus kilometerweiter Entfernung sind die Teiche zu sehen, wenn sich das Licht in ihnen bricht und sie glitzern. Aus der Nähe betrachtet bietet sich allerdings ein ganz anderes Bild: Aus dem Erdboden brechen fremdartig anmutende schwarze Rohrleitungen hervor, die sich über die salzverkrustete Erde schlängeln, in flache Gräben hinein- und wieder herausführen und jenes salzige Gemisch schließlich in die Trockenpfannen befördern.

Hier, in diesem abgelegenen Teil Nevadas, wird der Rohstoff für künstliche Intelligenz gemacht.

Schürfen für KI

Das Clayton Valley ist mit dem Silicon Valley in ähnlicher Weise verknüpft, wie es die Goldvorkommen des 19. Jahrhunderts mit dem frühen San Francisco waren. Die Geschichte des Bergbaus und die Verheerungen, die er anrichtet, werden häufig übersehen – dank jener strategischen Vergesslichkeit, die mit der Darstellung des technischen Fortschritts einhergeht. Wie der historische Geograf Gray Brechin hervorhebt, wurde San Francisco im 19. Jahrhundert mit den Erträgen aus dem Gold- und Silberabbau in Kalifornien und Nevada gebaut.[1] Die Stadt ist praktisch aus dem Bergbau gemacht. Genau diese Landstriche waren 1848, am Ende des Mexikanisch-Amerikanischen Krieges, im Rahmen des Vertrags von Guadalupe Hidalgo Mexiko abgenommen worden, als den dortigen Siedlern bereits klar war, dass es sich dabei um sehr wertvolle Goldvorkommen handeln würde. Dies war ein Musterbeispiel für das alte Sprichwort «Der Handel folgt der Flagge, aber die Flagge folgt der Hacke».[2] Tausende wurden im Zuge dieser umfangreichen Gebietserweiterung der USA aus ihren Häusern vertrieben, und im Rücken der amerikanischen imperialen Invasionstruppen kamen dann die Bergleute. Das Land wurde ausgeplündert, bis die Gewässer verseucht und die sie umgebenden Wälder vernichtet waren.

Seit der Antike ist das Geschäft mit dem Bergbau nur deshalb so profitabel, weil die wahren Kosten nicht mit in Rechnung gestellt werden müssen: Umweltschäden, Krankheiten und Tod der Bergleute sowie die Verluste für die Gemeinden, die er verdrängt. Georgius Agricola, der als Vater der Mineralogie bekannt ist, stellte 1555 fest, es sei «vor aller Augen klar, daß bei dem Schürfen mehr Schaden entsteht, als in den Erzen, die durch den Bergbau gewonnen werden, Nutzen liegt».[3] Mit anderen Worten: Diejenigen, die vom Bergbau profitieren, tun dies nur, weil die Kosten von anderen geschultert werden müssen – von den Lebenden und jenen, die noch gar nicht geboren sind. Es ist einfach, Edelmetalle mit einem Preisschild zu versehen, doch welchen Wert genau besitzt eine wilde Landschaft, ein sauberer Fluss, die Luft zum Atmen, die Gesundheit der ansässigen Bevölkerung? Dies wurde nie beziffert, und so ergab sich ein einfaches Kalkül: Alles abbauen, und zwar so schnell wie möglich – Facebooks Leitsatz «Handle schnell und mache Sachen kaputt» für ein anderes Zeitalter. Das Ergebnis war, dass das Central Valley völlig verheert wurde. Ein Reisender bemerkte dazu im Jahr 1869: «Ein Tornado, eine Überschwemmung, ein Erdbeben und ein Vulkanausbruch hätten kaum größere Verwüstungen und Chaos anrichten können als (der) Prozess des Goldwaschens. (…) Der Bergbau in Kalifornien kennt keine Regeln. Er ist das einzige übergeordnete Interesse.»[4]

Während San Francisco enormen Reichtum aus den Minen bezog, konnten seine Bürgerinnen und Bürger leicht vergessen, woher dieser Reichtum stammte. Denn die Minen lagen weit entfernt von der Stadt, die sie reich machten, und diese Distanz erlaubte es der Stadtbevölkerung, nicht zu wissen, was den Bergen, den Flüssen und den Arbeitern widerfuhr, die ihnen ihren Wohlstand bescherten. Allerdings finden sich überall kleine Hinweise auf die Minen. Beispielsweise kam in den neu errichteten Gebäuden der Stadt die gleiche Technologie zum Einsatz, die auch im Central Valley für Transport- und Versorgungszwecke eingesetzt wurde. Die Flaschenzugsysteme etwa, mit denen die Bergleute in die Minenschächte hinabgelassen wurden, wurden angepasst und auf den Kopf gestellt, um die Menschen in den Aufzügen der Hochhäuser bis ganz nach oben zu befördern.[5] Brechin regt an, dass wir uns die Wolkenkratzer von San Francisco als umgekehrte Minenlandschaften vorstellen sollten: Die aus den Löchern im Boden geförderten Erze wurden verkauft, um damit Häuser in die Luft zu bauen; je tiefer die Förderarbeiten gingen, desto höher reckten sich die großen Türme der Büroarbeit in den Himmel.

Heute ist einmal mehr der Reichtum über San Francisco hereingebrochen. Einst war es das Golderz, das den Reichtum der Stadt begründete, und jetzt ist es die Gewinnung von Substanzen wie dem weißen Lithiumkristall. Auf den Mineralienmärkten ist es als «graues Gold» bekannt.[6] Die Tech-Industrie ist zum neuen «übergeordneten Interesse» geworden, und die nach ihrer Marktkapitalisierung fünf größten Unternehmen der Welt haben in dieser Stadt Büros: Apple, Microsoft, Amazon, Meta und Google. Passiert man die Lagerhallen der Start-ups im Stadtteil South of Market, auch SoMa genannt, wo einst Bergarbeiter in Zelten lebten, dann sieht man dort Luxusautos, von Risikokapitalgebern finanzierte Kaffeehausketten und schicke Busse mit getönten Scheiben, die auf Privatstraßen fahren und Mitarbeiterinnen und Mitarbeiter zu ihren Büros in Mountain View oder Menlo Park bringen.[7] Nur ein paar Gehminuten entfernt liegt allerdings die Division Street, eine mehrspurige Durchgangsstraße zwischen SoMa und dem Viertel Mission, wo sich heute wieder Zelt an Zelt reiht, um Menschen zu beherbergen, die nirgendwo anders hingehen können. Denn im Windschatten des Tech-Booms ist San Francisco heute zu einer Stadt mit einer der höchsten Obdachlosenquoten in den USA geworden.[8] Der UN-Sonderberichterstatter zum Recht auf angemessenen Wohnraum bezeichnete dies als «inakzeptablen» Verstoß gegen die Menschenrechte, da Tausenden von Obdachlosen die grundlegendste Versorgung mit Wasser, sanitären Einrichtungen und medizinischen Dienstleistungen vorenthalten würde, während gleich um die Ecke eine Rekordzahl von Milliardärinnen und Milliardären lebe.[9] Der größte Nutzen aus der Extraktion wurde von einigen wenigen eingeheimst.