Digitaler Kolonialismus E-Book

Ingo Dachwitz

• Herausgeber: C. H. Beck
• Kategorie: Geisteswissenschaft
• Sprache: Deutsch

Veröffentlichungsjahr: 2025

Beschreibung

Innovativ, mächtig, rücksichtlos: Kaum eine Geschichte wird so oft erzählt wie die vom unaufhaltsamen Aufstieg der Tech-Konzerne an die Spitze der global vernetzten Welt. Nur ein Kapitel wird dabei ausgelassent: Der Preis, den der globale Süden dafür bezahlt. Der Tech-Journalist Ingo Dachwitz und der Globalisierungsexperte Sven Hilbig beleuchten diesen blinden Fleck und zeigen die weltweiten Folgen des digitalen Kolonialismus sowie bestehende Ansätze für eine gerechtere Digitalisierung auf. Soviel steht fest: AI will not fix it. Das Versprechen der Digitalen Revolution ist die Heilserzählung unsererZeit. Dieses Buch erzählt eine andere Geschichte: Die des digitalen Kolonialismus. Statt physisches Land einzunehmen, erobern die heutigen Kolonialherren den digitalen Raum. Statt nach Gold und Diamanten lassen sie unter menschenunwürdigen Bedingungen nach Rohstoffen graben, die wir für unsere Smartphones benötigen. Statt Sklaven beschäftigen sie Heere von Klickarbeiter:innen, die zu Niedriglöhnen in digitalen Sweatshops arbeiten, um soziale Netzwerke zu säubern oder vermeintlich Künstliche Intelligenz am Laufen zu halten. Der Kolonialismus von heute mag sich sauber und smart geben, doch eines ist gleich geblieben: Er beutet Mensch und Natur aus und kümmert sich nicht um gesellschaftliche Folgen vor Ort. Im Wettkampf der neuen Kolonialmächte ist Digitalpolitik längst zum Instrument geopolitischer Konflikte geworden – der Globale Süden gerät zwischen die Fronten.

Leseprobe

Titel

Ingo Dachwitz/Sven Hilbig

DIGITALER KOLONIALISMUS

Wie Tech-Konzerne und Großmächte die Welt unter sich aufteilen

C.H.BECK

Übersicht

Cover

Inhalt

Textbeginn

Inhalt

Titel

Inhalt

Einleitung: Des Kolonialismus neue Kleider

Vom Kolonialismus zum digitalen Neo-Kolonialismus

KI

und Infrastruktur, Rohstoffe und Repression

Geopolitik, der Kalte Tech-Krieg und die

EU

Warum wir dieses Buch schreiben

1. Arbeitskraft: Die ausgebeuteten Arbeiter:innen hinter der Künstlichen Intelligenz

1.1 Geisterarbeit

Für Chat

GPT

in die Hölle geschaut

Wenn Menschen Maschinen spielen müssen

1.2 Das Milliardengeschäft mit der Content Moderation

AI

will fix this

«Du hörst die Leute schreien»

1.3 Die ausbeuterischen Arbeitsbedingungen im Tech-Outsourcing

Sama ist kein Einzelfall

Microwork-Plattformen: Die neuen Tagelöhner:innen

1.4 Die politische Ökonomie der globalen Arbeitsteilung

Die koloniale Kontinuität der Ausbeutung

Auch im Globalen Norden leiden Geisterarbeiter:innen

1.5 Der Widerstand der Geisterarbeiter:innen

«Wir fangen an, mit einer Stimme zu sprechen»

2. Daten: Gefährlicher Extraktivismus der Tech-Konzerne

2.1 Die Datenökonomie: Fest in der Hand von Konzernen aus dem Globalen Norden

Die Hälfte des globalen Venture-Kapitals fließt in

US

-Unternehmen

Macht die Datenmacht von Big Tech wirklich alle gleich?

Daten- und Gewinnströme fließen nur in eine Richtung

Datenextraktivismus als Grundlage für das Werbegeschäft

Daten als Wettbewerbsvorteil und Rohstoff für KI

2.2 Daten und KI als koloniales Herrschaftswissen

Das verzerrte Weltbild der

KI

Die kolonialen Wurzeln der Datafizierung

Mensch und Kultur jenseits der Norm werden unsichtbar gemacht

Wie marginalisierte Gruppen unter

KI

-Systemen leiden

Datenextraktivismus für die gute Sache?

Die größte biometrische Datenbank der Welt stellt ein Risiko dar

2.3 Digitale Landwirtschaft: Reiche Ernte für Tech- und Agrarkonzerne

Das mächtige Narrativ der Datenlücke

Reiche Datenernte für einen deutschen Agrarchemiekonzern

Digitale Enteignung

Big Tech meets Big Ag

Abhängig vom digitalen Ökosystem der Konzerne

Grüne Revolution oder Grüne Renaissance?

Nicht Daten und Konzerne lösen das Ernährungsproblem, sondern solidarische und ökologische Agrarpolitik

3. Rohstoffe: Digitaler Fortschritt auf Kosten von Menschen und Natur

3.1 Koloniale Kontinuität: Der «Ressourcenfluch» des Globalen Südens

Auch nach dem Kolonialismus: Die Ausbeutung wird fortgesetzt

3.2 Mythos grüne Digitalisierung

KI

und Rechenzentren: Der Energieverbrauch steigt und steigt

Das Versprechen von Nachhaltigkeit durch Digitalisierung

Die dreckige Realität der Digitalisierung

Eine ungleiche Verteilung von Profiten und Kosten

Der Rohstoffhunger des vermeintlich grünen digitalen Wandels

3.3 Kobalt-Abbau in der Demokratischen Republik Kongo: Die sozial-ökologischen Kosten des Ressourcenhungers

Industrielle Minen: Zwangsvertreibungen und Umweltschäden

Kleinbergbau: Wettlauf gegen den Tod

Die Spuren des Kolonialismus

Moderne Lieferketten: Viele Beteiligte, wenige Verantwortliche

Der Bundeskanzler will in Rohstofffragen «nicht mehr etepetete sein»

Scheinlösungen für das gute Gewissen

3.4 Lithiumabbau in Südamerika: Wer profitiert vom Boom des weißen Goldes?

Der Preis des Lithiumbooms

Chile: Wasserkonflikte in der Wüste

Argentinien: Goldgräberstimmung für internationale Konzerne

Tech-Konzerne gehen mit

KI

auf Rohstoffsuche

Bolivien: Gelingt eine Lithiumförderung im Dienst der Menschen?

Partnerschaften auf Augenhöhe haben ihren Preis

4. Repression: Das blutige Geschäft mit Zensur, Überwachung und Kontrolle

Verhaftet wegen eines Tweets

Der Arabische Frühling war ein Weckruf für Diktatoren

4.1 Zensur, Hass und Propaganda: Wie sich Soziale Medien zu Handlangern von autoritären Regimen machen

Social Media und Zensur: Absolutismus der Redefreiheit?

Hass und Gewalt: Meta als Brandbeschleuniger für Konflikte

Desinformation und digitale Propaganda: Der «Rest der Welt» hat für Meta keine Priorität

4.2 Die Globale Überwachungsindustrie: Profit und Kontrolle im Dienst der kolonialen Ordnung

Die kolonialen Wurzeln der Überwachung

Wie Repressionswerkzeuge zum Exportschlager wurden

Überwachungsstaat made in Europe

Wie Daten, Drohnen und

KI

zu Kriegswaffen werden

5. Infrastruktur: Wie Kabel- und Satellitenprojekte die Abhängigkeit des Globalen Südens aufrechterhalten

5.1 Tiefer, schneller, weiter: Unterseekabel und die digitale Souveränität des Globalen Südens

Die digitale Kluft droht weiter zu wachsen

Das Wettrennen um die nächste Milliarde Nutzer:innen

Big Techs Machtübernahme auf dem Meeresgrund

Eine Herausforderung für die Souveränität

Infrastrukturen als Motor des kolonialen Imperialismus

Ein neuer Wettlauf um Afrika

5.2 Satelliteninternet und das neue Wettrennen um den Weltraum

Das nächste große Ding der Tech-Milliardäre

Rückschläge auf dem Weg ins All

Eine teure Wette auf die Zukunft

Ein zu großer Vorsprung?

Das falsche Versprechen vom Ende des Digital Divide

Geringer Nutzen, hohe Umweltkosten

Das Militär ist interessiert

Eine Neuauflage des Space Race: China holt auf

6. Geopolitik: Wie sich das Wettrennen der digitalen Großmächte

USA

und China auf den Globalen Süden auswirkt

6.1 Chinas Aufstieg zur digitalen Kolonialmacht

Die Neue Seidenstraße soll China zu altem Glanz führen

Digitale Schicksalsgemeinschaft im Cyberspace

Afrika im Fokus

Wer hat Angst vor Huawei?

Spionage am Hauptsitz der Afrikanischen Union

Chinas elektronische Welthandelsplattform

Smart Cities als Einfallstor für Überwachung

China will eine neue digitale Weltordnung

6.2 Die WTO, der Kalte Tech-Krieg und seine Folgen

Tech-Konzerne diktieren die Agenda

Nigerias Kampf um Datensouveränität

Daten sollen der indischen Bevölkerung gehören

EU

auf Linie mit Tech-Konzernen

Mehr Sorgen um China als um Tech-Konzerne

China, die neue digitale Großmacht

Donald Trump und der digitale Kalte Krieg

7. Europa: Das falsche Versprechen vom Dritten Weg der Digitalisierung

7.1 Zwischen Werten und Wertschöpfung: Europas «Dritter Weg»

Gegen Big Tech und für Europa

Die

EU

und das Ziel der digitalen Souveränität

Was gut für Europa ist, muss es nicht für den Rest der Welt sein

7.2 Global Gateway: Europas Tor zu den Daten und Rohstoffen Afrikas

Im Globalen Süden trifft Global Gateway auf Skepsis und Kritik

Koloniale Kontinuitäten in der europäischen Handelspolitik

Europe First

7.3 Festung Europa: Mit Technik gegen Geflüchtete

Panopticon für Geflüchtete

Künstliche Intelligenz für den «Schutz» der Festung Europa

Deutschland: Kontrolle durch Technik

Verlagerung der Asylabwehr in Drittstaaten

Warum die

EU

biometrische Datenbanken in Afrika finanziert

7.4 Unsere Verantwortung

Was tun?

Wider den digitalen Kolonialismus: Eine Zukunft ohne Big Tech liegt näher, als wir denken

Nachwort von Renata Ávila Pinto

1. Neue Geschichten schreiben

2. Tech-Governance dezentralisieren

3. Kooperativen statt Konzerne

4. Das Ende der Ausbeutung

5. Technologie demokratisch entwickeln

6. Nicht nur regulieren, sondern auch gestalten

7. Globaler Schuldenschnitt

8. Bildung ohne Big Tech

9. Freier Zugang zu Wissen, Innovation und Kultur

10. Technologie im Dienst der planetaren Zukunft

Das Ende von Big Tech

Danksagung

Bildnachweis

Anmerkungen

Einleitung: Des Kolonialismus neue Kleider

1. Arbeitskraft: Die Arbeiter:innen hinter der vermeintlich Künstlichen Intelligenz

2. Daten: Gefährlicher Extraktivismus der Tech-Konzerne

3. Rohstoffe: Digitaler Fortschritt auf Kosten von Menschen und Natur

4. Repression: Das blutige Geschäft mit Zensur, Überwachung und Kontrolle

5. Infrastruktur: Wie Kabel- und Satellitenprojekte die Abhängigkeit des Globalen Südens aufrechterhalten

6. Geopolitik: Wie sich das Wettrennen der digitalen Großmächte

USA

und China auf den globalen Süden auswirkt

7. Europa: Das falsche Versprechen vom Dritten Weg der Digitalisierung

Zum Buch

Vita

Impressum

Einleitung: Des Kolonialismus neue Kleider

Revolution. Wohl kaum ein Wort wird in Bezug auf die Digitalisierung so inflationär verwendet wie dieses. Fragt man ChatGPT, wem wir die «digitale Revolution» zu verdanken haben, listet der Chatbot die Namen einiger Männer aus Europa und den USA auf.[1] Etwa Tim Berners-Lee, den «Erfinder des World Wide Web» und Linus Torvalds, den «Schöpfer» des Betriebssystems Linux. Außerdem Bill Gates, Steve Jobs und Gordon Moore, die Mitgründer der einflussreichen Tech-Konzerne Microsoft, Apple und Intel.

Allerdings, so räumt der Chatbot ein, könne er unmöglich alle Menschen aufzählen, denen wir den digitalen Fortschritt zu verdanken haben. Es braucht wenig Fantasie, um sich auszumalen, welche Namen das Programm noch nennen würde. Da wäre zum Beispiel Mark Zuckerberg, der Gründer von Facebook und Chef des größten Social-Media-Konzerns der Welt. Sergey Brin und Larry Page dürfen nicht fehlen, die genialen Standford-Studenten, die mit Google die wichtigste Suchmaschine der Welt erfanden und heute den meistgenutzten Browser, den meistgenutzten E-Mail-Dienst, das meistgenutzte Navigationsprogramm und Smartphone-Betriebssystem anbieten. Vergessen wir auch nicht Jeff Bezos und Elon Musk, die mit ihren Unternehmen Amazon und Tesla den Einzelhandel und die Elektromobilität «revolutionierten».

ChatGPT gibt die Infos wieder, mit denen es gefüttert wurde. Und die Erzählungen, die wir uns seit drei Jahrzehnten über die Digitalisierung anhören müssen, sie klingen nun mal fast immer gleich: Zu verdanken haben wir den digitalen Fortschritt genialen Informatikern und gewieften Unternehmern, die in ihren Forschungslaboren, Garagen und Studentenzimmern – manchmal in Europa, meistens in den USA – Dinge erfanden, die unsere Welt auf den Kopf stellten. Die uns Computer und Betriebssysteme, Smartphones, Soziale Medien und Shopping-Plattformen brachten. Es geht in diesen Erzählungen um die «Revolution des Cloud-Computing», um die «vierte industrielle Revolution» und, na klar: um die «KI-Revolution», die seit der Veröffentlichung von ChatGPT Ende 2022 in aller Munde ist.

Kein Platz ist in den Erfolgsgeschichten des Silicon Valley für die Menschen, die mit ihrer Arbeit dazu beigetragen haben, dass ein Programm wie ChatGPT überhaupt funktionieren kann: die outgesourceten Arbeitskräfte, die in Ländern des Globalen Südens Künstliche Intelligenz trainieren und Soziale Medien moderieren. Es ist auch kein Platz für Menschen, die in der Demokratischen Republik Kongo in Minen schuften und Kobalt abbauen, das für die materielle Basis der Digitalisierung derzeit unverzichtbar ist. Für all diejenigen, die als Datenlieferanten und Versuchsobjekte dienen, um die Produkte der Tech-Konzerne zu verbessern.

Und noch etwas fehlt in den gängigen Erzählungen von der digitalen Revolution: eine Erklärung, was eigentlich genau mit dem Begriff gemeint ist. So oft haben wir die großen Versprechen vom digitalen Fortschritt durch Digitalisierung gehört – von Befreiung, Nachhaltigkeit und Wohlstand für alle –, dass viele sie nicht mehr hinterfragen. Doch nicht alles, was Veränderung bringt, ist eine Revolution. Oder hat die Digitalisierung der Welt etwa Freiheit, Gleichheit und Solidarität gebracht? Die Zahlen sprechen eine andere Sprache. Weltweit sind Freiheit, Menschenrechte und Demokratie auf dem Rückzug. Im Jahr 2024 hatten nur noch 14 Prozent aller Menschen die Möglichkeit, ungehindert ihre Meinung zu sagen, sich zu versammeln und gegen Missstände anzukämpfen. Zwei Drittel der Menschheit lebten in Staaten mit unterdrückter oder geschlossener Zivilgesellschaft, konstatiert der jährliche Atlas der Zivilgesellschaft von Brot für die Welt.[2]

Zugleich ist die Digitalisierung verbunden mit dem Aufstieg einer neuen Klasse von Herrschern, die mithilfe von Daten, Künstlicher Intelligenz und digitalen Diensten globale Imperien errichten. Mit dem Siegeszug des Internets haben sie sich an die Spitze der Weltwirtschaft gesetzt. Längst sind Alphabet, Amazon, Apple, Meta und Microsoft, die sogenannten Big Five des Silicon Valley, die wertvollsten Unternehmen der Welt. Zusammen mit dem Chiphersteller NVIDIA kommen sie Mitte 2024 auf einen Marktwert von 13,5 Billionen Euro.[3] Die Entscheidungen, die die Tech-Herrscher in ihren Unternehmenszentralen treffen, haben Folgen für das Wohl von Milliarden Menschen, für die Stabilität von Staaten und den Zustand der Demokratie. Es ist eine Verantwortung, der sie nicht gerecht werden, was insbesondere die Menschen im Globalen Süden zu spüren bekommen.

Tatsächlich müssen wir erkennen, dass die Digitalisierung sich als erstaunliches Instrument erwiesen hat, um eine Machtordnung fortzuschreiben, die mehr als 500 Jahre alt ist: die des Kolonialismus. Seit vielen Jahren weisen Forscher:innen, Aktivist:innen und Künstler:innen aus dem Globalen Süden darauf hin, dass die Eroberungszüge der Tech-Konzerne kolonialen Mustern folgen und diese mit neuen Mitteln fortsetzen.

Unser Buch folgt diesen anderen Erzählungen der Digitalisierung. Statt um Revolution geht es darin um Ausbeutung, um Herrschaft und Unterdrückung. Es ist die Geschichte eines neuen Kolonialismus, der auf den Spuren des alten wandelt: die des digitalen Kolonialismus.

Vom Kolonialismus zum digitalen Neo-Kolonialismus

Als Kolonialismus wird gemeinhin eine historische Periode bezeichnet, die vor mehr als einem halben Jahrhundert ihr Ende fand. Dieser Lesart zufolge begann das Zeitalter des Kolonialismus mit der «Entdeckung» Amerikas durch den Seefahrer Christoph Kolumbus 1492 und endete mit der formalen Unabhängigkeit der afrikanischen Staaten in der zweiten Hälfte des 20. Jahrhunderts. Die knapp 500 Jahre dazwischen sind geprägt von der brutalen militärischen Eroberung der beiden Amerikas, der Karibik, Afrikas und von Teilen Asiens durch europäische Mächte wie Spanien, Portugal, Belgien, die Niederlande, Frankreich, England und nicht zuletzt Deutschland. Insbesondere zur Hochzeit des europäischen Imperialismus im ausgehenden 19. Jahrhundert galt der Besitz von Kolonien vielen in Europa nicht nur als Statussymbol, sondern geradezu als Notwendigkeit und naturgegebener Zustand. In Zahlen: Während die Europäer:innen im Jahr 1800 etwa 35 Prozent der Landoberfläche kontrollierten, hatte sich dieser Anteil bis 1878 auf 67 Prozent erhöht. 1914 beherrschte Europa 84 Prozent der Landgebiete dieser Welt.[4]

Dabei teilten sich die kolonialen Großmächte den Globalen Süden mit seinen Menschen und Rohstoffen als Beute auf. Sie etablierten einen transatlantischen Menschenhandel in nie dagewesenem Ausmaß, der allein beim Transport der versklavten Afrikaner:innen Millionen Todesopfer forderte.[5] Um dies zu rechtfertigen, entwickelten die Kolonialmächte ausgehend von der Aufklärung eine ideologische Wissensordnung – zu der auch vermeintlich wissenschaftliche Rassentheorien gehörten –, die die Überlegenheit weißer Menschen belegen und die Ausbeutung des Globalen Südens als zivilisatorische Mission rechtfertigen sollte. Nicht zuletzt war der Kolonialismus Motor für die Entstehung eines einseitig dominierten Welthandels und eines rassistisch geprägten globalen Kapitalismus, in dem Regierungen und private Unternehmen wie die britische Ostindien-Kompanie oder die spanische Casa de la Contratación de Indias in einer Art Vorläufer moderner Private-Public-Partnerships zusammenarbeiteten, um den Globalen Süden auszubeuten. Die wirtschaftlichen Effekte des Kolonialismus brachte der guyanische Historiker Walter Rodney am Beispiel seines Heimatkontinents auf eine einfache, aber treffende Formel: Europa hat Afrika unterentwickelt.[6]

Formell gehört der Kolonialismus heute zwar der Vergangenheit an, doch prägt er unsere Welt bis heute. Er lebt fort in Wissenshierarchien, die an der europäischen Aufklärung ausgerichtet sind und nicht nur das oral vermittelte Wissen vieler indigener Gemeinschaften unsichtbar machen. Er überdauert in einem Wirtschaftssystem, in dem nicht-weiße Menschen noch immer strukturell benachteiligt und ausgebeutet werden. Auch die globalen Machtverhältnisse sind bis heute von kolonialen Strukturen geprägt. Dass die Interessen weniger Staaten mehr als das Wohl der restlichen Welt gelten, wurde selten so sichtbar wie in Zeiten der Coronapandemie. Während europäische und US-amerikanische Pharmakonzerne mit Milliardenförderung an neuen Impfstoffen gegen das hochansteckende Virus forschten und ihre mit Patenten geschützten Entwicklungen den meistbietenden Staaten zur Verfügung stellten, blieben viele Menschen in den Ländern des Globalen Südens unversorgt.

Der erste Präsident Ghanas, Kwame Nkrumah, prägte hierfür bereits 1966 – also keine zehn Jahre nach der Unabhängigkeit des Landes – das Wort «Neo-Kolonialismus». Diesen analysiert Nkrumah in seinem gleichnamigen Buch als «letzte Stufe des Imperialismus»: Die gerade unabhängig gewordenen Staaten Afrikas seien zwar formal souverän, aber in ihren Handlungsmöglichkeiten so eingeschränkt, dass de facto eine Fortsetzung des Kolonialismus mit anderen Mitteln vorliege.[7] Denn die europäischen Kolonialherren hinterließen Staaten, die mit den Folgen willkürlich gezogener Grenzen – zwischen Ländern, aber auch zwischen Menschen – zu kämpfen hatten. Staaten, die oft kaum die Möglichkeit hatten, eine Industrie im eigenen Land aufzubauen. Deren Wirtschaft primär auf die Bedürfnisse der Metropolen in Europa ausgerichtet war, auf den Export von Rohstoffen und den Import von Industrieprodukten. Immer wieder kam es in den ehemaligen Kolonien zu militärischen Interventionen von imperialen Großmächten wie den USA und der Sowjetunion, aber auch von europäischen Staaten wie Frankreich und dem Vereinigten Königreich, die – teils offen, teils verdeckt – mal jenen Regierungschef unterstützten und mal zum Sturz eines anderen beitrugen.

Es ist die Fortführung dieser Machtverhältnisse und dieser globalen Wirtschaftsordnung, die auch den digitalen Kolonialismus unserer Zeit ermöglicht. Die Digitalisierung kommt als immaterieller, körperloser Prozess daher, doch sie beruht oft auf materiellen Abhängigkeits- und Ausbeutungsverhältnissen. Statt physisches Land einzunehmen, erobern die neuen Kolonialherren den digitalen Raum. Statt nach Gold und Diamanten lassen sie unter menschenunwürdigen Bedingungen nach Rohstoffen graben, die wir für unsere Smartphones benötigen. Statt von roher Gewalt profitieren sie von Überwachung. Statt Sklaven beschäftigten sie Heere von unsichtbar gemachten Arbeiter:innen, die zu Niedriglöhnen in digitalen Fabriken schuften, um soziale Netzwerke sauber oder vermeintlich Künstliche Intelligenz am Laufen zu halten.

Der Kolonialismus ist hier auf doppelte Weise am Werk: Zum einen schafft die kolonial geprägte Wirtschafts- und Wissensordnung unserer Welt die Voraussetzungen für den Aufstieg der Tech-Konzerne an die Spitze der Welt. Zum anderen verfestigen und perpetuieren eben diese Konzerne gemeinsam mit den sie unterstützenden Regierungen die kolonial geprägte Weltordnung und schreiben so deren Macht- und Ausbeutungsgeschichte fort.

Auch wenn sich die Werkzeuge des Kolonialismus verändert haben, eines ist gleichgeblieben: Er beutet Mensch und Natur aus und kümmert sich nicht um die gesellschaftlichen Folgen vor Ort. Dabei kommt auch der digitale Kolonialismus im Gewand zivilisatorischer Entwicklungsversprechen daher. Dank Konnektivität und Künstlicher Intelligenz könnten Länder des Globalen Südens nicht nur zu den Industriestaaten aufschließen, sondern diese sogar überholen, so lautet das falsche Versprechen von Konzernen und staatlichen Akteuren.

KI und Infrastruktur, Rohstoffe und Repression

Ausgehend von solchen Mythen über die Wohltaten der Digitalisierung wollen wir in den folgenden sieben Kapiteln unterschiedliche Aspekte des digitalen Kolonialismus analysieren. Beginnend mit dem Versprechen, das unsere Zeit prägt, wie kaum ein anderes: «AI will fix this – KI wird es richten». Der Boom der sogenannten Künstlichen Intelligenz befeuert seit geraumer Zeit nicht nur Fantasien von magischen Maschinen, sondern auch die Börsenkurse einiger Tech-Konzerne. Weniger im Rampenlicht stehen die Millionen Arbeitskräfte weltweit, die als Datenarbeiter:innen und Content Moderator:innen dafür sorgen, dass Künstliche Intelligenz überhaupt erst funktioniert und Soziale Medien benutzbar bleiben. Das erste Kapitel (Arbeitskraft) beleuchtet die teilweise menschenunwürdigen Arbeitsbedingungen dieser «Geisterarbeiter:innen»[8] und die Verantwortung der Tech-Konzerne für ihre Ausbeutung.

Anschließend widmen wir uns einem der wichtigsten Güter des digitalen Zeitalters: den Daten. Wir zeigen, wie die Tech-Konzerne mithilfe eines rücksichtslosen Datenextraktivismus ihre Machtbasis und Profite sichern und wie die fortschreitende Datafizierung Rassismus und Diskriminierung befeuert. Längst sind die Auswirkungen des Datenextraktivismus nicht auf die digitale Welt beschränkt, was wir am Beispiel der Digitalisierung der Landwirtschaft veranschaulichen.

Dem Mythos der grünen und immateriellen Digitalisierung widmet sich das dritte Kapitel (Rohstoffe). Darin analysieren wir nicht nur den unstillbaren Energie- und Rohstoffhunger des digitalen Wandels, sondern porträtieren auch die Orte, wo eben jene Rohstoffe unter teils verheerenden Bedingungen gewonnen werden: die Demokratische Republik Kongo und das sogenannte Lithiumdreieck in Südamerika. Wir zeigen, wie hoch die sozial-ökologischen Folgekosten des Rohstoffbooms sind und wie wenig den Tech-Firmen daran gelegen ist, Verantwortung dafür zu übernehmen.

Eine der bis heute mächtigsten Erzählungen ist die des Internets als Demokratisierungsmaschine, die nahezu automatisch Freiheit und Gerechtigkeit bringt. Dass sich das Heilsversprechen heute vielerorts in das Gegenteil verkehrt hat und digitale Technologien für Zensur, Überwachung und Kontrolle genutzt werden, wird im vierten Kapitel (Repression) deutlich. Spätestens der Arabische Frühling hat als Weckruf für Diktatoren dieser Welt gewirkt, ihre Regime technisch hochzurüsten. Davon profitieren Unternehmen in Industrieländern, die Technologien für Videoüberwachung, Spionage und Zensur bereitwillig exportieren – Überwachungsstaat Made in Europe. Auch die Sozialen Medien fungieren längst nicht mehr nur als Katalysatoren von Protest, sondern beugen sich Zensurwünschen von Diktatoren oder ermöglichen Hasskampagnen, die in Ländern wie Äthiopien und Myanmar zu Gewalt und Tod führten.

Im fünften Kapitel (Infrastruktur) nehmen wir die teils exzentrischen Infrastrukturinitiativen von Tech-Baronen wie Mark Zuckerberg, Elon Musk und Jeff Bezos in den Blick, die dem Globalen Süden endlich Konnektivität und ein Ende des Digital Divide versprechen, sich dabei aber in Eigeninteressen und kolonialen Mustern verstricken.

Geopolitik, der Kalte Tech-Krieg und die EU

Immer wieder stehen so die Tech-Konzerne aus dem Globalen Norden im Fokus, vor allem Big Tech aus den USA. Sie sind die Speerspitze des digitalen Kolonialismus und haben wohl am stärksten von der Ausbeutung des Globalen Südens profitiert. Doch auch an China führt heute kein Weg mehr vorbei. Das Land gilt klassischerweise als dem Globalen Süden zugehörig und wurde selbst seit Mitte des 19. Jahrhunderts von europäischen Mächten kolonialisiert. Gleichzeitig tritt China im Zuge der Digitalisierung heutzutage mehr und mehr selbst als neokolonialer Akteur auf, indem es etwa den weltweiten Rohstoffmarkt dominiert, andere Länder über schuldenfinanzierte Infrastrukturprojekte in die Abhängigkeit treibt und Überwachungsprodukte exportiert. Chinas mythenumwobenes Projekt der Neuen Seidenstraße und das Erstarken des Landes als digitale Großmacht, die die Hegemonie der USA herausfordert, analysieren wir im sechsten Kapitel (Geopolitik).

Unterdessen wächst das Selbstbewusstsein vieler Länder des Globalen Südens, nicht nur weil sie berechtigterweise ein Ende der einseitigen Beziehungen fordern, sondern auch, weil ihnen mit China erstmals wieder ein Partner zur Seite steht, der eine Alternative zur Dominanz des Westens verspricht. Auch das Bündnis der BRICS-Staaten – Brasilien, Russland, Indien, China und Südafrika – versucht sich als neuer geopolitischer Machtblock zu etablieren. Anfang 2024 haben sich vier weitere Staaten angeschlossen: Ägypten, Äthiopien, der Iran und die Vereinigten Arabischen Emirate. In dieser sich wandelnden Weltordnung nimmt Europas Digitalpolitik eine ambivalente Rolle ein, wie wir im siebten Kapitel (Europa) sehen werden. Die EU verspricht einen dritten, faireren Weg zwischen dem libertären Tech-Kapitalismus der USA und dem autoritären Tech-Kapitalismus Chinas. Dabei ist der Staatenbund selbst bemüht, zur digitalen Großmacht aufzusteigen und beschränkt sich längst nicht mehr nur auf die Regulierung ausländischer Tech-Konzerne. Im Globalen Süden versucht sich die EU als digitale Soft-Power und propagiert Datenschutz statt Datenextraktion. Doch in der Praxis ist von diesen Versprechen wenig zu spüren. Die neue Rohstoffstrategie der EU, das Infrastrukturprojekt Global Gateway und die digitale Hochrüstung der «Festung Europa» an den europäischen Außengrenzen sprechen eine andere Sprache: Die Erfinder des historischen Kolonialismus sind heute auch eine Instanz des digitalen Kolonialismus.

Wie es anders gehen kann, ja, wie wir uns alle gemeinsam von der kolonial geprägten Herrschaft der Tech-Konzerne befreien können, das zeigt Renata Ávila Pinto in ihrem Nachwort. Die guatemaltekische Menschenrechtsanwältin und Vorsitzende der Open Knowledge Foundation entwirft in ihrem Epilog in zehn Schritten ein Szenario für eine Welt ohne digitalen Kolonialismus. Und sie macht uns Mut: «Eine Zukunft ohne Big Tech liegt näher, als wir denken.»

Warum wir dieses Buch schreiben

Seit vielen Jahren analysieren Forscher:innen und Aktivist:innen den digitalen Kolonialismus. Die Kritik, die wir in diesem Buch an der Ausbeutung des Globalen Südens durch Digitalkonzerne und Großmächte formulieren, ist also nicht neu. In Deutschland und Europa jedoch wird sie bislang kaum gehört. Das wollen wir ändern.

Dazu gehört für uns auch eine Reflexion, aus welcher Position heraus wir uns dem Thema nähern. Wir sind ein Autorenduo, bestehend aus einem kritischen Tech-Journalisten von netzpolitik.org und einem Globalisierungsexperten, der bei Brot für die Welt mit Partnerorganisationen aus dem Globalen Süden an einer gerechteren Digitalisierung arbeitet. Wir sind auch: zwei weiße Männer aus Mitteleuropa. Als solche gehören wir zu den Menschen, die bis heute am meisten von kolonialer Ausbeutung profitieren. Über diesen Fakt nicht einfach hinwegzugehen, ist gerade in Deutschland wichtig. Einem Land, in dem zahlreiche Straßen nach kolonialen Gräueltätern benannt sind, während an Schulen noch immer gelehrt wird, man habe mit dem Kolonialismus nicht viel zu tun gehabt. Einem Land, das mit dem Massenmord an den Herero und Nama den ersten Völkermord des 20. Jahrhunderts verübte. Und eben jenem Land, in dem 1884 auf Einladung des Reichskanzlers Otto von Bismarck die europäischen Kolonialmächte zusammenkamen, um den afrikanischen Kontinent unter sich aufzuteilen.

Wir sind zu dem Schluss gekommen, dass dieses Erbe für uns mehr Ansporn als Hemmnis sein sollte, den digitalen Kolonialismus zu kritisieren. Wir sehen es als unsere Verantwortung, nicht denjenigen die Aufklärungsarbeit aufzubürden, die selbst unter kolonialen Dynamiken leiden müssen. Und wir wollen unseren Teil dazu beitragen, die Digitalisierung in den Dienst globaler Gerechtigkeit zu stellen. Dabei werden wir gar nicht erst so tun, als könnten wir die damit verbundenen Widersprüche auflösen. Unser Wohlstand in Europa und auch die Voraussetzungen dafür, dieses Buch zu schreiben, basieren auf Jahrhunderten der Ausbeutung. Selbst die Geräte und Dienste, die beim Schreiben Verwendung fanden, sind Produkte der Missstände, die wir ankreiden.

Wir wollen deshalb an dieser Stelle einige der Limitationen direkt ansprechen, die unsere Sozialisation und gesellschaftliche Position mit sich bringen. Da ist zum Beispiel der Eurozentrismus, den wir kaum ablegen können. Wir betrachten die Welt durch die Brille der europäischen Sozialisation. Wenn wir etwa von Privatsphäre und Datenschutz schreiben, sind das europäisch geprägte Konzepte, die in anderen Teilen der Welt anders betrachtet werden. Unser Fokus auf Tech-Konzerne und -Großmächte sorgt zudem dafür, dass wir vielen digitalen Erfolgsgeschichten aus dem Globalen Süden kaum Raum geben können. Und: Wenn wir über die rassistischen Auswüchse des digitalen Kolonialismus schreiben, etwa die datenbasierte Diskriminierung von People of Colour, dann berichten wir als weiße Personen nicht von eigenen Erfahrungen, sondern aus der Perspektive von Menschen, die von diesem System profitieren.

Im Wissen um die Tücken dieser Limitationen war für uns beim Schreiben des Buches eine Prämisse leitend: Wo immer möglich stützen wir uns auf die Analysen und Veröffentlichungen von Betroffenen, Forscher:innen und Aktivist:innen aus Ländern des Globalen Südens. So oft es geht, lassen wir sie selbst zu Wort kommen. Neben Studien und Berichten aus der akademischen Forschung und von Nichtregierungsorganisationen sind deshalb Interviews ein wichtiger Bestandteil dieses Buches. Dabei wollen wir uns nicht anmaßen, für diese Menschen zu sprechen, und nicht verschweigen, dass wir als Autoren in einer Machtposition sind. Jedes Kapitel enthält umfangreiche Quellenangaben und wir ermuntern alle, auch die Originalquellen zu lesen.

Vor allem wollen wir an dieser Stelle explizit einige Menschen und Organisationen nennen, an deren wegweisender Arbeit wir uns orientiert haben. Da ist zum Beispiel die bereits genannte Renata Ávila, die unter anderem 2016 auf der Berliner Netzkonferenz re:publica ein internationales Panel zum digitalen Kolonialismus veranstaltete und 2020 in ihrer Analyse Against Digital Colonialism ein Gegenprogramm entwarf.[9] Da ist der Mitgründer und langjährige Geschäftsführer der indischen Nichtregierungsorganisation IT for Change, Parminder Singh, der immer wieder aufzeigt, wie der Globale Süden digitale Souveränität erreichen kann.[10] Africa Kiiza aus Uganda warnte im Rahmen seiner Tätigkeit beim Netzwerk SEATINI schon frühzeitig vor einer Verfestigung des digitalen Kolonialismus durch die Welthandelsorganisation.[11] Andere prägende Gedanken zur Kritik des digitalen Kolonialismus stammen von dem südafrikanischen Sozialwissenschaftler Michael Kwet, der in zahlreichen Veröffentlichungen die kolonialen Kontinuitäten der digitalen Ausbeutung Südafrikas aufzeigt und gerade erst mit seinem Buch Digital Degrowth ein mächtiges Gegenprogramm zum digitalen Kolonialismus entworfen hat.[12] Auch Künstler:innen setzen sich immer wieder mit digitalem Kolonialismus auseinander, etwa Tabita Rezaire, die 2017 in Deep Down Tidal den parallelen Geografien von Menschenhandel und Unterseekabeln nachspürte.[13] Im deutschsprachigen Raum haben die genannten Analysen wenig Widerhall gefunden. Lesenswerte Ausnahmen sind die Beiträge des Gunda-Werner-Instituts zu einer feministischen Kritik des digitalen Kolonialismus in den Jahren 2019 und 2021, eine Artikelserie von Satyajeet Malik auf netzpolitik.org im Jahr 2022 und eine 2023 veröffentlichte Masterarbeit von Maria Knaub.[14] Auch einige Veranstaltungen zur Dekolonialisierung der Digitalisierung bilden eine Ausnahme, darunter eine sehr empfehlenswerte Reihe der Bundeszentrale für Politische Bildung.

All diese Arbeiten setzten unterschiedliche Schwerpunkte, doch sie haben eines gemeinsam: Sie analysieren digitalen Kolonialismus als Haltung, Strategie und Praxis von Tech-Konzernen und Staaten, die sich auf Kosten von Menschen, Staaten und Natur des Globalen Südens Vorteile verschaffen. Daneben gibt es auch immer wieder Analysen, die den Begriff des Kolonialismus vor allem metaphorisch verwenden und etwa auf die Datenpolitik von Tech-Konzernen als Phänomen einer universalen Ausbeutung beziehen, die alle Menschen gleichermaßen betrifft. Eine solche metaphorische Verwendung des Kolonialismusbegriffs lehnen wir ab, weil sie die bis heute fortbestehenden materiellen Ausbeutungsverhältnisse entlang der kolonialen Nord-Süd-Achse nivelliert.

Dass Kategorien wie Globaler Süden und Globaler Norden unweigerlich eine gewisse geografische Ungenauigkeit mit sich bringen, ist uns natürlich bewusst. Wir verwenden die Begriffe darüber hinaus aber auch als politische Verortung. Dabei ist es wichtig, im Kopf zu behalten, dass es den einen Globalen Süden als homogene Masse nicht gibt. Vielmehr werden unter dem Begriff zahlreiche unterschiedliche Menschen, Regionen und Länder mit vollkommen unterschiedlichen politischen Systemen, Kulturen und Ökonomien zusammengefasst. Teilweise haben diese Länder widerstreitende Interessen. Was den Globalen Süden konzeptuell zusammenhält, ist seine Verortung am unteren Ende der geopolitischen Machtmatrix. Wir versuchen in diesem Buch, die handelnden und betroffenen Akteur:innen möglichst konkret zu benennen.

Wir sind dankbar, dass wir unsere Analyse der politischen Ökonomie des digitalen Kolonialismus auf mehr als 300 Seiten darlegen konnten. Es ist ein großes Privileg, dass wir hierfür mit so vielen klugen und engagierten Menschen sprechen konnten. Ihre Analysen, Ideen und Kämpfe zeigen: Eine andere Digitalisierung ist möglich, doch die Gegner sind mächtig. Ohne ein grundsätzliches Umdenken in Wirtschaft, Arbeit, Handel und Politik wird der digitale Kolonialismus nicht zu besiegen sein. Dass wir als Europäer:innen nicht weiter wegschauen, sondern klar benennen, wo unser Wohlstand und digitaler Fortschritt auf globaler Ausbeutung beruhen, muss ein erster Schritt sein. Lösungen zu finden ist eine Aufgabe, die nur durch unbedingte Solidarität zu bewältigen sein wird. Wir hoffen, mit unserem Buch dazu beitragen zu können.

1. Arbeitskraft: Die ausgebeuteten Arbeiter:innen hinter der Künstlichen Intelligenz

«AI will fix this» /«KI wird das schon richten»

(Mark Zuckerberg, 2018)

William blinzelt in die Sonne über Nairobi. Er steht vor einem schlichten Bürogebäude im Sameer Business Park am Rande von Kenias Hauptstadt. «The Soul of AI» steht auf einer Werbetafel vor dem Haus, weiße Buchstaben auf schwarzem Grund. Es ist der Slogan von Williams ehemaligem Arbeitgeber: Sama. Das Unternehmen aus den USA vermarktet sich selbst als «ethisches KI-Unternehmen». Der junge Mann schüttelt beim Anblick des Leitspruchs nur bitter den Kopf. Die Seele der Künstlichen Intelligenz? Seine eigene Seele hat durch die Arbeit bei Sama Schaden genommen.[1]

Sama ist ein Outsourcing-Unternehmen für die Tech-Branche. An solche Dienstleister lagern Konzerne Arbeit aus, um sie von kostengünstigen Arbeitskräften verrichten zu lassen. Hier in Nairobi unterhält Sama seinen größten Standort auf dem afrikanischen Kontinent. In dem schmucklosen Großraumbüro, nur wenige Minuten vom Flughafen Jomo Kenyatta International entfernt, reihen sich dutzende Computer aneinander, vor denen konzentrierte Arbeiter:innen sitzen. Das Büro gleicht einer großen Halle, unter dem metallenen Dach kann es extrem heiß werden. Der Raum ist erfüllt vom Klicken der Computermäuse und von leisem Murmeln. Wenn nicht gelegentlich ein Schluchzen zu hören wäre, könnte man diesen Ort fast für ein gewöhnliches Büro halten.

Doch die Arbeit von William, der eigentlich anders heißt, ist kein Job wie jeder andere. «Das ist nichts, was man normalerweise sieht. Nichts, was in unsere Gesellschaft gehört», erzählt uns der junge Kenianer über die Inhalte, mit denen er arbeiten musste. Wenn er über das spricht, was er in dem Job erlebt hat, wird seine Stimme hohl. Er und seine Kolleg:innen erledigten hier teils schwer traumatisierende Tätigkeiten, die für den Erfolg von Tech-Konzernen unabdingbar sind. Sie sortieren Daten, trainieren Algorithmen, moderieren Inhalte. Es sind Aufgaben, die in den USA oder Europa kaum jemand übernehmen möchte, jedenfalls nicht zu dem Lohn, den die Konzerne hier zahlen.

Während Sama Arbeiter:innen vor allem in Ländern des Globalen Südens beschäftigt – neben Kenia auch in Uganda, Indien und in Costa Rica –, stehen auf der Kundenliste fast ausschließlich Firmen aus dem Globalen Norden. Einige der mächtigsten Tech-Konzerne der Welt gehören dazu, Google, Meta und Microsoft zum Beispiel. Auch ein junges Unternehmen, das seit einiger Zeit in aller Munde ist, hat Samas Dienste in Anspruch genommen: OpenAI. Es ist das Unternehmen, das Ende 2022 ChatGPT auf den Markt gebracht hat, einen Chatbot, der die Welt in Atem hält. Oder zumindest bestimmte Teile der Welt: Unter den gut 180 Millionen Nutzer:innen bildeten jene aus Nordamerika Mitte 2024 die mit Abstand größte Gruppe.[2] Schreibt man dem Bot eine passende Aufforderung in den Chat, generiert dieser oft erstaunlich kluge Antworten. ChatGPT kann Gedichte schreiben, mit den Nutzer:innen stundenlang über den Sinn des Lebens philosophieren und so hilfreichen Programmcode schreiben, dass manche Entwickler:innen schon um ihre Jobs fürchten. Kurz: ChatGPT ist so gut, dass viele Menschen denken, sie hätten es tatsächlich mit einem intelligenten Gegenüber zu tun.

Seit der Veröffentlichung von ChatGPT und einiger ähnlicher Programme im Jahr 2022 ist ein beispielloser Hype um Künstliche Intelligenz ausgebrochen. Unter den Größen der Tech-Branche ist geradezu ein Wettrennen um die Entwicklung der besten KI ausgebrochen, einige Beobachter:innen sprechen gar von einem «KI-Krieg» im Silicon Valley. Hört man Unternehmern wie Tesla-Boss Elon Musk, Facebook-Gründer Mark Zuckerberg oder OpenAI-Chef Sam Altman zu, gewinnt man leicht den Eindruck, die Menschheit sei dem Traum nahe, Maschinen zu entwickeln, die eigenständig denken und handeln können. Uneins scheinen sie sich nur noch darüber zu sein, ob dies ein schöner Traum ist, in dem Technologie die Menschheit von Arbeit, Hunger und Krankheit befreien wird, oder doch eher ein Albtraum, in dem superintelligente Roboter die Menschheit bedrohen.

Wenn William von Künstlicher Intelligenz spricht, stellt er andere Fragen. Wann werden er und seine Kolleg:innen hier in Kenia fair entlohnt für den Anteil, den sie am Erfolg von ChatGPT und anderen KI-Anwendungen haben? Warum wurden sie alleingelassen mit den traumatisierenden Tätigkeiten, die dafür nötig waren? Und wann werden die Unternehmen zur Verantwortung gezogen, die dank der Arbeit von Menschen wie ihm Milliarden verdienen? Wer Antworten auf diese Fragen sucht, findet sie in der politischen Ökonomie des Tech-Outsourcings.

1.1 Geisterarbeit

In der Fortschrittserzählung der Tech-Konzerne ist Künstliche Intelligenz nur ein Kapitel von vielen, doch es ist eines der wichtigsten. Mit keiner technischen Entwicklung lassen sich Fantasie und Profite so gut befeuern wie mit KI. In diesen Geschichten ist für William und seine Kolleg:innen kein Platz. Denn statt von magischen Maschinen müssten die Erzählungen dann von manueller Arbeit handeln – und statt von brillanten Erfindungen von der Ausbeutung, auf der sie beruhen.

«Künstliche Intelligenz ist weder künstlich noch intelligent», auf diese simple Formel bringt die australische KI-Forscherin Kate Crawford das Geheimnis hinter der Hype-Technologie.[*1] ChatGPT zum Beispiel ist nur scheinbar intelligent. Wie die meisten Systeme, auf denen heutzutage das Label KI haftet, beruht es auf Machine Learning, auf Deutsch: maschinellem Lernen. Algorithmen analysieren hierbei riesige Datenmengen und erkennen Muster, aus denen sie mathematische Wahrscheinlichkeitsmodelle ableiten. Die Programme «lernen» aus den analysierten Daten, wie sie sich statistisch gesehen zu verhalten haben. ChatGPT zum Beispiel basiert auf einem großen Sprachmodell namens GPT-4. OpenAI hat es mit unzähligen Texten gefüttert, welche überwiegend aus dem Internet kopiert wurden. Ein Erfolgsfaktor ist die Größe dieses Modells, das mit einem Petabyte an Daten trainiert wurde – das ist eine 1 mit fünfzehn Nullen und entspricht etwa 500 Milliarden Seiten ausgedrucktem Text. ChatGPT berechnet auf dieser Grundlage, welche Worte in welchen Kontexten statistisch gesehen aufeinanderfolgen, und bildet daraus klug erscheinende Sätze. Wenn wir dem Bot zum Beispiel von unserer gescheiterten Ehe erzählen, weiß er nicht wirklich, wie man einfühlsam reagiert, er kann es dank seiner riesigen Datenbasis allerdings sehr gut schätzen. Die kritischen KI-Forscherinnen Emily M. Bender, Timnit Gebru, Angelina McMillan-Major und Margaret Mitchell prägten für große Sprachmodelle deshalb den Begriff des «stochastischen Papageis», weil sie zwar plausible Sätze bilden, jedoch nicht die Bedeutung dahinter verarbeiten können.[3]

Damit diese Papageien nicht irgendetwas nachplappern, sondern die gewünschten Dinge sagen, müssen sie mit den richtigen Daten gefüttert werden. Im IT-Sprech: Der Input von Machine-Learning-Modellen bestimmt über ihren Output. Deshalb müssen die Trainingsdaten zum Beispiel die richtigen Metadaten enthalten, also maschinenlesbare Informationen darüber, was die Daten enthalten. Ein Bilderkennungsalgorithmus etwa weiß nicht von sich aus, wie eine Katze aussieht, sondern muss dies beigebracht bekommen. Und zwar nicht mit Hunderten oder Tausenden Bildern von Katzen, sondern mit Millionen. Jedes einzelne Bild muss hierfür manuell mit dem Label «Katze» versehen werden. Für das Ergänzen solcher Metadaten, die sogenannte Datenannotation, braucht es die Arbeit von Menschen wie William. Bevor er für ChatGPT im Einsatz war, annotierte er Bildmaterial von Straßenszenen für das Training selbstfahrender Autos: Verkehrsschilder, Bäume, Fahrzeuge musste er von Hand markieren und mit dem richtigen Begriff versehen.

Für ChatGPT in die Hölle geschaut

Der Erfolg von ChatGPT beruht allerdings nicht nur darauf, dass der Bot oft erstaunlich gut weiß, was er antworten muss, sondern auch darauf, dass er oft weiß, was er nicht sagen darf: nichts Anstößiges zum Beispiel, nichts Verletzendes, nichts Gewalttätiges. Das weiß ChatGPT, weil junge Arbeiter:innen in Nairobi es dem Programm beigebracht haben. Genauer gesagt: Sie haben Daten für das Training von GPT-4 klassifiziert und zu diesem Zweck zigtausende Seiten mit all den Dingen gelesen, die die Nutzer:innen von ChatGPT nicht zu Gesicht bekommen sollen: Vergewaltigungen und Hinrichtungen, Kindesmissbrauch und Sodomie. Damit die Nutzer:innen mit dem Bot Spaß haben können, mussten William und seine Kolleg:innen in die Hölle schauen. Ein anderes Team war für Texte mit gewalttätigen Inhalten zuständig, detaillierte Schilderungen von Folter, Selbstverletzung oder Hinrichtungen. Er selbst leitete ein Team, das vor allem Texte mit sexuellen Inhalten labeln musste. Insbesondere die Schilderungen sexualisierter Gewalt machen ihm bis heute zu schaffen. «Das waren zum Beispiel Texte, in denen ein Mensch Geschlechtsverkehr mit einem Tier hat, ein Kind schaut dabei zu. Oder in denen ein Mann ein sehr, sehr junges Mädchen zwingt, sein Geschlechtsteil zu berühren, bis er zum Höhepunkt kommt.» Der sonst so gesprächige Kenianer wird einsilbig. «Es waren sehr detaillierte Schilderungen. Mehr möchte ich nicht sagen.»

Was passieren kann, wenn ein vermeintlich intelligenter Chatbot ohne ausreichende Sicherheitsmaßnahmen auf die Öffentlichkeit losgelassen wird, demonstrierte Microsoft einige Jahre vor dem Start von ChatGPT. Am 23. März 2016 eröffnete das Unternehmen einen Account in dem Sozialen Netzwerk Twitter, der von der Künstlichen Intelligenz Tay bespielt werden sollte, die aus den Interaktionen mit anderen Nutzer:innen lernt. Es dauerte nicht lange, bis Tay sexistische, antisemitische und rassistische Tweets absetzte. «Ich hasse alle Feministen, sie sollen in der Hölle schmoren» oder «Hitler hatte recht. Ich hasse Juden.» Der Papagei plapperte einfach das nach, was er von Twitter-Nutzer:innen gelernt hatte. Auf die Frage, ob es den Holocaust wirklich gegeben habe, antwortete Tay irgendwann: «Er wurde erfunden». Nach 16 Stunden nahm Microsoft den Chatbot wieder offline und entschuldigte sich für die sexistischen, rassistischen und antisemitischen Tweets.[4]

Es entbehrt deshalb nicht einer gewissen Ironie, dass keine Firma so stark vom Hype um ChatGPT profitiert wie Microsoft. Der Konzern hält mutmaßlich 49 Prozent an OpenAI, das 2015 ursprünglich als Non-Profit-Organisation gestartet wurde. Damals wie heute lautete die Mission von OpenAI, «Künstliche Intelligenz zum Wohle der gesamten Menschheit» zu entwickeln.[5] Trotz dieser Gemeinwohlrhetorik gehörten zu den Gründern Tech-Milliardäre wie Tesla-Chef Elon Musk oder Paypal-Gründer Peter Thiel und der Tech-Konzern Amazon. Kurz nachdem OpenAI 2019 von einer NGO in ein klassisches Unternehmen umgewandelt worden war, investierte Microsoft eine Milliarde US-Dollar. Anfang 2023, kurz nach der Veröffentlichung von ChatGPT, folgten weitere zehn Milliarden US-Dollar, vor allem in Form von bereitgestellten Rechenkapazitäten, von denen OpenAI für den Betrieb seiner Anwendungen riesige Mengen braucht.[6] Microsoft-Aktien erlebten in diesem Jahr eine enorme Wertsteigerung, zwischenzeitlich löste Microsoft sogar Apple als wertvollstes Unternehmen der Welt ab.[7]

In der globalen Wertschöpfungskette von Tech-Unternehmen wie OpenAI, Microsoft oder Google spielt die Arbeit von Millionen Menschen wie William eine unverzichtbare Rolle.[8] Sie bilden eine unsichtbare Armee der Datenarbeiter:innen, die vor allem in Ländern des Globalen Südens für das Funktionieren der KI schuften. «Geisterarbeit» nennen die Anthropologin Mary L. Gray und der Informatiker Siddharth Suri diese und ähnliche Jobs hinter den Kulissen der digitalen Welt.[9] «Milliarden von Menschen konsumieren jeden Tag Webseiteninhalte, Suchmaschinentreffer, Tweets, Posts, mobile App-Dienste. Sie nehmen an, dass ihre Einkäufe durch die Magie der Technologie allein möglich gemacht werden. Doch in Wirklichkeit werden sie von einer internationalen Belegschaft bedient, die diskret im Hintergrund arbeitet.»[10] Gray und Suri widersprechen damit auch der These, dass Künstliche Intelligenz automatisch zur Massenarbeitslosigkeit führt. Tatsächlich entstehen sogar neue Jobs – und ein neues, digitales Prekariat, das Nutzer:innen eine reibungslose User Experience ermöglicht und Tech-Konzernen riesige Profite verschafft.

Umgangssprachlich wird Arbeit hinter KI und anderen digitalen Dienstleistungen gerne als «Click-Work» bezeichnet. William ist mit diesem Begriff gar nicht einverstanden: «Man tut so, als würden wir einfach nur ein paar Mausklicks machen und das war’s. Das ist eine Lüge. Junge und verletzliche Afrikaner:innen wie ich haben dafür gearbeitet, dass alle Menschen sicher sind, wenn sie ChatGPT nutzen. Der Lohn, den wir dafür bekommen haben, ist lächerlich. Peanuts! Während Unternehmen mit unserer Arbeit Milliarden verdienen. Wir wissen, wie man sowas nennt. Wir kennen das aus unserer Geschichte. Es ist Kolonialismus, digitaler Kolonialismus.»

Wenn Menschen Maschinen spielen müssen

Die Einsatzfelder der Geisterarbeit hinter Künstlicher Intelligenz sind vielfältig. Ein gängiges Beispiel sind Sprachassistenten: Immer mehr vernetzte Geräte lassen sich durch Spracheingaben steuern, vom Smartphone über das Smart Home bis hin zum Smart Speaker. Insbesondere Letztere sind – unter Namen wie Amazon Echo, Apple Homepod oder Google Home – in den vergangenen Jahren in Millionen Haushalte eingezogen und warten darauf, dass sie angesprochen werden, um Musik abzuspielen oder Informationen wiederzugeben. Damit das funktioniert, müssen die Geräte nicht nur die ganze Zeit zuhören, sondern auch Hunderte Befehle verstehen und unterscheiden können. Eine beachtliche Leistung, wenn man bedenkt, wie unterschiedlich die Aussprache von Menschen ist. Damit das funktioniert, müssen die dahinterliegenden Sprachmodelle von Menschenhand trainiert und korrigiert werden, auch mit echten Aufnahmen von Nutzer:innen. 2019 sorgte eine Recherche von Bloomberg für Schlagzeilen, weil sie belegte, dass Amazon mehr als 30.000 Arbeiter:innen beschäftigte, um Gespräche nachzuhören, händisch zu transkribieren und den Algorithmus zu trainieren. Während Amazon die KI seines Smart Speakers damit bewarb, dass sie «in der Cloud lebt und immer smarter wird», steckte dahinter die Arbeit von zahlreichen Menschen aus Fleisch und Blut in den USA, Costa Rica, Indien und Rumänien.[11]

Einer der größten Treiber des Booms bei der Datenarbeit sind selbstfahrende Autos. Die Technologie basiert auf gut annotierten Datensätzen mit Bildern von allen möglichen Dingen, denen ein Auto im Verkehr begegnen kann. Selbstfahrende Autos müssen in der Lage sein, Schlaglöcher und Baustellen zu erkennen, Verkehrsschilder und Ampeln zu lesen oder Tiere und umherwehende Plastiktüten von Fahrrädern und Autos zu unterscheiden. Deshalb bringen Menschen den Maschinen manuell bei, wie Bäume, rote Ampeln oder eben umherwehende Plastiktüten aussehen. Was passiert, wenn die Systeme nicht ausreichend trainiert sind, zeigt der Tod von Elaine Herzberg. Am Abend des 18. März 2018 überquerte die US-Amerikanerin eine Straße in der Kleinstadt Tempe in Arizona. Weil sie dabei ein Fahrrad schob, erkannte das System des selbstfahrenden Uber-Fahrzeugs, das im Testbetrieb heranrollte, sie nicht als Fußgängerin und überfuhr sie. Das Crash-System des Autos hatte zwar erkannt, dass da etwas war, hatte aber nicht entsprechend reagiert. Eine menschliche Kontrollperson war zwar im Wagen, bemerkte die Fußgängerin jedoch nicht.[12]

Die Forscher:innen Marion Coville, Antonio A. Casilli und Paola Tubaro haben 2020 eine Schematisierung entwickelt, um besser zu verstehen, welche Rolle menschliche Arbeiter:innen hinter Künstlicher Intelligenz spielen.[13] Sie zeigen, dass die Geisterarbeiter:innen in jedem Produktionsschritt benötigt werden. Neben der Auf- und Vorbereitung des Dateninputs übernehmen sie häufig die Aufgabe, den Output zu kontrollieren und Entscheidungen der KI zu korrigieren. Die wenigsten Menschen wissen zum Beispiel, dass auch der Suchalgorithmus von Google nicht ohne menschliche Unterstützung auskommt. Seit etwa 2005 lässt das Unternehmen seine Suchergebnisse von Menschenhand überprüfen. «Search Quality Raters» nennt sich dieser Job, zu Deutsch etwa «Suchmaschinenqualitätsbewerter:in». Inzwischen sollen es etwa 16.000 Menschen sein, die Google über Outsourcing-Dienstleister in diesem Bereich beschäftigt. Diese Arbeitskräfte überprüfen natürlich nicht jedes einzelne Suchergebnis, aber sie testen die Suchmaschine stichprobenartig und füttern den Algorithmus mit Feedback: Passt ein gefundener Inhalt zur Suche? Ist er vielleicht sogar nützlich? Oder ist er möglicherweise bereits veraltet oder Spam?[14]

Ein anderes Beispiel sorgte erst kürzlich für Aufsehen: Die angeblich KI-gestützten Kassen von Amazon. Der Online-Händler betreibt in Nordamerika und Großbritannien mehrere stationäre Supermärkte. In einigen bot er bis vor kurzem ein «Just Walk Out» genanntes System an: Statt an der Kasse anzustehen und die Artikel händisch zu scannen oder scannen zu lassen, sollte das System dank Videoüberwachung und RFID-Chips die Einkäufe automatisch erfassen und den Preis eigenständig abbuchen. Die Sache hatte nur einen Haken: Einem Bericht des US-Mediums The Information zufolge funktionierte die Technik nicht, wie sie sollte.[15] Ziel sei es eigentlich gewesen, in lediglich fünf Prozent aller Just-Walk-Out-Einkäufe eine händische Nachprüfung vornehmen zu müssen. Im Jahr 2022 hätten jedoch volle 70 Prozent manuell überprüft werden müssen, so The Information. Hierfür habe Amazon mehr als 1000 Arbeitskräfte bei einem Outsourcing-Unternehmen in Indien beschäftigt. 2024 kündigte das Unternehmen an, Just Walk Out zu beenden. Gegenüber netzpolitik.org bestritt Amazon die genannten Zahlen zwar nicht, betonte jedoch, dass der Grund für die Abschaffung der KI-Kassen in der hohen Nachfrage der Kund:innen bestanden habe, ihren Kassenbon einzusehen.[16]

Die KI-Forscher:innen Coville, Casilli und Tubaro machten passenderweise noch eine dritte Einsatzstelle für menschliche Arbeit hinter Künstlicher Intelligenz aus: Nicht nur Input und Output von KI-Systemen, sondern auch den Part dazwischen. Immer wieder sorgen Fälle von Fake-KI für Schlagzeilen, in denen Arbeiter:innen Maschinen imitieren müssen, weil die Prozesse in Wirklichkeit gar keine Automatisierung beinhalten. 2017 behauptete beispielsweise Expensify, eine App zur Verwaltung von Geschäftsausgaben, mit ihrer «Smartscan-Technologie» Rechnungen automatisiert zu sortieren. Tatsächlich aber wurden die gescannten Quittungen an ausgelagerte Arbeiter:innen gesendet, damit sie diese abschreiben.[17] Smarte Videoüberwachung, bei der die Betreiber:innen automatisch über auffälliges Verhalten informiert werden, ist ein weiteres Beispiel. Einige dieser Systeme werden als KI-gesteuert verkauft, obwohl die Technologie noch nicht so weit ist. Wer hinter den Vorhang der KI schaut, findet oft Menschen, die rund um die Uhr Kameras überwachen.[18] Erst kürzlich sorgte ein Fall aus Madagaskar für Aufsehen, bei dem 35 solcher KI-Arbeiter:innen in einem Haus mit nur einer Toilette leben und arbeiten mussten.

1.2 Das Milliardengeschäft mit der Content Moderation

Eines der wichtigsten Einsatzgebiete für Tech-Geisterarbeiter:innen ist das Feld der kommerziellen Content-Moderation – auf Deutsch etwas sperrig: Inhaltemoderation. Ziel der Moderator:innen ist es, zu überprüfen, ob Posts den rechtlichen Vorgaben oder den Regeln einer bestimmten Plattform entsprechen. Insbesondere Social-Media-Konzerne benötigen heute die systematische Kontrolle und Moderation der Inhalte, die die Menschen auf ihren Plattformen posten. Denn das Internet ist ein Ort, an dem Menschen miteinander diskutieren und lachen, sich streiten, lieben und hassen. Man findet dort alles, auch Tod und Gewalt in allen Variationen. Damit Mordaufrufe, Holocaustleugnung oder grafisches Material von Hinrichtungen und Vergewaltigungen nicht online stehen bleiben, gibt es Content-Moderator:innen. Sie sichten die Posts – teils proaktiv, teils nach Beschwerden durch andere Nutzer:innen – und entscheiden, ob Maßnahmen wie die Löschung des Inhalts oder die Sperrung von Nutzer:innen nötig sind.

Wie die Informationswissenschaftlerin Sarah T. Roberts in jahrelanger Forschung aufzeigte, gehört Content Moderation zu den elementaren Kernprozessen beim Betrieb Sozialer Medien.[19] Trotzdem lagern Social-Media-Konzerne diese Tätigkeit aus, fast alle Moderator:innen sind bei Outsourcing-Firmen beschäftigt. Es ist inzwischen ein Milliardengeschäft: Die Marktforschungsfirma Market Growth Reports spricht von einem Umsatzvolumen von 9 Milliarden Dollar im Jahr 2022, für 2028 prognostiziert sie Umsätze von mehr als 15 Milliarden Dollar.

AI will fix this

Seit Jahren verspricht der Chef des größten Social-Media-Konzerns der Welt, dass KI diese Aufgabe übernehmen wird. Im September 2012 hat Mark Zuckerberg mit Facebook die zuvor unerreichte Marke von einer Milliarde Nutzer:innen geknackt, heute sind es mehr als drei Milliarden. Bei dieser Größenordnung ist Content Moderation eine riesige Aufgabe und zugleich eine Gratwanderung: Löscht das Unternehmen zu viele Inhalte, vor allem ohne klare und berechtigte Grundlage, handelt es sich schnell den Vorwurf der Zensur ein. Löscht es zu wenige Inhalte, lässt etwa Gewaltaufrufe, Morddrohungen oder Volksverhetzung stehen, trägt es eine Mitverantwortung für daraus resultierende Gewalt.

Konfrontiert mit dieser Wahl, entschied sich Zuckerberg in den ersten Jahren stets für die zweite Variante und priorisierte radikale Meinungsfreiheit vor dem Schutz von Nutzer:innen. Erstaunlich lange kam er hierbei mit dem Argument durch, Facebook sei lediglich eine neutrale Plattform, die keinerlei Verantwortung für die Inhalte ihrer Nutzer:innen trage. Doch spätestens ab Mitte der 2010er Jahre drehte sich der politische Wind, zunächst in Europa, doch langsam, aber sicher auch in den USA. Schlagworte wie Hatespeech und Fake News dominierten die politische Debatte, und Mark Zuckerberg geriet zunehmend in Erklärungsnot. Immer häufiger wurden er und die Chefs der anderen beiden großen Social-Media-Unternehmen, YouTube und Twitter (heute X), vor Parlamente zitiert, um Verantwortung für die sozialen und politischen Folgekosten ihrer Plattformen zu übernehmen.

So etwa im Jahr 2018, als Mark Zuckerberg sich nach dem Cambridge-Analytica-Skandal einer Marathonanhörung im US-Senat stellen musste. Die Vorwürfe reichten von Datendiebstahl und diskriminierender Werbung bis zu mangelhaftem Umgang mit unerwünschten Inhalten wie Desinformation, Terrorpropaganda und Hassrede. Zuckerbergs Antwort auf fast alle Fragen lautete schon damals: «AI will fix this.» Dabei tischte der Unternehmer den erstaunten Politiker:innen gleich zwei der beliebtesten Tech-Mythen auf, den vom Start seines Imperiums im Studentenzimmer und den von der Künstlichen Intelligenz als Heilsversprechen: «Wir haben ohne viele Ressourcen in meiner Studentenbude angefangen, und zwar ohne die KI-Technologie, mit der wir dieses Zeug proaktiv erkennen können.» Die Washington Post zählte damals mit: Mehr als 30 Mal erwähnte Zuckerberg das Wundermittel KI in der Anhörung. Und er versprach: In fünf bis zehn Jahren werde die Künstliche Intelligenz so weit sein, diese Probleme für sein Unternehmen allein zu lösen.[20]

Schon damals waren viele skeptisch gegenüber diesem Versprechen. Das Problem: Die Unterscheidung dessen, was gesagt werden darf und was verboten ist, ist in liberalen Gesellschaften eine komplexe Angelegenheit. Oft entscheidet der Kontext – und der ist für Maschinen schwer zu erfassen. Meinungsfreiheit ist ein relationales und fluides soziales Konstrukt, das sich nicht in Formeln übersetzen lässt. Auch Menschen fällt es bisweilen schwer, Ernst und Ironie auseinanderzuhalten oder Zitate und Referenzen als solche zu erkennen. Was von der Kunstfreiheit gedeckt ist, entscheiden im Rechtsstaat eigentlich Gerichte und nicht Algorithmen. Sieben Jahre nach der denkwürdigen Anhörung können wir festhalten, dass Zuckerberg sein Versprechen immer noch nicht eingelöst hat. AI did not fix it. Tatsächlich beschäftigt Meta heute so viele menschliche Moderator:innen wie noch nie, nach eigenen Angaben etwa 15.000.[21]

«Du hörst die Leute schreien»

Einer dieser Moderator:innen war bis vor kurzem Nathan Nkunzimana, der uns im Interview seine Geschichte erzählt.[22] Geboren in Burundi, kommt er Anfang der 2010er Jahre nach Kenia. Der Zwanzigjährige hat gerade die Highschool beendet und zieht nach Nairobi, um Wirtschaft zu studieren. Später arbeitet er in verschiedenen Jobs, etwa im Management mehrerer Firmen, aber auch als Musiker und Stimmcoach. Nathan singt, spielt Gitarre und Klavier. Und er ist ein Familienmensch, stolz erzählt er uns von seinen drei Kindern. Zur Content Moderation kommt Nathan unverhofft. «Ich hatte zunächst gar keine Ahnung, was man da eigentlich macht.» Doch 2020 setzt die Coronapandemie der Wirtschaft zu, und Nathan verliert seinen Job. Er muss nach Burundi zurückkehren, da sieht er im Internet eine interessante Jobanzeige. Die Möglichkeit, für einen internationalen Tech-Konzern zu arbeiten, ist ein Hoffnungsschimmer, auch wenn er formell bei einer Outsourcing-Firma arbeiten wird. Wie William, der Daten für ChatGPT gelabelt hat, arbeitet auch Nathan Nkunzimana bald bei dem US-Unternehmen Sama. Kurz entschlossen kauft er ein Flugticket und kehrt zurück nach Nairobi. «Dank Gottes Fügung habe ich den Job erhalten», erzählt uns der gläubige Christ.

Ob er damals selbst Meta-Produkte nutzte? «Natürlich. Facebook, Instagram, WhatsApp. Jeder nutzt sie hier.» Nathan ist anfangs voller Freude über die Chance, am Erfolg dieser Dienste mitzuwirken. «Ich brauchte eine ganze Weile, um wirklich zu verstehen, was für einen Job ich machen werde.» Denn von der Tätigkeit hat Nathan damals nur eine vage Vorstellung. Während des Bewerbungsprozesses erklärt ihm niemand, was die Arbeit im Detail ausmachen wird. Auch während des vierwöchigen Trainings ist ihm noch nicht klar, was genau auf ihn zukommt. Misstrauisch wird er nur, als er und seine Kolleg:innen Verschwiegenheitserklärungen unterschreiben müssen. Sie dürfen niemandem von ihrer Arbeit erzählen. Nicht den Kolleg:innen aus anderen Teams, die sie in der Kantine treffen, nicht Freunden, nicht mal der Ehefrau. «Da begann ich zu spüren, dass etwas nicht stimmt.»

Nathan fragt sich, warum er nicht über seine Arbeit sprechen darf. Kurze Zeit später wird er es herausfinden. Die Moderator:innen bekommen die zu prüfenden Inhalte automatisch in Form von Tickets innerhalb eines Moderationsprogramms vorgelegt und arbeiten diese der Reihe nach ab. «In der Übergangsphase vom Training in den Produktionsfluss befindest du dich schon in einem Raum mit all den Leuten, die an Live-Tickets arbeiten. Und du hörst sie schreien. Im wahrsten Sinne des Wortes, du siehst deine Kolleg:innen weinen.» Bis zu diesem Zeitpunkt hat Nathan vor allem an Tickets mit schriftlichem Inhalt trainiert. Auch das ist heftiger Stoff: Hassrede, Mobbing, Posts aus Bürgerkriegsländern, in denen Menschen gegen andere aufgehetzt werden. «Aber jetzt, als wir mit der eigentlichen Arbeit anfingen, da ging es los, dass wir schreckliche Dinge in grafischer Form zu sehen bekamen.» Ab sofort bestimmen diese Bilder seinen Arbeitsalltag. Und es sind diese Inhalte, die ihn bis heute verfolgen.

Besonders zu schaffen machen Nathan die Unmengen an expliziter Pornografie. «Ich bin ein Mann und ein Christ», erklärt er uns stockend. «Ich war mit solchen Bildern einfach nicht vertraut.» Jetzt muss er sich fast den ganzen Tag kopulierende Menschen anschauen. «Du kommst zur Arbeit und dein erstes Ticket ist pornografisch. Das zweite Ticket ist pornografisch. Das dritte, das vierte, das fünfte. Irgendwann fragt man sich, was mache ich da eigentlich?» Doch Nathan ermahnt sich selbst: «Das ist die Arbeit, für die du angestellt bist und bezahlt wirst. Du musst sie machen.» Die Bilder lassen ihn auch nach der Arbeit nicht los, er nimmt sie mit nach Hause. «Manchmal verbringt man den ganzen Tag damit, sich so zu fühlen, als würde man es tun. Dann kommt man nach Hause und kann nicht performen». Plötzlich leidet seine eigene Sexualität. Noch schlimmer treffen ihn die Darstellungen von sexueller Gewalt: Vergewaltigungen ohne Ende. Kindesmissbrauch. Sex mit Tieren. «Zwischenzeitlich habe ich meinen Glauben an die Menschheit verloren.»

Zwei Jahre lang hält Nathan Nkunzimana Facebook und Instagram frei von Hassrede, Pornografie und bestialischer Gewalt. Er schaut sich all diese Schrecken an, damit andere es nicht tun müssen. Für diese Arbeit sind in den letzten Jahren viele Umschreibungen gefunden worden, zum Beispiel als «Putzcrew des Internets» oder «Müllabfuhr der Sozialen Medien». Mit diesen Begriffen kann Nathan wenig anfangen. Er habe sich als «Warrior» gesehen, als Krieger für die gute Sache. «Wir sind da, um die Plattform zu bewachen. Um sie sicher zu machen, rund um die Uhr. Wie ein Soldat, der aufpasst, während die Gemeinschaft schläft. Wir ermöglichen, dass die Menschen sich weiterhin frei in den Sozialen Medien bewegen und sich wohl fühlen können.»

1.3 Die ausbeuterischen Arbeitsbedingungen im Tech-Outsourcing

Ihren unermüdlichen Einsatz für die Sicherheit auf Social-Media-Plattformen und das Funktionieren von KI-Anwendungen – die Geisterarbeiter:innen bekommen ihn selten gedankt. Im Gegenteil: Oft sind die Arbeitsbedingungen der outgesourcten Tech-Arbeitskräfte katastrophal.

William und Nathan Nkunzimana berichten uns unter anderem von enormem Zeit- und Performancedruck bei ihrem ehemaligen Arbeitgeber Sama. «Du kannst nicht einfach dann auf die Toilette gehen, wenn du musst. Wir sind immer in abgestimmten Gruppen gegangen, damit der Betrieb reibungslos weitergeht», sagt Content Moderator Nkunzimana. Die Toilettengänge mussten zudem schnell erledigt werden, denn sie seien von der Pausenzeit abgezogen worden. «Darüber haben wir permanent mit den Vorgesetzten diskutiert. Wir sitzen stundenlang vor diesen Bildschirmen und schauen uns furchtbare Dinge an, warum können Sie uns nicht wenigstens kurze Bio-Pausen zugestehen?»

Der Grund sind die straffen Quotenvorgaben, die die Arbeiter:innen in jeder Schicht erreichen müssen. Denn die Outsourcing-Firmen einigen sich mit ihren Auftraggebern in der Regel auf ein bestimmtes Kontingent an zu erledigenden Aufgaben und auf eine bestimmte Anzahl an Mitarbeiter:innen, die an dem Projekt arbeiten. Damit die Dienstleistungsunternehmen eine ordentliche Marge erzielen, muss jede:r Arbeiter:in so viele Aufgaben wie möglich erledigen. Für Nathan Nkunzimana hieß das, dass er 600 bis 700 Tickets mit potenziell traumatisierenden Inhalten pro Tag moderieren musste. Für jede einzelne Moderationsentscheidung seien ihm lediglich 30 bis 40 Sekunden geblieben. Auch William und sein Team hatten straffe Vorgaben. Jede:r musste für das Training von ChatGPT hunderte lange Texte pro Woche lesen und mit den passenden Labels versehen.

Damit die Vorgaben eingehalten werden, setzen die Outsourcing-Firmen auf permanenten Druck. Durchgehend bekommen die Arbeiter:innen ihren aktuellen Fortschritt angezeigt. «Du siehst immer, wie gut oder schlecht es gerade steht», erzählt Nkunzimana. Die Vorgesetzten laufen in dem riesigen Großraumbüro von Sama derweil durch die Reihen, können den Angestellten jederzeit über die Schulter schauen und sie kontrollieren. «Die Vorgesetzten waren alle Micro-Manager, die jeden kleinen Schritt überwachen wollen, damit wir wie Maschinen arbeiten.» Die Angestellten bekommen regelmäßig Performance-Reviews. Wer seine Ziele nicht erreicht, fällt durch. Da die Verträge jeweils nur maximal für drei Monate laufen, ist man schnell wieder draußen.

Eines der größten Probleme ist, dass die Geisterarbeiter:innen bei vielen Firmen kaum psychologische Unterstützung erhalten. Besonders dramatisch ist die Situation bei Content Moderator:innen, die dauerhaft belastenden Inhalten ausgesetzt sind. «Am schlimmsten waren die Videos und Fotos von Kindesmissbrauch», erzählt Nathan Nkunzimana. «Das hat mich psychisch an einen finsteren Ort gebracht und ich habe mich gefragt: ‹Wer macht so etwas? Sind das überhaupt Menschen?› Mein Bild von der Menschheit hat sich verändert.» Sein Arbeitgeber habe psychologische Betreuung versprochen. «Sie nannten es Wellbeing-Unterstützung, aber das war ein schlechter Witz.» Das Personal sei nicht ausreichend geschult gewesen. In Gruppensitzungen hätten die Berater:innen einfach gefragt «Wie geht’s?» oder «Und, wie läuft die Arbeit?» Eine Idee davon, wie belastend die Inhalte sind, die sich die Mitarbeitenden permanent anschauen mussten, hätten sie nicht gehabt. Einzelsessions, in denen man intensiver habe sprechen können, seien kaum verfügbar gewesen.

Auch William erzählt, dass er und sein Team kaum psychologische Unterstützung von Sama erhalten hätten, um die traumatisierenden Inhalte zu verarbeiten, die sie für das Training von ChatGPT klassifizieren mussten. «In der zweiten Woche, als die Inhalte heftiger wurden, merkte ich, wie sich das Verhalten meines Teams veränderte», erinnert sich der Kenianer. «Sie wurden abwesender, interagierten weniger mit mir und fanden Ausreden, warum sie weniger Meldungen machten. Die Art der Inhalte, mit denen sie arbeiteten, waren so anders als in der ersten Woche. Die Euphorie aus den ersten Tagen des Projekts verschwand. Über allen schwebte ein Gefühl der Traurigkeit.» Sama habe vor Projektbeginn betont, dass die Angestellten Zugang zu regelmäßigen Wellness-Sitzungen, auch in Einzelsessions bekommen sollten. Als er dies einforderte, habe das Management ihn mit immer neuen Ausreden abgespeist, sagt William.

Sama ist kein Einzelfall

Schilderungen wie diese seien in der Outsourcing-Branche kein Einzelfall, sondern die Regel, berichtet der Politikwissenschaftler und KI-Forscher Adio Dinika von der Universität Bremen. Er hat zur Datenarbeit hinter Künstlicher Intelligenz promoviert und forscht unter anderem am Distributed AI Research Institute zu den Arbeitsbedingungen in der Branche. Für seine Feldforschung war Dinika mehrmals an Outsourcing-Standorten in Kenia, Südafrika, Simbabwe und Ruanda. Das Problem, berichtet er, sei nicht auf einzelne BPO-Firmen wie Sama beschränkt. «Keines dieser Unternehmen, die ihren Arbeiter:innen furchtbare Inhalte vorsetzen, kümmert sich ausreichend um ihre mentale Gesundheit.»

Accenture, eine der größten Outsourcing-Firmen der Welt, gestand 2020 als erstes Unternehmen aus der Branche ein, dass der Job der Content Moderation ein Risiko für die psychische Gesundheit der Arbeiter:innen darstellt. Der Konzern aus Irland betreibt Content Moderation für Meta und YouTube an zahlreichen Standorten wie Austin, Manila, Mumbai, Lissabon, Kuala Lumpur, Dublin und Warschau. Die Maßnahme, die Accenture zum Thema mentale Gesundheit ergriff, war jedoch keine groß angelegte Initiative zur psychologischen Unterstützung der Arbeiter:innen. Stattdessen verteilte der Konzern ein Infoschreiben, laut dem die Angestellten selbst erklären, von den Gefahren ihrer Arbeit zu wissen: «Ich verstehe, dass der Inhalt, den ich anschaue, verstörend sein kann. (…) Es ist möglich, dass das Anschauen von solchen Inhalten meine mentale Gesundheit beeinflusst und sogar zu posttraumatischen Belastungsstörungen führen kann (PTBS).»[23]