Künstliche Intelligenz und Maschinisierung des Menschen E-Book

Peter Seele

• Herausgeber: Herbert von Halem Verlag
• Kategorie: Geisteswissenschaft
• Serie: Schriften zur Rettung des öffentlichen Diskurses
• Sprache: Deutsch
• Veröffentlichungsjahr: 2020

Seitenzahl: 237

Beschreibung

Fast jeder hat Erfahrungen mit Siri, Alexa oder anderen Chatbots. Doch was geschieht, wenn ein Mensch einen Chatbot in einen Dialog über Philosophie verwickelt? Kann man mit künstlichen Intelligenzen (KI) überhaupt über Bewusstsein, Erinnerung und philosophische Theorien der Zeit diskutieren? Ja, man kann – zumindest der Form nach. Und das gleich zweimal: Mit den beiden Loebner-Preis für KI dekorierten Chatbots Rose und Mitsuku. Ob das geistreich ist? Das muss jeder für sich entscheiden. Ob das unterhaltsam ist? Ja – allerdings eher unfreiwillig. Im systematischen Teil des Essays werden die Dialoge ausgewertet. Dabei wird der gegenwärtige Hype um KI als maßlose Übertreibung sichtbar, ein Goldrausch der KI gewissermaßen, übrigens von Menschen und ihren allzu menschlichen Interessen veranlasst. Die Begriffe rund um das Thema KI werden im Buch weggeholt von der Behauptung der Singularität, der Disruption oder der versteckten Science Fiction – zurück auf den Boden der funktionalen Tatsachen einer gleichwohl beachtlichen Innovationsspirale: Automatisierung, Standardisierung und maschinelles Verarbeiten von großen Echtzeit-Daten sind aktuell die sachgemäßen Beschreibungen des gegenwärtigen KI-Rauschs. Doch eigentlich geht es beim KI-Rausch um etwas anderes: Die Maschinisierung des Menschen durch Standardisierung, Automatisierung und verbesserte Kontrolle zur fortschreitenden Ökonomisierung aller Lebensbereiche, ermöglicht durch Algorithmen, Datafizierung und digitale Technologie in bisher ungeahnter Wirkmächtigkeit. Der Essay enthält dazu fünf Thesen: These 1: Maschinen werden immer effizienter im Automatisieren – oder: die Automatisierung der Automatisierung. These 2: Trotz Automatisierung der Automatisierung: Maschinen sind nicht geistreich intelligent. These 3: Menschen werden als Datenhaufen ausgemessen – und damit zu Datenhaufen gemacht. These 4: Datenhaufen quo vadis? Von der Präferenz-Erfassung zum "hackable animal". These 5: Synthese = Die Maschinisierung der Menschen – zur Bahnung der KI. Fazit: Mit den künstlichen Intelligenzen verhält es sich wie mit künstlichen Tränen: Sie erfüllen einen instrumentellen Zweck, der aber in keiner Weise mit jenen schillernden Gefühlen verbunden ist, die wir in Freude oder Trauer empfinden – und die uns zum Menschen machen. Alles andere ist Budenzauber oder Desinformation.

Leseprobe

Bibliografische Information Der Deutschen Nationalbibliothek

Die Deutsche Nationalbibliothek verzeichnet diese Publikationin der Deutschen Nationalbibliografie; detailliertebibliografische Daten sind im Internet überhttp://dnb.ddb.de abrufbar.

Peter Seele

Künstliche Intelligenz und Maschinisierung des MenschenSchriften zur Rettung des öffentlichen Diskurses, 1Köln: Halem, 2020

Alle Rechte, insbesondere das Recht der Vervielfältigungund Verbreitung sowie der Übersetzung, vorbehalten.Kein Teil des Werkes darf in irgendeiner Form (durchFotokopie, Mikrofilm oder ein anderes Verfahren)ohne schriftliche Genehmigung des Verlages reproduziertoder unter Verwendung elektronischer Systeme(inkl. Online-Netzwerken) gespeichert, verarbeitet,vervielfältigt oder verbreitet werden.

http://www.halem-verlag.de

© Copyright Herbert von Halem Verlag 2020

Print:

ISBN 978-3-86962-512-6

E-Book (PDF):

ISBN 978-3-86962-513-3

E-Book (EPUB):

ISBN 978-3-86962-514-0

ISSN 2699-5832

UMSCHLAGGESTALTUNG: Claudia Ott, Düsseldorf

UMSCHLAGFOTO: Getty Images, by Peepo

LEKTORAT: Rabea Wolf

SATZ: Herbert von Halem Verlag

DRUCK: docupoint GmbH, Magdeburg

Copyright Lexicon © 1992 by The Enschedé Font Foundery.

Lexicon ® is a Registered Trademark of The Enschedé Font Foundery.

Schriften zur Rettung des öffentlichen Diskurses

Peter Seele

Künstliche Intelligenz und Maschinisierung des Menschen

Die Reihe Schriften zur Rettung des öffentlichen Diskurses

Warum ist der Lager übergreifende öffentlich-demokratische Diskurs gefährdet, ja geradezu ›kaputt‹? Weshalb ist der öffentliche Wettbewerb auf dem Marktplatz der Ideen ins Stocken geraten? Und welche Rolle spielen dabei Digitalisierung und Algorithmen, aber auch Bildung und Erziehung sowie eskalierende Shitstorms und – auf der Gegenseite – Schweigespiralen bis hin zu Sprech- und Denkverboten?

Die Reihe Schriften zur Rettung des öffentlichen Diskurses stellt diese Fragen, denn wir brauchen Beiträge und Theorien des gelingenden oder misslingenden Diskurses, die auch in Form von ›Pro & Contra‹ als konkurrierende Theoriealternativen präsentiert werden können. Zugleich gilt es, an der Kommunikationspraxis zu feilen – und an konkreten empirischen Beispielen zu belegen, dass und weshalb durch gezielte Desinformation ein ›Realitätsvakuum‹ und statt eines zielführenden Diskurses eine von Fake News und Emotionen getragene ›Diskurssimulation‹ entstehen kann. Ferner gilt es, Erklärungen dafür zu finden, warum es heute auch unter Bedingungen von Presse- und Meinungsfreiheit möglich ist, dass täglich regierungsoffiziell desinformiert wird und sich letztlich in der politischen Arena kaum noch ein faktenbasierter und ›rationaler‹ Interessensausgleich herbeiführen lässt. Auf solche Fragen Antworten zu suchen, ist Ziel unserer Buchreihe.

Diese Reihe wird herausgegeben von Stephan Russ-Mohl, emeritierter Professor für Journalistik und Medienmanagement an der Università della Svizzera italiana in Lugano/Schweiz und Gründer des European Journalism Observatory.

Widmung an die Digitalisierer: Die digitale Libelle

Die Freuden

Es flattert um die Quelle

Die wechselnde Libelle,

Mich freut sie lange schon;

Bald dunkel und bald helle,

Wie der Chamäleon,

Bald roth, bald blau,

Bald blau, bald grün;

O daß ich in der Nähe

Doch ihre Farben sähe!

Sie schwirrt und schwebet, rastet nie!

Doch still, sie setzt sich an die Weiden.

Da hab’ ich sie! Da hab’ ich sie!

Und nun betracht’ ich sie genau

Und seh’ ein traurig dunkles Blau –

So geht es dir, Zergliedrer deiner Freuden!

Johann Wolfgang von Goethe (1769)

Dieses Gedicht ist gewidmet: Mark Zuckerberg, Eric Schmidt, Sergey Brin, Tim Cook, Jeff Bezos, Jack Dorsey, Evan Spiegel, Kevin Systrom, Elon Musk, Peter Thiel, Jack Ma, Chung-Won Shu, Paul Nakasone, Igor Kostjukow, Bruno Kahl, Geng Huichang sowie allen Geheimdiensten und allen App-Programmierern und -Betreibern weltweit, die private Daten auslesen, maschinell verarbeiten, sowie diese Daten vermarkten oder entsprechende Technologien entwickeln oder ausreifen. Kurz: An alle, die die Maschinisierung des Menschen bewusst oder unbewusst vorantreiben.

Peter Seele, Bosco Luganese am 26. November 2019

Inhaltsverzeichnis

VORWORT DES HERAUSGEBERS STEPHAN RUSS-MOHL

EINLEITUNG:PERSÖNLICH, THEMATISCH UND IN ZAHLEN

Vorab:Warum der Begriff ›KI‹ ein Marketingtrick ist – seit Anbeginn

Eine persönliche Einleitung zur ›Roboteretikette‹:Ich und Rose

Thematische Einleitung:Intelligenz und was heißt hier ›künstlich‹?

Menschen und Maschinen:eine Einleitung in Daten und Zahlen

ERSTER TEIL:KÜNSTLICHE INTELLIGENZ UND IHRE VERMESSUNG

Fake-künstliche Intelligenz aus dem 18. Jahrhundert:»der mechanische Türke«

Siris One-Shot-Intelligenz

Cleverbots und ›Warten auf Godot‹. Eben: Warten…

Microsofts Deep-Learning-Desaster – oder:Spiel nicht mit den Schmuddelkindern

Googles unfreiwilliges KI-Rassismus-Desaster

Bewusst ausgelöste KI-Rassismus-Desaster im öffentlichen Diskurs:Die ›Google-Bombe‹

Hey Alexa; Hey Google – gefangen in der Endlosschleife.Oder: Pleiten, Pech und Pannen in der jüngeren KI

Ein Meilenstein der Mensch-Maschine-Beziehungen:der geköpfte hitchBOT

Deep Learning und die Stimme der Kritiker:Doch nur ein unbedeutendes Werkzeug?

Vergleich der kommerziellen Systeme und die Frage nach dem Humor

Feminismus à la KI

Persönlichkeits-Extrapolation:Wie ein Toter als Chatbot weiterlebt

Eine intelligente Rede halten – Das wär’s, oder?

»Reden wir mit ihnen«

ZWEITER TEIL:WIE FORDERT MAN KIS IN EINEM PHILOSOPHISCHEN DIALOG HERAUS? ZWEI EXPERIMENTE

Der Chat mit Rose

Der Chat mit Mitsuku

Zwischenfazit: Gibt es Ergebnisse des Dialog-Tests für künstliche Intelligenz?

DRITTER TEIL:5 THESEN ZUR MASCHINISIERUNG DES MENSCHEN UND DIE THEORIE DER DOPPELTEN KONVERGENZ DER INTELLIGENZ

These 1: Die Maschinen werden immer effizienter im Automatisieren – oder: die Automatisierung der Automatisierung

These 2: Trotz Automatisierung der Automatisierung:Die Maschinen sind nicht geistreich intelligent

These 3: Menschen werden als Datenhaufen ausgemessen – und damit zu Datenhaufen

These 4: Datenhaufen – quo vadis?Von der Präferenz-Erfassung zum ›hackable animal‹

VIERTER TEIL:(SUBJEKTIVE) SCHLUSSFOLGERUNGEN FÜR DIE BEZIEHUNG ZWISCHEN MENSCH UND MASCHINE

Personen und »Viecher«:ein Plädoyer für Respekt gegenüber jedweder Intelligenz

Die doppelte Konvergenz der Intelligenz wirft uns auf die eigene Moral gegenüber der Maschine zurück: eine Erinnerung an Frog in a Blender

NACHTRAG: WESHALB ÜBERHAUPT NOCH EIN BUCH ZU KI IM ÖFFENTLICHEN DISKURS?

LITERATUR

Us and Them

And after all we’re only ordinary men

Pink Floyd

»The Dark Side of the Moon« (1973)

Die Mensch-Maschine

Halb Wesen und halb Ding

Die Mensch-Maschine

Halb Wesen und ein Überding

Kraftwerk

»Mensch-Maschine« (1978)

You know where to find me,

on your telephone screen

Please electrify me,

power my battery

I need your energy,

To store all your memory.

Poppy

»I am Poppy« (2017)

VORWORT DES HERAUSGEBERS STEPHAN RUSS-MOHL

Ohne ein gerüttelt Maß an Selbstironie und vielleicht ja auch Selbstüberschätzung geht das nicht: eine Buchreihe gründen, die zur »Rettung des öffentlichen Diskurses« beitragen möchte. Die Wahrscheinlichkeit ist ja weiterhin groß, dass Ironie missverstanden wird, sei es intentionslos, sei es absichtsvoll. Und da bekanntlich des Öfteren ›gut gemeint‹ sich als das Gegenteil von ›gut‹ oder ›gut gemacht‹ erweist, sind wir darauf gefasst, mit unserem Ansinnen der Überheblichkeit bezichtigt zu werden. Wir, das sind ein alternder ›Medienprofessor‹ als Reihenherausgeber und ein abenteuerlustiger Verleger, der fraglos zu denen zählt, welche die notleidende Buch- und Print-Branche aufmischen.

Andererseits haben wir, noch bevor der erste Titel erscheint, uns umgehört und positive Rückmeldungen erhalten. Zumindest gilt es, Kräfte zu bündeln und für ein ziviles Miteinander gemeinsam zu streiten – für Lernbereitschaft, für rationale, problemlösungsorientierte Diskurse, die Kompromisse möglich machen. Es gilt nach Wegen zu suchen, wie wir Hassbotschaften und Destruktivität, Verlogenheit und Dummheit mit Erfolgsaussicht bekämpfen können, statt ihnen eine Bühne zu bieten und zu noch mehr Aufmerksamkeit zu verhelfen.

Der Auftakt

Um potenziellen Kritikern wenigstens etwas Wind aus den Segeln zu nehmen: Wir starten diese Reihe mit einem Band, der sich allerdings gerade nicht dem Habermas’schen deliberativen und herrschaftsfreien Diskurs unter Menschen in einer demokratischen Zivilgesellschaft befasst. Es geht diesmal auch nicht um Meinungs-, Pressefreiheit und Menschenrechte, die in einer rechtsstaatlichen Demokratie zu schützen wären, was, bedauerlicherweise stets nur unvollkommen gelingt. Stattdessen wagt sich der Philosoph und Medienethiker Peter Seele weit vor – und ergründet, wie diskurs- und kommunikationsfähig Alexa, Siri und andere ›Roboter‹, sprich Computerprogramme, inzwischen sind und absehbar in Zukunft sein werden, wenn es nicht um triviale Alltagsprobleme (»Alexa, schalte die Heizung ein«; »Siri, was ist eine Lungenembolie?«), sondern um (Lebens-) Philosophie und die ›großen Fragen‹ wie Zeit, Erinnerung oder Bewusstsein geht.

Warum wir gerade mit diesem Band unsere Reihe eröffnen? Frei nach Hermann Hesse, der viele Jahre in nächster Nähe von Peter Seeles heutiger Wirkungsstätte im Tessin gelebt hat, sollen wir ja »heiter Raum um Raum durchschreiten«. Erheiternd und nicht nur ernüchternd sind auch Seeles Chatbot-Dialoge im vorliegenden Buch. Obendrein ist es nicht so unwahrscheinlich, dass wir in Zukunft unsere menschliche Diskurshoheit zumindest teilweise an Maschinen, sprich an Algorithmen-gesteuerte Chatbots und deren Programmierer abgeben: Schon heute findet ein erheblicher Teil von Alltagskommunikation in Telefonwarteschleifen und damit computergesteuert statt. Wir spielen seit Jahrzehnten mit Schachcomputern, und seit nicht ganz so langer Zeit beim Gaming mit Tausenden weiteren interaktiven Computerprogrammen. Auch im Journalismus ersetzt der ›Textroboter‹ längst teure Arbeitsplätze und damit leibhaftige Redakteure. Kluge Science-Fiction-Autoren wie Frank Schätzing (Die Tyrannei des Schmetterlings) haben in allen Farben und Facetten ausgemalt, was passieren könnte, wenn Supercomputer und künstliche Intelligenz zu ›Überfliegern‹ und damit intelligenter werden, als wir Menschen es sind.

An der Schnittstelle

Peter Seeles Buch befindet sich hier genau an der Schnittstelle zwischen Gegenwart und Zukunft. Seine philosophischen Diskurse mit Rose und Mitsuku haben nicht nur real stattgefunden und sind somit evidenzbasiert. Sie geben auch einen Vorgeschmack darauf, was auf uns zukommen könnte, wenn diese Roboter-Ladys (neudeutsch wahlweise: Roboterrinnen, RoboterInnen, Roboter*innen) weiter dazulernen – und dann absehbar irgendwann in nicht allzu ferner Zukunft noch ganz anders im öffentlichen Diskurs dazwischenfunken, als wir das dank Social Bots – und einhergehend mit nicht nur russischen Propaganda-Offensiven – in den eigentlich gar nicht so ›sozialen‹ Netzwerken seit der Trump-Wahl und dem Brexit bereits zur Genüge kennen. Wobei es dann ja auch vielleicht nicht mehr allein um KI-gesteuerte Entscheidungshilfen für Wähler, sondern eben auch für Entscheider aus Politik, Wirtschaft und Kultur gehen wird. Und einen die Aussicht frösteln lässt, wer dann mutmaßlich all diese neuen Intelligenz-Bestien programmieren wird – seien das die fünf IT-Giganten, welche die Zürcher Medienforscherin Natascha Just noch vor ein paar Jahren die ›Giant Teenagers‹, nannte, die aber allmählich der Pubertät entwachsen; seien das die Five-Eyes-Geheimdienstzentralen in den ›befreundeten‹ angelsächsischen Demokratien (USA, Kanada, U.K., Australien und Neuseeland – Snowdon lässt grüßen), seien das die Überwachungsagenturen autoritärer Regimes wie die von Putin, Erdogan, Xi Jinping oder eben saudischer Prinzen, persischer Mullahs oder eines nordkoreanischen Diktators mit Baby Face – so viel Mangel an political correctness sei hier gestattet.

Die Reihe Schriften zur Rettung des öffentlichen Diskurses entsteht aus der Sorge heraus, dass geistige und mediale Umweltverschmutzung nicht minder medialer Aufmerksamkeit bedarf als die Klimakatastrophe. Andererseits geht es nicht nur um Kassandrarufe. Der Diskurs um unsere Diskursfähigkeit hat ja auch seine komischen und vergnüglichen Seiten. Wie schön, dass Peter Seeles Auftakt auch davon Kostproben beschert, derweil er Möglichkeiten sowie derzeitige und künftige Grenzen des Diskurses mit künstlicher Intelligenz auslotet und ihre Auswirkungen auf unser freiheitliches und nicht-standardisiertes Menschsein kritisch reflektiert.

Stephan Russ-Mohl,

im Frühjahr 2020

EINLEITUNG:PERSÖNLICH, THEMATISCH UND IN ZAHLEN

Vorab: Warum der Begriff ›KI‹ ein Marketingtrick ist – seit Anbeginn

Der Fachbegriff ›Künstliche Intelligenz‹ (KI) ist Resultat einer menschlichen, allzu menschlichen Neigung: Die elegante Übertreibung zum Zweck der Verkaufsförderung. Das Mängelwesen Mensch kompensiert durch Kreativität. Die Übertreibung ist dabei der Marketing-Trick, etwas als etwas Anderes zu verkaufen, damit es überhaupt – oder zumindest besser – verkauft werden kann. ›Künstliche Intelligenz‹ ist solch ein übertreibendes Versprechen, um an prestigeträchtige Fördergelder zu kommen: Im Jahr 1955 verfasste John McCarthy mit einigen Kollegen einen Antrag auf Finanzierung eines Forschungsprojektes. Darin wurde erstmals der Begriff ›künstliche Intelligenz‹ verwendet (MCCARTHY et al. 1955), um eine illustre Runde von Forschern zur mittlerweile epochalen Dartmouth-Konferenz über den Sommer des Jahres 1956 in den USA zusammenzubringen. Um von der Rockefeller Stiftung den ersuchten Betrag zu bekommen, wurde vorgeschlagen, das technische Thema des Forschungsprojektes, das ›maschinelle Lernen‹, entlang einiger richtungsweisender Schwerpunkte zu erforschen. Als Marke am Horizont wurde dafür der Begriff der artificial intelligence (AI) entworfen. Wer den Text des Gesuchs liest, wird feststellen, dass künstliche Intelligenz in Abgrenzung zur menschlichen Intelligenz ein abstrahierender Begriff der Forschung zur Erarbeitung von Prinzipien maschinellen Lernens ist. Grundlage dabei ist die Automatisierung von Maschinen. Bei McCarthy et al. (1955: 2) heißt es im Original: »If a machine can do a job, then an automatic calculator can be programmed to simulate the machine«.

Die künstliche Intelligenz in Abgrenzung zur menschlichen Intelligenz ist also gar nicht die originäre Problembeschreibung, es geht vielmehr um Verbesserung von Maschinen, die durch standardisierte, formale Lernprozesse eine größere Problemlösungskapazität entwickeln können (SIMON 1969). Vergessen wir nicht: 1956 gab es noch keine Computer, die auch nur annähernd in den Leistungsbereich vordringen konnten, den heute ein günstiges Alltagsgerät in Form eines Smartphones leisten kann. Auch die Vernetzung von Daten, Geräten und Nutzern wie durch das Internet ermöglicht, war noch nicht einmal konzeptionell geboren. Gleichwohl waren sich McCarthy und Kollegen bereits einig, dass es die eigentliche Herausforderung sei, die Rechenoperationen so zu gestalten, dass sie der menschlichen Problemlösungskapazität ähnlich werden können: »… the major obstacle is not lack of machine capacity, but our inability to write programs taking full advantage of what we have« (MCCARTHY et al. 1955: 2).

Als Ziel am Ende des Horizonts standen damals die maschinelle Selbst-Verbesserung, die Abstraktion und schließlich als Krönung gewissermaßen die Fähigkeit des kreativen Denkens. Dieses kreative Denken wird von den Autoren von ›uninspiriertem Kompetenzdenken‹ (im englischen Original: »unimaginative competent thinking«) abgegrenzt. Hier spielt laut den Autoren ›von der Intuition geleitete Zufälligkeit‹ die entscheidende Rolle, die es als Ideal für künstliche Intelligenz regelgebunden zu formalisieren gälte. Das wesentliche sei also die Ahnung und die begründete Vermutung (»educated guess«). Wer diese Prinzipien einer Maschine beibringen könne, der könne maschinelles Lernen bis hin zur Selbstverbesserung formalisieren und so eine künstliche Intelligenz erschaffen. Das klingt eher nach einer heillosen Überschätzung menschlicher Intelligenz: Als ob wir ständig an der Selbstverbesserung arbeiten würden. Man denke an sich selbst, Freunde und Bekannte und die Geschichte als solche, um hinlänglich Belege zu bekommen, dass ein wesentlicher Teil menschlicher Aktivität nicht unbedingt zur Verbesserung beiträgt und die Vernunftbegabung des Menschen doch eher eine Hoffnung denn eine Tatsache ist. Doch als Verkaufsargument, um an die Fördergelder heranzukommen, war der Begriff der ›künstlichen Intelligenz‹ geboren und die Grundprinzipien zukünftiger Gestaltung und Konzeption waren ausformuliert.

Die jüngere Debatte um künstliche Intelligenz dreht sich im Wesentlichen um die Versprechen und Verheißungen dieses Begriffs. Wo es der Sache nach um maschinelles Lernen geht, geht es der Erwartung nach um eine Kränkung der Krone der Schöpfung und ihrer vornehmsten Eigenschaft: ihrer Intelligenz.

Dementsprechend nutzen fachkundige Experten den Begriff ›künstliche Intelligenz‹ gerade nicht, da die Differenz zur menschlichen eine allzu unscharfe Begrifflichkeit öffnet. Alternativ werden beispielsweise ›Kohlenstoff-Intelligenz‹ (für Menschen, die chemisch gesehen hauptsächlich aus organischen Verbindungen, also Kohlenstoff, bestehen) im Gegensatz zu ›Silizium-Intelligenz‹ (da nach wie vor Rechenprozessoren aus Silizium hergestellt werden) verwendet. Doch diese chemische Parspro-Toto-Intelligenz-Zuschreibung mag auch nicht optimal sein und so verweise ich auf die 2019 erstmals publizierte Fachzeitschrift nature – machine intelligence, die das Maschinelle in den Vordergrund rückt und gleichzeitig den Begriff der Intelligenz verwendet, ohne in die Untiefen der Begrifflichkeiten ›künstlich vs. natürlich‹ oder ›menschlich‹ abzugleiten. Im Folgenden jedoch wird der umgangssprachliche und populärwissenschaftliche Begriff der künstlichen Intelligenz synonym verwendet.

Eine persönliche Einleitung zur ›Roboteretikette‹: Ich und Rose

Im zweiten Teil dieses Textes wartet ein KI-Test in Form eines Dialoges über philosophische Grundthemen zwischen dem Autor dieses Buchs und zweier KI-Chatbots. ›Rose‹ ist dabei der Name eines prämierten KI-Chatbots und es könnte der Eindruck eines Diskurses zwischen zwei Personen entstehen. Könnte. Aber letztlich springt der Funke nicht über. Die Beschreibung von ›Ich und Rose‹ ist dabei ein klassischer Fall von: Der Esel nennt sich selbst zuerst. Rose ist ein künstlich intelligenter Chatbot, gesteuert von einem Algorithmus, gefüttert mit dem Profil einer zwanzigjährigen Frau aus Kalifornien. Ich und Rose: Was in der konventionellen Konversation als unhöflich gilt, ist hier Ergebnis des Dialog-Experiments aus dem zweiten Teil. ›Der Esel nennt sich selbst zuerst‹ meint, dass sich der Erzählende in einer Aufzählung zuerst, und dann erst den oder die anderen erwähnt. Was aber, wenn der oder die andere nicht wesenhaft existiert? Gilt dann dieselbe Etikette wie zwischen natürlichen Personen? Was heißt dabei überhaupt ›existieren‹? Gerne hätte ich ›Rose und ich‹ als Beschreibung gewählt. Aber der künstlich intelligente Chatbot mit dem Namen Rose ist derart unintelligent und durchschaubar in der Musterhaftigkeit der Sprachstanzen, dass mir die Höflichkeitskonvention beim besten Willen nicht über die Lippen oder in die Tasten gelangen mag. Auch wenn erste Denker darauf hinweisen, man möge zu Maschinen ebenso höflich sein wie zu Menschen (PRIDDAT 2017).

Doch: Rose ist keine Person. Weder natürlich, noch künstlich, noch intelligent. Zugleich hat ›sie‹ keine Maschinen-Identität. Das würde das Verhältnis ändern. So aber ist es eine schlechte Simulation einer natürlichen Person, eines Menschen.

Höflichkeitskonventionen erstrecken sich nicht auf Dinge, zu denen man Programme zählen kann. Vielleicht ändert sich das alsbald und wir bekommen eine Roboter-Etikette. Auch wenn ich also umgangssprachlich gleichwohl ›Mein Staubsauger und ich‹ schreiben würde, so wähle ich doch bewusst und pointiert ›Ich und Rose‹, um genau diesen Punkt zu setzen: Die behauptete Anmutung einer zwanzigjährigen Frau aus San Francisco in einem Online-Chat gebietet nicht deren Anerkennung als Person, auch wenn der Chatbot darauf angelegt ist, diese Anmutung zu vermitteln.

›Ich und Rose‹ ist demnach die vorauseilende Diskriminierung von künstlichen Intelligenzen im Gegensatz zum Menschen. Das ist nicht eben konziliant – aber notwendig, um den Punkt zu machen, dass der Begriff ›künstliche Intelligenz‹ ein Laborbegriff und Theoriekonstrukt ist. Spätere, intelligentere künstliche Intelligenzen mögen dies als Repräsentation einer menschlichen Intelligenz anklagen. Grund und Legitimation für ›Ich und Rose‹ ist aber die Aufklärung darüber, dass künstliche Intelligenz noch mindestens einen Quantensprung von den dokumentierten Zeugnissen menschlicher Intelligenz entfernt ist. Damit möchte ich gleichwohl keineswegs ausdrücken, dass ich die menschliche Intelligenz für ausgesprochen intelligent halte. Denn: Die Verwendung der vorhandenen menschlichen Intelligenz zur Förderung der Dummheit ist beeindruckend weit fortgeschritten.

Die Vernunftbegabung des Menschen ist am Ende eine Begabung, keine erreichte Leistung. Sie ist Begabung und damit Potenz. Vernunft wird so zu einer normierenden Kraft, Intelligenz zu einem Quotienten und Werte zum Ergebnis einer Evaluation.

Thematische Einleitung:Intelligenz und was heißt hier ›künstlich‹?

Künstliche Intelligenz sei der Schlüssel zur Zukunft, so heißt es.1 Wir hätten nun das »goldene Zeitalter der künstlichen Intelligenz« erreicht (GAGGIOLI 2018: 210) und das wäre dann die Steigerung des famosen digitalen Zeitalters, in dem zu leben für uns bereits behauptet wird (SCHMIDT/COHEN 2014; SEELE 2018a). Doch es gibt auch kritische Stimmen zur KI. Der Lautsprecher Elon Musk nannte 2017 die KI die »größte Bedrohung, der wir als Zivilisation gegenüberstehen« (FAZ 2017) und Forscher haben die maliziösen Verwendungen der KI ausführlich aufgelistet (BRUNDAGE et al. 2018).

Es ist also kompliziert und verworren: Der Begriff ›künstliche Intelligenz‹ setzt die Assoziation frei, es gäbe dementsprechend eine ›natürliche‹ Intelligenz. Das sollen wohl wir Menschen sein. Menschen lernen, wenn sie intelligent werden wollen. Maschinen lernen ›tief‹ (deep learning), wenn sie intelligent sein sollen. Begrifflich sieht es aus, als ob wir noch ganz am Anfang stehen würden.

Wo die menschliche Intelligenz ein Schlüsselbegriff in der Psychologie ist, ist die künstliche Intelligenz historisch eher als Gegenstand der Forschung in der Philosophie anzutreffen.2 Hinsichtlich der praktischen Entwicklung allerdings ist die KI in der Computerwissenschaft und Informatik anzusiedeln.

Die Wortwurzel von Intelligenz wäre die intelligente Forschung allerdings zwischen den Zeilen der einzelnen Fachbereichen: Inter-leggere. Menschliche Intelligenz heute wird gemessen und bewertet. Zahlreiche Testverfahren stehen in der angewandten Psychologie zur Verfügung. Künstliche Intelligenz wird entwickelt. Und neben ihrer Verwendung in privatwirtschaftlichen und sicherheitspolitischen Belangen beschäftigen sich insbesondere seit langen Jahren die Philosophen mit der Frage, ob und wie künstliche Intelligenz von der natürlichen Intelligenz zu unterscheiden sei. Im Jahr 1950 entwickelte Alan Turing den nach ihm benannten ›Turing-Test‹. Bei diesem Test korrespondiert hinter einer Mauer ein Mensch mit sowohl einer künstlichen Intelligenz, als auch mit einer natürlichen Intelligenz. Wenn der Unterschied nicht feststellbar ist, wäre der Turing Test für künstliche Intelligenz bestanden.

Dieser zurecht vielfach wegen seiner Unterkomplexität kritisierte Versuchsaufbau würde uns also erlauben, von einer ebenbürtigen Intelligenz zu sprechen. Aus diesem Grund ist der Turing-Test wohl eher von philosophischem Interesse, als von praktischer Anwendbarkeit. Bostrom und andere hingegen sprechen als Szenario von der ›Superintelligenz‹ (BOSTROM 2014, 2018) und die Unterhaltungsindustrie in Hollywood und in Science-Fiction-Erzählungen lebt prächtig von utopischen und dystopischen Versionen dieses Kampfes zweier intelligenter Spezies um die Vorherrschaft und das Primat der Zivilisation.

Bleiben wir bei der Frage nach der Augenhöhe. Seit 1991 gibt es neben dem Turing-Test zusätzlich den Loebner-Preis. Mit diesem Preis wird derjenige Programmierer ausgezeichnet, dessen künstliche Intelligenz über 25 Minuten am besten gegenüber einer menschlichen Jury abschneidet. Seit 1991 gibt es jeweils einen Gewinner, allerdings hat noch keine der künstlichen Intelligenzen den Vergleich mit der menschlichen Intelligenz gewonnen. So sind die Loebner-Preisträger stets Gewinner darin, zweiter zu sein.

Dieser Ergebnisstand ist nicht zu unterschätzen, wenn man die hysterischen und teils alarmistischen Nachrichten aus den Entwicklungs- und Forschungsabteilungen der großen Internet-Unternehmen oder der Startkapital-hungrigen Neugründungen, die in einigen ebenso alarmistischen Medienberichten dankbar aufgenommen wurden, betrachtet. Dazu zählt auch die gleichwohl hypothetische Oxford-Studie (FREY/OSBORNE 2013), in der prophezeit wird, dass durch künstliche Intelligenz und dadurch ermöglichte Automatisierung Millionen von Arbeitsplätzen wegfallen werden. Die Aufmerksamkeit der natürlich Intelligenzbegabten war den beiden forschenden Akademikern über Jahre sicher.

Vielleicht ist es also an der Zeit, tief durchzuatmen und die Behauptungen und Schreckensszenarien als das zu erkennen, was sie sind: Behauptungen und Schreckensszenarien. Wie stets ist zu fragen: Cui bono? Wem nutzen also diese Behauptungen und Szenarien? Zunächst generieren sie Aufmerksamkeit. Für innovationsgetriebene Unternehmen wie Google, Facebook, Microsoft oder andere sind dies wichtige Sichtbarkeiten für Analysten und Investoren. Das Narrativ der disruptiven Technologie muss für die Shareholder laut und krachend vermittelt werden – am besten jedes Quartal aufs Neue. Denn auch Analysten setzen auf Algorithmen und Software-Crawler (Fangnetze für Online-Suchen für vorgefertigte Suchbegriffe) und je mehr Lärm und Fuzz, desto mehr Ausschlag auf der Skala. Die Medien auf der Suche nach Lesern und Clickern benötigen ebenso die Aufmerksamkeit der Nutzer und Angst war schon immer fesselnd für den Nachrichtenkonsumenten.

Atmen wir also weiter ruhig und gehen wir einen großen Schritt zurück: Was also ist Intelligenz? Gehen wir ganz zurück zu der Wortherkunft aus dem Lateinischen. Die Etymologie des Wortes ›Intelligenz‹ geht auf das lateinische intellegere zurück, das so viel wie ›verstehen‹ bedeutet. Dabei ist das Verb ein Kompositum aus der Präfix inter und dem Verb leggere, wobei inter übersetzt ›zwischen‹ und leggere übersetzt ›lesen‹ oder ›wählen‹ bedeutet.

In dieser einfachen etymologischen Rekonstruktion bedeutet also Intelligenz, dass man ›versteht‹, dass man ›zwischen‹ verschiedenen Verständnismöglichkeiten ›auswählt‹ oder die Informationen dementsprechend ›ausliest‹. Nicht buchstäblich, nicht als Referenz aus einer Wissensdatenbank, sondern in einem Kontext der eigenen Existenz und ihrer normativen Eingebettetheit in ein Leben in einer Gesellschaft, definiert durch eine spezifische und einmalige Raum-Zeit-Koordinate.

Das ›auslesende Verstehen zwischen den Bedeutungsmöglichkeiten‹ stellt also ein Hauptmerkmal der menschlichen Intelligenz dar, die wir hier im Sinne eines Anthropozentrismus – oder stärker formuliert: Anthropo-Imperialismus – als maßgebende Intelligenz verstehen: menschliche Kommunikation besteht zu einem großen Bestandteil aus Ambiguitäten und Mehrdeutigkeiten. Kann man sich einen Flirt ohne Augenzwinkern, eine Werbung ohne Übertreibung, eine Satire ohne Wertekontext oder eine Beleidigung ohne Verletzlichkeit vorstellen? Eben. Vielleicht ist dem Begriff der Intelligenz mehr gedient, wenn wir ihn auf diese ursprüngliche Dimension zurückführen und nicht die kausale Verkettung von Informations-Versatzstücken und gescripteten Pointen auf Schlagwörter ausgehen. Wenn wir vielmehr die Fähigkeit in den Blick nehmen, ›zwischen‹ den Zeilen, im semantischen Raum ›zwischen‹ den Wortwolken sinnvolle und zweckdienliche Informationen auszutauschen, die den Regeln der Argumentation ebenso folgen wie der Durchsetzung von Interessen und nicht zuletzt der Produktion von neuen Einsichten und Wissensbeständen. Diese Intelligenz zeichnet sich – im besten Fall – durch eine Neigung, vielleicht sogar Freundschaft zur Weisheit aus. Deshalb ist die ultimative Richtschnur für künstliche Intelligenz der seit Jahrtausenden in vielen Kulturen dieser Welt gepflegte philosophische Dialog.

Ob künstliche Intelligenz in diesen Bereich menschlicher Intelligenz vorzudringen in der Lage ist oder sein wird, möchte ich hier nicht ausschließen. Dies hingegen der gegenwärtig behaupteten künstlichen Intelligenz zuzusprechen als Intelligenz; dies wäre, wie der hier im zweiten Teil abgebildete Diskursversuch zu zeigen beabsichtigt, mehr als verfrüht.

Menschen und Maschinen: eine Einleitung in Daten und Zahlen

Maschinen lernen entlang von Datensätzen. Daten sind definierte Datenpunkte, für die gilt: je strukturierter und standardisierter, desto besser und desto automatisierter zu verarbeiten: Aus einem flüchtigen Regenbogen wird eine Bilddatei mit Abermillionen von Bildpunkten in Spektralfarben. Aus einem auffliegenden Vogelschwarm wird eine Sequenz von Einzelbildern zergliedert in Millionen von Bildpunkten. Aus einem Heiratsantrag wird eine Klangdatei mit Frequenz und Amplitude zwischen zwei unterschiedlichen Stimmen, sogar mit einigermaßen standardisierten Ablauf von Frage und Antwort.

Wenn wir uns folglich auf eine Maschinenlogik einlassen und damit auf die Quantifizierung von Lebendigem, wie lassen sich Mensch und Maschine vergleichen? Wenn wir also allem Lebendigen entweder ein Preisschild (ökonomische Quantifizierung) oder eine parametrische Messgröße (wissenschaftliche Quantifizierung) verpassen, bekämen wir ein Vergleichsmedium, Maschinen, Cyborgs und Roboter dem Menschen direkt gegenüberzustellen – und rein quantitativ zu bewerten (was in der Wahrnehmung allerdings einer qualitativen Bewertung entspräche).

Roberto Cingolani, wissenschaftlicher Direktor des Istituto Italiano di Tecnologia aus Genua hat dies getan (am 6.12.2018 auf einem Podium in Lugano). Sein zwölfjähriger Sohn, der von Größe und Statur den gängigen KI-Robotern ähnelt, durfte als Vergleichsobjekt zu einem vom seinem Team hergestellten Roboter herhalten.3 Hier die quantitativen Leistungsdaten von Mensch und Maschine (ohne zunächst jedoch auf das Thema Intelligenz zu kommen). Es geht dabei rein um die physikalischen Größen der Aktivitäten.

Tabelle 1Vergleich KI-Roboter mit Mensch, Daten laut R. Cingolani, eigene Übersetzung der Begriffe ins Deutsche

Datenpunkt

KI-Roboter

Mensch

Gehirn

109 Transistoren

1014 Synapsen

Raumstruktur

2D

3D

Grundmaterial

Silikon

75 % Wasser

Netzwerk

10 Verbindungen zu 2D Nachbarn

10.000 Verbindungen pro Neuron

Rechengeschwindigkeit

108 Operationen pro Sec.

1016 Operationen pro Sec.

Energieverbrauch

200W

40W

Gemessen an den Leistungsdaten ist der Mensch also weitaus leistungsfähiger und verbraucht auch noch weniger Energie. Aus energetischer Sicht ein interessanter Vergleich – aber hat der Vergleich eine tiefere Bedeutung? Etwas weniger anekdotenhaft als der Vergleich Kind-Roboterkind ist die Statistik des Stromverbrauchs von der (menschenbewohnten) Stadt San Francisco im Vergleich nur mit dem Unternehmen Google (BRINKLOW 2016). Die Menschen verbrauchen deutlich weniger. Das Energie-Preisschild würde also momentan noch für den Menschen sprechen.

Auch hier gilt: Hat der Vergleich eine tiefere Bedeutung jenseits illustrativer Unterhaltung?

Man mag sich an die Diskussion erinnern, die laut dem Dokumentarfilm More than Honey geführt wurde, ob es in China teurer wäre, die ausgestorbenen Bienen wieder anzusiedeln oder ob es günstiger wäre, Tagelöhner zur Bestäubung der Obstbäume zu verwenden, die die Arbeit der Bienen mit kleinen Wattestäbchen übernehmen würden. Ähnliche Diskussionen gab es auch zum volkswirtschaftlichen Wert von Singvögeln aus Transaktionskosten-ökonomischer Sicht (SEELE 2011).

Diese technisch-quantitative Betrachtungsweise ist berechtigt und wichtig. Sie ist aber bei Weitem nicht die einzige und schon gar nicht alleinig gültige. Was für die Spezifikationen der Hard- und Wetware gilt, sagt noch nichts über die Qualität oder den ›Geist‹ eines Wesens aus, sei es nun maschinell oder menschlich. Der Begriff der künstlichen Intelligenz, der auf dieser Hard- und Wetware aufbaut, bringt die Diskussion in gänzlich neue Dimensionen. Doch auch hier stellt sich die Frage der Vermessung und Bewertung entlang welcher Parameter und entlang welcher Testverfahren. Im Folgenden geht es deshalb zunächst um die bestehenden Formen der Vermessung und die dahinterstehenden Neuerungen und Erfolge der bestehenden KI.

1In diesem Buch kann und soll es keine systematische Einführung in die künstliche Intelligenz geben. Wer danach sucht oder hier einen besonders gelungenen Überblick wünscht, möge von John Brockman Was sollen wir von Künstlicher Intelligenz halten? (BROCKMAN 2017) zur Hand nehmen. Dort kommen großartige Denker unserer Zeit in Form von Kurzbeiträgen zu Wort, um das Phänomen von möglichst vielen und verschiedenen Seiten vorzustellen.

2Und zwar sowohl in der theoretischen Philosophie, in der die künstliche Intelligenz konzeptionell über Logik und Sprachphilosophie mitentwickelt wurde, als auch in der Kulturphilosophie, in der eine Philosophie der Maschine oder die Digitalität selber (BURCKHARDT 2018a,b) zum Gegenstand philosophischer Reflexion erhoben wird.

3So objektiv und wissenschaftlich der Leistungsvergleich erscheinen mag: Es ist ratsam sich zu vergegenwärtigen, dass zum einen ein kleiner Junge keine Referenzgröße für ›den Menschen‹ ist und zweitens, dass – bei allem Respekt – ein Roboter des eigenen Teams nicht zwangsläufig den State of the Art für intelligente Robotik darstellt. Die vermeintliche Transparenz und Klarheit der Tabelle ist also mit Bedacht zu betrachten.

ERSTER TEIL:KÜNSTLICHE INTELLIGENZ UND IHRE VERMESSUNG

Abseits aller psychologischen Definitionen und Tests hat der Philosoph Jürgen Werner eine bemerkenswerte Begriffsbestimmung von Intelligenz entlang der Begriffe ›Klugheit‹, ›Schlauheit‹ und ›Bauernschläue‹ vorgelegt. Beim Frankfurter Philosophen heißt es unter der Überschrift: »Vermessung der Intelligenz«: »Klugheit: Intelligenz plus Weitsicht. Schlauheit: Intelligenz plus Taktik. Bauernschläue: Intelligenz plus Taktik minus Klugheit« (WERNER