Die Technologiefalle E-Book

Stanislaw Lem

• Herausgeber: Suhrkamp
• Kategorie: Geisteswissenschaft
• Sprache: Deutsch
• Veröffentlichungsjahr: 2013

Seitenzahl: 454

Beschreibung

In Die Technologiefalle unterzieht der polnische Zukunftsforscher und Science-Fiction-Autor Stanisław Lem die technische Entwicklung, die Biotechnologie und Gentechnik, die Informationstechnologie und die sogenannte Künstliche Intelligenz einer strengen Prüfung. Das, was er in seinem umfangreichen Werk in phantastischer Formulierung vorweggenommen hat, erweist sich als verblüffend aktuell, vieles hat sich bewahrheitet.
Sein Fortschrittsoptimismus von damals ist jedoch gedämpft: Lem betont die ethische Dimension unseres kollektiven Handelns. Als Paradigma, an das alles Menschengemachte nicht heranreicht, erscheint die natürliche Evolution. In manchen aktuellen Ausformungen der technischen Entwicklung sieht Lem einen Moralverlust. Auch seine eigenen Projektionen stellt er unter das Postulat der Menschlichkeit, und er läßt sich im Zeitalter postmoderner Beliebigkeit seinen moralischen Ernst nicht abkaufen.

Leseprobe

In Die Technologiefalle unterzieht der polnische Zukunftsforscher und Science-fiction-Autor Stanisław Lem die technische Entwicklung, die Biotechnologie und Gentechnik, die Informationstechnologie und die sogenannte Künstliche Intelligenz einer strengen Prüfung. Das, was er in seinem umfangreichen Werk in phantastischer Formulierung vorweggenommen hat, erweist sich als verblüffend aktuell, vieles hat sich bewahrheitet.

Sein Fortschrittsoptimismus von damals ist jedoch gedämpft: Lem betont die ethische Dimension unseres kollektiven Handelns. Als Paradigma, an das alles Menschengemachte nicht heranreicht, erscheint die natürliche Evolution. In manchen aktuellen Ausformungen der technischen Entwicklung sieht Lem einen Moralverlust. Auch seine eigenen Projektionen stellt er unter das Postulat der Menschlichkeit, und er läßt sich im Zeitalter postmoderner Beliebigkeit seinen moralischen Ernst nicht abkaufen.

Stanisław Lem wurde am 12. September 1921 im polnischen Lwów (Lemberg) geboren, lebte zuletzt in Krakau, wo er am 27. März 2006 starb. Nach dem Zweiten Weltkrieg arbeitete er als Übersetzer und freier Schriftsteller. Er wandte sich früh dem Genre Science-fiction zu, verfaßte aber auch gewichtige theoretische Abhandlungen und Essays zur Kybernetik, Literaturtheorie und Futurologie. Stanisław Lem zählt zu den bekanntesten und meistübersetzten Autoren Polens. Viele seiner Werke wurden verfilmt.

Stanisław Lem

Die Technologiefalle

Essays

Aus dem Polnischen von Albrecht Lempp

Suhrkamp

Die Originalausgabe erschien 1995 unter dem Titel

Tajemnica chińskiego pokoju

im Verlag Universitas, Kraków.

© Copyright by Stanisław Lem and Towarzystwo Autorów i Wydawrów Prac Naukowych Universitas, Kraków 1996

Das Kapitel »Brainchips« übersetzte Friedrich Griese, dieser Essay erschien in deutscher Sprache zuerst in: Mind Revolution? Schnittstelle Gehirn-Computer, München 1995, Akademie zum Dritten Jahrtausend (Tagungsband).

Umschlagfoto: Jörg Wischemann/Focus

eBook Suhrkamp Verlag Berlin 2013

© der deutschen Ausgabe

Insel Verlag Frankfurt am Main und Leipzig 2000

Alle Rechte vorbehalten, insbesondere das der Übersetzung, des öffentlichen Vortrags sowie der Übertragung durch Rundfunk und Fernsehen, auch einzelner Teile.

Kein Teil des Werkes darf in irgendeiner Form (durch Fotografie, Mikrofilm oder andere Verfahren) ohne schriftliche Genehmigung des Verlages reproduziert oder unter Verwendung elektronischer Systeme verarbeitet, vervielfältigt oder verbreitet werden.

Umschlag nach Entwürfen von Willy Fleckhaus und Rolf Staudt

ISBN 978-3-518-74339-3

www.suhrkamp.de

Inhalt

Jerzy Jarzębski,

Der Verstand der Evolution und die Evolution des Verstands

Mensch und Maschine

»Informationsbarriere?«

Phantomatik

Exformation

Phantomatik (II)

Tertium comparationis

Häresien

Die Informationszucht

Maschinen-, Tier- und Menschenviren

Übernehmen wir die Technologie des Lebens?

Die Computerisierung des Gehirns

Die Technologiefalle

Sprachen und Codes

Brainchips

Rechenleistung des Lebens

Die Evolution als paralleler Computer

Evolutionsmodell

Rätsel

Das Geheimnis des chinesischen Zimmers

Züchtung von Informationen?

Künstliche Nichtintelligenz

Künstlicher Intellekt als experimentelle Philosophie

Verstand und Netz

Information über die Information

Quantencomputer?

Genalgorithmen

Schlaue Roboter

Simulation der Kultur

Die Rechenleistung des Lebens II

Jerzy JarzębskiDer Verstand der Evolution und die Evolution des Verstands

Der Titel meiner Skizze ist natürlich eine Verbeugung vor dem Autor des Buches, der den hochinteressanten Essay Ethik der Technologie und Technologie der Ethik verfaßt hat. Wie man sieht, ist etwas in Stanisław Lems Denken, das solche Formulierungen provoziert, die sich leicht auf den Kopf stellen lassen. Seine neuesten Essays aus dem »PC Magazine« fügen sich unversehens zu einem Band, der nicht nur von seinem Umfang her gewichtig geraten ist. Zuerst schienen sie nur ein Anhängsel an die vor über dreißig Jahren entstandene Summa technologiae zu sein, ein Annex, in dem der Autor sich dem Leser als glücklicher Prophet der künftigen Entwicklung des menschlichen Wissens und der technischen Fähigkeiten präsentieren konnte. So war es auch: Summa erscheint heute als ein Werk, das sich – erdacht als ferne Prophetie und gewagt bis zur Bilderstürmerei – nach drei Jahrzehnten genau im Zentrum der aktuellsten wissenschaftlichen und konstruktionstechnischen Praxis wiederfindet. Zu Beginn der Lemschen Überlegungen heute steht also die (recht triumphierend klingende) Gegenüberstellung jener Ideen und Erwägungen von damals mit dem heutigen Wissensstand. Doch wenn das schon alles wäre, wäre Die Technologiefalle kein solch faszinierendes Buch. Es kommt hinzu, daß im Verlauf der Jahre und der Evolution der Wissenschaft sich die Situation des Autors dieser Prognosen ganz entschieden verändert hat. Im Jahre 1964, als die erste Ausgabe der Summa erschien, war Lem vor allem ein gefragter Science-fiction-Autor und Autor von populärwissenschaftlichen Essays, der ganz unversehens eine Fusion dieser Gattungen herbeigeführt hatte, indem er weit in die vorhersehbare Zukunft der Technologie blickte. Dieser Sprung in die Zukunft erschien vor dem Hintergrund des damaligen Wissensstandes in den Augen der Zeitgenossen wie eine wenn nicht völlig willkürliche Träumerei, so doch zumindest allzu große und unheilbare Vorliebe für Phantastereien und Flickschustereien an der Wirklichkeit – ein wishful thinking.

Das Buch wurde – auch wenn es wohl mit größerem Ernst und größerer Aufmerksamkeit gelesen wurde, als der Autor das heute wahrhaben will – damals nicht so unmittelbar am »Stand der Wissenschaften« und den laufenden Entdeckungen gemessen. Es war eine leere Matrize, die ausgefüllt sein wollte, ein überwiegend abstrakter Entwurf, dem es erlaubt war, verschiedene dem Anschein nach verrückte Ideen in sich zu tragen. Heute – wo so viele der Lemschen Vorhersehungen eingetreten sind und Gelehrte in Deutschland oder den USA sich geradezu dazu bekennen, daß sie sich seiner Inspirationen bedienen – verspürt der Autor der Summa die Last einer Verantwortung viel stärker als zuvor. Sie ist um so gewichtiger, als Lems Behauptungen nun vom Leben und von auf einmal verwirklichten Produkten dieser oder jener (genetischen, informatischen) Ingenieurkunst verifiziert werden. Der erste und entscheidende Unterschied zwischen der Summa und der Technologiefalle besteht also darin, daß die Urteile des ersten Buchs in einem von Hypothesen und Modellen relativ freien Raum formuliert wurden, während die Urteile des zweiten im Lärm des unweigerlich im Zentrum stehenden allgemeinen Interesses vorgetragen werden, im Angesicht von Berichten über experimentelle Forschungen und sogar Signalen von einem Markt, auf dem Ideen zu leben beginnen, die zuvor noch an Phantastik grenzten.

Welchen Einfluß hat das auf den Diskurs von Lem selbst? Sagen wir zuerst, daß bei ihm das Thema der Ethik eine immer größere Rolle spielt. In Summa technologiae überraschte der Begriff der Technologie als einer bis zu einem gewissen Grade selbstständigen Existenz, die sich unabhängig vom menschlichen Wollen entwickelt, wenngleich sie sich auf ein Substrat stützte, das aus dem menschlichen Streben nach Erkenntnis und der Beherrschung der Welt gebildet wurde. Die Technologie evoluierte gemäß dieser Vision nach dem Ebenbild des genetischen Codes, so daß sie moralischen Bewertungen eher entzogen war. In Die Technologiefalle wird der Entwurf einer künftigen Technologie, die zuvor eine Abstraktion war, plötzlich zum Inhalt des alltäglichen Lebens der Individuen und Gesellschaften, und die Technologie selbst tritt in die komplizierte Realität des zu Ende gehenden Jahrhunderts ein, taucht in den Häusern durchschnittlicher Menschen in Form des Internets auf, in Form von Produkten der genetischen Ingenieurkunst, vorläufig noch primitiver »phantomatisierender« Apparaturen usw. Folglich kann das, was generell gesehen eine »objektive« Erscheinung ist und unvermeidbar wie ein Naturgesetzt, im Kontext des praktischen Lebens stark negative Emotionen wecken. Ob es uns gefällt oder nicht: Die Menschen machen von ihren Entdeckungen gemeinhin schlechten Gebrauch. Anstatt die Verwirklichung der höchsten Ideale anzustreben, bedienen sie sich der Werkzeuge einer hochentwickelten Technik, um ihre primitiven Triebe zu befriedigen. Man kann das beklagen, verurteilen usw., doch hat das gewiß keine Konsequenzen. Der Mensch gründet sich nun mal auf eine merkwürdige Anatomie – und dieser Aspekt seiner Natur ist für Lem die Startrampe für sehr komplizierte und weitreichende Überlegungen.

Ausgangspunkt dieser Überlegungen ist der Versuch, den menschlichen Intellekt und die »künstliche Intelligenz« einer Maschine miteinander zu vergleichen. Der Titel des ersten Kapitels signalisiert, daß für den Autor Lamettries Traktat »Der Mensch als Maschine« inspirierend war. Doch in der Lemschen Version haben wir anstelle eines Gleichheitszeichens eine Konjunktion: Der Mensch ist keine Maschine; er existiert neben ihr und nach völlig anderen Prinzipien. Der Mensch ist auch keine einheitliche Ganzheit: Er wird von einem unheilbaren Dualismus zerrissen, einer echten Unvereinbarkeit des materiellen Substrats und des darin erwachsenden Denkens, eines noch immer nicht ganz bekannten Körpers und eines vielleicht noch weniger faßbaren Bewußtseins. Wir haben also mindestens drei Elemente, die nicht allzu gut zusammenpassen: den Menschen als ein unglaublich komplexes Produkt der biologischen Evolution, den Menschen als denkendes, in die Kultur verstricktes Bewußtsein, das auf eine nicht ganz durchschaubare und erklärbare Weise aus den Prozessen geboren wird, die in dem biologischen Körper ablaufen – und zuletzt das Produkt der Technologie: eine Maschine, die Operationen intellektueller Natur auf eine von ihren Konstrukteuren programmierte und im Einklang mit dem eigenen mechanischen und funktionalen Schema stehende Weise ausführen kann. Die Überlegungen Lems sind vor allem den Erkenntnisproblemen gewidmet, die sich in dem Moment einstellen, wo wir jene drei Elemente aufeinander beziehen wollen, das eine durch das andere erklären bzw. in einem Prozeß nachbilden wollen, der im anderen stattfindet. Die Schwierigkeiten sind dreifacher Natur: philosophischer, wissenschaftlicher und praktisch-konstruktiver.

Der Philosoph fragt, was es bedeutet, daß im Gehirn individuelles, menschliches Bewußtsein entsteht, und ob dieses auf dieselbe Weise existiert, wie seine materielle Grundlage existiert, oder vielleicht irgendwie ganz anders. Das ist im übrigen ein Dilemma, das der modernen Philosophie noch von Descartes aufgegeben wurde, und obgleich Lem weltanschaulich sicher dem Materialisten und Monisten Lamettrie nähersteht, so übersteigt es heute sowohl seine wie auch jedes anderen Menschen Möglichkeiten, die psychischen Prozesse unmittelbar aus dem Verlauf elektrischer Ströme in der Hirnrinde herzuleiten. Ein materialistischer Monismus – ja, natürlich, aber ohne den Erkenntnisoptimismus, der den Enzyklopädisten und ihren vielen Nachfolgern eigen war und über den vorhandenen Wissensstand hinausgeht. Und mit dem Bewußtsein, daß die Materie sich in ontologische Schichten oder ganze Hierarchien ordnet, die nicht wechselseitig durchdrungen werden können. Diese letzte Hypothese kam im übrigen in Lems belletristischem Werk stärker zum Ausdruck.

Das Erstaunen des Philosophen hat damit noch kein Ende: Das im europäischen Denken tief verwurzelte neoplatonische Schema, wonach der menschliche Geist unvergleichlich viel höher auf der Seinsleiter steht als primitive Körper, wird hier in bemerkenswerter Weise umgekehrt: Es ist gerade der Körper – als Produkt des sich vervollkommnenden genetischen Codes –, der eine atemberaubende Komplexität und »Klugheit« aufweist, von denen der hier ganz am Anfang stehende Geist des menschlichen Individuums noch weit entfernt ist.

Wenn hier etwas erstaunt, dann eher die massive Disproportion zwischen der Raffiniertheit der biologischen Apparaturen, die jedes Leben steuern, und der unendlichen Mühe, die es braucht, damit auf dieser Grundlage mehr recht als schlecht ein sich selbst und die Welt verstehendes Bewußtsein entstand. Man denkt hier unwillkürlich an Lems Elektrobarden aus Kyperiade, der – in Gestalt eines Berges von elektronischen Gerätschaften, vollgestopft mit der ganzen Weisheit der Jahrhunderte – zu Anfang lediglich den Satz »Das Leben ist schrecklich« röcheln konnte. Ob der Verstand demnach die Krone der Schöpfung ist oder ein unvollkommenes Nebenprodukt in der Evolution des genetischen Codes – das ist eher eine Frage für den Philosophen als für den Gelehrten. Und ich sehe darauf – obschon Lem die Frage fortwährend stellt – keine definitive Antwort.

Zu den Sorgen des Gelehrten wiederum gehört die Lösung des Problems, ob die Maschine »denkt« – nur eben etwas einfacher und primitiver als der Mensch – oder ob sie umgekehrt ganz anders funktioniert und, selbst wenn sie durch die Entwicklung der Computertechnik um ein Vielfaches verstärkt und verbessert wird, etwas ganz anderes bleibt, was mit dem Geist des Menschen nicht verglichen werden kann. Das ist wohl auch das zentrale Problem des Buches, immer wieder und in immer neuen Kontexten gestellt. Die Antwort fällt vorsichtiger aus als noch vor ein paar Jahren: Es ist wahr, daß die Maschinen der Situation immer näher kommen, wo es dem Menschen nur mit größter Mühe gelingt, den berühmt-berüchtigten Turing-Test zu »knacken«, das heißt festzustellen, daß er nicht mit einem anderen Menschen redet, sondern mit einem Mechanismus. Es sieht allerdings nicht danach aus, daß es in der vorhersehbaren Zukunft gelingen könnte, eine künstliche Intelligenz zu konstruieren, die über Bewußtsein verfügt, über ein »Ich-Gefühl«, und mit Willensakten ausgestattet wäre. Auch wenn der Computer in einigen Bereichen besser als der Mensch »denken« kann, kommt er letzterem in anderen Hinsichten noch immer nicht gleich, und eine Steigerung der Rechenleistung kann diese Kluft nicht überbrücken; denn es geht um einen Unterschied in der Qualität, die sich zusätzlich auf eine gänzlich andere materielle Grundlage der geistigen Operationen gründet.

Lem hat uns daran gewöhnt, wie im Spaß die Nase über die rein materielle Unvollkommenheit der Wesen zu rümpfen, die im Vergleich zur Perfektion der metallisch-kristallinen Roboter, deren Material sie allein schon dafür zu prädestinieren scheint, elektrische Intelligenz aufzunehmen, »zerfließlich, weich, teigig und wässrig« sind. Das ist ein Märchen: Gerade in wässrigen Lösungen oder Suspensionen – sagt uns Lem heute – verlaufen die informationsverarbeitenden Prozesse besonders effektiv. Folglich ist der menschliche Körper als Sitz des Geistes überhaupt nicht »schlechter« als Mikroprozessoren: Er funktioniert einfach anders, und die Konstrukteure sollten weiterhin von der Natur lernen.

Hier können wir fragen, wozu der Mensch eigentlich mit dem Widerstand des Materials ringt, wozu er begierig sucht, anthropomorphe Intelligenz zu konstruieren, warum ihm nicht der Computer als eine Maschine genügt, die durch ihre Rechenleistung einfach die Gelehrten unterstützt? Man kann sagen, daß es zumindest zweierlei Begründungen für diese Bemühungen gibt: Die erste ist philosophischer Natur – es ist einfach die Suche nach den Grenzen menschlicher Möglichkeiten, der Versuch, Gott weitere Prärogative zu entreißen und auf dieser Grundlage ein neues Weltbild aufzustellen. Die Anstrengungen der Konstrukteure künstlicher Intelligenz stehen also den Bemühungen sehr nahe, welche die Genetiker darauf verwenden, den Erbcode endlich zu knacken und unbegrenzte Einflußmöglichkeiten auf die Gestaltung neuer biologischer Wesen zu bekommen. Die einen und die anderen basteln an etwas herum, das in unserer bisherigen Kultur gewöhnlich als Domäne des Demiurgen angesehen wurde, so daß die Ergebnisse ihrer Arbeit unmittelbaren Einfluß auf Glauben und Weltsicht der Menschen haben können. Das hier erlangte Wissen ist nicht gar zu erfreulich, denn unvermeidlich lastet auf ihm die Angst vor den Konsequenzen neuer Entdeckungen, vor einer Aushöhlung der ethischen Ordnung der menschlichen Zivilisation. Die Zauberlehrlinge aber gehen immer weiter – denn eine Umkehr ist nicht mehr möglich!

Doch es würde sich täuschen, wer glaubt, daß wir es ausschließlich mit einem tödlichen Automatismus der Entdeckung »von allem, was es zu entdecken gibt«, zu tun hätten. Im Grunde ist der Wunsch nach künstlicher Intelligenz dort am stärksten, wo der Berg dummer, unbedeutender und unwichtiger Information in exponentiellem Tempo anwächst – wie ein Himalaya aus den Strömen unseres Mülls. Eines der Leitmotive der Essayistik Lems in den letzten Jahren ist seine Kritik an der ungefilterten Information, die uns über die Computernetze attackiert und unsere Sinne annektiert. So gesehen erinnert die Menschheit an Mäuler den Räuber aus Kyperiade, der von einem »Dämon zweiter Ordnung« besessen ist, der pausenlos Stöße von Kommunikaten produziert, die sprachlich sinnvoll, ansonsten aber völlig wertlos sind. Wäre dann die Computerintelligenz gar das Antidot gegen die auf der ganzen Welt wuchernde Computerdummheit? Die Antwort muß skeptisch sein, denn weder wissen wir, ob es gelingt, der Maschine die Merkmale eines menschlichen Intellekts zu geben (was landläufig ausgedrückt »Klugheit« an Stelle von Rechenleistung hieße), noch ob jener maschinelle Intellekt dem Menschen in der erwarteten Weise dienen will.

In Die Technologiefalle ist die Zahl der Geheimnisse gegenüber der früheren Summa technologiae kein bißchen geringer geworden. Die Lösung eines Rätels schafft nämlich sofort neue – so ist nun einmal das Schicksal jeder wirklichen Forschung in der Welt der Wissenschaften. Das Buch in meinen Händen bestätigt jedoch im ganzen Umfang diejenigen Intuitionen Lems, die ihn vor Jahren dazu veranlaßten, sich auf der einen Seite mit Kybernetik, Informatik und der Konstruktion »künstlichen Denkens« zu beschäftigen, auf der anderen aber mit Genetik und der Evolutionstheorie. Tatsächlich fand auf diesen Feldern der wohl größte und spektakulärste Sprung menschlichen Wissens statt – und sie brachten uns auch die faszinierendsten Rätsel und sind am engsten mit der Grundsatzfrage verbunden: der Frage nach der Beschaffenheit des Menschen und des Universums, ihrer Natur und wechselseitigen Beziehungen.

Was hat sich nun in Lems Ansatz gegenüber diesen Problemen im Verlauf der letzten dreißig Jahre verändert? Vor allem sehe ich eines: Der Autor der Summa, der seinerzeit eine fast unbegrenzte Vision von der Entwicklung der menschlichen Technologie zeichnete, spricht heute unvergleichlich viel vorsichtiger darüber. An diese Stelle ist bei ihm nun die Faszination für die Mechanismen der natürlichen Evolution getreten, die Bewunderung für die Perfektion ihrer Lösungen, für die Finesse biochemischer Reaktionen, die das Leben begründen. Mit Sicherheit ist das keine weltanschauliche Revolution: Lem bleibt im Grunde ein Schriftsteller, dessen Blick auf die Geschichte gerichtet ist, auf deren Verlauf und Gesetzmäßigkeiten. Fast in allen seinen Büchern finden wir Beweise für sein stark ausgeprägtes Interesses an den verschiedenen Formen evolutionärer Prozesse, die miteinander, nebeneinander oder auch in wechselseitiger Wirkung aufeinander ablaufen. Hier haben wir es ganz offensichtlich mit einem Gebiet zu tun, auf dem das von Fukuyama proklamierte »Ende der Geschichte« nicht gilt, das heißt das Ende des Denkens über die Zeit in Kategorien von »Fortschritt«, »Evolution«, »Zielorientiertheit«. Eine solche Zeitkonzeption stellt zuerst einmal die Vision der natürlichen Evolution als Sphäre eines objektiven und meßbaren Fortschritts auf, der allerdings bestimmt nicht auf irgendwelche übergeordneten Ziele gerichtet ist – außer auf die Reproduktion des genetischen Codes. Erst das menschliche Denken bringt hier die Teleologie hinein, die immer nach vorne orientiert ist, auf eine Abstraktion zukünftiger (erwünschter oder gefürchteter) Zustände. In Lems Vision der historischen Zeit erkenne ich beide Pole, das heißt einmal eine pessimistische Sicht der in der Welt ablaufenden Veränderungen – als ein richtungsloses Treiben unbekannten Katastrophen entgegen; das andere Mal optimistischer als ein bis zu einem gewissen Grad vorhersehbarer Prozeß, der in zunehmendem Maße für den Menschen beherrschbar wird. Gleichwohl scheint in den letzten Jahren bei Lem die erste dieser beiden Visionen zu überwiegen.

In Summa technologiae, einem im Grunde optimistischen Buch, auch wenn es aus der Sicht traditioneller Werte des Humanismus stellenweise nicht leicht zu akzeptieren ist, fand die biologische Evolution relativ rasch eine Fortsetzung in der Evolution der technischen Zivilisation bzw. zu Ende gar in der selbständigen Entwicklung des aus der Abhängigkeit von der Biologie befreiten Verstandes. Heute verlegt Lem das Datum, an dem künstliche Geschöpfe der Technik die Natur »überholt« haben werden, in eine fernere Zukunft. Vielleicht zweifelt er auch immer mehr daran, ob sich die Evolution auf diesen Feldern als Verlauf einer einfachen Kurve abbilden läßt, das heißt einfach: ob die Maschinenintelligenz überhaupt irgendwann einmal in irgendeinem Sinne eine »Fortsetzung« des menschlichen Verstandes sein wird. Ähnlich vorsichtig äußert er sich über die Chance, biologische Gehirne durch sogenannte Brain Chips zu unterstützen – ein recht geschickter Weg, den Dualismus von »maschinellem« und biologischem Denken zu umgehen.

Ist dies ein vollkommener Rückzug von den optimistischen Ideen, die Summa technologiae belebt haben? Nicht unbedingt. Lem hat sich einfach nach seinen ziemlich abstrakten, zukunftsorientierten Projekten einer neuen Technologie nun praktischen Überlegungen über die Möglichkeiten der Anwendung seiner eigenen Ideen zugewandt. Kein Wunder also, daß er dabei zuerst einmal auf den Widerstand des Materials gestoßen ist. Neben diesem normalen Widerstand, den die Materie der Welt bietet, gibt es aber noch einen anderen Widerstand, der nicht leicht zu überwinden ist: der Widerstand, den die Menschen bieten. Neue Technologien werden dabei gar nicht unbedingt von konservativen Einzelpersonen abgelehnt, viel eher werden sie angenommen. Was dagegen Zweifel weckt, ist erst der Nutzen, den unsere heutige Zivilisation daraus zieht. Man kann das blinde Wirken der natürlichen Evolution kritisieren, doch die atemberaubende Meisterschaft ihrer Lösungen ist Rechtfertigung genug. Man kann die Unvollkommenheit der Technologie kritisieren, doch diese entwickelt sich schneller als jemals zuvor, holt ihre Verspätung rasch auf und lernt aus ihren Fehlern. Am schlechtesten schneidet in diesem Vergleich der menschliche Intellekt ab, und insbesondere der kollektive (Un-)Verstand, von dem sich Gemeinschaften, Völker, Konsumentengruppen usw. leiten lassen.

So wie die stillschweigende Annahme von Summa technologiae die Überzeugung gewesen zu sein schien, daß sich die menschliche Kultur in der Zukunft relativ harmonisch entwickeln würde, das heißt, daß die Gesellschaften fähig sein würden, sich neue technische Entdeckungen zunutze zu machen, so ist Die Technologiefalle ein Rechenschaftsbericht aus der realen Welt, und zwar aus einer, in der technologische Innovationen unter Menschen auftauchen, die dafür nicht vorbereitet sind, was zu Beschädigungen der Psyche des einzelnen und zu schwer vorhersehbaren Veränderungen in der Organisation des kollektiven Lebens führt.

Kommt die Menschheit damit zurecht? Nehmen wir einmal vorsichtig an, daß ja. Wenn in Lems Buch etwas Hoffnung weckt, dann die unerhörten Möglichkeiten, die in der biologischen Natur des Menschen stecken, und auch die bewundernswert weitsichtigen Lösungen der Evolution, die bisher so oft mit radikalen Veränderungen in Umwelt und Lebensweise der vom genetischen Code projektierten Wesen fertig geworden sind. Vielleicht erträgt die geduldige Biologie noch einmal das, was ihr der zu Aberrationen neigende Intellekt mit seinem Sproß – der Technologie – bereitet hat? Vielleicht gelingt es auch der Kultur, die auf lange Sicht gesehen wie biologische Homöostate funktioniert, die Innovationen aufzunehmen und wieder ein Gleichgewicht zu erlangen? Nach Darstellung des ganz in aktuelle Bezüge gebetteten Diskurses von Lem ist das noch nicht zu sehen. Statt dessen gibt uns der Autor einen Einblick in die Konsequenzen menschlicher Erkenntnis und Technologie, die ans Mark von Wissenschaft, Ontologie und Ethik gehen. Es verspricht deshalb keine Linderung existentieller und kognitiver Ängste, mit Lem und nach seinen Bedingungen nachzudenken. Doch es ist ein Denken »für Erwachsene«, das heißt eines, das die Schwierigkeiten nicht verschweigt, Antinomien nicht vertuscht und keine lichte Zukunft verspricht. Mit Sicherheit ist es richtig, heute nur so über die technologischen Perspektiven von Höllen und Himmeln zu reden.

Die Technologiefalle

Essays

Mensch und Maschine

1.  Mitte des 18. Jahrhunderts schrieb der französische Philosoph und Materialist Lamettrie das Werk Der Mensch als Maschine. Ohne Zweifel könnten wir auch heute sowohl Anhänger als auch Gegner einer ähnlich extremen Erkenntnis menschlicher Natur finden. Mit anderen Worten und moderner ausgedrückt: Der Streit wäre erst entschieden, wenn es uns gelänge, eine dem Menschen gleichwertige Maschine zu bauen. Was aber heißt dem Menschen »gleichwertig«? Unsere Ähnlichkeit mit anderen Lebewesen gerade im Bereich des Körperlichen steht außer Zweifel: Der Mensch ist ein lebendgebärender Säuger, ausgestattet mit Organen, die sich nur in sehr bescheidenem Maße von den Organen und der gesamten Physiologie anderer Säugetiere unterscheiden: Von allen anderen aber unterscheidet uns der Geist, also das Gehirn.

2.  Wie sich der Leser leicht denken kann, nähere ich mich mit diesen etwas nebulösen Feststellungen einer ganz modernen Frage, die der englische Mathematiker Alan Turing vor ungefähr einem halben Jahrhundert gestellt hat: Ist es möglich, einen »endlichen Automaten« dergestalt zu konstruieren (der Computer ist ein solcher Automat und einer der Äste im Baum der Informatik, der aus dem Samenkorn der Kybernetik erwachsen ist), daß er sich in einem Gespräch nicht von einem Menschen unterscheiden läßt? Unzählige Male habe ich, vor allem in den sechziger Jahren in der ehemaligen Sowjetunion, an Diskussionen und hitzigen Debatten teilgenommen, in denen versucht wurde, genau dieses Problem zu lösen. Bekanntlich gibt es bereits Programme (Software), die imstande sind, gewisse Arten von Gesprächen mit Menschen zu führen. Gleichwohl läßt sich jedes Programm, das einen vernunftbegabten Gesprächspartner simuliert, früher oder später »demaskieren«. Die einfachste Methode, auf die niemand oder fast niemand gekommen ist (warum, weiß ich nicht), bestünde darin, dem unsichtbaren Diskutanten eine beliebige Geschichte zu erzählen, eine Anekdote, einen Witz, und zu verlangen, daß er das eben Gehörte nun mit seinen eigenen Worten wiederholt. Eine Maschine wiederholt alles am ehesten noch wortwörtlich: Ein normaler Mensch ist in der Wiedergabe einer Geschichte deshalb nicht präzise, weil er nicht so sehr den aus Wörtern gefügten Text behält als vielmehr den Sinn, und das bedeutet, daß er versteht, was ihm erzählt wurde. Hier stehen wir nun vor dem eigentlichen Dilemma: Wie können wir uns davon überzeugen, ob die Maschine »Computer« überhaupt etwas – vergleichbar dem Menschen – versteht? Eingangs muß beachtet werden, daß »etwas verstehen« mehrere Ebenen und Arten besitzt. Ein Hund »versteht« in gewissem Sinne, was sein Herrchen vorhat, wenn er sieht, daß dieser die Koffer packt, denn er hat das schon gesehen und »weiß«, daß eine Reise bevorsteht. Aber selbst eine Mücke »weiß«, was ihr von der Klatsche droht, mit der genervt wedelt, wen die Aufdringlichkeit der Mücke stört. Auf welche Weise sich verschiedene Arten von »Wissen« voneinander unterscheiden, läßt sich nicht einfacher erklären als dadurch, daß man sich auf die »Instinkte« beruft, deren extremster Vertreter der Selbsterhaltungstrieb ist – und damit sind wir auch schon beim Kern der Sache. Kein Computer nämlich, und würde er noch so perfekt Schach spielen, wissenschaftliche Texte übersetzen oder Krankheiten anhand von Untersuchungsergebnissen diagnostizieren, wird versuchen, dem Schlag eines Hammers oder einer Picke auszuweichen, weil keiner einen »Selbsterhaltungstrieb« hat, um den herum sich alles »aufbaut«, was lebt (ausgenommen die Pflanzen). Was weder versucht hat zu fressen noch, nicht gefressen zu werden, ist im Laufe der milliardenjährigen Evolutionsprozesse ausgestorben; und nur wer erfolgreich frißt oder erfolgreich ausweicht, ist am Leben geblieben.