Die Forschung arbeitet mit Hochdruck an der Entwicklung von mit emotionaler Intelligenz ausgestatteten Computersystemen und Robotern. Wir sollten uns fragen, warum diese Forschung betrieben wird und ob eine zur Vernunft gekommene Gesellschaft sie nicht stoppen sollte. Die hier verausgabten intellektuellen und finanziellen Ressourcen könnten sinnvoller für die Erreichung wirklich humaner Ziele eingesetzt werden. Von Götz Eisenberg[*].

In der Süddeutschen Zeitung vom 29. Januar 2016 findet sich ein Beitrag aus der Reihe Künstliche Intelligenz von Elisabeth André, die in Augsburg einen Lehrstuhl für Human Centered Multimedia innehat. Unter der Überschrift Mit Gefühl lesen wir gleich zu Beginn: „Gefühle sind für erfolgreiches Handeln wichtiger, als man vermuten würde.“ Die Frage, was unter erfolgreichem Handeln zu verstehen sei, wird nicht erörtert. Deshalb sei es erstrebenswert, auch Computer mit emotionaler Intelligenz auszustatten. Computersysteme, deren Verhalten ausschließlich an rationalen Kriterien ausgerichtet sei, stießen bei der Interaktion mit Menschen an ihre Grenzen. Man arbeite deswegen mit Hochdruck daran, emotionale Kompetenz anhand geeigneter Simulationsmodelle nachzubilden und einer neuen Generation von Computersystemen einzupflanzen. Gefühlszustände drückten sich in Mimik, Gestik, Körperhaltung und Sprache des Nutzers aus, die der maschinelle Interaktionspartner lesen können müsse. Dieser müsse sich in die Gefühle eines Nutzers, wie zum Beispiel Stress oder Ärger, hineinversetzen können und angemessen darauf reagieren. Durch den Einsatz miniaturisierter Sensoren werde es möglich, alltäglich auftretende Verhaltensweisen weitgehend unverfälscht zu erfassen. So könne man in einem Callcenter eines Tages anhand akustischer und prosodischer Merkmale in der Stimme herausfinden, wie zufrieden ein Anrufer mit dem angebotenen Service sei. „Am Körper getragene Sensoren messen Hautleitwert, Temperatur und Pulsfrequenz und geben Aufschluss über den Erregungszustand einer Person. In Sitzmöbel integrierte Drucksensoren erlauben Rückschlüsse darüber, ob eine Person eher entspannt oder gestresst am Schreibtisch sitzt.“ Noch könne ein noch so ausgefuchstes Computersystem allerdings nicht zwischen einem geschauspielerten und einem echten Lächeln unterscheiden, keine Ironie erkennen.

Computersysteme werden irgendwann auf die Emotionen eines menschlichen Gegenübers reagieren können. Bereits durch einfache Spiegelungen von Nutzeremotionen durch einen Roboter, so heißt es bei Frau André weiter, könnte der Eindruck von Mitgefühl entstehen. Eine zentrale Fragestellung der Forschung sei, wie ein Computersystem Emotionen möglichst natürlich ausdrücken könne. Mithilfe von synthetischer Haut ließen sich mittlerweile auch bei Robotern Basisemotionen wie Trauer, Wut und Freude durch Verformungen des künstlichen Gesichts glaubhaft wiedergeben. Dies lasse Roboter natürlicher erscheinen und erhöhe ihre Akzeptanz. Die Fortschritte bei der Simulation emotionaler Intelligenz ließen erwarten, „dass interaktive Artefakte künftig mit verfeinerten emotionalen Fähigkeiten ausgestattet werden können und damit einem menschlichen Gegenüber zunehmend die Illusion von Individuen mit eigenen Gefühlen vermitteln“.

Soweit die Lehrstuhlinhaberin aus Augsburg. Beim Lesen ihres Textes stellte sich mir fortwährend die Frage: „Braucht‘s das? Müssen oder wollen wir das haben?“ Irgendjemand wird das haben wollen. Hinter solchen Forschungen stehen mächtige wirtschaftliche Interessen, die in diesem Feld riesige Märkte wittern. In Dave Eggers Roman Der Circle kann man lesen, auf welch totalitärem Albtraum diese Entwicklungen hinauslaufen. Frau André als Wissenschaftlerin stellen sich all diese Fragen nicht, jedenfalls erörtert sie diese in ihrem Beitrag für die Süddeutsche Zeitung nicht. Solche Fragen gelten als nicht zur Sache gehörig, als un- und außerwissenschaftlich. „Die Wissenschaft denkt nicht“, heißt es lapidar bei Heidegger. Sie forscht, ohne sich zu fragen, wem ihre Erkenntnisse zugutekommen und welche gesellschaftliche Entwicklung diese befördern. „Wissenschaftlich betrachtet ist Hass nicht schlechter als Liebe. Rein logisch gesehen ist das Vergnügen an der Qual der Liebe ebenbürtig“, hat Max Horkheimer gesagt. Von der Kritischen Theorie hat meine Generation gelernt, dass man nicht alles, was technisch möglich ist, auch tun muss. „Vielleicht wird die wahre Gesellschaft der Entfaltung überdrüssig und lässt aus Freiheit Möglichkeiten ungenützt, statt unter irrem Zwang auf fremde Sterne einzustürmen“, schrieb Adorno in seinem Buch Minima Moralia.

Eine weitere Frage taucht auf: Warum bringt die Süddeutsche Zeitung im Feuilleton einen solchen kritiklosen, affirmativen Text? Wo bleibt die Gedankenschärfe und kritische Haltung, die sie in anderen Rubriken durchaus aufweist und für die zum Beispiel der Name Heribert Prantl steht?

In Brechts Geschichten vom Herrn Keuner heißt es: „Herr Keuner hatte wenig Menschenkenntnis, er sagte: ‚Menschenkenntnis ist nur nötig, wo Ausbeutung im Spiel ist‘.“ Menschenkenntnis braucht sensu Brecht, wer vorhat, Menschen zu betrügen, ihnen etwas zu verkaufen, was sie nicht benötigen. In Zukunft werden die Stühle, auf denen Bewerber für eine Stelle platznehmen, mit Sensoren ausgestattet sein, die Daten über ihre Belastbarkeit unter Stress übermitteln. Computertelefonanlagen können demnächst Stimmungslagen eines Anrufers erkennen und entsprechend reagieren. Auch die Roboterisierung der Kranken- und Altenpflege ist in Arbeit und wird, wenn eine zur Vernunft gekommene Gesellschaft diesen Wahnsinn nicht stoppt, sich durchsetzen.

Angesichts dieser Entwicklungen fragte Cees Nootebooms in seinem 1999 erschienenen Roman Allerseelen: „Ich weiß nicht mal, wie man das ausdrücken soll. Wir haben Computer, oder wir sind Computer.“ Das menschliche Gehirn stellen sich viele Zeitgenossen inzwischen als einen etwas zu langsamen, defizitären Rechner oder eine unzureichende Suchmaschine vor. Günther Anders sprach bereits in den 50er Jahren von der prometheischen Scham des Menschen angesichts der von ihm hervorgebrachten kunstvollen Maschinen, gegen die seine fehlerhafte und hinfällige Kreatürlichkeit verblasst. Der Mensch als Prometheus, als Macher der Maschinenwelt, sei in die peinliche Lage geraten, sich dem Gemachten dauerhaft unterlegen zu fühlen – sich vor ihm zu schämen.

Die modernen Naturwissenschaften haben im Interesse der Naturbeherrschung die Welt auf eine Summe gesetzmäßiger Mechanismen reduziert, die auf mathematische Formeln gebracht werden können. Dieses Denken, heißt es in André Gorz‘ Kritik der ökonomischen Vernunft, bringt schließlich eine Maschine hervor, „die das Denken der Äußerlichkeit durch die Äußerlichkeit dieses Denkens selbst ersetzt und seitdem als Bezugspunkt für den menschlichen Geist dient: der Computer, gleichzeitig Rechenmaschine und ‚künstliche Intelligenz‘, Maschine zur Komposition von Musik, zum Schreiben von Gedichten, zur Krankheitsdiagnose, zur Übersetzung, zum Sprechen … Die Fähigkeit zum Entwurf von Maschinen begreift sich schließlich selbst als Maschine; der Geist, der in der Lage ist, wie eine Maschine zu funktionieren, erkennt sich in der Maschine wieder, die in der Lage ist, wie er selbst zu funktionieren – ohne zu begreifen, dass in Wirklichkeit die Maschine nicht wie der Geist funktioniert, sondern nur wie jener Geist, der gelernt hat, wie eine Maschine zu funktionieren.“

Die Verwandlung von Menschen in Waren- und Geldsubjekte geht mit ihrer psychischen und emotionalen Verkrüppelung und Verarmung einher. Unsere soziale und emotionale Intelligenz, die Fähigkeit also, uns in andere einfühlen, mit ihnen mitfühlen und unser Verhältnis zu ihnen in richtiger Perspektive sehen zu können, mag zwar in uns angelegt sein, aber es bildet sich vor allem in frühen Erfahrungen aus. Besser oder schlechter, oder eben gar nicht. Bei den arktischen Kältegraden, die in Familien herrschen, die bloß noch wie Familien aussehen, in Wahrheit aber das bloße Nebeneinander von lauter Einsamkeiten sind, verwandelt sich die seelische Innenwelt in eine Gletscherlandschaft eingefrorener Gefühle. In ihrer Anpassung an marktförmige Lebens- und Existenzbedingungen entwickeln die Menschen eine bestimmte Art von Tüchtigkeit, von Wendigkeit und Flexibilität – eine ganze Reihe von Eigenschaften, die einem Vorteile im täglichen Rattenrennen eintragen. Dazu gehört auch eine bestimmte Art der Härte gegen sich und andere. Sie verlieren aber dafür alle die Eigenschaften, die dem im Wege stehen und die wir bis vor kurzem als die gerade menschlichen angesehen haben. Die Menschen werden den Maschinen immer ähnlicher, die sie bedienen und in die sie mehr und mehr hineinkriechen. Das Leben unter den Bedingungen des losgelassenen Marktes bringt einen Menschtyp hervor, der dem von Psychiatern wie Cleckley und Hare diagnostizierten „Psychopathen“ ähnelt. Dieser wird als psychisch frigide, oberflächlich charmant, durchsetzungsfähig, fokussiert, skrupellos, ausschließlich an privater Nutzenmaximierung interessiert und empathielos beschrieben. Wer diese Eigenschaften aufweist, hat beste Chancen, sich im neoliberalen Existenzkampf zu behaupten. Vielleicht sind eines Tages die mit emotionaler Intelligenz ausgestatteten Roboter die letzten Wesen, die noch menschliche Züge aufweisen, weil sie sie von den letzten Menschen ‚gelernt‘ haben. In der Beschäftigung mit dem Artikel von Frau André stieg plötzlich aus den Tiefen meines Gedächtnisses ein Witz an die Oberfläche, den mir vor vielen Jahren der Erziehungswissenschaftler Hans-Jochen Gamm erzählt hat und der ungefähr so lautet: Ein SS-Mann sagt zu einem Juden im KZ: „Du sollst heute in die Gaskammer geschickt werden, aber ich gebe dir eine Chance. Ich habe ein Glasauge; wenn du erkennst, welches, dann schenke ich dir dein Leben.“ Der Jude schaut den SS-Mann an und sagt: „Das linke, Herr Obersturmbannführer.“ – „Woran hast du das erkannt?“ – „Weil es so menschlich blickt.“

Hans-Jochen Gamm hatte in den frühen 1960er Jahren ein Buch herausgebracht, das Der Flüsterwitz im Dritten Reich heißt. Gamm vertrat die These, dass es für autoritäre Formen der Herrschaftsausübung, ja für Macht überhaupt, nichts Schlimmeres gibt, als verlacht und verspottet zu werden. Für jene, die nicht oder nicht mehr mit dem Nationalsozialismus sympathisierten, bedeutete das Erzählen solcher Witze eine Form von Widerstand, der gleichzeitig subversiv und nicht unbedingt lebensgefährlich war. Ich lernte von Gamm, dass das Narrentum eine listige Variante des Protestes ist. Der Narr in der Tradition Till Eulenspiegels kultiviert den Widerstand der kleinen Schritte und vermag sich auf diese Weise der schmählichen Alternative, Handlanger des Systems zu sein oder von ihm als Opfer verschlungen zu werden, zu entziehen. Wir sollten dieses Narrentum einüben. Ich fürchte, wir werden es bald wieder brauchen.