Was hat der Wald der 1980er-Jahre mit der Künstlichen Intelligenz von heute gemeinsam? Antwort: die unbekannte, aber wissenschaftlich erforschbare Bedrohung mit unabsehbaren Folgen. Ende der 1970er-Jahre warnten Wissenschaftler eindringlich vor einem flächendeckenden Absterben der mitteleuropäischen Wälder durch sauren Regen. Gerade in diesen Tagen warnt eine Gruppe aus Wissenschaftlern und Forschern aus der Industrie vor einer Auslöschung der Menschheit durch die Künstliche Intelligenz. Von Jörg Phil Friedrich.
Die Figur des Experten, der vor großen Gefahren warnt, ist in den Medien und der öffentlichen Diskussion inzwischen etabliert. Oft mögen die Gefahren real sein, wie etwa beim Klimawandel und beim Ozonloch, doch wie groß die Gefahr wirklich ist, können Laien nicht einschätzen. Sie müssen den Experten vertrauen, deren Darstellungen plausibel klingen und mit eigenen anekdotischen Erfahrungen sowie mit entsprechenden Pressemeldungen zusammenpassen. Weitere Beispiele lassen sich da nennen, etwa die BSE-Krise Anfang der 2000er-Jahre oder die Corona-Pandemie, insbesondere das Auftreten von Long-COVID.
Das Muster ist immer wieder das gleiche, und inzwischen haben wir uns schon fast daran gewöhnt: Die Wissenschaft identifiziert eine große, bisher unbekannte Gefahr, sie warnt die Gesellschaft vor dieser Gefahr, erkennt zunächst einen größeren Forschungsbedarf, den die Gesellschaft finanzieren muss und leitet sodann Forderungen an die Gesellschaft ab, auf die Gefahr entsprechend der wissenschaftlichen Erkenntnisse zu reagieren.
Menschliche Wissenschaftler
Die Formulierung dieses etwas holzschnitzartig dargestellten Szenarios könnte den Eindruck erwecken, hier solle vorschnell die Wissenschaft als ein System dargestellt werden, das sich eigennützig aufgrund seiner großen gesellschaftlichen Autorität mit Finanzmitteln und Ressourcen ausstattet und dabei die Zukunftsängste der Menschen, die die Details nicht verstehen, schamlos ausnutzt. Es soll deshalb von Anfang an klar gesagt werden, dass hier keineswegs irgendjemandem Egoismus und Selbstsucht unterstellt werden sollen. Im Gegenteil, wir unterstellen hier, dass jede Forscherin, die sich öffentlich zu Wort meldet, um ein Problem ins gesellschaftliche Bewusstsein zu bringen, jeder Wissenschaftler, der aus seinen Erkenntnissen eine Gefahr für Natur und Mensch ableitet und seine Stimme erhebt, nach bestem Wissen und Gewissen handelt. Zugleich handeln sie, wie alle Menschen, auch nach ökonomischen Kriterien im Interesse ihrer Institutionen, nach den Prinzipien der Aufmerksamkeitsökonomie, entsprechend menschlichen Verhaltensweisen wie Eitelkeit und Selbstliebe sowie aus dem Antrieb, eine spannende, gesellschaftlich als nützlich angesehene Tätigkeit auszuführen, die Anerkennung unter Freunden und Kollegen, in der Gesellschaft und in der Öffentlichkeit findet. Aus all diesen Antrieben, gepaart mit den Erwartungen und Überzeugungen der Öffentlichkeit und der Politik, kann aber eine Dynamik entstehen, die sich verselbstständigt und dem eigentlichen Ziel, Sicherheit und Stabilität für die Gesellschaft zu stützen und ein lebenswertes Leben für alle zu ermöglichen, nicht mehr dienlich ist.
Wer sich in die Wissenschaft begibt, kann prinzipiell an allem Möglichen forschen: Eine Physikerin kann darüber nachdenken und experimentieren, warum Flugzeuge fliegen, sie kann sich mit den elementaren Bausteinen der Natur befassen oder mit der Frage, warum Stoffe, die eigentlich keinen Strom leiten, dies bei niedrigen Temperaturen plötzlich doch tun. Ein Historiker kann sich fragen, wie es zum 80-jährigen Krieg kam, eine Biologin kann sich mit den Hierarchien im Bienenstock beschäftigen, ein Ökonom mit den Bedingungen kooperativen Handelns zwischen Wettbewerbern.
Woran geforscht wird
Man kann annehmen, dass es für viele Leute, die forschen, nicht auf den konkreten Gegenstand ihrer Arbeit ankommt. Es gibt viele interessante Dinge zu entdecken und Prozesse zu untersuchen – woran man genau forscht, hängt häufig von zufälligen Begegnungen und Ereignissen im Leben ab, von Möglichkeiten, die sich auftun, von Schwerpunkten, die es gerade da gibt, wo die Liebe oder der Zufall einen hingetrieben hat. Man ergreift die Optionen, die sich ergeben, und freut sich über das, was man da machen kann. Interessant ist vieles, wenn man sich mit forschendem Blick darauf in Ruhe und mit einiger Sicherheit konzentrieren kann.
Die meisten Forschungen sind allerdings teuer, sie brauchen Menschen, die bezahlt werden müssen, Apparate, Literatur, Reisekosten und anderes. Um Forschung finanziert zu bekommen, muss sie für die Geldgeber, zumeist die Gesellschaft, die durch Ministerien und andere staatliche Einrichtungen repräsentiert wird, interessant oder wichtig sein. Und es herrscht ein harter Wettbewerb um die begrenzten finanziellen, materiellen und personellen Ressourcen, die die Gesellschaft für Forschung zur Verfügung stellen kann. Da kommt es darauf an, Forschungsfelder zu besetzen, von denen in der Gesellschaft gesagt wird, dass sie nicht nur interessant und wissenswert, sondern wichtig, am besten überlebenswichtig für die Zivilisation oder wenigstens die Menschen des Landes sind.
Interessant ist vieles, was nicht wichtig ist, etwa die Frage, ob alle Dramen, die Shakespeare zugeschrieben werden, tatsächlich aus seiner Feder stammen, die Frage, wie viele Planeten, auf denen Leben möglich ist, in unserer Milchstraße existieren, oder die Frage, was in den ersten Sekunden nach dem Urknall geschah. In Zeiten knapper Staatskassen werden solche interessanten Fragen immer Gefahr laufen, nicht ausgiebig mit den gewünschten Finanzmitteln versorgt zu werden.
Aber auch das, was gesellschaftlich für wichtig gehalten wird, ist interessant. Das können zum einen neue Möglichkeiten sein, etwa neue Arten von Impfstoffen, neue Werkstoffe, neue Energiequellen. Noch wichtiger allerdings sind Gefahren, die der Gesellschaft drohen, deren Ursachen und Wirkmechanismen man erforschen und bei denen man wissenschaftliche Vorschläge machen kann, wie die Gefahr gebannt werden kann.
Wie Gefahren entstehen: Beispiel Waldsterben
Die Gefahren denken sich zumeist die Leute in der Wissenschaft nicht selbst aus, sie entstehen aus einem Wechselspiel aus alltäglicher Erfahrung und Vermutung, ersten wissenschaftlichen Beobachtungen, öffentlicher Diskussion in den Medien und wissenschaftlichen Hypothesen. Ausführlich untersucht hat dieses Wechselspiel und seine Konsequenzen Roland Schäfer schon vor mehr als zehn Jahren am Beispiel des Waldsterbens in seiner Dissertation „‚Lamettasyndrom‘ und ‚Säuresteppe‘. Das Waldsterben und die Forstwissenschaften 1979-2007“ (siehe J.P. Friedrich: Die postoptimistische Gesellschaft. Seite 40-44). Das Phänomen Waldsterben kann als paradigmatisches Beispiel gesehen werden für viele verwandte Entwicklungen, sei es das Thema Klimawandel, Long-COVID oder die gerade beginnende Diskussion um die Gefahren der Künstlichen Intelligenz.
Es beginnt oft mit einer alltäglichen Beobachtung und einer plausiblen Theorie über die Ursache. In den 1970ern fielen zunehmend Schäden an Bäumen in Wäldern auf, das Absterben zunächst von Tannen, später allgemein Vergilbungen und Kronenverlichtungen. Schnell wurden diese mit Umweltverschmutzungen durch die Industrie, insbesondere den Eintrag von Schwefeldioxid in Verbindung gebracht. Ende der 1970er begannen Wissenschaftler, vor einem umfangreichen Waldsterben und einer Versteppung der Landschaft in Mitteleuropa zu warnen. Im Zusammenspiel mit den Medien wurden dramatische Begriffe gefunden, um die möglichen Auswirkungen zu beschreiben. Es etablierte sich eine umfangreiche Waldschadensforschung, die versuchte, den Mechanismen des Waldsterbens auf die Spur zu kommen. Innerhalb dieser Wissenschaften entstand eine Diskussion, in der zurückhaltende Stimmen, die auf die Komplexität der Prozesse hinwiesen und in Erwägung zogen, dass auch natürliche Prozesse, insbesondere in Monokulturen der Forstwirtschaft, massenhaftes Absterben von Bäumen bewirken konnten, einen schweren Stand hatten. Für die Forschungen, die die dramatischen Konsequenzen des Schadstoffeintrags verständlich machten, wurden umfangreiche Mittel bereitgestellt. Zugleich wurden Forderungen an die Industrie laut, durch Filter in ihren Schornsteinen den Ausstoß der Schadstoffe zu reduzieren.
Das dramatische Szenario der Versteppung ganz Mitteleuropas ist ausgeblieben. Man kann das mit dem aus der Corona-Pandemie bekannten „Präventionsparadox“ erklären. Da die Industrie inzwischen überall Abgasfilter in die Schornsteine eingebaut hat, wurde die Gefahr gemildert und das schlimmste Szenario verhindert. Allerdings ist heute in der Forstwirtschaft eher die Sicht vorherrschend, dass in dem komplexen System Wald viele – auch viele noch unverstandene – Wechselwirkungen bestehen, die zum Waldsterben führen, dieses dann aber auch wieder abbremsen. Man verweist inzwischen auch darauf, dass das Waldsterben erst in den Fokus der Öffentlichkeit und der Wissenschaft gerückt ist, als es im Zusammenhang mit dem menschlichen Wirken als eine menschlich verschuldete Gefahr betrachtet wurde, die womöglich zu gravierenden Folgen für die Gesellschaft führen könnte, wenn man nicht einschreitet. Erst mit der Waldschadensforschung begann überhaupt die systematische Beobachtung der Waldgesundheit – welches Waldsterben es in früheren Jahrhunderten bereits gegeben hat, bleibt unklar. Auf der anderen Seite ist der anfällige, gefährdete Wald erst durch die technische Forstwirtschaft entstanden.
Mit dem Waldsterben ist auch die öffentliche Person des warnenden, alarmierenden Wissenschaftlers ins allgemeine mediale Bewusstsein getreten. Die gesellschaftliche Diskussion war allerdings bereits vorbereitet durch die Berichte an den Club of Rome und verwandte Diskussionen um die Folgen von Industrialisierung und Umweltverschmutzung. Die Motive der Wissenschaftler, die mit eindringlichen Warnungen an die Öffentlichkeit traten, sind sicherlich ehrlich und lauter: Aus den wissenschaftlichen Beobachtungen und Erklärungsansätzen werden Wirkungen abgeleitet, die das menschliche Handeln oder Unterlassen zur Gefahr werden lassen, mit unabsehbaren Konsequenzen für Gesundheit, Wohlstand und Sicherheit aller. Es scheint geboten, eindringlich vor weiterem falschen Handeln zu warnen und ein Ende der Untätigkeit zu fordern. Dass einige Mechanismen noch ungeklärt sind, dass einige Schlussfolgerungen noch unsicher sind, ist kein Grund, vorsichtiger mit den Warnungen zu sein: Allein die Tatsache, dass die wissenschaftliche Erklärung zutreffend sein könnte, sollte bei der Größe der Gefahr doch ausreichen, um zu handeln.
Die wissenschaftliche Eigendynamik
Und zu diesem Handeln muss natürlich gehören, der Wissenschaft die Ressourcen zur Verfügung zu stellen, die sie braucht, um die noch bestehenden Unsicherheiten auszuräumen, die Dinge noch besser zu verstehen und noch genauer sagen zu können, was getan werden muss, um die Gefahr zu bekämpfen. Wenn nun die Gesellschaft zögert, die benötigten Mittel bereitzustellen, dann müssen die Gefahren noch prägnanter dargestellt werden, dann muss die Unsicherheit etwas zurückgestellt und die Notwendigkeit der Forschung für die Gefahrenabwehr betont werden. Auch in den Forschungsjournalen wird eine Tendenz befördert, alarmierende, gesellschaftlich drängende Forschungsergebnisse eher zu publizieren als neutrale Resultate, die vielleicht interessant und neu, aber gesellschaftlich bedeutungslos sind. Das führt wiederum dazu, dass Forschungsteams nicht nur die Neigung entwickeln, auf diesen Gebieten zu forschen, sondern ihre Beiträge auch als wichtig für die Beschreibung und Bannung einer realen Gefahr darzustellen.
Hier kommt ins Spiel, dass Leute, die wissenschaftlich arbeiten, also am Nachweis der Richtigkeit ihrer Thesen genauso wie alle anderen dazu neigen, die Richtigkeit der eigenen Thesen zu überschätzen und die Plausibilität konkurrierender Annahmen zu bezweifeln. Gern wird zwar die Objektivität der Wissenschaft betont, die nur herausfinden will, wie die Dinge wirklich liegen und kein persönliches Interesse an der Verteidigung je eigener Theorien kennt, aber die soziologische Forschung hat längst gezeigt, dass es sich dabei um eine Idealisierung der Wirklichkeit handelt. Das hat auch zur Folge, dass diejenigen unter den Forschern, die vor Kollegen warnen, die Gefahren angeblich abwiegeln, relativieren oder bezweifeln, besonders offensiv in der Öffentlichkeit auftreten und dort auch Gehör finden.
Dazu kommt, dass einmal etablierte Forschungsprogramme ein Eigenleben entwickeln, das ihre Fortexistenz sichert. Wer für die Untersuchung einer Gefahr mit einem umfangreichen Budget ausgestattet worden ist, zeigt am Ende lieber, dass die Gefahr wirklich so groß ist wie angenommen, dass die Ausgangsthese also richtig war und dass zudem weitere Aspekte gefunden wurden, die untersucht werden müssen, als dass er am Ende sagt: War alles nicht so schlimm, war ein Fehlalarm – was auch das Ende des Forschungsprogramms bedeuten würde. Inzwischen sind aber oft teure Anlagen gekauft, Computersimulationen eingerichtet und Forschungsverfahren etabliert worden, die man gern beibehalten möchte. Absolventen haben Dissertationen geschrieben und Paper veröffentlicht, und es gibt noch viele Details, an denen man weiterforschen kann. Nachfolgende Absolventen wollen auf dem Erreichten aufbauen, zitieren die bereits geschaffene Literatur, übernehmen deren Annahmen und Paradigmen und möchten auf dieser Basis gern selbst eine Dissertation schreiben – zumal die betreuenden Lehrkräfte in diesem Gebiet inzwischen zu Hause und in der Forschungswelt anerkannt sind. Darüber hinaus sind sie in der Öffentlichkeit gefragte Gesprächspartner, sie schildern den Fortschritt beim Verstehen der Gefahr, sie werden zu Rate gezogen, wenn die Frage aufkommt, wie die Gefahr zu bannen ist und welche neuen Gefahren entstehen.
Die Konsequenz ist, dass wir vor allem Wissenschaften fördern, die Gefahren sehen und uns auf einen Weg bringen wollen, mit dem die Gefahr, oft mit großem Aufwand, bekämpft werden kann. Das gilt für das Waldsterben wie für den Klimawandel, für Long-COVID wie für eine außer Kontrolle geratene KI. Man könnte sagen, dass das auch gut so ist, denn es ist immer gut, wenn eine Gefahr gebannt wird, auch wenn sich vielleicht herausstellen könnte, dass sie so riesig gar nicht gewesen ist. Das ist richtig, hat aber das Problem, dass die Beherrschung und Vermeidung dieser Gefahren ein sehr teures Unterfangen ist, das Geld und Ressourcen kostet, die woanders fehlen, etwa bei der Bekämpfung längst bekannter Krankheiten oder für die Renovierung und Modernisierung von Schulen. Entgegen einem weit verbreiteten Irrtum hat die Gesellschaft nämlich nicht unbegrenzt Ressourcen, weder personell noch finanziell oder materiell, und was in das eine Thema gesteckt wird, fehlt woanders. Deshalb wäre es gut, wenn wir uns auf die Herausforderungen konzentrieren könnten, die wirklich groß sind.
Was tun?
Die Frage, was aus all dem zu lernen ist, ist nicht leicht zu beantworten. Zweifellos ist es gut, dass die Industrie weniger Schwefeldioxid in die Atmosphäre bläst als in den 1970ern und dass die Umweltverschmutzung zurückgegangen ist. Die Warnungen der Wissenschaft waren dazu hilfreich, egal, ob sie ein übertriebenes Bild gezeichnet haben. Und zweifellos ist es richtig, die klimatischen Auswirkungen des Ausstoßes von Klimagasen zu untersuchen, und es ist sinnvoll, den Ausstoß dieser Gase zu reduzieren. Auch hier wüssten wir ohne die Wissenschaften nicht, welche unerwünschten Nebenwirkungen unsere Mobilität und unser Komfort mit sich bringen.
Auf der anderen Seite ist es notwendig, skeptisch zu bleiben, wenn die wissenschaftlichen Alarmglocken allzu schrill klingeln und Medien, Politik und Forschung einen alarmistischen Kreislauf in Gang setzen, der die Tendenz hat, eine allgemeine Panik auszulösen. Dann ist es notwendig zu fragen, ob es in der Wissenschaft auch andere Stimmen gibt, die sich der Dramatik immer katastrophalerer Szenarien verwehren. Diesen Stimmen Gehör zu verschaffen, auch wenn sie in der Minderheit sind, von denen, die allzu düstere Zukunftsprognosen an die Wände malen, sachliche und plausible Antworten auf die Zweifel ihrer Kollegen zu fordern, das wäre die Aufgabe der Medien und auch der Politik. Am Ende muss jeder selbst, ob Ministerpräsidentin, Parlamentarier, Angestellte oder Facharbeiter, zu einem begründeten Urteil kommen, wie groß die Gefahr wirklich ist, selbst wenn Unsicherheiten bleiben. Niemand sollte Kassandrarufen folgen, nur weil die Welt im Panikmodus einfacher aussieht. Nicht diejenigen, die allen dystopischen Visionen verzweifelt und mit allen Mitteln zu widerstehen versuchen, hinterlassen den nachkommenden Generationen eine lebenswerte Welt, sondern die, die zuversichtlich am Machbaren arbeiten, das gute Leben darüber nicht verlernen und die sich auch daran erinnern, dass es oft nicht so schlimm gekommen ist, wie die größten Warner vorhergesagt haben.
Titelbild: Anastasiia Skorobogatova/shutterstock.com
