Albrecht Müller warf in der letzten Woche einige berechtigte Fragen bezüglich der Algorithmen von Facebook in die Runde. Daraufhin schrieben uns zahlreiche Leser von ähnlichen Problemen. Bemerkenswert fanden wir dabei vor allem Berichte über vermeintlich gelöschte Leserkommentare unter unseren Beiträgen auf Facebook. Je mehr wir uns mit diesen Fällen beschäftigten, desto hilfloser und ohnmächtiger fühlten wir uns. Dieses Beispiel aus dem Kleinen zeigt, wie überwältigend die Allmacht der Algorithmen bereits heute im Großen ist. Die Antworten der Politik auf diese Schieflage sind geradezu grotesk. Vor unseren Augen entsteht momentan die wohl größte und gefährlichste Zensur-Infrastruktur der menschlichen Geschichte. Von Jens Berger.

Dieser Beitrag ist auch als Audio-Podcast verfügbar.

Podcast: Play in new window | Download

Wohin sind die Kommentare verschwunden?

Fee Strieffler versteht die Welt nicht mehr. Die Aktivistin, die sich unter anderem beim „Ramsteiner Appell“ und bei der „Luftpost Kaiserslautern“ engagiert, hatte sich zwei Stunden Zeit genommen, um einem unserer Leser bei der Beantwortung seiner Fragen zu helfen, die er auf Facebook zu unserem Beitrag „Ramstein liegt auf deutschem Staatsgebiet“ stellte. Kurze Zeit später waren Frau Striefflers Beiträge jedoch im digitalen Nirwana verschwunden. Einzig und allein der Zähler von Facebook weist noch darauf hin, dass es hier offenbar noch Kommentare gibt, die jedoch niemand zu sehen bekommt.

Verständlicherweise beschwerte sich Frau Strieffler zunächst bei uns, schließlich ist es ja auch naheliegend, dass der Betreiber einer Facebook-Seite für das Verschwinden von Kommentaren verantwortlich ist. Dem war aber in diesem Falle nicht so. Auch in zahlreichen anderen Fällen, die uns zugetragen wurden und die wir in Einzelfällen sogar reproduzieren konnten, sind Leserkommentare von unserer Facebookseite verschwunden, ohne dass wir daran in welcher Form auch immer beteiligt waren. Warum die besagten Kommentare verschwunden sind, wissen wir jedoch bis heute nicht. Schlimmer noch: Es gibt auch für uns, als Seitenbetreiber, mit dessen Hilfe Facebook sehr viel Geld verdient, keine Möglichkeit, der Sache nachzugehen.

Was für Möglichkeiten gibt es für das Verschwinden der Kommentare? Selbstverständlich dürfen Administratoren einer Facebook-Seite unter den von ihnen betreuten Beiträgen Kommentare löschen. Bei uns haben drei Personen diese Rechte, alle drei scheiden als „Verdächtige“ aus. Die zweite Möglichkeit ist ein Softwarefehler, ein „Bug“ im Facebook-Algorithmus, der Kommentare „verschluckt“. Diese Variante ist zwar nicht auszuschließen, aber bei kühler Abwägung eher unwahrscheinlich. Bleiben die Varianten Drei und Vier: Manuelle oder automatisierte Löschungen der Kommentare durch Facebook selbst oder einen Dienstleister.

„Hasskommentare“ … ein mehr als problematischer Ansatz

Das Internet ist global, Gesetze fast immer national. Dieser Konflikt ist für ein globales Netzwerk wie Facebook sehr delikat. Wenn beispielsweise eine kanadische Internetseite Hakenkreuze zeigt und den Holocaust leugnet, ist dies nach kanadischem Recht vollkommen legal. Auch in den USA, in denen Facebook offiziell sitzt, ist die Holocaust-Leugnung keine Straftat. In Deutschland sieht dies bekanntlicherweise anders aus und damit beginnt ein ganzer Wust an hochkomplexen juristischen Fragen: Was passiert, wenn ein deutscher Staatsbürger in Toronto (Kanada) einen Beitrag auf Facebook (US-Unternehmen) postet, in dem er den Holocaust leugnet? Facebook, Google und Co. kennen derartige Probleme und arbeiten in der Regel Hand in Hand mit den Behörden. So hat Google beispielsweise einen eingebauten Filter, der nicht nur Kinderpornografie oder Copyright-Verletzungen, sondern auch Holocaustleugnungen herausfiltert, obgleich diese Materialen für die große Mehrheit der Google-Nutzer durchaus legal wären, da sie in einem Land sitzen, in dem es keine einschlägigen Gesetze gibt.

Facebook umgeht derlei heikle Fragen ganz einfach dadurch, indem es sich – zumindest nach außen hin – nicht an nationale Gesetze, sondern an die sogenannten „Gruppenrichtlinien“ hält. Diese Richtlinien besagen beispielsweise, dass Abbildungen weiblicher Brüste ebenso wie Holocaustleugnungen gelöscht werden, während man lange Zeit bei verbalen Grenzwertigkeiten eher dazu tendierte, die Inhalte nicht zu löschen – getreu der eher weit gefassten amerikanischen Definition von „Meinungsfreiheit“. Damit eckte Facebook jedoch vor allem in einem Land an, in dem die Meinungsfreiheit kein hohes Gut ist und nur zu gerne der Political Correctness geopfert wird: Deutschland.

Befeuert durch Pegida und die wachsende Anzahl rechter Pöbeleien im Flüchtlingsjahr 2015 sah sich das Bundesjustizministerium gefordert, Facebook zu einer strengeren Moderation zu zwingen. Der Internetgigant knickte vor Heiko Maaß ein und beauftragte die Bertelsmann-Tochter Arvato, von Berlin aus mit einer rund 150 Mitarbeiter starken „Löschtruppe“ Beschwerden deutscher Facebook-Nutzer entgegenzunehmen und Beiträge zu löschen, die den „Gemeinschaftsrichtlinien“ widersprechen. Und wann widerspricht ein Beitrag diesen Richtlinien? Wenn er – so der unschöne englische Begriff – „hate speech“ enthält, es sich also um einen „Hasskommentar“ handelt. Dazu zählen laut Facebook

„Inhalte, die Personen aufgrund der folgenden Eigenschaften direkt angreifen: Rasse, Ethnizität, nationale Herkunft, sexuelle Orientierung, Geschlecht bzw. geschlechtliche Identität oder schwere Behinderungen oder Krankheiten“.

Das hört sich oberflächlich ja gut an; ist es aber nicht.

Während Begriffe wie Beleidigung, Nötigung oder Volksverhetzung Gegenstände des deutschen Rechtssystems und klar definiert sind, ist der Begriff Hasskommentar nicht näher definiert und die Präzisierung „direkt angreifen“ ist vage und wird außerhalb des Rechtssystems von Facebook oder Arvato und Co. willkürlich interpretiert. Wenn Sie wegen Beleidigung angezeigt werden, bekommen Sie das schwarz auf weiß und können sich mit rechtsstaatlichen Mitteln verteidigen und zur Wehr setzen. Wenn ihr Facebook-Kommentar im digitalen Nirwana verschwindet, kriegen Sie davon nichts mit; Sie haben keine Chance auf Revision und haben noch nicht einmal einen Ansprechpartner, dem Sie ihre Klage vortragen können. Sie sind ohnmächtig, Facebook und Arvato allmächtig.

Aber das betrifft doch nur böse Nazis!

Recht so, werden viele nun denken. Bei „Hasskommentaren“ geht es ja – wie der Name schon sagt – um böse Hetze vom rechten Rand. Die muss verschwinden! Na klar, aber wer entscheidet im Einzelfall, was böse und was Hetze ist? Wer entscheidet, was der rechte Rand ist? Und warum soll eigentlich irgendetwas verschwinden, nur weil es vom rechten Rand kommt? Es kommt doch nicht auf den Absender, sondern auf die Botschaft an und in einem Rechtsstaat sollte doch bitte das geltende Gesetz regeln, was erlaubt und was verboten ist.

Wie schnell man hier die Orientierung verlieren kann, beweist ausgerechnet ein weiteres Fallbeispiel im Umfeld von Facebook. Auf Initiative des Bundesjustizministeriums unterstützt der amerikanische Konzern nämlich seit wenigen Wochen auch „europäische NGOs“ mit einer Million Euro, die aktiv gegen „rechte Hasskommentare“ vorgehen. Darunter zählt federführend auch die Amadeu Antonio Stiftung. Dummerweise ist dieser Stiftung jedoch der politische Kompass abhandengekommen. Anstatt gegen rechte Hetze vorzugehen, betreibt man dort offenbar lieber Denunziation und wird dafür und für andere Fragwürdigkeiten zu Recht von verschiedenen Seiten scharf kritisiert. Wenn dies die „Hilfspolizei“ von Facebook ist, kann einem nur noch angst und bange werden.

Dabei haben wir doch ein Justiz- und Rechtssystem, das sich sehr intensiv mit derlei Fragen beschäftigt und das hier liberaler und toleranter ist, als man denken mag. Die Aussage „Ausländer raus!“ ist beispielsweise laut eines Urteils vom Bundesverfassungsgericht aus dem Jahre 2010 keine Volksverhetzung, sondern von der Meinungsfreiheit gedeckt. Das kann man gut oder schlecht, richtig oder falsch finden. Wer aber setzt hier die Grenzen? Wer entscheidet, ob kapitalismuskritische Kommentare oder Kommentare, die sich kritisch mit der Kriegspolitik der NATO oder der Außenpolitik der USA auseinandersetzen, den „Gruppenrichtlinien“ entsprechen? Darüber entscheiden im stillen Kämmerlein die Mitarbeiter von Facebook und Arvato. Dieses Verfahren ist intransparent und undemokratisch.

Besonders brisant sind hier Fälle aus dem Graubereich. Ab wann verstößt ein Facebook-Nutzer, der die Aufnahme von Flüchtlingen kritisiert, eigentlich gegen die Gemeinschaftsregeln? Eines sollte klar sein: In einem demokratischen Staat müssen natürlich auch Meinungen erlaubt sein, die von der Meinung der Kanzlerin oder der absoluten Mehrheit der Leitartikler abweichen. Es muss – auch über Facebook – möglich und erlaubt sein, Kritik an der Flüchtlingspolitik zu äußern; sobald diese Kritik in straftatrelevante Hetze ausartet, muss sie jedoch ebenso selbstverständlich gelöscht werden. Der heikle und entscheidende Punkt: Wer entscheidet, was hinnehmbar ist und was gelöscht werden muss? Ein Arvato-Mitarbeiter? Oder ist dies nicht vielleicht doch eine Frage, die in Deutschland Staatsanwälte und Richter entscheiden sollten?

Zurück zu unserem konkreten Fall. Hat denn nun ein übereifriger Arvato-Mitarbeiter den Beitrag von Frau Strieffler gelöscht? Das ist zumindest auf Basis der uns zur Verfügung stehenden Informationen nicht sonderlich wahrscheinlich, da der Beitrag ohne Zweifel frei von „Hate Speech“ war. Es ist bekannt, dass es als Konzession an die Türkei Facebook-Moderationsrichtlinien gibt, die jegliche Kritik an Atatürk und Parteinahme für die PKK bei Facebook verbieten – hier wird türkisches Recht zur internationalen Norm gemacht, wie deutsches Recht im Falle der Holocaustleugnung. Eine interne Richtlinie, nach der Kritik an den USA bzw. amerikanischer Militärpolitik einen Löschgrund darstellen könnten, ist zumindest uns jedoch nicht bekannt.

Die neue Weltformel

Bleibt die vierte und unbequemste Erklärung: Der Kommentar von Frau Strieffler wurde – ebenso wie zahlreiche andere Leserkommentare – von einem Algorithmus herausgefiltert. Dass es derartige Algorithmen gibt, ist unstrittig. Hinter den Kulissen sorgen sie beispielsweise dafür, dass Beiträge anhand bestimmter „Signalworte“ bereits ausgefiltert werden, bevor sie auf Facebook erscheinen. Ich wurde selbst schon mal in einem recht skurrilen Fall Opfer dieses Algorithmus, als ich folgende Textzeile über die BILD-Zeitung aus dem Ärzte-Song „Lasse redn“ auf Facebook posten wollte: „[Die BILD] besteht nun mal, wer wüsste das nicht, aus Angst, Hass, Titten und dem Wetterbericht“. Das T-Wort gefielt den Tugendwächtern von Facebook offenbar nicht – mein Beitrag wurde gar nicht erst veröffentlicht.

Es ist gut möglich, dass der Kommentar von Frau Strieffler solche Signalworte, Buchstabenfolgen oder URLs enthielt, die bei Facebook auf der „schwarzen Liste“ stehen. Da diese Listen jedoch Verschlusssache sind, werden wir wohl dumm sterben müssen – Facebook verrät uns nämlich nicht, warum und von wem oder was der Kommentar gelöscht wurde.

Die damit zusammenhängende Problematik ist gigantisch und geht weit über die konkrete Frage gelöschter Kommentare hinaus. Wer bestimmt, was Sie auf Facebook zu sehen bekommen? Wer bestimmt, welche Kommentare Sie auf Facebook in welcher Reihenfolge sehen? Wer bestimmt, welche Seiten Sie bei einer Google-Suche angezeigt bekommen? Wer bestimmt, welche Waren Sie in Onlineshops zu welchen Preisen und welchen Zahlungsbedingungen angezeigt bekommen? Wer bestimmt, wer im Netz Ihre Kommentare und Anmerkungen zu Gesicht bekommt? Die Antwort auf alle diese Fragen lautet: Der Algorithmus.

Die Algorithmen sind allmächtig. Es ist bereits höchst problematisch, wenn derart mächtige Programme „nur“ von renditeorientierten Unternehmen dazu eingesetzt werden, immer mehr Rendite zu machen und aberwitzige Milliardengewinne zu realisieren. Was wäre, wenn diese Konzerne aktiv politisch einsteigen, politische Gegner digital verschwinden lassen, ihre Algorithmen zur Meinungsmache nutzen und alles herausfiltern, was ihnen gegen den Strich geht? Vor wenigen Wochen habe ich ja herausgearbeitet, dass linke Alternativen in den USA und Großbritannien auch und vor allem Facebook nutzen, um gegen das finanzstarke Establishment eine Chance zu haben.

Google, Twitter, Facebook und Co. sind heute de facto Monopole. Monopole mit einer Macht, wie es sie in vordigitalen Zeiten so nie gegeben hat. Unser kleines Beispiel mit dem verschwundenen Kommentar von Frau Strieffler lässt uns allein zurück. Wir haben in den Abgrund geschaut und ahnen bestenfalls, was da noch auf uns zukommt.

Privatisierung des Rechtssystems

Facebook ist eine Software und kein Anbieter von Inhalten. Im Forum von SPIEGEL Online oder der ZEIT gilt freilich das Hausrecht des Betreibers. Wenn ein bestimmter Leserkommentar dem Team von SPIEGEL Online nicht passt, dann steht es den Mitarbeitern frei, ihn zu löschen. Ob und wie das dann begründet wird, ist Sache des Medienunternehmens. Bei Facebook sieht die Sache jedoch anders aus: Facebook stellt eine Software zur Verfügung und verdient mit Werbung, die in diese Software personenspezifisch eingebunden wird, sehr, sehr viel Geld. Die Inhalte, den Content, stellen die Nutzer selbst. Für mögliche Rechtsverstöße in den Kommentaren ist eigentlich in allen anderen Fällen der „Forenbetreiber“ verantwortlich – also SPIEGEL Online beim hauseigenen Forum und die NachDenkSeiten beim Facebook-Kommentarbereich der NachDenkSeiten. Dass der Softwareanbieter nun vom Staat einerseits für die Kommentare, die auf seiner Software verfasst werden, haftbar gemacht wird und sogar vom Staat gezwungen wird, „proaktiv“ Inhalte zu löschen, die mit seiner Software verfasst wurden und den Gesetzen oder vagen Political-Correctness-Richtlinien widersprechen, ist ein mehr als fragwürdiger Ansatz.

Noch fragwürdiger ist es, wenn die Kontrolle dieser Richtlinien auf Anweisung des Bundesjustizministeriums von den Softwareanbietern auf private Dienstleister ausgegliedert wird. Dies ist nichts anderes als Zensur durch private Unternehmen und die De-facto-Privatisierung eines immer wichtiger werdenden Teils des Rechtssytems.