Wenn in einem Kommentar der Begriff "schwarze Frau" auftaucht, wird das als potenziell toxischer gewertet als "weiße Frau". Gemeinfrei Christina Morillo

Johannes Filter ist freiberuflicher Softwareentwickler und Aktivist für Informationsfreiheit, Civic Tech und Open Data. In seiner Masterarbeit hat er sich mit der automatisierten Klassifikation von Kommentaren beschäftigt und im Rahmen des Prototype Fund analysierte er anhand von 13 Millionen Online-Kommentaren, wie sich Sprache in Kommentarspalten verändert hat.

Künstliche Intelligenz soll Facebooks Moderationsprobleme lösen, verkündete Mark Zuckerberg schon im Jahr 2018. Eine Untersuchung von AlgorithmWatch zeigt nun, dass automatisierte Entscheidungsalgorithmen derzeit noch große Probleme haben.

AlgorithmWatch hat die Perspective-API begutachtet, einen kostenlosen Service von Google, um automatisiert Hasskommentare zu entdecken. Ein Kommentar bekommt dabei einen Toxicity-Wert zwischen 1 und 100 zugewiesen. Je höher der Wert, desto toxischer ist der Kommentar potenziell. In der Analyse kam heraus, das Kommentare mit dem Begriff „schwarze Frau“ als auch „schwarzer Mann“ einen höheren Score als mit „deutsche Frau“ und „deutscher Mann“ hatten. Um zu verstehen, woran das liegt, muss man sich die Grundlagen automatisierter Moderation anschauen.

Computer versuchen, Entscheidungen von Menschen zu imitieren

Unter dem Begriff „Künstliche Intelligenz“ versteht man heutzutage meistens maschinelles Lernen, Machine Learning. Bei diesen lernt ein Computerprogramm – die Maschine – von Entscheidungen aus alten Daten, Entscheidungen für neue Daten zu fällen. Dafür wird ein Machine-Learning-Modell trainiert, eine Sammlung von Einstellungen für ein spezifisches Programm.

Für ein solches Training benötigt man zunächst die sogenannte „Ground Truth“, also die Wahrheit über einen Sachverhalt. Im Bereich von Hasskommentaren ist dies beispielsweise eine Liste von Kommentare und eine Wertung, ob es sich um einen Hasskommentar handelt oder nicht. Diese Kommentaren werden händisch annotiert und das Machine-Learning-Modell wird mit diesen Daten gefüttert. Die Maschine versucht anschließend, die Entscheidungen der Menschen zu imitieren.

Damit die Maschine mit dem Text umgehen kann, werden mittels mathematischer Verfahren aus der Computerlinguistik aus Wörtern Zahlen. Unter der Annahme, dass Wörter mit ähnlicher Bedeutungen in ähnlichen Kontexten vorkommen, verstehen Computer Sprache. Detailliert habe ich das in meinem Online-Projekt kommentare.vis.one erklärt.

Aus Sicht der Maschinen sind Minderheiten mit Hass assoziiert

Wo sich Hass gegen Minderheiten richten, tauchen in Hasskommentaren oft Wörter auf, die diese Minderheiten beschreiben. Daher sind etwa Begriffe wie „schwarze Frau“ in der Welt der Maschinen negativ assoziiert. Wenn jetzt „schwarze Frau“ in einem Kommentar auftaucht, dann ist der Toxicity-Score höher als für „deutsche Frau“ – egal, ob der Kommentar tatsächlich toxisch ist oder nicht.

Aus Sicht der Maschinen sind Minderheiten mit Hass assoziiert. Es liegt also in der Natur der Sache, dass Machine-Learing-basierte Filtersystem rassistische Muster reproduzieren.

Es gibt bereits Bemühungen, diesen Bias – den Fehler – zu entfernen. Nach dem Training wird das Modell manuell so geändert, das Unterschiede mit Bezug zu Geschlecht oder Ethnizität verschwinden. Doch ein Paper mit dem Namen „Lipstick on a Pig“ zeigte am Beispiel vom Gender-Bias, dass es nicht funktioniert. Ein Fazit der Autorin: Ungleichbehandlungen sind viel zu systematisch in der echten Welt, und damit auch in Texten, zu finden. Eine faire Repräsentation durch Machine Learning bleibt schwierig.

Es ist unklar, ob eine neue technische Errungenschaft jemals für faire automatisierte Filter sorgen wird. Solange können wir dafür sorgen, dass es weniger Rassismus im echten Leben gibt. Denn: Künstliche Intelligenz wird uns (wahrscheinlich) nicht retten.

---

Hilf mit! Mit Deiner finanziellen Hilfe unterstützt Du unabhängigen Journalismus.

In diesen Tagen hat der Bundesgerichtshof entschieden, dass der Einbau von Manipulationssoftware in einem straff geführten Konzern wie VW der Konzernführung anzulasten ist. Sie habe arglistig Käufer und staatliche Aufsichtsbehörden getäuscht

Der Psychologieprofessor und Bestsellerautor Paul Verhaeghe erklärt, wie Psychologie und Psychiatrie auf soziale Anpassung ausgelegt sind

Code zu "schrubben" ist eine Sache, zusammen mit Kunden kreative Lösungen für deren Anforderungen zu finden, eine ganz andere.

Der französische Ökonom Thomas Piketty spricht von einem “Ungleichheitsregime”. Das ist zwar ein sperriger Begriff. Aber es ist klar, was Piketty meint. Er beschreibt die Verschlechterung des Zustands so: Vor 10 Jahren hatten die Spitzenmilliardäre jeweils rund 30 Milliarden, 5 Jahre vorher ca. 5 Milliarden, heute haben sie jeweils rund 100 Milliarden. Dieser Zuwachs kommt nicht von irgendwoher. Das Vermögen fehlt dem großen Rest. 90 % halten nur ca. 20 % des gesamten Vermögens. Ein Prozent verfügt über etwa die Hälfte. – Die Vermögensverteilung verbesserte sich zwischen 1900 und 1980. Dann gab es einen Bruch. Dieser markiert den Beginn der Herrschaft der neoliberalen Ideologie. Auf diesen himmelschreienden Zustand antwortet Piketty zum Beispiel mit dem Vorschlag, die Reichsten müssten bis zu 90 % ihres Vermögens abgeben. Andere antworten mit der „Weder-links-noch-rechts-Therapie“? Wer will, kann das tun. Ich sehe das anders. Aber über die beiden Begriffe sollten wir nicht weiter streiten. Albrecht Müller.

Im schweizerischen Rundfunk SRF Kultur interviewte Yves Bossart am 30. März fast eine Stunde lang den französischen Ökonomen und Autor. Anlass war sein neuestes Buch mit dem Titel „Kapital und Ideologie“. Das Thema der Sendung: „Thomas Piketty: Ungleichheit zerstört die Demokratie“. Es ist gut, dass dies auch ein so kundiger und prominenter Ökonom und politischer Mensch sagt.

Es lohnt sich, diese Sendung anzusehen, wenn man unsere Lage erkennen und Handlungsmöglichkeiten kennenlernen will. Es lohnt sich, auch wenn man nicht allem zustimmen kann, was Piketty sagt.

10 darauf bauende und anschließende Beobachtungen zur Verteilungslage und zu den Konsequenzen:

1. Die Verteilung von Vermögen und Einkommen ist skandalös schlecht. Sie ist jenseits jeder Verhältnismäßigkeit.
2. Die Vermögensverteilung war im 19. Jahrhundert und bis 1914 noch schlimmer. Zwischen 1900 und 1980, insbesondere zwischen 1930 und 1980 wurde die Verteilung etwas gerechter, etwas weniger skandalös. Siehe die folgende Abbildung von SRF auf der Basis der Arbeiten von Piketty.
    
   
3. Ungefähr 1980 kam der Bruch. Die Vermögensverteilung wurde schlechter, in Europa, in den USA noch markanter. Dort nähert sich der Zustand sogar schon wieder der Lage in der Zeit der Jahrhundertwende vom 19. in das 20. Jahrhundert.
4. Die Ära um 1980 war die Zeit der Machtübernahme durch Reagan und Thatcher. In Deutschland ist diese Zeit verbunden mit dem Regierungswechsel von Schmidt zu Kohl, auf der Ebene darunter bestimmt von Otto Graf Lambsdorff und Hans Tietmeyer und von der Deutschen Bundesbank. Festhalten sollte man um der historischen Genauigkeit Willen noch, dass die neoliberale Ideologie in Chile schon 1973 gesiegt hatte. Die Chicago Schule siegte mithilfe des Diktators Pinochet. Ein Omen bis heute.
5. Die Ungleichheit der Einkommensverteilung ist eine wichtige Basis der Verschlimmerung der Vermögensverteilung. Die folgende Grafik aus dem neuen Buch von Piketty zeigt den Anteil des oberen 10 % der Einkommensbezieher am Nationaleinkommen. Die Veränderungen sind im Text unter der Abbildung beschrieben. Auch hier ist die Entwicklung in den USA noch schlechter als in Europa.
    
   

   Piketty weist im Interview etwa bei Minute 13:15 auf die konkrete aktuelle Situation hin. Hohe Vermögen erzielen aufgrund ihrer besseren Anlagemöglichkeiten einschließlich der Steuervermeidung 7, 8 oder gar 9 % Kapitalrendite real. Wer 5000 € anlegt, bekommt nichts.

6. Der zweite wichtige Faktor für die Verschlechterung (oder Verbesserung) der Vermögensverteilung ist die Steuerpolitik. Die Verbesserung zwischen 1930 und 1980 ist von einer progressiven Einkommensteuer und wirksameren Erbschafts- und Vermögensteuern mitbewirkt worden. Die Spitzensteuersätze der Einkommensteuer zum Beispiel lagen in der Phase der Verbesserung der Verhältnisse zwischen 1930 und 1980 in allen vier beobachteten Ländern deutlich über dem Satz von heute. In den USA bei 81 %, in Deutschland über 50 %. Die progressive Einkommensbesteuerung erreichte in der Mitte des letzten Jahrhunderts ihren Höhepunkt. Bei uns nennt man diese Phase „Wirtschaftswunder“.
    
   
7. Anders als die Verfechter der Ungleichheit mit ihrer sogenannten Trickle-Down-Theorie, auf Deutsch: Pferdeäpfeltheorie, erzählen, ist Ungleichheit nicht produktiv. Gesellschaften mit einer gerechteren Verteilung von Vermögen und Einkommen sind produktiver. Das zeige, so Piketty, die von ihm untersuchte Geschichte der Einkommens- und Vermögensverteilung. Zur Erläuterung: Die Pferdeäpfeltheorie heißt so, weil ihre Verfechter unterstellen: Wenn man die Pferde ordentlich füttere, dann bliebe auch noch für die Spatzen reichlich über.
8. Die Gefahren, die von einer maßlos ungleichen Verteilung der Vermögen und Einkommen für die Existenz und Lebensfähigkeit demokratischer Verhältnisse ausgehen, sind vielfältiger Art. Zum Beispiel: Superreiche bestimmen die Politik direkt. Sie betreiben gut ausgestattet Lobbyarbeit und sie machen Meinung. Ich erinnere an eine von fünf Beobachtungen, die am Anfang meines Buches „Meinungsmache“ so formuliert ist:
   

   Wer über viel Geld und/oder publizistische Macht verfügt, kann die politischen Entscheidungen massiv beeinflussen.

   Die Richtigkeit dieser Feststellung können wir immer wieder beobachten. Piketty hat diese Gefahr nach meiner Einschätzung nicht richtig und nicht vollständig erkannt. Aber das mindert die Klarheit seiner Aussagen nicht.

9. Ungleichheit ist ein soziales und ein großes politisches Problem. Es geht an die Substanz. Der Begriff „Ungleichheitsregime“ kennzeichnet diese Gefahr recht gut. Sprechen wir also künftig bitte nicht von „Westlicher Wertegemeinschaft“, sondern von „Ungleichheitsregime“, wenn wir unsere so wunderbare Welt mit den sogenannten autokratischen oder totalitären Regimen vergleichen.
10. Was heißt dies für die politische Programmatik des nächsten Jahrzehnts: Freiheit und Machtkontrolle verlangen den Kampf gegen Ungleichheit.

    Piketty bringt in seinem Buch wie auch in dem oben verlinkten Video einige Vorschläge zur Korrektur der Vermögensverteilung (etwa ab Minute 36:00): Stark progressive Steuern auf Einkommen, Vermögen und Erbschaften. Mitbestimmung. Eigentum neu denken. Eigentum auf Zeit.

    Das sind Vorschläge für ein Parteiprogramm, die zu besprechen sich lohnen.

    Wie man die praktische Politik zur Brechung des Ungleichheitsregimes dann in der Begriffswelt der politischen Geographie nennt, das mag jede und jeder selbst entscheiden.

Nachtrag: Jens Berger hat in seinem früheren Buch „Wem gehört Deutschland“ wichtige Erkenntnisse zum Thema, vor allem bezogen auf Deutschland, veröffentlicht; auch sein neues Buch „Wer schützt die Welt vor den Finanzkonzernen“ enthält wichtige Daten und Gedanken zum Thema.