Von Innosuisse gefördert: KI-Spürhund gegen Hass-Reden
Hasskommentare belasten die offene Diskussion im Internet. Das sozialwissenschaftliche Forschungsprojekt ?Stop Hate Speech? untersucht, wie Hass-Rede algorithmisch erkannt und mit welchen Gegenstrategien sie einged?mmt werden kann.
News-Plattformen und soziale Medien nutzen das Format des Kommentars. Nicht jeder Kommentar ist konstruktiv und sachlich, geschweige denn anst?ndig geschrieben. Manche Kommentare sind respektlos, ver?chtlich oder herablassend. Sie zielen darauf ab, bestimmte Personen oder Gruppen von Menschen einzuschüchtern, zu ver?ngstigen oder abzuwerten.
Im Englischen nennt man solche beleidigenden oder sch?digenden Kommentare ?Hate Speech?. Im Deutschen spricht man von Hasskommentaren oder Hass-Rede. Hasskommentare k?nnen ?ffentliche Debatten beeintr?chtigen, indem sie Personen abschrecken, sich in einer Kommentarspalte zu ?ussern oder an einer Diskussion teilzunehmen: ?Müssen sich zum Beispiel Politikerinnen st?ndig mit frauenfeindlichen Kommentaren auseinandersetzen, h?lt das Frauen wom?glich davon ab, überhaupt in die Politik einzusteigen?, sagt Dominik Hangartner, ETH-Professor für Politikanalyse und Leiter der Public Policy Group.
In Zusammenarbeit mit alliance F, dem Dachverband der Schweizer Frauenorganisationen, untersuchen Hangartners Forschungsgruppe und das externe Seite Digital Democracy Lab der Universit?t Zürich nun, wie sich Hasskommentare mit maschinellem Lernen im Internet erkennen lassen, und welche Strategien der Gegenrede (engl. ?Counter Speech?) sich am besten eignen, um Hasskommentare zu entkr?ften.
Digitaler Spürhund gegen Hate Speech
alliance F hat die Plattform Stophatespeech.ch lanciert, um Hass-Rede im Internet gezielt einzud?mmen. Ziel des Projekts ?Stop Hate Speech? ist es, mit dem ?Bot Dog? (Algorithmus), Hasskommentare im Netz automatisch aufzuspüren, sowie empirisch zu ermitteln, welche Art von Gegenrede besonders erfolgreich ist, um hassgepr?gte Diskussionen wieder zu versachlichen.
Damit der digitale Spürhund lernt, wie er Hasskommentare – und nicht irgendwelche Kommentare – findet, trainieren ihn die Forschenden mit zahlreichen Beispielen. Diese stammen aus den realen Kommentarspalten von Schweizer News-Plattformen wie ?Blick.ch? oder ?20 Minuten?. Rund 12'500 Kommentare wurden bis heute bereits bewertet – darunter sowohl solche auf Deutsch als auch solche auf Franz?sisch.
Da es keine allgemeingültige Definition von Hass-Rede gibt und unterschiedliche Menschen Kommentare unterschiedlich beurteilen, arbeiten die Forschenden mit verschiedenen Gruppen zusammen, welche die erhaltenen Kommentare danach bewerten, ob es Hasskommentare sind oder nicht. Auf diese Weise spiegeln die klassierten Hasskommentare nicht allein die Ansichten einer einzigen Personengruppe.
Mittlerweile sind so knapp 60'000 Bewertungen zusammengekommen, und es kommen laufend noch mehr dazu – je mehr Lernbeispiele der Bot Dog erh?lt, umso treffsicherer wird seine Suche im Netz.
Welche Argumente wirken gegen Hate Speech?
Zudem ermitteln die Forschenden, wie man gezielt und wirksam auf Hasskommentaren reagieren kann: Sie untersuchen acht verschiedene Strategien, mit denen man Hate Speech kontern kann – angefangen beim faktischen Widerlegen von Falschaussagen über moralisches Appellieren und Warnen bis hin zu humorvollen, sarkastischen oder auch positiv geschriebenen Reaktionen.
?Wir wissen nur sehr wenig darüber, welche Strategien der Gegenrede sich effektiv eignen, um die verschiedenen Arten von Hate Speech zu unterbinden?, sagt Selina Kurer, Lab Manager in Hangartners Gruppe, ?wenn wir das wissen, k?nnen alliance F und die Medienh?user dieses Wissen direkt anwenden, um der Hass-Rede in den Kommentarspalten gezielt entgegenzuwirken.?
Die Zusammenarbeit der Forschenden mit alliance F und den Schweizer Medienh?usern Ringier (Blick) und TX Group (20 Minuten) erm?glicht es, dass die Forschungsergebnisse der ETH und der UZH unmittelbar in die Praxis fliessen.
Viel Potenzial bei Innosuisse-Projekten
Als ?Innovationsprojekt mit Umsetzungspartnern? erh?lt ?Stop Hate Speech? seit November 2020 F?rderbeitr?ge der Schweizer Innovationsf?rderagentur Innouisse. Das mag erstaunen, da man bei Innovationsf?rderung prim?r an Kooperationen der Natur- und Ingenieurwissenschaften mit Industriekonzernen oder kleinen und mittleren Unternehmen (KMU) denkt. Im Departement D-GESS ist ?Stop Hate Speech? denn auch das erste Innosuisse-Projekt überhaupt. ?Tats?chlich f?rdert Innosuisse jedoch auch Projekte, deren Umsetzungspartner eine gemeinnützige Organisation ist?, sagt Jan Zimmermann, Industry Relations Manager der ETH Zürich.
Freilich müssen auch Innovationsprojekte mit gemeinnützigen Partnern einen Nutzen stiften: im Unterschied zu einer Industrieforschungspartnerschaft, in der eine Produkt- oder Prozessinnovation für einen Markt angestrebt wird, sind in solchen F?llen auch eine messbare gesellschaftliche Wirkung oder ein ?ffentliches Gut f?rderwürdig – im Falle von ?Stop Hate Speech? entsteht der Nutzen im Hinblick auf hassfreie und konstruktive ?ffentliche Diskussionen, an denen m?glichst viele Personen teilnehmen.
Das Team ETH Industry Relations ber?t seit 2020 ETH-Forschende über die Finanzierungsm?glichkeiten bei Innosuisse und die neuen F?rderprogramme wie ?Innovationskraft Schweiz?, Flagship-Initiative oder NTN Innovationsbooster. Damit will die ETH einem Trend entgegenwirken: Obwohl sich die Schweizer Innovationsf?rderagentur Innosuisse seit der Abl?sung ihrer Vorg?ngerin KTI im Jahr 2018 positiv entwickelt, hinkt die Entwicklung an der ETH hinterher (vgl. Tabelle).
?Bei einem bis dahin mittleren F?rdervolumen von rund 15 Mio. Franken pro Jahr hat 2018 und 2019 die Zahl der Innosuisse-F?rderprojekte an der ETH Zürich um gut die H?lfte abgenommen?, sagt Zimmermann, ?darum haben wir unser Unterstützungsangebot für ETH-Forschende ausgebaut. ?Stop Hate Speech? und die wieder steigende Zahl an Gesuchs-Eingaben best?tigen, dass sich das lohnt.?
Anzahl der bewilligten Innovationsprojekte von ETH-Forschenden bei Innosuisse/KTI seit 2016.
Weitere Informationen
- externe Seite call_made Stop Hate Speech (alliance F)
- chevron_right Mit der Industrie zusammenarbeiten / F?rderung und Finanzierung (ETH Zürich Industry Relations)
- externe Seite call_made Impulsprogramm Innovationskraft Schweiz (Innosuisse)
- externe Seite call_made Flagship Initiative (Innosuisse)
- externe Seite call_made NTN Innovationsbooster Programm (Innosuisse)