Von Innosuisse gefördert: KI-Spürhund gegen Hass-Reden

News-Plattformen und soziale Medien nutzen das Format des Kommentars. Nicht jeder Kommentar ist konstruktiv und sachlich, geschweige denn anst?ndig geschrieben. Manche Kommentare sind respektlos, ver?chtlich oder herablassend. Sie zielen darauf ab, bestimmte Personen oder Gruppen von Menschen einzusch¨¹chtern, zu ver?ngstigen oder abzuwerten.  

Im Englischen nennt man solche beleidigenden oder sch?digenden Kommentare ?Hate Speech?. Im Deutschen spricht man von Hasskommentaren oder Hass-Rede. Hasskommentare k?nnen ?ffentliche Debatten beeintr?chtigen, indem sie Personen abschrecken, sich in einer Kommentarspalte zu ?ussern oder an einer Diskussion teilzunehmen: ?M¨¹ssen sich zum Beispiel Politikerinnen st?ndig mit frauenfeindlichen Kommentaren auseinandersetzen, h?lt das Frauen wom?glich davon ab, ¨¹berhaupt in die Politik einzusteigen?, sagt Dominik Hangartner, ETH-Professor f¨¹r Politikanalyse und Leiter der Public Policy Group.

In Zusammenarbeit mit alliance F, dem Dachverband der Schweizer Frauenorganisationen, untersuchen Hangartners Forschungsgruppe und das externe SeiteDigital Democracy Labcall_made der Universit?t Z¨¹rich nun, wie sich Hasskommentare mit maschinellem Lernen im Internet erkennen lassen, und welche Strategien der Gegenrede (engl. ?Counter Speech?) sich am besten eignen, um Hasskommentare zu entkr?ften.

Digitaler Sp¨¹rhund gegen Hate Speech

alliance F hat die Plattform Stophatespeech.ch lanciert, um Hass-Rede im Internet gezielt einzud?mmen. Ziel des Projekts ?Stop Hate Speech? ist es, mit dem ?Bot Dog? (Algorithmus), Hasskommentare im Netz automatisch aufzusp¨¹ren, sowie empirisch zu ermitteln, welche Art von Gegenrede besonders erfolgreich ist, um hassgepr?gte Diskussionen wieder zu versachlichen.

Damit der digitale Sp¨¹rhund lernt, wie er Hasskommentare ¨C und nicht irgendwelche Kommentare ¨C findet, trainieren ihn die Forschenden mit zahlreichen Beispielen. Diese stammen aus den realen Kommentarspalten von Schweizer News-Plattformen wie ?Blick.ch? oder ?20 Minuten?. Rund 12'500 Kommentare wurden bis heute bereits bewertet ¨C darunter sowohl solche auf Deutsch als auch solche auf Franz?sisch.

Da es keine allgemeing¨¹ltige Definition von Hass-Rede gibt und unterschiedliche Menschen Kommentare unterschiedlich beurteilen, arbeiten die Forschenden mit verschiedenen Gruppen zusammen, welche die erhaltenen Kommentare danach bewerten, ob es Hasskommentare sind oder nicht. Auf diese Weise spiegeln die klassierten Hasskommentare nicht allein die Ansichten einer einzigen Personengruppe.

Mittlerweile sind so knapp 60'000 Bewertungen zusammengekommen, und es kommen laufend noch mehr dazu ¨C je mehr Lernbeispiele der Bot Dog erh?lt, umso treffsicherer wird seine Suche im Netz.

Welche Argumente wirken gegen Hate Speech?

Zudem ermitteln die Forschenden, wie man gezielt und wirksam auf Hasskommentaren reagieren kann: Sie untersuchen acht verschiedene Strategien, mit denen man Hate Speech kontern kann ¨C angefangen beim faktischen Widerlegen von Falschaussagen ¨¹ber moralisches Appellieren und Warnen bis hin zu humorvollen, sarkastischen oder auch positiv geschriebenen Reaktionen.

?Wir wissen nur sehr wenig dar¨¹ber, welche Strategien der Gegenrede sich effektiv eignen, um die verschiedenen Arten von Hate Speech zu unterbinden?, sagt Selina Kurer, Lab Manager in Hangartners Gruppe, ?wenn wir das wissen, k?nnen alliance F und die Medienh?user dieses Wissen direkt anwenden, um der Hass-Rede in den Kommentarspalten gezielt entgegenzuwirken.?

Die Zusammenarbeit der Forschenden mit alliance F und den Schweizer Medienh?usern Ringier (Blick) und TX Group (20 Minuten) erm?glicht es, dass die Forschungsergebnisse der ETH und der UZH unmittelbar in die Praxis fliessen.

Viel Potenzial bei Innosuisse-Projekten

Als ?Innovationsprojekt mit Umsetzungspartnern? erh?lt ?Stop Hate Speech? seit November 2020 F?rderbeitr?ge der Schweizer Innovationsf?rderagentur Innouisse. Das mag erstaunen, da man bei Innovationsf?rderung prim?r an Kooperationen der Natur- und Ingenieurwissenschaften mit Industriekonzernen oder kleinen und mittleren Unternehmen (KMU) denkt. Im Departement D-GESS ist ?Stop Hate Speech? denn auch das erste Innosuisse-Projekt ¨¹berhaupt. ?Tats?chlich f?rdert Innosuisse jedoch auch Projekte, deren Umsetzungspartner eine gemeinn¨¹tzige Organisation ist?, sagt Jan Zimmermann, Industry Relations Manager der ETH Z¨¹rich.

Freilich m¨¹ssen auch Innovationsprojekte mit gemeinn¨¹tzigen Partnern einen Nutzen stiften: im Unterschied zu einer Industrieforschungspartnerschaft, in der eine Produkt- oder Prozessinnovation f¨¹r einen Markt angestrebt wird, sind in solchen F?llen auch eine messbare gesellschaftliche Wirkung oder ein ?ffentliches Gut f?rderw¨¹rdig ¨C im Falle von ?Stop Hate Speech? entsteht der Nutzen im Hinblick auf hassfreie und konstruktive ?ffentliche Diskussionen, an denen m?glichst viele Personen teilnehmen.

Das Team ETH Industry Relations ber?t seit 2020 ETH-Forschende ¨¹ber die Finanzierungsm?glichkeiten bei Innosuisse und die neuen F?rderprogramme wie ?Innovationskraft Schweiz?, Flagship-Initiative oder NTN Innovationsbooster. Damit will die ETH einem Trend entgegenwirken: Obwohl sich die Schweizer Innovationsf?rderagentur Innosuisse seit der Abl?sung ihrer Vorg?ngerin KTI im Jahr 2018 positiv entwickelt, hinkt die Entwicklung an der ETH hinterher (vgl. Tabelle).

?Bei einem bis dahin mittleren F?rdervolumen von rund 15 Mio. Franken pro Jahr hat 2018 und 2019 die Zahl der Innosuisse-F?rderprojekte an der ETH Z¨¹rich um gut die H?lfte abgenommen?, sagt Zimmermann, ?darum haben wir unser Unterst¨¹tzungsangebot f¨¹r ETH-Forschende ausgebaut. ?Stop Hate Speech? und die wieder steigende Zahl an Gesuchs-Eingaben best?tigen, dass sich das lohnt.?

Anzahl der bewilligten Innovationsprojekte von ETH-Forschenden bei Innosuisse/KTI seit 2016.