PORTFOLIO

Project presentations on the website

Every project supported by Gebert Rüf Stiftung is made accessible with a web presentation that informs about the core data of the project. With this public presentation, the foundation publishes the funding results achieved and contributes to the communication of science to society.

Close

Stop Hate Speech

Editorial

Für den Inhalt der Angaben zeichnet die Projektleitung verantwortlich.

Cooperation

Dieses von der Gebert Rüf Stiftung geförderte Projekt wird von folgenden weiteren Projektpartnern mitgetragen: Alliance F; Bund Schweizerischer Frauenvereine; ETH Zürich; Universität Zürich; ama-sys; Kabeljau; sotomo

Project data

  • Project no: GRS-042/20 
  • Amount of funding: CHF 150'000 
  • Approved: 30.06.2020 
  • Duration: 10.2020 - 02.2023 
  • Area of activity:  Clusterförderung, seit 2018

Project management

Project description

Freie Meinungsbildung und eine offene Debatte gehören zu den Kernwerten einer freien Gesellschaft. Dafür braucht es harte und gleichzeitig sachliche Diskussionen. Die Sozialen Medien und Kommentarfunktionen auf News-Plattformen haben aber die Hemmschwelle für Anfeindungen im Internet gesenkt. Überdurchschnittlich oft sind davon Frauen und Jugendliche betroffen.
Das Projekt 'Stop Hate Speech' leistet Pionierarbeit bei diesem neuen Phänomen. Es verbindet technische und zivilgesellschaftliche Ansätze mit den Erkenntnisssen aus der Wissenschaft. Mithilfe eines Algorithmus, welcher von einer aktiven Community lernt, wird Hate Speech im Netz aufgespürt, von einer aktiven Community zurückgewiesen, und gleichzeitig laufend der Algorithmus noch besser trainiert im Erkennen von Hate Speech.
Mit Unterstützung der Wissenschaft werden verschiedene Gegenrede-Strategien (sogenannte Counter-Speech-Strategien) auf ihre Wirksamkeit erforscht. Daraus enststeht ein Toolkit, - eine Software - welche von Verlagshäuser für die Online-Kommentspalten eingesetzt werden kann. Die Software gibt den Kommentarschreiber/innen ein sofortiges Feedback, sollte ihr Kommentar beleidigend oder abwertend sein, und ermuntert sie, ihren Worte den Anstandsregeln der Plattform anzupassen. 'Stop Hate Speech' bekämpft das ungelösten, globalen, gesellschaftlichen Problem der Hassrede im Internet lokal und innovativ und verbessert so die Medienkompetenz der Bevölkerung.

What is special about the project?

Der innovative Ansatz des Projektes liegt in der Verbindung der Stärken von technischen und zivilgesellschaftlichen Ansätzen sowie der Wissenschaft.
Das Ziel besteht darin, der zu entwickelnde Algorithmus mit den Forschungsresultaten über Counter-Speech-Strategien zu einem Toolkit - einer Software as a service (SaaS) - Lösung für Verlagshäuser - zu kombinieren. Das gesellschaftliche Problem von Hate Speech wird somit mit verschiedenen Lösungswegen angegangen, welche sich alle wechselseitig ergänzen. Durch die eine Implementation des Toolkits in die Kommentarspalten der Verlagshäuser, wird einerseits ein Multiplikatoreneffekt geschaffen, anderseits werden die Kommentarschreiber/innen in ihrer Medienkompetenz gestärkt und somit das Problem an der Wurzel gepackt.

Status/Results

Im Laufe des Projekts wurde ein treffsicherer Algorithmus entwickelt, der in der Lage ist, deutsche und französische Hasskommentare präzise zu erkennen. Über 300'000 Kommentare wurden von 2'200 Mitgliedern unserer Community sowie von studentischen Hilfskräften bewertet und sind in die Entwicklung des Algorithmus eingeflossen. In einem randomisierten Experiment über die Wirksamkeit Gegenrede-Strategien konnten Forscher der ETH Zürich und Universität Zürich – in Zusammenarbeit mit dem Projekt Stop Hate Speech - die Wirksamkeit von Empathie in der Online-Debatte nachweisen.
In den letzten drei Jahren und insbesondere dank unseres Algorithmus haben wir wertvolle Daten und Erkenntnisse über Online Diskurs und Hate Speech gesammelt, die wir über unsere neue, in Kürze erscheinende Plattform mit Organisationen, Journalisten und der Zivilgesellschaft teilen können.
Per März 2023 wird das Projekt in der neu gegründeten Public Discourse Foundation weitergeführt, die von Sophie Achermann in der Funktion der Geschaftleiterin mitgegründet wurde.

Publications

Empathy-based counterspeech can reduce racist hate speech in a social media field experiment||https://www.pnas.org/doi/10.1073/pnas.2116310118€€, PNAS, 2.11.2021

Media

Links

Persons involved in the project

Sophie Achermann, Projektleiterin
Morgane Bonvallat, Community Manager Suisse romande
Sasha Rosenstein, Community Manager Deutschschweiz

Externe Stellen
Kabeliau Grafik
PhD Laura Bronner, ETHZ
Prof. Dominik Hanggartner, ETHZ
Prof. Karsten Donnay, UHZ
Prof. Fabrizio Gilardi, UZH

Last update to this project presentation  18.03.2024