PORTFOLIO

Projektdarstellungen auf der Webseite

Jedes von der Gebert Rüf Stiftung geförderte Projekt wird mit einer Webdarstellung zugänglich gemacht, die über die Kerndaten des Projektes informiert. Mit dieser öffentlichen Darstellung publiziert die Stiftung die erzielten Förderresultate und leistet einen Beitrag zur Kommunikation von Wissenschaft in die Gesellschaft.

Close

Stop Hate Speech

Redaktion

Für den Inhalt der Angaben zeichnet die Projektleitung verantwortlich.

Kooperation

Dieses von der Gebert Rüf Stiftung geförderte Projekt wird von folgenden weiteren Projektpartnern mitgetragen: Alliance F; Bund Schweizerischer Frauenvereine; ETH Zürich; Universität Zürich; ama-sys; Kabeljau; sotomo

Projektdaten

  • Projekt-Nr: GRS-042/20 
  • Förderbeitrag: CHF 150'000 
  • Bewilligung: 30.06.2020 
  • Dauer: 10.2020 - 02.2023 
  • Handlungsfeld:  Clusterförderung, seit 2018

Projektleitung

Projektbeschreibung

Freie Meinungsbildung und eine offene Debatte gehören zu den Kernwerten einer freien Gesellschaft. Dafür braucht es harte und gleichzeitig sachliche Diskussionen. Die Sozialen Medien und Kommentarfunktionen auf News-Plattformen haben aber die Hemmschwelle für Anfeindungen im Internet gesenkt. Überdurchschnittlich oft sind davon Frauen und Jugendliche betroffen.
Das Projekt 'Stop Hate Speech' leistet Pionierarbeit bei diesem neuen Phänomen. Es verbindet technische und zivilgesellschaftliche Ansätze mit den Erkenntnisssen aus der Wissenschaft. Mithilfe eines Algorithmus, welcher von einer aktiven Community lernt, wird Hate Speech im Netz aufgespürt, von einer aktiven Community zurückgewiesen, und gleichzeitig laufend der Algorithmus noch besser trainiert im Erkennen von Hate Speech.
Mit Unterstützung der Wissenschaft werden verschiedene Gegenrede-Strategien (sogenannte Counter-Speech-Strategien) auf ihre Wirksamkeit erforscht. Daraus enststeht ein Toolkit, - eine Software - welche von Verlagshäuser für die Online-Kommentspalten eingesetzt werden kann. Die Software gibt den Kommentarschreiber/innen ein sofortiges Feedback, sollte ihr Kommentar beleidigend oder abwertend sein, und ermuntert sie, ihren Worte den Anstandsregeln der Plattform anzupassen. 'Stop Hate Speech' bekämpft das ungelösten, globalen, gesellschaftlichen Problem der Hassrede im Internet lokal und innovativ und verbessert so die Medienkompetenz der Bevölkerung.

Was ist das Besondere an diesem Projekt?

Der innovative Ansatz des Projektes liegt in der Verbindung der Stärken von technischen und zivilgesellschaftlichen Ansätzen sowie der Wissenschaft.
Das Ziel besteht darin, der zu entwickelnde Algorithmus mit den Forschungsresultaten über Counter-Speech-Strategien zu einem Toolkit - einer Software as a service (SaaS) - Lösung für Verlagshäuser - zu kombinieren. Das gesellschaftliche Problem von Hate Speech wird somit mit verschiedenen Lösungswegen angegangen, welche sich alle wechselseitig ergänzen. Durch die eine Implementation des Toolkits in die Kommentarspalten der Verlagshäuser, wird einerseits ein Multiplikatoreneffekt geschaffen, anderseits werden die Kommentarschreiber/innen in ihrer Medienkompetenz gestärkt und somit das Problem an der Wurzel gepackt.

Stand/Resultate

Im Laufe des Projekts wurde ein treffsicherer Algorithmus entwickelt, der in der Lage ist, deutsche und französische Hasskommentare präzise zu erkennen. Über 300'000 Kommentare wurden von 2'200 Mitgliedern unserer Community sowie von studentischen Hilfskräften bewertet und sind in die Entwicklung des Algorithmus eingeflossen. In einem randomisierten Experiment über die Wirksamkeit Gegenrede-Strategien konnten Forscher der ETH Zürich und Universität Zürich – in Zusammenarbeit mit dem Projekt Stop Hate Speech - die Wirksamkeit von Empathie in der Online-Debatte nachweisen.
In den letzten drei Jahren und insbesondere dank unseres Algorithmus haben wir wertvolle Daten und Erkenntnisse über Online Diskurs und Hate Speech gesammelt, die wir über unsere neue, in Kürze erscheinende Plattform mit Organisationen, Journalisten und der Zivilgesellschaft teilen können.
Per März 2023 wird das Projekt in der neu gegründeten Public Discourse Foundation weitergeführt, die von Sophie Achermann in der Funktion der Geschaftleiterin mitgegründet wurde.

Publikationen

Empathy-based counterspeech can reduce racist hate speech in a social media field experiment||https://www.pnas.org/doi/10.1073/pnas.2116310118€€, PNAS, 2.11.2021

Medienecho

Links

Am Projekt beteiligte Personen

Sophie Achermann, Projektleiterin
Morgane Bonvallat, Community Manager Suisse romande
Sasha Rosenstein, Community Manager Deutschschweiz

Externe Stellen
Kabeliau Grafik
PhD Laura Bronner, ETHZ
Prof. Dominik Hanggartner, ETHZ
Prof. Karsten Donnay, UHZ
Prof. Fabrizio Gilardi, UZH

Letzte Aktualisierung dieser Projektdarstellung  18.03.2024