PORTEFEUILLE

Présentation des projets sur le site web

Chaque projet soutenu par Gebert Rüf Stiftung est présenté sur le site web de la fondation avec en particulier les données de base du projet. Par cette publication, la fondation informe sur les résultats du soutien accordé et contribue à la communication scientifique au sein de la société.

Close

Stop Hate Speech

Rédaction

Für den Inhalt der Angaben zeichnet die Projektleitung verantwortlich.

Coopération

Dieses von der Gebert Rüf Stiftung geförderte Projekt wird von folgenden weiteren Projektpartnern mitgetragen: Alliance F; Bund Schweizerischer Frauenvereine; ETH Zürich; Universität Zürich; ama-sys; Kabeljau; sotomo

Données de projet

  • Numéro du projet: GRS-042/20 
  • Subside accordé: CHF 150'000 
  • Consentement: 30.06.2020 
  • Durée: 10.2020 - 02.2023 
  • Champs d'activité:  Clusterförderung, seit 2018

Direction du projet

Description du projet

Freie Meinungsbildung und eine offene Debatte gehören zu den Kernwerten einer freien Gesellschaft. Dafür braucht es harte und gleichzeitig sachliche Diskussionen. Die Sozialen Medien und Kommentarfunktionen auf News-Plattformen haben aber die Hemmschwelle für Anfeindungen im Internet gesenkt. Überdurchschnittlich oft sind davon Frauen und Jugendliche betroffen.
Das Projekt 'Stop Hate Speech' leistet Pionierarbeit bei diesem neuen Phänomen. Es verbindet technische und zivilgesellschaftliche Ansätze mit den Erkenntnisssen aus der Wissenschaft. Mithilfe eines Algorithmus, welcher von einer aktiven Community lernt, wird Hate Speech im Netz aufgespürt, von einer aktiven Community zurückgewiesen, und gleichzeitig laufend der Algorithmus noch besser trainiert im Erkennen von Hate Speech.
Mit Unterstützung der Wissenschaft werden verschiedene Gegenrede-Strategien (sogenannte Counter-Speech-Strategien) auf ihre Wirksamkeit erforscht. Daraus enststeht ein Toolkit, - eine Software - welche von Verlagshäuser für die Online-Kommentspalten eingesetzt werden kann. Die Software gibt den Kommentarschreiber/innen ein sofortiges Feedback, sollte ihr Kommentar beleidigend oder abwertend sein, und ermuntert sie, ihren Worte den Anstandsregeln der Plattform anzupassen. 'Stop Hate Speech' bekämpft das ungelösten, globalen, gesellschaftlichen Problem der Hassrede im Internet lokal und innovativ und verbessert so die Medienkompetenz der Bevölkerung.

Quelles sont les particularités de ce projet?

Der innovative Ansatz des Projektes liegt in der Verbindung der Stärken von technischen und zivilgesellschaftlichen Ansätzen sowie der Wissenschaft.
Das Ziel besteht darin, der zu entwickelnde Algorithmus mit den Forschungsresultaten über Counter-Speech-Strategien zu einem Toolkit - einer Software as a service (SaaS) - Lösung für Verlagshäuser - zu kombinieren. Das gesellschaftliche Problem von Hate Speech wird somit mit verschiedenen Lösungswegen angegangen, welche sich alle wechselseitig ergänzen. Durch die eine Implementation des Toolkits in die Kommentarspalten der Verlagshäuser, wird einerseits ein Multiplikatoreneffekt geschaffen, anderseits werden die Kommentarschreiber/innen in ihrer Medienkompetenz gestärkt und somit das Problem an der Wurzel gepackt.

Etat/résultats intermédiaires

Im Laufe des Projekts wurde ein treffsicherer Algorithmus entwickelt, der in der Lage ist, deutsche und französische Hasskommentare präzise zu erkennen. Über 300'000 Kommentare wurden von 2'200 Mitgliedern unserer Community sowie von studentischen Hilfskräften bewertet und sind in die Entwicklung des Algorithmus eingeflossen. In einem randomisierten Experiment über die Wirksamkeit Gegenrede-Strategien konnten Forscher der ETH Zürich und Universität Zürich – in Zusammenarbeit mit dem Projekt Stop Hate Speech - die Wirksamkeit von Empathie in der Online-Debatte nachweisen.
In den letzten drei Jahren und insbesondere dank unseres Algorithmus haben wir wertvolle Daten und Erkenntnisse über Online Diskurs und Hate Speech gesammelt, die wir über unsere neue, in Kürze erscheinende Plattform mit Organisationen, Journalisten und der Zivilgesellschaft teilen können.
Per März 2023 wird das Projekt in der neu gegründeten Public Discourse Foundation weitergeführt, die von Sophie Achermann in der Funktion der Geschaftleiterin mitgegründet wurde.

Publications

Empathy-based counterspeech can reduce racist hate speech in a social media field experiment||https://www.pnas.org/doi/10.1073/pnas.2116310118€€, PNAS, 2.11.2021

Revue de presse

Liens

Personnes participant au projet

Sophie Achermann, Projektleiterin
Morgane Bonvallat, Community Manager Suisse romande
Sasha Rosenstein, Community Manager Deutschschweiz

Externe Stellen
Kabeliau Grafik
PhD Laura Bronner, ETHZ
Prof. Dominik Hanggartner, ETHZ
Prof. Karsten Donnay, UHZ
Prof. Fabrizio Gilardi, UZH

Dernière mise à jour de cette présentation du projet  18.03.2024