Stop Hate Speech

Dieses von der Gebert Rüf Stiftung geförderte Projekt wird von folgenden weiteren Projektpartnern mitgetragen: Alliance F; Bund Schweizerischer Frauenvereine; ETH Zürich; Universität Zürich; ama-sys; Kabeljau; sotomo

Project data

Project no: GRS-042/20
Amount of funding: CHF 150'000
Approved: 30.06.2020
Duration: 10.2020 - 12.2022
Area of activity: Clusterförderung, seit 2018

Project management

Sophie Achermann, Geschäftsführerin
alliance F
Herrengasse 24
3011 Bern (Schweiz)
sophie.notexisting@nodomain.comachermann@alliancef.notexisting@nodomain.comch

Project description

Freie Meinungsbildung und eine offene Debatte gehören zu den Kernwerten einer freien Gesellschaft. Dafür braucht es harte und gleichzeitig sachliche Diskussionen. Die Sozialen Medien und Kommentarfunktionen auf News-Plattformen haben aber die Hemmschwelle für Anfeindungen im Internet gesenkt. Überdurchschnittlich oft sind davon Frauen und Jugendliche betroffen.
Das Projekt 'Stop Hate Speech' leistet Pionierarbeit bei diesem neuen Phänomen. Es verbindet technische und zivilgesellschaftliche Ansätze mit den Erkenntnisssen aus der Wissenschaft. Mithilfe eines Algorithmus, welcher von einer aktiven Community lernt, wird Hate Speech im Netz aufgespürt, von einer aktiven Community zurückgewiesen, und gleichzeitig laufend der Algorithmus noch besser trainiert im Erkennen von Hate Speech.
Mit Unterstützung der Wissenschaft werden verschiedene Gegenrede-Strategien (sogenannte Counter-Speech-Strategien) auf ihre Wirksamkeit erforscht. Daraus enststeht ein Toolkit, - eine Software - welche von Verlagshäuser für die Online-Kommentspalten eingesetzt werden kann. Die Software gibt den Kommentarschreiber/innen ein sofortiges Feedback, sollte ihr Kommentar beleidigend oder abwertend sein, und ermuntert sie, ihren Worte den Anstandsregeln der Plattform anzupassen. 'Stop Hate Speech' bekämpft ddas ungelösten, globalen, gesellschaftlichen Problem der Hassrede im Internet lokal und innovativ und verbessert so die Medienkompetenz der Bevölkerung.

What is special about the project?

Der innovative Ansatz des Projektes liegt in der Verbindung der Stärken von technischen und zivilgesellschaftlichen Ansätzen sowie der Wissenschaft.
Das Ziel besteht darin, der zu entwickelnde Algorithmus mit den Forschungsresultaten über Counter-Speech-Strategien zu einem Toolkit - einer Software as a service (SaaS) - Lösung für Verlagshäuser - zu kombinieren. Das gesellschaftliche Problem von Hate Speech wird somit mit verschiedenen Lösungswegen angegangen, welche sich alle wechselseitig ergänzen. Durch die eine Implementation des Toolkits in die Kommentarspalten der Verlagshäuser, wird einerseits ein Multiplikatoreneffekt geschaffen, anderseits werden die Kommentarschreiber/innen in ihrer Medienkompetenz gestärkt und somit das Problem an der Wurzel gepackt.

Status/Results

Die Plattform «Stop Hate Speech» wurde im Januar 2021 lanciert. Es sind verschiedene Tools und Informationen auf Deutsch und Französisch auf unserer Website verfügbar: Ein Leitfaden, um zu beurteilen ob ein Kommentar Hassrede enthält oder nicht, eine Erläuterung zu diversen Strategien gegen Hassreden, eine kollaborative Enzyklopädie zum Thema Diskriminierung (in Bearbeitung) und eine Bibliothek mit verschiedenen thematischen Links, Artikeln und Ressourcen. Unser Ziel ist es, als Wissenszentrum für Hate Speech in der Schweiz zu agieren. Gleichzeitig haben wir unsere Web-App für die deutschsprachige Gemeinschaft lanciert, die einerseits den Bereich "Bewertung" enthält, über den der Algorithmus (Bot Dog) trainiert werden kann, und andererseits den Bereich "Gegenrede" umfasst. Wir arbeiten eng mit der ETH und der UHZ an Counter-Speech-Methoden, damit wir erste Daten erhalten und somit die Forschung zu diesem Thema vorantreiben und Software für die Medien entwickeln können.
Stop Hate Speech team is now focusing on developing the French speaking part of our algorithm in collaboration with ETH / UHZ, sotomo and our Community. Currently, three students hired by ETH are evaluating comments to create a first solid base for the algorithm that will be in a second time trained by our Community online. Once the algorithm is efficient enough, the French speaking Community are going to be able to start being active with Counter Speech. We will be focusing on Community building in both French and German speaking Communities, for example by organizing workshops, with communication campaigns and by working closely with different main medias in Switzerland. We are improving the user usability and the different options available to our Community in our platform and WebApp in collaboration with amasys and Kabeljau. After the algorithm improvement phase, the next step in collaboration with ETH and UHZ is to focus on the specific development of Bot Parrot, the SaaS to implement directly on media platform in order to prevent hateful comments before they are posted. In this context, we will also develop our partnerships with the main media houses. Finally, we will increase the collection of data on Hate Speech and Counter Speech in order to pursue academic studies with ETH and UHZ that marks one of the big innovations of our project. Thus, the Twitter study will be continued in order to obtain more results and allow us to conduct a thorough academic analysis on counter-speech strategies.

Publications

Bericht zu Aggressivität in Online-Kommentaren

Links

Stop Hate Speech Webseite | Facebook | Twitter | Instagram

Stop Hate Speech in den Medien
innovationen für Morgen; Bot Dog – Spürhund für Hasskommentare, SRF DOK, 5.1.2021
Les discours haineux en ligne ont augmenté, RTS, 2.2.2021

Persons involved in the project

Sophie Achermann, Co-Projektleiterin
Kathrin Bertschy, Co-Projektleiterin
Morgane Bonvallat, Community Manager Suisse romande
Sasha Rosenstein, Community Manager Deutschschweiz

Externe Stellen
Bruno Wüest, Datenanalyst, sotomo
Kabeliau Grafik
Andrea Kleger, CTO, ama-sys
Prof. Dominik Hanggartner, ETHZ
Prof. Karsten Donnay, UHZ
Prof. Fabrizio Gilardi, UZH

Last update to this project presentation 09.02.2022

PORTFOLIO

Project presentations on the website

Area of activity

Year