Abstract
Freie Meinungsbildung und eine offene Debatte gehören zu den Kernwerten einer freien Gesellschaft. Dafür braucht es harte und gleichzeitig sachliche Diskussionen. Die Sozialen Medien und Kommentarfunktionen auf News-Plattformen haben aber die Hemmschwelle für Anfeindungen im Internet gesenkt. Überdurchschnittlich oft sind davon Frauen und Jugendliche betroffen.
Das Projekt 'Stop Hate Speech' leistet Pionierarbeit bei diesem neuen Phänomen. Es verbindet technische und zivilgesellschaftliche Ansätze mit den Erkenntnisssen aus der Wissenschaft. Mithilfe eines Algorithmus, welcher von einer aktiven Community lernt, wird Hate Speech im Netz aufgespürt, von einer aktiven Community zurückgewiesen, und gleichzeitig laufend der Algorithmus noch besser trainiert im Erkennen von Hate Speech.
Mit Unterstützung der Wissenschaft werden verschiedene Gegenrede-Strategien (sogenannte Counter-Speech-Strategien) auf ihre Wirksamkeit erforscht. Daraus enststeht ein Toolkit, - eine Software - welche von Verlagshäuser für die Online-Kommentspalten eingesetzt werden kann. Die Software gibt den Kommentarschreiber/innen ein sofortiges Feedback, sollte ihr Kommentar beleidigend oder abwertend sein, und ermuntert sie, ihren Worte den Anstandsregeln der Plattform anzupassen. 'Stop Hate Speech' bekämpft ddas ungelösten, globalen, gesellschaftlichen Problem der Hassrede im Internet lokal und innovativ und verbessert so die Medienkompetenz der Bevölkerung.
What is special about the project?
Der innovative Ansatz des Projektes liegt in der Verbindung der Stärken von technischen und zivilgesellschaftlichen Ansätzen sowie der Wissenschaft.
Das Ziel besteht darin, der zu entwickelnde Algorithmus mit den Forschungsresultaten über Counter-Speech-Strategien zu einem Toolkit - einer Software as a service (SaaS) - Lösung für Verlagshäuser - zu kombinieren. Das gesellschaftliche Problem von Hate Speech wird somit mit verschiedenen Lösungswegen angegangen, welche sich alle wechselseitig ergänzen. Durch die eine Implementation des Toolkits in die Kommentarspalten der Verlagshäuser, wird einerseits ein Multiplikatoreneffekt geschaffen, anderseits werden die Kommentarschreiber/innen in ihrer Medienkompetenz gestärkt und somit das Problem an der Wurzel gepackt.
Status/Results
Das Projekt Stop Hate Speech hat im Mai 2020 ihre Bewertungsapp lanciert. Auf dieser Bewertungsapp hat eine Community von 400 Personen über 32'000 Kommentare bewertet. Diese Bewertungen dienen als Datengrundlage für die Programmierung des Algorithmus.
Anfangs November wird eine Plattform online gehen, auf welcher sich die Community und der Algorithmus treffen. Die Plattform soll zu einem Know How Zentrum für Hate Speech in der Schweiz werden dank Links zu Hilfestellungen und Hintergrundinformationen.
Parallel dazu wird der Algorithmus programmiert. Das Projekt stösst auf breite Unterstützung und grosses Interesse bei den Verlagshäusern. So wurden bis zum heutigen Tag Kooperationen für die Entwicklung des Algorithmus mit Blick Online, 20 Minuten und SRF eingegangen. Die Nachfrage nach einem gutfunktionierenden Algorithmus, welcher die lokalen und kulturellen Finessen des Sprachgebrauchs in der Schweiz kennen ist hoch. So laufen bereits Gespräche mit 20 Minuten und Nau, über eine allfälligen Kaufvertrag nach fertig Programmierung des Algorithmus.
Publications
Media
Links
Persons involved in the project
Sophie Achermann, Co-Projektleiterin
Kathrin Bertschy, Co-Projektleiterin
Morgane Bonvallat, Community Manager Suisse romande
Sasha Rosenstein, Community Manager Deutschschweiz
Externe Stellen
Bruno Wüest, Datenanalyst, sotomo
Kabeliau GrafikAndrea Kleger, CTO, ama-sys
Prof. Dominik Hanggartner, ETHZ
Prof. Karsten Donnay, UHZ
Prof. Fabrizio Gilardi, UZH
Last update to this project presentation 20.01.2021