Neues Projekt: Stop Hate Speech

‘Stop Hate Speech’ kombiniert Natural Language Processing und Machine Learning mit zivilgesellschaftlichem Engagement um Online-Hate-Speech zu entgegnen. Das von alliance F (Dachverband der Schweizer Frauenorganisationen) geleitete Projekt wird in Kooperation mit der Forschungsstelle sotomo, der IT-Firma ama-sys, dem Digital Democracy Lab (UZH) und der Public Policy Group and Immigration Policy Lab (ETH) realisiert. Ab November 2020 wird ‘Stop Hate Speech’ durch Innouisse gefördert.

Ziel des Projekts ist es, Hate-Speech-Kommentare auf verschiedenen Social Media- und online News-Plattformen algorithmisch zu erkennen und Wissen über wirksame Counter-Speech-Strategien zu generieren. Hierfür wird in einem ersten Schritt eine Deep-Learning-Pipeline zur automatischen Erkennung von Hate-Speech aufgebaut. In einem zweiten Schritt werden verschiedene von der Zivilgesellschaft angewendete Counter-Speech-Strategien anhand von experimentellen Methoden auf ihre Wirksamkeit getestet.

Durch die enge Zusammenarbeit mit alliance F und Schweizer Medienhäusern wird sichergestellt, dass die wissenschaftlichen Erkenntnisse unmittelbar in die Erkennung und Reduzierung von Online-Hate-Speech einfliessen. So können die Qualität des öffentlichen Diskurses verbessert und negative Offline-Konsequenzen von feindseligem Online-Verhalten minimiert werden.

Seitens der DSI sind aus der Challenge Area Democracy Prof. Fabrizio Gilardi und Prof. Karsten Donnay an dem Projekt beteiligt. Weitere Informationen zum Projekt finden Sie hier: www.stophatespeech.ch