Neue Technologien gegen Cybermobbing und Hatespeech

Ziel des interdisziplinären Projekts ist es, Ermittlungs- und Strafverfolgungsbehörden (ESBs) und zugehörige Meldestellen durch neue Strategien und Technologien bei der Erkennung, Meldung und Behandlung von Cybermobbing und Hassbotschaften zu unterstützen. Es entstehen Strategien und Werkzeuge, die einerseits unter Zuhilfenahme von künstlicher Intelligenz (KI) die Erfassung und Auswertung öffentlicher Daten durch ESBs ermöglichen, andererseits die Meldung von Cybermissbrauch durch neuartige Kanäle für die Bevölkerung unterstützen. „Umfragen aus den letzten Jahren zeigen, dass die Betroffenheit durch Cybermobbing und Hassbotschaften in Deutschland kontinuierlich gestiegen ist – sowohl im beruflichen als auch privaten Umfeld. Neben den körperlichen und psychischen Beschwerden der Betroffenen entstehen wirtschaftliche Schäden in Unternehmen, etwa durch Krankheitstage und Produktionsausfälle“, erklärt Professor Christian Reuter von der TU Darmstadt und Koordinator des Projekts.

Auf Bundes- und Länderebene fungieren ESBs und Meldestellen als wichtige Anlaufstellen für präventive und reaktive Maßnahmen bei Cybermissbrauch. „Die Meldestelle Hessen gegen Hetze hat in den letzten drei Jahren nahezu 9.000 Hassbotschaften aufgenommen, die sich zumeist auf bestimmte Berufsgruppen, die Nationalität, politische Einstellungen, Religion und ethnische Zugehörigkeit beziehen. Seit Februar 2022 betrifft dies auch immer wieder strafbare und extremistische Inhalte im Kontext des russisch-ukrainischen Konflikts“, erklärt Dr. Marc-André Kaufhold, Postdoktorand der TU Darmstadt und CYLENCE-Projektmanager, der im engen Austausch mit der Meldestelle des Hessen CyberCompetenceCenter steht.

Cybermissbrauch erkennen und extrahieren

„Zur Stärkung der zivilen Sicherheit müssen daher zunächst organisationale und zukunftssichere Strategien zur Erfassung und Reaktion auf Cybermissbrauch in den zuständigen Behörden und Meldestellen geschaffen werden“, ergänzt Professor Milad Mirbabaie, der zu Projektbeginn eine Markt- und Anforderungsanalyse für den organisationalen Einsatz automatisierter Detektionswerkzeuge an der Universität Paderborn durchführen wird. Aufgrund der unübersichtlichen Informationslage im Internet ist die Auswertung und Behandlung der Vorfälle nämlich eine große Herausforderung. „In den nächsten drei Jahren möchten wir Methoden und Technologien zur flexiblen und effizienten Erkennung von Cybermissbrauch entwickeln“, erklärt Kaufhold.

„Mit der Automatisierung aufwendiger Bearbeitungsprozesse wird der geplante Demonstrator Behörden und Meldestellen befähigen, Cybermissbrauch effizient aus öffentlichen Medien zu extrahieren, Meldungen von Betroffenen aus unterschiedlichen Kanälen zu bündeln und diese unter Nutzung von KI-Methoden zu analysieren“, konkretisiert Christoph Fuchß, Vorstand der Virtimo AG, die als Unternehmen für Softwareentwicklung und IT-Beratung die technische Entwicklung der Plattform verantwortet. „Auf strategischer Ebene fließen die Ergebnisse zudem in präventive Informations- und Sensibilisierungsmaßnahmen, aber auch nachbereitende Beratungs- und Unterstützungsangebote ein, die von den ESBs für die Kommunikation mit der Bevölkerung verwendet werden“, resümiert Prof. Stefan Stieglitz, der an der Universität Potsdam Strategien und Werkzeuge zur Meldung, Kommunikation und Sensibilisierung von Cybermissbrauch erforschen wird.

Dem Projektkonsortium gehören drei Forschungspartner und ein Entwicklungspartner an: Neben dem Lehrstuhl Wissenschaft und Technik für Frieden und Sicherheit (PEASEC) der Technischen Universität Darmstadt (Prof. Dr. Dr. Christian Reuter) ist die SAP-Stiftungsprofessur Wirtschaftsinformatik und Digitale Transformation (DIGICAT) der Universität Potsdam (Prof. Dr. Stefan Stieglitz), die Juniorprofessur Wirtschaftsinformatik, insbesondere Digital Society (DISCIETY), der Universität Paderborn sowie die Virtimo AG als Konsortialpartner am Projekt beteiligt. Als assoziierte Partner wirken die Meldestelle „Hessen gegen Hetze“ des Hessen Cyber Competence Center (Hessen3C), die Stabstelle „Gemeinsam Sicher in Hessen“ des Hessischen Ministeriums des Innern und für Sport (HMdIS), die Initiative „Präventiv und offensiv gegen Hasskriminalität, Antisemitismus und Extremismus des Landespolizeipräsidium Baden-Württemberg (LBW), die HateAid gGmbH und die Digitalstadt Darmstadt GmbH mit. Das Projekt wird im Rahmen des Programms „Forschung für die zivile Sicherheit 2018 –2023“ gefördert.