Hass im Internet: Software soll Fahndern bei Schnellerkennung helfen Hasskommentare Hassrede
"Toxizität", "Hatespeech", "Extremismus", "Gefahr" steht auf dem Computermonitor von Melanie Siegel. Mit einem Forschungsprojekt in Zusammenarbeit mit dem Fraunhofer-Institut für Sichere Informationstechnologie will die Professorin für Informationswissenschaft an der Hochschule Darmstadt künftig Ermittlern unter die Arme greifen.
Forschungsprojekt "Detektion von Toxizität und Aggression in Postings und Kommentaren im Netz" – kurz DetoxBei einer vom Innenministerium vor zwei Jahren als Reaktion auf die Ermordung des ehemaligen Kasseler Regierungspräsidenten Walter Lübcke im Sommer 2019können Bürger verdächtige Tweets melden. Bislang muss dies von einem Mitarbeiterteam ausgewertet werden. Das soll sich mit der neuen Software ändern.
Man müsse aber auch permanent Daten einstellen und pflegen, da ja auch die Themen wechseln, zum Beispiel von Kommentaren über Flüchtlinge hin zu Gegnern von Impfungen und Corona-Maßnahmen hin möglicherweise auch zu Auswirkungen des russischen Angriffs auf die Ukraine. Hier gebe es bislang aber eher "Fake News". "Das System wird nie auslernen. Sprache ist unheimlich kreativ, Sprache ist sehr lebendig", sagt Siegel.
"Aus fachlicher Sicht ist von besonderem Interesse, ob sich aus den Forschungsergebnissen praktische Anwendungsverfahren entwickeln lassen, die eine möglichst treffsichere Vorklassifizierung hinsichtlich konkreter Gefährdungen oder Bedrohungen, Hatespeech, strafbarer oder extremistischer Inhalte zulassen", heißt es beim Innenministerium. Ziel sei eine schnelle Priorisierung und gezielte Zuweisung von solchen Vorgängen.
Am häufigsten sei es hier um die Straftatbestände der Beleidigung , der Volksverhetzung und der öffentlichen Aufforderung zu Straftaten gegangen. Rund 950 Meldungen gingen aufgrund von extremistischen Anhaltspunkten an das Landesamt für Verfassungsschutz. Wegen der Meldungen an "Hessen gegen Hetze" leitete die Generalstaatsanwaltschaft 1200 Ermittlungsverfahren ein.