Die strafrechtliche Verfolgung von Hasskriminalität im Internet ist aufwändig. Das Forschungsprojekt KISTRA prüft nun, wie der Einsatz von Künstlicher Intelligenz (KI) die Behörden unterstützen und Hasskriminalität im Internet frühzeitig entdeckt werden kann. In dem Projekt kooperieren neun Partner, darunter mehrere Universitäten und das Bundeskriminalamt. Gefördert wird das Forschungsvorhaben vom Bundesministerium für Bildung und Forschung. Insgesamt verfügt das Projekt über ein Budget von 2,98 Millionen Euro und soll im Juli 2023 abgeschlossen sein.

Im Fokus stehen die rechtlichen und ethischen Rahmenbedingungen, die wesentlich dafür sind, wie KI-Systeme eingesetzt werden können. Das Projekt untersucht, wie die technischen Methoden der Sicherheitsbehörden aussehen könnten, analysiert sozialwissenschaftlich die Verbreitung von Hasskriminalität im Internet und prüft den Einsatz von KI-Lösungen bei der polizeilich strafrechtlichen Bewertung von Hasskriminalität.

In einem Teilprojekt wird sich die Forschergruppe außerdem damit beschäftigen, wie das Bundeskriminalamt KI zur Verfolgung von Straftaten einsetzen kann. Hierfür wird in Interviews die Akzeptanz der Technik von polizeilichen Nutzern, anderen professionellen Stakeholdern und der Bevölkerung untersucht. So sollen ethische und gesellschaftliche Fragen in den Entwicklungsprozess von KI-Lösungen bei Polizeibehörden eingebracht und diese dementsprechend gestaltet werden.