Inhalte des Fachs

Die teilnehmenden Studierenden werden in die Testphase der interdisziplinären Forschungsprojekte FAKE-ID und VIKING eingebunden. Hierbei erhalten sie die Möglichkeit, die verschiedenen Demonstratoren, die in den Projekten entwickelt werden kennenzulernen und können auch an Feldtests mitwirken.

In komplexen polizeilichen Ermittlungsverfahren – u.a. in Fällen von organisierter Kriminalität oder Terrorismus – fallen regelmäßig große Mengen an digitalen Daten an, insbesondere Bilder, Videos, Audioaufnahmen, Text- und Sprachnachrichten. Deren zeitnahe manuelle Auswertung stellt Ermittlungsteams in Anbetracht limitierter personeller Ressourcen vor extreme Herausforderungen.

KI-Lösungen versprechen hier Abhilfe, indem sie eine Vorsortierung und Filterung der Daten nach ihrer potentiellen Relevanz ermöglichen, Kreuztreffer erkennen oder auf verborgene Zusammenhänge im Datendickicht hinweisen. Die polizeiliche Praxis zeigt aber, dass der Einsatz von KI einerseits die Ermittlungen beschleunigen und vereinfachen kann, jedoch andererseits damit auch verschiedene Risiken für den Ermittlungserfolg einhergehen. 

So können beispielsweise unausgewogene Trainingsdatensätze, in denen demographische Häufigkeiten verzerrt abgebildet sind (Bias), zu fehlerhaften Ergebnissen von KI-Lösungen führen, was mitunter schwerwiegende Konsequenzen für die betroffenen Personen haben kann. So könnte bspw. durch einen Bias in der biometrischen Erkennung eine unbeteiligte Person in den Fokus von Ermittlungen geraten. Risiken bestehen auch, wenn Tätergruppen versuchen, gezielt Daten zu manipulieren, um die KI-Verfahren mit Cybertechniken anzugreifen oder Ermittlungen in die falsche Richtung zu lenken. Ein weiteres Risiko besteht in der fehlenden Nachvollziehbarkeit und mangelnden Transparenz der Ergebnisse komplexer KI. Die Strafprozessordnung verlangt, dass das Gericht in der Hauptverhandlung alle Beweise inhaltlich unmittelbar selbst wahrnehmen und ggf. mit Unterstützung von Sachverständigen bewerten kann. Dies ist nicht sichergestellt, wenn die KI eine Black Box ist.

Weitere behandelte Szenarien umfassen die Detektion von sog. Deepfakes. Im FAKE-ID-Projekt werden Verfahren entwickelt und getestet, die es ermöglichen Fälschungen von Bildern und Videodatenströmen unter Verwendung unterschiedlicher Arten von „Fake-IDs“ an der Grenzlinie zwischen physischen und virtuellen Prozessen bei bild- und videobasierten Authentifizierungsverfahren zu identifizieren, zu klassifizieren und Algorithmen zu ihrer Erkennung zu erarbeiten. Zugleich kann so getestet werden, ob Beweismaterial in Form von Bildern und Videos echt ist und vor Gericht als Beweismittel verwendet werden kann.

KI-Anwendungen werfen in den beschriebenen Zusammenhängen zahlreiche, zumeist komplexe Rechtsfragen auf. Bestehende Regelungsstrukturen wie das Strafverfahrens- und Datenschutzrecht bieten zwar Anknüpfungspunkte. Zusätzlich sind aber auch neue Regelungsansätze erforderlich und teils bereits im Entstehen. Hierfür setzt der im April 2021 vorgelegte Verordnungsentwurf der Europäischen Kommission (2021) Maßstäbe; das Gesetzgebungsverfahren konnte Ende 2023/Anfang 2024 mit einer Kompromisslösung abgeschlossen werden.

In dem Vertiefungsmodul werden diese Entwicklungen betrachtet, und es wird geprüft, ob der Einsatz dieser Technologien und anderer technischen Neuerungen zur Strafverfolgung und Gefahrenabwehr sinnvoll ist und welche Risiken damit einhergehen. Konkret werden Technologien zur Detektion von Deepfakes, zur Gesichtserkennung, Textauswertung, Sprechererkennung und Objektdetektion untersucht. Auch ist die gesetzliche Lage genau zu beleuchten und zu prüfen, ob die Ermächtigungsgrundlagen ausreichend sind, um die zahlreichen neuen Eingriffsmöglichkeiten zu legitimieren. Zudem sind die datenschutzrechtlichen Herausforderungen zu bewerten und dabei in Relation zu den Vorteilen der Anwendungen zu setzen. Ferner ist zu betrachten, wie sich neue Technik auf das polizeiliche Gegenüber auswirkt.

Qualifikationsziele des Fachs

Die Studierenden lernen neuere technische Entwicklungen kennen, insbesondere die Bedeutung von Künstlicher Intelligenz für die zukünftige Arbeit im Bereich der öffentlichen und privaten Sicherheit. Sie sollen verstehen, wie Technik das Handeln von Polizei und anderen Sicherheitsakteuren im Alltag prägt und wie technische Neuerungen, die auf KI basieren, in den Alltag von Sicherheitsberufen integriert werden oder werden könnten – einschließlich der hierbei zu überwindenden rechtlichen und bürokratischen Hürden. Der Fokus liegt auf KI-basierten Technologien (Software u.a.), die gefälschte Bilder und Videos (sog. Deepfakes) detektieren können (FAKE-ID-Projekt) oder die seitens der Polizei und Sicherheitsbehörden für verschiedene Szenarien (bspw. Gesichtserkennung, Objektdetektion, Textauswertung, Sprechererkennung) eingesetzt werden könnten (VIKING-Projekt).

Durch die Einbindung in die Testphase für neue Technologien verstehen die Studierenden die Zusammenhänge zwischen Sicherheitsforschung, technischer Entwicklung und der Praxis von Polizei und anderen Sicherheitsakteuren. 

Durch die Möglichkeit der Beteiligung der Studierenden an der Test- und Entwicklungsphase, können diese zugleich einiges über den Ablauf von größeren Projekten der Sicherheitsforschung und deren Konzeption lernen.

Art der Prüfung/ Voraussetzung für die Vergabe von Leistungspunkten

Präsentation mit schriftlicher Anteil

Zusätzliche Informationen