KIcK – Künstliche Intelligenz contra Kindesmissbrauch

Von KOR Lars Oeffner, Kiel

3 Projekt EagleEye

Nachdem sich vorbezeichnete Problemstellung nach und nach abzeichnete, wurde im Jahr 2020 bei der Bezirkskriminalinspektion Itzehoe das Projekt EagleEye initiiert, innerhalb dessen zum einen ein Ersatz für die innerhalb der Sachbearbeitung bis dato genutzte Auswerteplattform „Uranos“¹³ identifiziert und zum anderen ein neuronales Netz zur Erkennung und Kategorisierung inkriminierten Bild- und Videomaterials entwickelt werden sollte. Während der ca. 11-monatigen Projektlaufzeit¹⁴ wurden im Hinblick auf die notwendige Ablösung der Auswerte- und Bearbeitungssoftware „Uranos“ sehr positive Erfahrungen mit der kommerziellen Software „Griffeye Analyze DI Pro“ des schwedischen Herstellers „Griffeye Technologies“ gemacht. Eine der wesentlichsten Stärken der Software besteht in der frei zugänglichen Programmierschnittstelle (API), die es zum einen Herstellern von Softwareprodukten ermöglicht, ihre Produkte direkt an Griffeye anzubinden und zum anderen aber auch die Anbindung (polizeilicher) eigenentwickelter Softwarelösungen zulässt. Auch die umfangreichen Supportleistungen, die vielen Zusatzprogramme, die vorhandenen und implementierbaren automatisierten und standardisierten Berichte und die enthaltene Hashwertedatenbank (Griffeye Intelligence Database), die auch netzwerkbasiert genutzt werden kann, überzeugten durchweg. Darüber hinaus steht mit „Griffeye Brain“ auch eine werkseigene KI zur Verfügung, die hinsichtlich inkriminierten Materials trainiert ist. Die KI ordnet das Bild- und Videomaterial dabei in die Kategorien „CSA¹⁵ High“ (hochrelevantes Material), „CSA Uncertain“ (unsicher im Hinblick auf die Relevanz) und „CSA Low“ (niedrige Wahrscheinlichkeit) ein. Diese Klassifizierung erfolgt anhand eines festgelegten Wahrscheinlichkeitsgrades, über den jede Bild- und Videodatei einer der genannten drei Kategorien zugeordnet wird.

Im Weiteren wurden im Projekt anhand eines zusammengestellten möglichst realitätsnahen Testdatensatzes verschiedene neuronale Netze¹⁶ getestet und dabei mit „EagleEye“ auch eine zuvor eigens aufgesetzte und trainierte KI getestet. Im Ergebnis lieferte die KI „Griffeye Brain“ die besten Ergebnisse, auch wenn diese seinerzeit gleichwohl noch nicht insoweit überzeugen konnten, als dass eine durch die Sachbearbeitung vorgenommene manuelle Ergebnissichtung ggf. hätte entfallen können. Dennoch waren die Ergebnisse insoweit überzeugend, als dass sich zweierlei Erkenntnisse verfestigten. Zum einen zeigte sich das Potential des Einsatzes einer KI im Deliktsfeld Kinder- und Jugendpornografie und zum anderen wurde erkannt, dass die polizeiliche KI-Eigenentwicklung „EagleEye“ zumindest mit dem kommerziellen Produkt „Griffeye Brain“ nicht konkurrenzfähig war. Angesichts der genannten Weltfirma mit einer ganzen Abteilung an beschäftigten Softwareentwicklerinnern und -entwicklern sowie KI-Spezialistinnen und -spezialisten erscheint dies auch wenig verwunderlich. Von der weiteren Entwicklung der KI „EagleEye“ wurde daraufhin abgesehen. Heute ist die Software „Griffeye Analyze DI Pro“ in Schleswig-Holstein sowie auch in mehreren weiteren Länderpolizeien flächendeckend im Einsatz.

4 Bundesweite Ansätze

Auch bundesweit kommt der Thematik weiterhin eine große Bedeutung zu. So ist der Einsatz einer KI zur Unterstützung der Sachbearbeitung im Deliktsfeld Kinder- und Jugendpornografie mit dem Projekt „Begleitung eingeschränkter Wirkbetrieb KIPO“ sowie dem Vorgängerprojekt „KI-unterstützte Erkennung kinderpornografischen Materials“ bis heute Bestandteil des Programms Polizei 20/20¹⁷. Dabei wurden im Rahmen einer Masterarbeit auch mehrere KI miteinander in einen leistungsbezogenen Abgleich gebracht, u.a. die im Rahmen der Projekte eigenentwickelte KI „KiPo-Analyzer“ (vormals „NiKI“) der Polizei Niedersachsen und „Griffeye Brain“¹⁸. Die Arbeit gibt einen sehr guten und fundierten Überblick über den möglichen Einsatz einer KI zur Detektion inkriminierten Materials und beinhaltet auch offene, durchaus noch zu klärende Frage- und Problemstellungen, die zunehmend relevant werden.

Des Weiteren ist die Bund-Länder-Arbeitsgruppe (BLAG) Digitale Daten zu benennen. Diese wurde im Juni 2021 infolge eines auf der 214. Sitzung der Ständigen Konferenz der Innenminister und -senatoren der Länder (IMK) getroffenen Beschlusses zum Thema „Bekämpfung von Kindesmissbrauch“ eingerichtet und sollte länderübergreifende Standards für Sicherstellungen von IT-Asservaten sowie zur Sicherung, Aufbereitung und Auswertung von digitalen Daten unter Berücksichtigung der kriminalistischen Auswerteanforderungen hinsichtlich Gefahrenabwehr und Strafverfolgung prüfen und entsprechende Empfehlungen aussprechen. Die BLAG, an der verschiedene Vertreterinnen und Vertreter der Justiz und der Polizei, so auch aus Schleswig-Holstein, teilnahmen, legte am 28.7.2022 ihren Abschlussbericht vor, der mittlerweile im Rahmen der 218. IMK Anfang Dezember 2022 abgenommen worden ist. Zwar stand der Einsatz einer KI dabei nicht unmittelbar im Fokus und wird auch nur am Rande erwähnt, jedoch wurde deutlich, dass die Notwendigkeit erkannt worden ist, zum einen Standards hinsichtlich der Sicherung, forensischen Aufbereitung und kriminalistischen Auswertung digitaler Daten bezüglich des Deliktfeldes Kinderpornografie festzulegen; zum anderen aber auch, dass die umfassende und detaillierte Auswertung der Daten eines jeden einzelnen Ermittlungsverfahrens auf Grund der massiven Zunahme an Fallzahlen und digitalen Daten zukünftig nicht mehr gewährleistet ist. Letztlich besteht die zuletzt auch im Rahmen der 218. IMK bekräftigte dringende Empfehlung, die umfangreich erarbeiteten Standards und Empfehlungen zur bundesweiten, ressortübergreifenden Orientierung bereitzustellen und unter Einbeziehung ggf. vorhandener landesspezifischer Regelungen sowie im Einvernehmen mit der sachleitenden Staatsanwaltschaft anzuwenden.¹⁹