Künstliche Intelligenz (KI) in der Polizeiarbeit

Verfassungsrechtliche Leitplanken und unionsrechtliche Grenzen

Von ORR`in Ann-Kathrin Graf, München¹

Künstliche Intelligenz (KI) gewinnt in der Polizeiarbeit immer mehr an Bedeutung. Die automatisierte Datenanalyse, die intelligente Videoüberwachung oder allgemein der Einsatz generativer KI-Systeme rücken zunehmend in den Fokus der Polizeibehörden. Insbesondere im polizeilichen Kontext ist der Anreiz groß, bestehende Datenbestände durch intelligente Systeme effizienter auswerten zu können. Dieser datengetriebene Ansatz hat eine neue verfassungsrechtliche Dimension eröffnet. Mit seinem Urteil vom 16.2.2023² zur automatisierten Datenanalyse hat sich das Bundesverfassungsgericht (BVerfG) erstmals ausdrücklich auch mit dem Einsatz von KI-gesteuerter Datenverarbeitung durch Sicherheitsbehörden auseinandergesetzt.³ Parallel hierzu ist mit der Verordnung (EU) 2024/1689 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz (KI-VO) ein unionsweiter Rechtsrahmen in Kraft getreten. Die KI-VO reguliert KI-Systeme und KI-Modelle nach einem risikobasierten Ansatz, untersagt bestimmte Systeme vollständig und unterwirft Hochrisiko-KI-Systeme besonders strengen Anforderungen. Obwohl der Regelungsansatz ursprünglich maßgeblich auf den privatwirtschaftlichen Einsatz von KI zugeschnitten war, erstreckt sich der Anwendungsbereich der KI-VO – mit Ausnahme ausdrücklich ausgenommener militärischer, verteidigungsbezogener und nationaler Sicherheitszwecke – auch auf die Strafverfolgung. Sie ist unionsrechtlich weit zu verstehen und umfasst nicht nur die Verfolgung begangener Straftaten, sondern auch die präventiv polizeiliche Aufgabenwahrnehmung.⁴ In der Konsequenz unterfallen sowohl repressiv als auch präventiv eingesetzte polizeiliche KI-Systeme denselben unionsrechtlichen Vorgaben wie entsprechende Anwendungen in Wirtschaft und Verwaltung. Eine spezifische sektorale Sonderbehandlung für den Bereich der Kriminalitätsbekämpfung sieht die KI-VO nicht vor. Vor diesem Hintergrund wird in der rechtswissenschaftlichen Diskussion zunehmend kritisch hinterfragt, ob der unionsrechtliche Regulierungsansatz nicht faktisch eine mittelbare Mitgestaltung des nationalen Sicherheits- und Polizeirechts darstellt und damit über Regelungsmaterien wie den Datenschutz und nun auch die KI tief in fachrechtliche Bereiche der inneren Sicherheit der Mitgliedstaaten eingegriffen wird, ohne dass hierfür ein Kompetenzrahmen auf Unionsebene besteht.⁵

1 Definition von KI

Der Begriff KI wird in Wissenschaft und Praxis äußerst heterogen verwendet und ist technisch nicht einheitlich determiniert. Die KI-VO führt in Art. 3 Nr. 1 erstmals eine unionsweit verbindliche Legaldefinition ein. Danach ist ein KI-System ein maschinengestütztes System, das mit einem gewissen Grad an Autonomie arbeitet, nach seiner Betriebsaufnahme anpassungsfähig sein kann, aus Eingabedaten ableitet und Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erzeugt, die die physische oder virtuelle Umgebung beeinflussen können. Diese Definition ist bewusst technikneutral gehalten und umfasst verschiedene KI-Techniken wie maschinelles oder überwachtes Lernen.⁶ Die von der Union vorgebene KI-Definition wird vielfach kritisiert, da sie zu weit gefasst sei und somit eine übermäßige Zahl technologischer Systeme unter den KI-Regulierungsrahmen falle. Die Unschärfe der Begriffsmerkmale birgt insbesondere das Risiko divergierender Auslegungen in der Praxis. Zudem führt die weit gefasste Definition zu Regelungsüberdehnungen und Ungewissheit, da die Grenzen zwischen klassischer Software und KI-Systemen verschwimmen.⁷ Auch die von der Kommission erlassenen Leitlinien zur Auslegung des Begriffs des KI-Systems nach der KI-VO tragen nur in begrenztem Umfang zu einer weiteren Konkretisierung bei.⁸

Das BVerfG argumentiert vorrangig mit einer funktionalen Beschreibung jener Systeme, die aus verfassungsrechtlicher Sicht KI-Relevanz besitzen. Das Gericht spricht in diesem Zusammenhang von lernenden Systemen. Es handelt sich im Wesentlichen um jene Systemmerkmale, die auch nach der KI-VO als KI-relevant eingeordnet werden. Dazu zählt insbesondere die Fähigkeit, aus Daten neue Erkenntnisse abzuleiten und beispielsweise Profilbildungen zu ermöglichen. Das Gericht hebt hervor, dass die Systeme je nach Einsatzart ein besonderes Eingriffsgewicht haben können, da sie eine neue Qualität der Erkenntnisgewinnung ermöglichen.⁹ Die vom BVerfG entwickelten Maßstäbe sind nicht auf automatisierte Datenanalysen im engeren Sinne beschränkt, sondern für den Einsatz von KI-Systemen insgesamt von hoher Relevanz. Die verfassungsrechtliche Problematik ist insoweit vergleichbar, als auch andere KI-Systeme auf umfangreichen Datenbeständen und komplexer Mustererkennung beruhen, um hieraus neue Erkenntnisse gewinnen zu können.

2 Verbotene Praktiken nach Art. 5 KI-VO

Art. 5 KI-VO legt einen abschließenden Katalog von KI-Praktiken fest, die unionsweit zum Schutz zentraler Grundrechte verboten sind. Damit ist grundsätzlich auch ein Einsatz bei der Polizei untersagt, es sei denn, es werden ausdrückliche Ausnahmen hierzu getroffen.

In Art. 5 Abs. 1 lit. e KI-VO wird der Aufbau oder die Erweiterung von Datenbanken zur Gesichtserkennung durch das ungezielte Auslesen von Gesichtsbildern aus dem Internet oder von Überwachungsaufnahmen untersagt. Hiervon umfasst sind insbesondere Praktiken des massenhaften „Scrapings“, bei denen Bildmaterial ohne konkreten Anlass gesammelt und für Zwecke der Gesichtserkennung aufbereitet wird.¹⁰ Zur Begründung des Verbots wird angeführt, dass derartige Datensammlungen geeignet sind, ein Gefühl der flächendeckenden Überwachung zu erzeugen und erhebliche Eingriffe in das Recht auf Privatsphäre sowie weitere Grundrechte nach sich ziehen.¹¹ Die Systematik der KI-VO macht deutlich, dass dieses Verbot eng begrenzt sein soll. Es erfasst weder das ungezielte Auslesen anderer biometrischer Merkmale wie Stimm- oder Gangdaten noch die Erstellung biometrischer Referenzdatenbanken auf der Grundlage gezielt erhobener Gesichtsbilder.¹² Solche Konstellationen bleiben grundsätzlich zulässig und unterfallen gegebenenfalls dem Regime der Hochrisiko-KI-Systeme. Die praktische Bedeutung dieses Verbots wird nicht zuletzt durch ein besonders medienträchtiges jüngeres Ereignis, die Ergreifung der untergetauchten ehemaligen RAF-Terroristin Daniela Klette, die durch die Nutzung eines kommerziellen Gesichtserkennungsdienstes ermöglicht wurde, unterstrichen. Angesichts dessen gewinnt das unionsrechtliche Verbot im Lichte aktueller nationaler Gesetzgebungsvorhaben zusätzliche Relevanz.¹³ Der vom Bundesministerium des Innern (BMI) vorgelegte Referentenentwurf zur Erweiterung der Befugnisse der Sicherheitsbehörden sieht über den bisherigen Abgleich mit bereits vorhandenen Lichtbildbeständen in INPOL-Z hinaus ausdrücklich vor, den biometrischen Datenabgleich unter Heranziehung öffentlich zugänglicher personenbezogener Daten aus dem Internet – einschließlich solcher aus Social-Media-Profilen, sofern sie nicht auf einen begrenzten Personenkreis beschränkt sind – zuzulassen. Da der Entwurf den biometrischen Abgleich jedoch an einen konkreten Fahndungsanlass bindet und keine anlasslosen Massenabgleiche ermöglicht, berührt er den Anwendungsbereich des Verbots nach derzeitiger Lesart nicht.¹⁴

Eine hohe praktische Relevanz entfaltet das grundsätzliche Verbot der biometrischen Echtzeit-Fernidentifizierung im öffentlichen Raum zu Strafverfolgungszwecken gemäß Art. 5 Abs. 1 lit. h KI-VO, das nur unter äußerst engen, in der Verordnung ausdrücklich geregelten Voraussetzungen zulässig sein kann. Erfasst von dem Verbot sind sämtliche Echtzeit-Gesichtserkennungssysteme, die Passanten automatisch erkennen und mit polizeilichen Datenbanken abgleichen können. Im Rahmen des Gesetzgebungsverfahrens zur KI-VO war der Einsatz biometrischer Echtzeit-Fernidentifizierungssysteme im öffentlichen Raum einer der umstrittensten Regelungspunkte, da derartige Technologien dazu geeignet sind, eine Infrastruktur zu etablieren, die faktisch eine dauerhafte Erfassung von Bewegungs- und Verhaltensmustern weiter Teile der Bevölkerung ermöglicht. Das Europäische Parlament hatte dieses Verbot in den Gesetzentwurf eingebracht und wollte jegliche Form der biometrischen Echtzeit-Fernidentifizierung im öffentlichen Raum verbieten. Die nun geltende Regelung ist ein bewusst restriktiver Kompromiss, da die Verhandlungen zur KI-VO an der biometrischen Echtzeit-Fernidentifizierung gänzlich zu scheitern drohten.¹⁵ Ein Einsatz ist nur in den ausdrücklich genannten Anwendungsfällen zulässig, etwa zur gezielten Suche nach bestimmten Opfern von Entführung, Menschenhandel oder sexueller Ausbeutung sowie zur Suche nach vermissten Personen oder zur Abwehr einer konkreten, erheblichen und unmittelbaren Gefahr für das Leben oder die körperliche Unversehrtheit natürlicher Personen oder einer tatsächlichen und bestehenden oder tatsächlichen und vorhersehbaren Gefahr eines Terroranschlags. Voraussetzung für den Einsatz ist stets das Bestehen einer spezifischen nationalen Rechtsgrundlage, wobei die KI-VO die zwingend einzuhaltenden Grenzen bei deren Ausgestaltung festlegt.¹⁶ Sie fungiert insoweit nicht als eigenständige Ermächtigungsgrundlage, sondern als eng begrenzte Öffnung, die erst durch nationales Fachrecht ausgestaltet werden muss.¹⁷ Die dogmatisch strikte Trennung in der KI-VO zur retrograden Fernidentifizierung wird teilweise kritisch betrachtet und nicht in allen Konstellationen als überzeugend angesehen. Bei der retrograden Auswertung des Videomaterials über längere Zeiträume könne die Eingriffsintensität im Einzelfall sogar höher ausfallen als bei einer punktuellen Echtzeit-Identifizierung. Durch die retrospektive Analyse ließen sich Bewegungsprofile und Verhaltensmuster viel eher rekonstruieren.¹⁸ Auch das BVerfG geht bei solchen Möglichkeiten von einer gesteigerten Eingriffsintensität des Grundrechtseingriffs aus.¹⁹ Dem ist jedoch entgegenzuhalten, dass die Eingriffsintensität bei biometrischen Echtzeit-Fernidentifizierungssysteme gerade in der Unmittelbarkeit der Identifikation begründet liegt, die ohne zeitlichen Abstand erfolgt und faktisch keinen Raum für vorgelagerte menschliche Prüfung oder korrigierende Eingriffe lässt.²⁰

Insgesamt setzt Art. 5 KI-VO somit klare Grenzen für den KI-Einsatz in der Polizeiarbeit. Er verbietet gerade jene Anwendungen, die zwar technisch besonders leistungsfähig erscheinen, aber aufgrund ihres tiefgreifenden Eingriffs in Grundrechte und der Gefahr struktureller Diskriminierung mit den Prinzipien eines demokratischen Rechtsstaats unvereinbar sind.