Künstliche Intelligenz

Ein gewerkschaftspolitischer Blick

Von Christian Ehringfeld, Berlin¹

Einen gewerkschaftspolitischen Blick auf Künstliche Intelligenz wirft Christian Ehringfeld. Der stellvertretende GdP-Bundesvorsitzende, ehemalige Vorsitzende des Bundesfachausschusses Digitalisierung und ITler beim BKA thematisiert Schuldfragen, unabsichtliche Diskriminierung und den Umgang mit Beschäftigtendaten.

Analyse von Massendaten

Ohne die Unterstützung KI-gestützter Softwaresysteme bleibt die Verantwortung in der Analyse von Massendaten häufig abschließend dem Menschen überlassen. Wenn etwas übersehen wird, ist die „Schuldfrage“ in aller Regel schnell geklärt. Nun sind die Kolleginnen und Kollegen in der Bearbeitung von Massendaten häufig damit konfrontiert, dass sie nicht nur wenige Dateien auswerten müssen, sondern regelmäßig viele Gigabyte bis Terabyte an Daten. Der Einsatz einer Software, die bestimmte Muster findet, liegt nahe, um etwa Kinderpornografie zu erkennen. Die Belastung der Kolleginnen und Kollegen, die zur gerichtsfesten Auswertung täglich mit der Analyse von kinderpornografischen Inhalten konfrontiert sind, ist jedoch massiv. KI kann im Prozess unterstützen: Sie kann auf verdächtige Dateien hinweisen. Im Idealfall erspart man sich viele Stunden Arbeit und schont die psychische Gesundheit der Beschäftigten, die sonst jede einzelne Datei sichten müssten. Fraglich bleibt, was passiert, wenn die KI doch nicht alle Dateien herausfiltert, die sie müsste.

Softwarefehler?

Eine KI arbeitet mit Wahrscheinlichkeiten, sodass auch in diesem Fall Dateien nicht erkannt werden, die erkannt werden müssten. Und noch schwerwiegender: Der Mensch weiß nicht, warum eine KI eine bestimmte Datei selektiert oder nicht – warum etwas richtig negativ oder falsch positiv ist. Angenommen, relevante Dateien werden nicht gefunden. Die Fragestellung ist eher theoretischer Natur, da die Öffentlichkeit die sichergestellten Datenträger nicht erhält, und trotzdem braucht es eine Diskussion darüber, wie viele Fehler bei einer KI zulässig sind. Die Opfer werden mitunter nicht akzeptieren, dass nichts gefunden wurde und im Zweifel ein Softwarefehler dafür verantwortlich gemacht wird.

• Wir haben unser KI-System alle Daten analysieren lassen. Es hat in wenigen Minuten keine Ergebnisse erbracht.
• Wir haben zehn Beschäftigte über mehrere Tage hinweg, alle Daten auswerten lassen, aber sie konnten nichts finden.
• Auf Außenstehende, insbesondere Opfer, wirken solche Aussagen sicherlich individuell. Auch die Formulierung spielt eine Rolle.

Fehlklassifizierungen!

Ein etwas einfacheres Beispiel ist die Infrarot-Standard-Technologie, die ursprünglich nur bei automatischen Seifenspendern für weiße Menschen funktionierte – denn sowohl die Entwickler als auch die Testpersonen waren unbeabsichtigt weiß. Ohne bösartige Absicht wurden in diesem Fall Menschen mit einer dunkleren Haut benachteiligt. Überträgt man das Prinzip auf die Polizei, könnte das bedeuten, dass Schwarze Menschen bei automatisierten Gesichtserkennungssystemen häufiger von Fehlklassifizierungen betroffen sein könnten. Gerade im Kontext der politischen Auseinandersetzung rund um die amerikanische „Black Lives Matter“-Bewegung würde dies die Vorwürfe über einen vermeintlichen strukturellen Rassismus in den Polizeien, auch in Deutschland, weiter befeuern. In einem TED-Talk 2016 demonstrierte die Schwarze amerikanische Informatikerin, Joy Buolamwini, wie Gesichtserkennungssoftware die Gesichter von weißen Männern und einer Person mit einer weißen Maske erkannte, aber nicht von ihr als Schwarzer weiblicher Person. Das bedeutet, dass trotz der guten Absicht, ein KI-System einzuführen, das nicht diskriminieren soll, es dennoch dazu kommen kann. Für die Polizei stellt das ein ernsthaftes Problem dar. Derlei Vorwürfe und Anschuldigungen hinterlassen Spuren bei den Betroffenen. Die Polizeiführungen sollten sich daher nicht mit der simplen Erklärung begnügen, dass es sich lediglich um einen Softwarefehler handelt. Das könnte das Vertrauen in die Polizei untergraben.

Neben dem entscheidenden Aspekt, dass KI auch ohne Absicht diskriminieren kann, wird es auch maßgeblich davon abhängen, wie mit anfallenden Daten der Beschäftigten umgegangen wird. Wie und wann werden die Daten der Beschäftigten erfasst – und insbesondere im Umgang mit KI die maßgebliche Frage: Wie werden die Daten bei digitalen Assistenzsystemen verarbeitet? Denn der Arbeitgeber könnte beispielsweise durch eine KI eine Leistungsbewertung der Beschäftigten durchführen. Wurden die dazu notwendigen Daten diskriminierungsfrei erfasst? Welche Parameter werden genutzt?

Notwendige Sensibilität

Das ist zusätzlich diskussionswürdig, weil KI auch sog. Halluzinationen haben kann. Das Ergebnis bei einer Halluzination erscheint dann sehr überzeugend – und das, obwohl die Trainingsdaten diese Halluzinationen nicht rechtfertigen und objektiv falsch sind. Es bleibt wie auch im Außenverhältnis notwendig, dass Unsicherheiten unter den Beschäftigten möglichst gering und die Kriterien möglichst transparent sind. Die Polizeien sind hier gut beraten, sensibel zu sein, um auch die Beschäftigten zu schützen.

Anmerkungen

1 Christian Ehringfeld ist stellvertretender Bundesvorsitzender der Gewerkschaft der Polizei (GdP).