Große Sprachmodelle und Open-Source Intelligence – ein „Duo Infernale“?

Von Stephan Frank Ackerschott, Drolshagen*

1 Ein sich ankündigender Paradigmenwechsel

Die öffentliche KI-Debatte hat einen blinden Fleck: Während in der breiten Öffentlichkeit über Chatbots, Produktivitätsgewinne oder die Lösung des Fachkräfteproblems breit diskutiert wird, vollzieht sich im Stillen ein fundamentales Umdenken bei jenen Akteuren, die mit Zwang und Geheimhaltung arbeiten. Nachrichtendienste, Strafverfolgungsbehörden, Militär und andere investigativ arbeitenden Organisationen stehen trotz ihrer operativ unterschiedlichen Anforderungen allesamt vor einer zentralen Notwendigkeit: Wer Millionen frei zugänglicher Informationsfragmente ernsthaft auswerten will, kommt bereits jetzt um Open Source Intelligence (OSINT) nicht mehr herum. Und wer OSINT auch zukünftig effizient betreiben will, wird an großen Sprachmodellen (LLMs) kaum vorbeikommen.

Diese sich immer deutlicher abzeichnende Kombination bildet dabei per se kein „Duo Infernale“, sondern eine potenziell kraftvolle Allianz zweier Technologien. Während Analysten derzeit in mühsamer Kleinarbeit Foren und Blogs durchsuchen, schicken sich Modelle wie ChatGPT und Gemini an, Informationen aus ungeordnetem Material automatisiert in Sekunden herauszufiltern.

Was in erster Linie als ein reines Komfortmerkmal erscheint, entfaltet auf den zweiten Blick intensive und tiefgreifende Auswirkungen auf die gängige Recherche-Praxis: Es eröffnet neue Möglichkeiten für Effizienz und Geschwindigkeit analytischer Prozesse einerseits, greift aber gleichzeitig tief in das vorhandene Verständnis für zukünftige Sicherheitsarchitekturen andererseits ein – mit der Folge einer sich abzeichnenden, fundamentalen Neujustierung der bislang gängigen Intelligence- und Ermittlungspraxis.

2 OSINT als Scharnier zwischen Öffentlichkeit und Sicherheit

OSINT bildet ein zentrales Scharnier zwischen der offenen Informationsvielfalt moderner Öffentlichkeiten und den Anforderungen institutioneller Sicherheitsarbeit. Entgegen geläufigen Annahmen ist OSINT kein simples Suchen nach Informationen, sondern ein strukturierter Prozess. Doch gerade diese Mittlerfunktion erzeugt eine ebenso strukturelle Spannung: OSINT muss unüberschaubare Informationsmengen aus offenen Quellen oft mit den begrenzten zeitlichen und personellen Ressourcen institutioneller Akteure zusammenführen.

An dieser Stelle erweitern LLMs die Funktionsbreite; diese können enorme Mengen an Social-Media-Posts, Forenbeiträgen oder offenen Textquellen in bislang unerreichter Geschwindigkeit klassifizieren, Hinweise auf Muster markieren oder relevante Entitäten extrahieren. Studien im Cyber-Threat-Intelligence-Kontext zeigen, dass LLMs in Klassifikationsaufgaben bereits solide Leistungen erbringen – bereits GPT-4 mit einem F1-Score von 0,94 von max. 1,0 bei der Erkennung von Bedrohungs-Tweets (Shafee et al., 2024). Diese Werte sind nicht ohne Weiteres auf alle OSINT-Domänen – z.B. Desinformationsanalysen – übertragbar, verdeutlichen aber, wie LLMs traditionelle OSINT-Ansätze skalieren können.

Doch wie jedes Gelenk besitzt auch dieses empfindliche Stellen. Während LLMs bereits bemerkenswert präzise Klassifikationsleistungen zeigen, bleiben sie bei der Named Entity Recognition (NER) anfällig. Größtes Problem hierbei: Fehlklassifizierte Entitäten etwa können Analysepfade verzerren, Prioritäten verschieben oder Entscheidungen verfrühen bzw. verzögern. Diese Schwäche ist jedoch nicht ein ausschließliches KI-Merkmal: Schon traditionelle OSINT-Workflows waren und sind selten perfekt, weil Informationen finden, ordnen, bewerten und analysieren etc. in Gänze nie reibungslos, nie fehlerfrei funktionierte. Die vermeintliche Limitierung moderner OSINT-Prozesse durch die Einbindung von LLMs ist deshalb keine neuartige Einschränkung, sondern steht in Zusammenhang mit einer überhöhten Erwartungshaltung an die Leistungsfähigkeiten „Künstliche Intelligenz“.

Und genau diese Erwartungshaltung ist eine wesentliche Ursache dafür, dass Modellgrenzen nicht mehr als solche erkannt werden und der KI-Output eine epistemische Autorität erhält, die er nicht besitzt. Der „Automation Bias“ etwa führt dazu, dass die rhetorische Glätte modellgenerierter Ergebnisse leicht mit faktischer Richtigkeit verwechselt wird (Parasuraman & Manzey, 2010). Somit verlagert sich das Aufgabenspektrum weiter weg von einer technischen hin zu einer kognitiven Kompetenz des Analysten, der den KI-Output nicht als fertiges Endprodukt, sondern als „Raw Intelligence“ verstehen muss.

Der Analyst bleibt damit die finale Instanz in diesem erweiterten Informationssystem: Er validiert, prüft, hinterfragt und kalibriert das, was das Modell liefert, und zwar mit derselben methodischen Skepsis, die jede ungeprüfte Quelle erfordert. Nur wenn diese menschliche Prüfinstanz zuverlässig funktioniert, kann die Integration von LLMs in OSINT-Prozesse ihren Mehrwert entfalten.

3 Wie Sprachmodelle funktionieren – und warum das für OSINT relevant ist

Sprachmodelle sind keine denkenden Systeme, keine „Künstliche Intelligenz“ im engeren Sinne. Sie sind statistische Modelle, die primär darauf trainiert sind, „vorherzusagen“, welches Token (die kleinstmögliche Verarbeitungseinheit in einem LLM) mit der höchsten Wahrscheinlichkeit auf das vorhergehende folgt. Daraus ergeben sich neben den erwähnten Stärken auch signifikante Schwächen:​

• Halluzinationen:  Modelle erzeugen inhaltlich falsche oder frei erfundene Informationen, die dennoch flüssig und plausibel klingen.​
• Instabilität der Antworten:  Formal identische Anfragen können zu unterschiedlichen, teils widersprüchlichen Ergebnissen führen.
• Illusion von Verständnis:  Texte wirken kohärent und logisch, obwohl sie sachlich falsch sein können („Sycophancy“-Effekt).​

Um diese Phänomene technisch einzuordnen, muss man drei Ebenen unterscheiden:

• Architektur:  Moderne LLMs werden zwar weiterhin auf Next-Token-Vorhersage trainiert, nutzen aber  Self-Attention-Mechanismen. Diese Architektur erlaubt es ihnen, Beziehungen über den gesamten Kontext hinweg zu modellieren. Dies erhöht massiv ihre Kapazität zur Mustererkennung, ändert aber nichts daran, dass das Modell keine Konzepte von „Wahrheit“, sondern nur von statistischer Wahrscheinlichkeit besitzt (Brown et al. 2020).
• Verhaltenssteuerung:  Verfahren wie  RLHF  oder RLAIF ändern die Antwort-Policy, nicht das parametrische Wissen des Modells. Sie optimieren das Modell darauf, Antworten zu geben, die menschlichen Erwartungen entsprechen. Die Gefahr: Das Modell lernt,  wie  eine sichere Antwort klingt, auch wenn es die Fakten nicht kennt. Diese hohe stilistische Kohärenz kann fälschlich als inhaltliche Sicherheit missinterpretiert werden (Ouyang et al. 2022).
• Wissensanbindung:  Wachsende Bedeutung haben derzeit  Retrieval-gestützte Ansätze (RAG), die Modelle mit externen, kontrollierten Wissensquellen verknüpfen (Lewis et al. 2020). RAG kann Halluzinationen reduzieren, indem es Antworten in abgerufenen Dokumenten „groundet“. Es eliminiert das Risiko allerdings nicht vollständig, da auch hier Fehler bei der Auswahl/Interpretation der Quellen auftreten können.

Zuverlässig einsetzbar sind LLMs daher nur, wenn Daten(quellen) kontrolliert und Modellgrenzen klar dokumentiert sind. Im Strafverfolgungskontext ist dies besonders kritisch: Aus einer vagen Beschreibung wird durch die Eloquenz des Modells plötzlich ein konkreter Name, aus einer statistischen Vermutung ein Ermittlungsansatz und – ehe man sich versieht – ein Verdacht, der sich später kaum noch auf seine Ursprünge zurückverfolgen lässt.

Trotz besagter Risiken ist es in Anbetracht der sich abzeichnenden Herausforderungen unklug LLMs pauschal abzulehnen. Denn LLMs sind durchaus imstande, Ressourcen, die dringend an anderer Stelle benötigt werden, freizusetzen und so zu einer systematischen Entlastung beizutragen. Erste Erkenntnisse deuten darauf hin, dass sich OSINT- und Ermittlungsprozesse durch LLM-gestützte Automatisierung beschleunigen lassen. Munich Innovation Labs berichten in einer Kundenimplementierung ihrer Plattform INspectre von einer Verzehnfachung der Geschwindigkeit bei der Beweismittelsuche und Threat-Analyse (Munich Innovation Labs, 2025).

Weil LLMs allerdings strukturelle Grenzen haben, verlagert sich der Fokus bereits auf agentische Architekturen: Yuan zeigt, wie ein LLM mit einem Werkzeugsatz („Toolkits“) gekoppelt werden kann, um OSINT automatisiert zu beschaffen (Yuan et al., 2024). Das Modell nutzt dazu externe Tools, um Informationen aus verschiedenen OSINT-Quellen zu sammeln und aufzubereiten. In Experimenten übertraf dieser Ansatz klassische, nicht-agentische LLM-Nutzung hinsichtlich Effizienz und Qualität der gewonnenen Cyber-Threat-Intelligence deutlich. Das sich abzeichnende Potenzial liegt also weniger im schnellen Erstellen von Berichten oder der bislang gängigen Nutzung als eine Art „schlaueres Google“, als vielmehr in der Fähigkeit zum OSINT-Orchestrator, der Sprache versteht, externe Tools ansteuert und OSINT-Prozesse koordiniert.