Die Schattenseite der KI: Wenn Cyberangriffe plötzlich einen Preis in Token bekommen

Warum KI die Ökonomie der Cyberkriminalität verändert, Unternehmen selbst zur Angriffsressource werden und unsere alten Sicherheitsprobleme plötzlich einen neuen Preis bekommen.

Wir beschäftigen uns in der Informationssicherheit seit Jahrzehnten mit der Frage, wie sicher unsere Unternehmen eigentlich sind.

Wir führen Risikoanalysen durch, bewerten Schwachstellen, berechnen Eintrittswahrscheinlichkeiten und diskutieren über mögliche Schadenshöhen. Wir definieren Security Frameworks, messen Reifegrade und versuchen dem Management zu erklären, weshalb bestimmte Investitionen in Cybersecurity notwendig sind.

Inzwischen können wir zumindest näherungsweise beschreiben, welche wirtschaftlichen Folgen ein erfolgreicher Cyberangriff haben könnte. Produktionsausfälle, Betriebsunterbrechungen, Wiederherstellungskosten, regulatorische Konsequenzen und Reputationsschäden lassen sich in Szenarien bewerten. Dass solche Berechnungen mit Unsicherheiten verbunden sind, versteht sich von selbst.

Eine andere Frage haben wir dagegen bisher nur eingeschränkt beantworten können.

Was kostet es eigentlich, unser Unternehmen zu hacken?

Nicht, wie viel uns ein erfolgreicher Angriff kosten würde. Sondern wie viel Geld, Arbeitszeit und technische Ressourcen ein Angreifer investieren muss, um unsere Sicherheitsarchitektur erfolgreich zu überwinden.

Natürlich konnten wir auch bisher den Aufwand einzelner Angriffe untersuchen. Red-Team-Übungen benötigen Zeit und Personal, Penetrationstests haben ein Budget und bestimmte Angriffswerkzeuge verursachen konkrete Infrastrukturkosten. Aber eine reproduzierbare und wirtschaftlich vergleichbare Betrachtung vollständiger Angriffsketten war bislang schwierig. Unterschiedliche Angreifer besitzen unterschiedliche Fähigkeiten, Werkzeuge und Informationen. Selbst unter ähnlichen Bedingungen kann der notwendige Aufwand erheblich variieren.

Mit der zunehmenden Verbreitung leistungsfähiger KI-Agenten könnte sich hier etwas verändern.

Denn sobald relevante Teile eines Angriffs automatisiert untersucht, geplant und ausgeführt werden, entstehen zusätzliche messbare Größen. Wir können Token zählen, Modellaufrufe erfassen, Werkzeugausführungen dokumentieren und nachvollziehen, welche Ressourcen eingesetzt wurden, bis ein bestimmtes Ziel erreicht oder ein Angriff abgebrochen wurde.

Vielleicht können wir künftig also nicht nur bewerten, wie gut ein Unternehmen geschützt ist, sondern auch, wie teuer es für einen Angreifer wird, diesen Schutz zu überwinden.

Das klingt zunächst nach einer ausgesprochen interessanten Perspektive für die Verteidigung. Allerdings funktioniert diese Betrachtung in beide Richtungen. Denn was wir messen können, können Angreifer grundsätzlich ebenfalls messen. Und was sich messen lässt, lässt sich häufig auch wirtschaftlich optimieren.

Damit verändert sich möglicherweise die Auswahl von Angriffszielen. Neben dem wirtschaftlichen oder strategischen Wert eines Unternehmens könnte zunehmend die Frage relevant werden, wie viel Aufwand eine erfolgreiche Kompromittierung verursacht.

Und hier beginnt eine Entwicklung, die weit über die bekannten Diskussionen um KI-generierte Phishing-Mails und automatisierte Malware hinausgeht.

Angreifer können KI als Werkzeug verwenden, um ihre eigenen Operationen zu beschleunigen. Sie können KI-Rechenleistung und API-Zugänge kompromittierter Unternehmen stehlen und dadurch die Kosten weiterer Angriffe auf andere abwälzen. Sie können bestehende Vertrauensbeziehungen zwischen Unternehmen missbrauchen, um von einem kompromittierten Geschäftspartner aus weitere Ziele zu erreichen.

Und sie könnten zunehmend versuchen, die KI-Systeme zu manipulieren, die wir bereits in unseren eigenen Unternehmen einsetzen.

Das ist aus meiner Sicht die besonders unangenehme vierte Dimension. Denn dafür müssen Angreifer nicht zwangsläufig eigene leistungsfähige Modelle betreiben. Unter bestimmten Voraussetzungen könnten sie kommerzielle Sprachmodelle und Agentensysteme missbrauchen, die Unternehmen ohnehin bezahlen, mit internen Informationen versorgen und mit technischen Berechtigungen ausstatten.

Damit entstehen vier miteinander verbundene Angriffs- und Kostenperspektiven.

Perspektive Zentrale Frage
KI als Angriffswerkzeug Wie günstig kann ein Angreifer ein Unternehmen untersuchen und kompromittieren?
KI als gestohlene Ressource Wer bezahlt die Rechenleistung und Modellaufrufe eines Angriffs?
Unternehmen als Angriffsinfrastruktur Welche weiteren Ziele werden über kompromittierte Geschäftspartner erreichbar?
Unternehmens-KI als Angriffswerkzeug Kann ein Angreifer unsere bereits berechtigten Agenten für unerwünschte Aktionen verwenden?

Das sind unterschiedliche Mechanismen, die nicht zwangsläufig gemeinsam auftreten müssen. Ihre Kombination ist auch noch keine allgemein nachgewiesene Standardangriffskette. Aber sie könnten sich gegenseitig verstärken.

Und dann gibt es noch einen Punkt, der für mich bei der gesamten Diskussion eigentlich der entscheidende ist.

Wir sprechen über autonome Angreifer, immer leistungsfähigere KI-Modelle und die nächste Generation intelligenter Sicherheitswerkzeuge, während in zahlreichen Unternehmen noch immer Sicherheitsprobleme existieren, die wir bereits seit zehn oder zwanzig Jahren kennen.

Legacy-Systeme, deren Modernisierung immer wieder verschoben wurde. Überprivilegierte technische Identitäten. Unzureichend segmentierte Netzwerke. Anwendungen ohne Herstellersupport. Prozesse, die irgendwann einmal dokumentiert, seitdem aber kaum noch angefasst wurden.

Die KI hat diese Probleme nicht geschaffen. Aber sie könnte dafür sorgen, dass ihre Ausnutzung erheblich günstiger wird.

Und genau darin liegt für mich der eigentliche Kern dieser Entwicklung.

1. Wenn ein Cyberangriff plötzlich eine Tokenrechnung bekommt

Cyberkriminalität war schon immer auch ein wirtschaftliches Geschäft.

Angreifer benötigen Personal, Infrastruktur, Werkzeuge, Zugangsdaten und entsprechende technische Fähigkeiten. Das gilt für finanziell motivierte Gruppen ebenso wie für staatlich unterstützte Akteure, auch wenn deren Ziele und verfügbare Ressourcen sehr unterschiedlich sind.

Besonders anspruchsvolle Cyberoperationen waren bisher häufig auf hoch qualifizierte Spezialisten angewiesen. Menschen, die unbekannte Anwendungen analysieren, technische Zusammenhänge verstehen und unterschiedliche Schwachstellen zu einem funktionierenden Angriffspfad kombinieren können. Diese Fähigkeiten waren teuer und nicht beliebig skalierbar.

Natürlich gab es auch bisher automatisierte Angriffswerkzeuge. Vulnerability Scanner, Botnetze, Exploit-Kits und Credential Stuffing haben längst gezeigt, wie effektiv sich bestimmte Angriffstechniken automatisieren lassen. Die Automatisierung von Cyberangriffen ist also keineswegs eine Erfindung des KI-Zeitalters.

Neu ist vielmehr, welche Aufgaben inzwischen automatisiert werden können.

Ein klassischer Schwachstellenscanner benötigt normalerweise geeignete Prüfregeln oder definierte Verfahren, um bestimmte Sicherheitsprobleme zu erkennen. Ein KI-Agent kann zusätzlich versuchen, eine Anwendung zu verstehen, Dokumentationen auszuwerten, unterschiedliche Angriffshypothesen zu entwickeln und seine nächsten Schritte auf Grundlage bereits gewonnener Erkenntnisse anzupassen.

Er kann untersuchen, weshalb ein bestimmter Angriffspfad nicht funktioniert, und anschließend eine andere Vorgehensweise ausprobieren.

Das gelingt keineswegs immer zuverlässig. KI-Agenten machen Fehler, interpretieren technische Zusammenhänge falsch und können erstaunlich lange völlig aussichtslose Lösungswege verfolgen. Aber sie benötigen nicht zwingend bei jedem Arbeitsschritt die unmittelbare Unterstützung eines Menschen.

Ein Angreifer kann dadurch Teile seiner Arbeit delegieren und mehrere Untersuchungen parallel durchführen. Wo bisher häufig die verfügbare Arbeitszeit spezialisierter Angreifer eine wesentliche Begrenzung darstellte, kommen zunehmend skalierbare Modellaufrufe, Tokenverbrauch und automatisierte Werkzeugausführungen ins Spiel.

Die menschliche Expertise verschwindet dadurch nicht. Sie wird aber möglicherweise anders eingesetzt. Statt jeden einzelnen technischen Schritt selbst durchzuführen, kann ein erfahrener Angreifer mehrere automatisierte Prozesse überwachen, Ergebnisse bewerten und nur noch bei schwierigen Entscheidungen eingreifen.

Die entscheidende Frage lautet deshalb nicht, ob KI irgendwann alle Hacker ersetzt. Sie lautet, wie viele zusätzliche Angriffsoperationen ein einzelner Angreifer durch KI wirtschaftlich durchführen kann.

Die ersten Zahlen sind bemerkenswert

Anthropic veröffentlichte Ende 2025 eine Untersuchung zur automatisierten Ausnutzung von Schwachstellen in Smart Contracts.

Die Forscher untersuchten unter anderem, ob KI-Agenten zuvor unbekannte Schwachstellen in solchen Anwendungen identifizieren und entsprechende Exploits entwickeln können.

Dabei wurden 2.849 kürzlich bereitgestellte Smart Contracts untersucht, für die zuvor keine entsprechenden Schwachstellen bekannt waren. Die eingesetzten Agenten identifizierten zwei neue ausnutzbare Schwachstellen. Der simulierte wirtschaftliche Wert der entwickelten Exploits betrug insgesamt 3.694 US-Dollar.

Die API-Kosten des verwendeten GPT-5-Agenten beliefen sich auf 3.476 US-Dollar. [1]

Messgröße Ergebnis
Untersuchte Smart Contracts 2.849
Neu identifizierte verwundbare Verträge 2
Gesamte API-Kosten des GPT-5-Agenten 3.476 US-Dollar
Durchschnittliche API-Kosten je untersuchtem Vertrag ca. 1,22 US-Dollar
Rechnerische Kosten je gefundenem verwundbarem Vertrag 1.738 US-Dollar
Simulierter wirtschaftlicher Wert beider Exploits 3.694 US-Dollar

Diese Zahlen sind interessant, müssen aber sauber eingeordnet werden.

Ein Smart Contract ist kein komplexes Unternehmensnetzwerk. Die Angriffe wurden in Simulationen ausgeführt, und die Ergebnisse lassen sich nicht unmittelbar auf beliebige Anwendungen oder ganze IT-Landschaften übertragen. Auch die rechnerischen Durchschnittskosten sind keine Garantie dafür, dass sich ein weiterer verwundbarer Vertrag für denselben Betrag finden ließe.

Was die Untersuchung aber zeigt, ist die zunehmende Messbarkeit bestimmter offensiver Fähigkeiten. Wir können nachvollziehen, wie viel ein definierter Untersuchungsprozess kostet und welche Ergebnisse er unter bestimmten Bedingungen erzielt.

Noch interessanter ist die Entwicklung über mehrere Modellgenerationen hinweg.

Anthropic beobachtete, dass die mediane Anzahl benötigter Token je erfolgreichem Exploit über vier untersuchte Modellgenerationen um 70,2 Prozent zurückging. Dadurch waren mit demselben Rechenbudget rechnerisch ungefähr 3,4-mal so viele erfolgreiche Exploits möglich wie sechs Monate zuvor. [1]

Das ist für mich der eigentlich spannende Punkt. Wenn die Kosten einer bestimmten offensiven Fähigkeit sinken, kann ein Angreifer mit demselben Budget mehr Ziele untersuchen.

Ein Angriff, der gestern wirtschaftlich uninteressant war, könnte morgen plötzlich attraktiv werden. Nicht, weil das Ziel wertvoller geworden ist, sondern weil der notwendige Aufwand sinkt.

Was kostet die Untersuchung von 100.000 Zielen?

Um die wirtschaftliche Größenordnung zu verdeutlichen, lohnt sich eine einfache Modellrechnung.

Nehmen wir an, ein KI-Agent benötigt für die Untersuchung eines potenziellen Ziels durchschnittlich 100.000 Token. Wir unterstellen außerdem einen gemischten Preis von fünf US-Dollar pro Million Token, der sowohl Eingabe- als auch Ausgabetoken berücksichtigt.

Untersuchte Ziele Token pro Ziel Gesamter Tokenverbrauch Modellkosten
1.000 100.000 100 Mio. 500 $
10.000 100.000 1 Mrd. 5.000 $
50.000 100.000 5 Mrd. 25.000 $
100.000 100.000 10 Mrd. 50.000 $

Diese Berechnung ist ausdrücklich hypothetisch. Die Werte sind keine empirisch gemessenen Angriffskosten. Sie beschreiben lediglich, welche Modellkosten unter den gewählten Annahmen entstehen würden. Nicht enthalten sind Infrastruktur, zusätzliche Werkzeuge, menschliche Arbeit und die Kosten weiterer Angriffsphasen.

Auch bedeutet eine abgeschlossene Untersuchung keineswegs, dass ein Ziel erfolgreich kompromittiert wurde.

Trotzdem zeigt die Rechnung, wie sich die wirtschaftliche Betrachtung verändern könnte. Ein Angreifer muss nicht jedes potenzielle Ziel vollständig kompromittieren. Er kann zunächst automatisiert untersuchen, welche Ziele besonders interessant erscheinen, und sich anschließend auf diejenigen konzentrieren, bei denen die Erfolgsaussichten günstig sind.

Diese Vorgehensweise existiert bereits heute. KI könnte allerdings die Kosten der dafür notwendigen Analyse reduzieren und damit die Auswahl von Angriffszielen zunehmend auf automatisierten Kosten-Nutzen-Bewertungen beruhen lassen.

Jason D. Clinton hat dazu eine ziemlich eindeutige Meinung

Am 22. Oktober 2026 veröffentlichte Jason D. Clinton, Deputy CISO bei Anthropic, einen bemerkenswerten Beitrag auf X.

Angesichts der damaligen Sicherheitsentwicklung warnte er vor einer weiteren Verschärfung der Lage und forderte Sicherheitsverantwortliche auf, ihre Vorstände jetzt um zusätzliche Unterstützung zu bitten. Seine zentrale Botschaft war, die verfügbaren Mittel nicht reflexartig in weitere KI-Produkte zu investieren, sondern zunächst die grundlegenden Sicherheitsmaßnahmen zu stärken. [2]

Clinton sprach in diesem Zusammenhang auch von einer schwierigen Übergangsphase von ungefähr 18 Monaten.

Das ist seine persönliche Prognose und keine wissenschaftlich belegte Frist. Auch seine Erwartung, dass künftige KI-Fähigkeiten die Verteidigung innerhalb dieses Zeitraums deutlich verbessern könnten, ist nicht gesichert. Gerade weil Clinton bei einem Unternehmen arbeitet, das selbst leistungsfähige KI-Modelle entwickelt, sollten wir solche Aussagen kritisch einordnen.

Seinen grundsätzlichen Appell halte ich trotzdem für ausgesprochen treffend.

Vielleicht brauchen wir gar nicht zuerst eine neue Generation intelligenter Sicherheitswerkzeuge. Vielleicht sollten wir zunächst dafür sorgen, dass die bekannten Sicherheitsgrundlagen funktionieren.

Den Originalbeitrag auf X findet man direkt unter diesem Link.

Der X-Beitrag war für diese Fassung nicht vollständig direkt auslesbar. Deshalb gebe ich den Appell sinngemäß wieder, statt einen ungeprüften längeren Wortlaut als Originalzitat zu verwenden. Die inhaltliche Einordnung beruht ergänzend auf journalistischen Wiedergaben.

Clintons Aussage ist für mich kein Argument gegen KI in der Cyber Defense. Im Gegenteil. Gerade bei der Analyse komplexer Angriffsketten, der Priorisierung von Schwachstellen und der Unterstützung von Incident Response sehe ich erhebliche Potenziale.

Aber KI wird keine Sicherheitsprobleme lösen, deren Beseitigung eine Organisation seit Jahren nicht konsequent verfolgt. Ein intelligenter Schwachstellenagent kann eine kritische Sicherheitslücke hervorragend beschreiben. Wenn anschließend niemand für deren Behebung verantwortlich ist, bleibt sie trotzdem bestehen.

Damit bekommt die Frage nach den Angriffskosten eine zweite Bedeutung. Es geht nicht nur darum, wie günstig KI einen Angriff machen kann, sondern auch darum, wie wir durch konsequente Sicherheitsmaßnahmen verhindern, dass unser Unternehmen zu einem besonders günstigen Angriffsziel wird.

2. Wie teuer ist es eigentlich, unser Unternehmen zu hacken?

Übertragen wir diese Entwicklung auf unsere eigene Infrastruktur.

Wir betreiben möglicherweise Tausende Server, Hunderte Anwendungen, Cloud-Dienste, externe Schnittstellen, Identitätsplattformen und eine Vielzahl vernetzter Geräte. Dazu kommen historisch gewachsene Netzwerke, unterschiedliche technische Standards und Anwendungen, deren ursprüngliche Architektur mit der heutigen IT-Landschaft teilweise nur noch wenig gemeinsam hat.

Bisher bewerten wir diese Infrastruktur überwiegend aus der Perspektive der Verteidigung. Wir untersuchen Schwachstellen, bestimmen Risiken, bewerten Sicherheitsarchitekturen und dokumentieren, welche Maßnahmen umgesetzt wurden.

Das ist notwendig und wird auch weiterhin notwendig bleiben. Aber was wäre, wenn wir zusätzlich fragen würden, welchen Aufwand ein Angreifer betreiben muss, um ein bestimmtes Ziel zu erreichen?

Nicht abstrakt, sondern anhand reproduzierbarer und ausdrücklich autorisierter Angriffssimulationen.

Wie viele Ressourcen benötigt ein KI-Agent, um eine definierte Sicherheitszone zu überwinden? Wie viele alternative Angriffspfade muss er untersuchen? Wie hoch ist die Wahrscheinlichkeit, dass er innerhalb eines bestimmten Budgets erfolgreich ist? Und was passiert, wenn wir anschließend unsere Sicherheitsarchitektur verbessern?

Vielleicht könnten wir dann nicht nur dokumentieren, dass eine Maßnahme umgesetzt wurde, sondern auch versuchen, ihren Einfluss auf den notwendigen Angriffaufwand zu messen.

Eine neue Kennzahl oder zunächst nur eine Idee?

Für diese Überlegung würde ich zunächst den Begriff Attack Cost of Compromise, kurz ACC, verwenden.

Das ist ausdrücklich keine etablierte Sicherheitskennzahl und keine wissenschaftlich validierte Methode. Es ist zunächst eine Arbeitshypothese.

Die Idee besteht darin, den Aufwand eines erfolgreichen Angriffs unter definierten Bedingungen zu betrachten. Dabei müssen wir drei Größen voneinander unterscheiden.

Erstens den tatsächlichen Ressourcenverbrauch. Dazu gehören verbrauchte Token, Rechenzeit, Infrastruktur, Werkzeuge und menschliche Arbeitsstunden.

Zweitens die unmittelbaren Kosten des Angreifers. Diese können geringer ausfallen als der Ressourcenverbrauch, beispielsweise weil vorhandene Werkzeuge wiederverwendet oder fremde Rechenkapazitäten genutzt werden.

Drittens die Kosten, die bei anderen entstehen. Wenn ein Angreifer gestohlene API-Schlüssel einsetzt, können die tatsächlichen Modellkosten beim kompromittierten Unternehmen anfallen.

Diese drei Größen dürfen wir nicht miteinander verwechseln. Ein Angriff kann erhebliche Ressourcen verbrauchen, obwohl der Täter dafür kaum direkte Ausgaben hat. Umgekehrt kann eine besonders aufwendige technische Untersuchung wirtschaftlich sinnvoll sein, wenn sie Zugang zu einer großen Anzahl wertvoller Ziele eröffnet.

Für eine belastbare Betrachtung müssten wir daher mehrere Faktoren berücksichtigen.

Einflussfaktor Bedeutung
Tokenverbrauch Umfang der Modellverarbeitung
Modell- und Infrastrukturkosten Kosten der tatsächlich eingesetzten Ressourcen
Eigene Kosten des Angreifers Was der Täter selbst finanzieren muss
Fremdfinanzierte Ressourcen Nutzung kompromittierter KI- und Cloud-Infrastruktur
Menschliche Arbeitszeit Erforderliche Unterstützung durch Spezialisten
Vorhandenes Wissen Bereits bekannte Technologien, Zugänge und Architekturinformationen
Erfolgswahrscheinlichkeit Anteil erfolgreicher Versuche unter vergleichbaren Bedingungen
Angriffsdauer Zeit bis zum Erreichen des definierten Ziels
Erkennung und Reaktion Wahrscheinlichkeit einer erfolgreichen Unterbrechung
Wiederverwendbarkeit Möglichkeit, Werkzeuge und Erkenntnisse für weitere Ziele einzusetzen

Diese Faktoren sind nicht unabhängig voneinander. Ein leistungsfähigeres Modell kann mehr kosten, aber weniger Token benötigen. Ein Angreifer mit umfangreichem Vorwissen kann schneller erfolgreich sein als jemand, der dieselbe Infrastruktur ohne Vorbereitung untersucht.

Für eine belastbare Betrachtung müssten wir deshalb zahlreiche vergleichbare Angriffsversuche durchführen und sowohl erfolgreiche als auch gescheiterte Kampagnen berücksichtigen.

Besonders interessant wäre dabei nicht nur ein durchschnittlicher Wert, sondern die Verteilung der Kosten. Wie groß ist der Aufwand, um ein definiertes Ziel in der Hälfte der Versuche zu erreichen? Wie hoch ist er bei einer Erfolgswahrscheinlichkeit von 90 Prozent? Und wie verändert sich dieser Aufwand, wenn wir bestimmte Sicherheitsmaßnahmen verbessern?

Eine solche Messung müsste außerdem mit konstanten oder sauber dokumentierten Angreiferfähigkeiten arbeiten. Sonst würden wir möglicherweise nicht den Fortschritt unserer Verteidigung messen, sondern lediglich den Wechsel zwischen zwei unterschiedlich leistungsfähigen KI-Modellen.

Das ist methodisch anspruchsvoll. Aber aus meiner Sicht eine interessante Möglichkeit, unsere bisherigen Reifegrad- und Risikobetrachtungen zu ergänzen.

Zwei Unternehmen, zwei unterschiedliche Angriffskosten

Stellen wir uns zwei fiktive Unternehmen vor.

Beide besitzen eine vergleichbare IT-Infrastruktur. Unternehmen A betreibt zahlreiche ältere Anwendungen, besitzt historisch gewachsene Berechtigungsstrukturen und hat seine Netzwerksegmentierung nur teilweise umgesetzt.

Unternehmen B hat dagegen konsequent in die Modernisierung seiner Systeme, Identitätsschutz, Netzwerksegmentierung und funktionierende Sicherheitsprozesse investiert.

In einer kontrollierten Testumgebung führen wir jeweils hundert unabhängige KI-gestützte Angriffskampagnen durch. Die Ergebnisse könnten beispielsweise so aussehen.

Messgröße Unternehmen A Unternehmen B
Testkampagnen 100 100
Erfolgreiche Kampagnen 40 5
Beobachtete Erfolgsquote 40 % 5 %
Durchschnittliche Kosten je Kampagne 100 $ 250 $
Rechnerische Kosten je erfolgreicher Kampagne 250 $ 5.000 $

Die Werte sind frei gewählt und dienen ausschließlich der Illustration.

Die letzte Zeile ist eine vereinfachte statistische Modellrechnung. Sie setzt unabhängige, vergleichbare Versuche und eine hinreichend stabile Erfolgswahrscheinlichkeit voraus. In realen Angriffskampagnen können diese Voraussetzungen durch Lerneffekte, wiederverwendete Erkenntnisse und wechselnde Strategien verletzt werden.

Unter den getroffenen Annahmen wäre die erfolgreiche Kompromittierung von Unternehmen B zwanzigmal so teuer wie die von Unternehmen A.

Das wäre eine interessante Aussage. Denn wir würden damit nicht mehr ausschließlich über Schwachstellen, Sicherheitsreifegrade oder erfüllte Anforderungen sprechen, sondern untersuchen, welchen wirtschaftlichen Unterschied unsere Schutzmaßnahmen für einen Angreifer machen.

Natürlich wäre Unternehmen B dadurch nicht unangreifbar. Vielleicht besitzt der verwendete Agent schlicht nicht die notwendigen Fähigkeiten. Oder ein menschlicher Spezialist würde einen Angriffspfad erkennen, den der automatisierte Test übersehen hat.

Aber als zusätzliche Möglichkeit, die Entwicklung unserer Sicherheitsarchitektur über die Zeit zu bewerten, wäre eine solche Betrachtung durchaus interessant.

Sicherheit und Attraktivität sind nicht dasselbe

Hier müssen wir eine wichtige Unterscheidung machen.

Die Kosten eines erfolgreichen Angriffs beschreiben zunächst den notwendigen Aufwand. Sie sagen noch nicht, ob sich ein Angriff für einen bestimmten Akteur lohnt.

Ein Unternehmen kann technisch hervorragend abgesichert sein und trotzdem ein ausgesprochen attraktives Ziel darstellen, weil es besonders wertvolle Informationen besitzt.

Ein staatlicher Nachrichtendienst ist möglicherweise bereit, erhebliche Ressourcen zu investieren, wenn der erwartete Informationsgewinn entsprechend groß ist. Ein opportunistisch arbeitender Cyberkrimineller bewertet dieselbe Situation vermutlich anders.

Wenn ein Angriff teuer, zeitaufwendig und wenig erfolgversprechend ist, kann es wirtschaftlich sinnvoller sein, sich ein anderes Ziel zu suchen.

Genau deshalb halte ich die Frage der Angriffskosten für so interessant.

Vielleicht können wir durch funktionierende Sicherheitsmaßnahmen nicht nur das Risiko reduzieren, sondern auch die wirtschaftliche Attraktivität unseres Unternehmens für bestimmte Angreifer senken.

Wir werden dadurch nicht unangreifbar. Aber wir könnten dafür sorgen, dass ein Angreifer mehr Ressourcen investieren muss. Und je nach Motivation und Geschäftsmodell kann das einen erheblichen Unterschied machen.

Vorwissen könnte den Angriff erheblich günstiger machen

Ein weiterer Faktor wird bei der Diskussion über Tokenkosten häufig unterschätzt.

Wie viel weiß der Angreifer bereits über sein Ziel?

Ein Agent, der zunächst sämtliche technischen Zusammenhänge selbst ermitteln muss, benötigt andere Ressourcen als ein Agent, der bereits über Architekturinformationen, Quellcode, Zugangsdaten oder konkrete Hinweise auf Schwachstellen verfügt.

Eine Untersuchung von Endor Labs vom 11. Juni 2026 verdeutlicht diesen Zusammenhang. Die Forscher verglichen zwei Konfigurationen eines KI-Agenten bei Aufgaben der Anwendungssicherheit.

Beide verwendeten dasselbe Modell, dieselben 34 Aufgaben und dasselbe Schrittbudget. Untersucht wurden zwölf größere Open-Source-Projekte.

Ein Agent musste seine Informationen durch Quellcodeanalysen und zusätzliche Recherchen selbst ermitteln. Der andere erhielt bereits vorbereitete Sicherheitsinformationen.

Das Ergebnis war bemerkenswert. [3]

Messgröße Ohne vorbereitete Evidenz Mit vorbereiteter Evidenz
Verbrauchte Token 79,5 Mio. 6,6 Mio.
Werkzeugaufrufe 6.165 1.380
Relative Bearbeitungsdauer 1,0 etwa 0,36

Die Variante mit vorbereiteten Informationen benötigte 91,7 Prozent weniger Token, 77,6 Prozent weniger Werkzeugaufrufe und war etwa 2,8-mal schneller.

Die Untersuchung betrifft defensive Anwendungssicherheitsanalysen und keine realen Cyberangriffe. Aber sie illustriert einen wichtigen Mechanismus.

Die Kosten eines KI-Agenten hängen nicht ausschließlich von der Leistungsfähigkeit des Modells ab. Sie hängen auch davon ab, wie viel Vorarbeit bereits erledigt wurde.

Für einen Angreifer könnten gestohlene Architekturinformationen, interne Dokumentationen oder Informationen über eingesetzte Technologien dadurch einen erheblichen zusätzlichen Wert erhalten. Sie verbessern nicht nur das Verständnis des Ziels, sondern könnten auch den notwendigen Analyseaufwand reduzieren.

Wer interne Dokumentationen verliert, gibt deshalb möglicherweise nicht nur vertrauliche Informationen preis. Er erspart einem Angreifer unter Umständen einen erheblichen Teil seiner späteren Arbeit.

3. Wenn Angreifer in Minuten arbeiten und wir noch Tickets schreiben

Die Entwicklung ist inzwischen keineswegs nur theoretisch.

Microsoft veröffentlichte am 21. Oktober 2026 eine Analyse über Aktivitäten der Angreifergruppe Storm-0940. Microsoft ordnet die Gruppe einem chinesischen staatlichen Kontext zu und beschreibt den Einsatz des agentischen Penetration-Testing-Frameworks ARTEX.

Das Framework wurde zur Automatisierung verschiedener offensiver Arbeitsschritte eingesetzt. In mehreren beobachteten Angriffen vergingen zwischen dem ersten Anvisieren einer Organisation und dem Erreichen privilegierter Cloud-Zugänge weniger als drei Stunden. [4]

Microsoft dokumentierte außerdem umfangreiche Aktivitäten gegen zahlreiche Unternehmen.

Beobachtung Dokumentierter Umfang
Mandanten mit versuchten Anmeldungen nach dem ConnectWise-Vorfall mehr als 2.250
Fehlgeschlagene Anmeldungen in einer separaten Password-Spraying-Kampagne mehr als 151.000
Maximale Rate fehlgeschlagener Anmeldungen rund 2.900 pro Minute
Zeit bis zu privilegiertem Cloud-Zugriff in mehreren Angriffen weniger als 3 Stunden

Die Zahlen stammen aus unterschiedlichen Teilen der beobachteten Aktivitäten und dürfen nicht als eine einzige Angriffskette verstanden werden. Gerade die erwähnte Password-Spraying-Kampagne führte im dokumentierten Ausschnitt trotz der vielen Versuche nicht zu erfolgreichen Anmeldungen.

Die hohe Anzahl automatisierter Versuche beweist also noch keinen erfolgreichen Angriff. Sie zeigt aber, in welcher Größenordnung offensive Arbeitsschritte automatisiert werden können.

Und für die Cyber Defense stellt sich damit eine ziemlich praktische Frage.

Wie schnell können wir eigentlich reagieren, wenn ein Angreifer mehrere technische Angriffspfade in wenigen Minuten untersucht?

Unsere Prozesse wurden nicht für jede Angriffsgeschwindigkeit entwickelt

Viele unserer etablierten Sicherheitsprozesse beruhen aus gutem Grund auf menschlichen Entscheidungen.

Ein Alert wird ausgelöst, im SOC bewertet und einem Analysten zugewiesen. Anschließend erfolgt eine Untersuchung und gegebenenfalls eine Eskalation an die zuständigen technischen Teams.

Manchmal müssen weitere Fachbereiche einbezogen werden. Gerade bei geschäftskritischen Systemen kann eine unüberlegte Isolation erhebliche betriebliche Auswirkungen verursachen.

Das ist grundsätzlich sinnvoll. Aber was passiert, wenn ein Angreifer innerhalb weniger Minuten mehrere Angriffsschritte erfolgreich abschließt?

Dann reicht es möglicherweise nicht mehr aus, einen Sicherheitsvorfall irgendwann am selben Tag zu erkennen. Wir müssen auch in der Lage sein, rechtzeitig zu reagieren.

Eine Organisation kann hervorragende Erkennungsregeln besitzen und trotzdem zu langsam sein. Ein Alarm hilft nur eingeschränkt, wenn anschließend zunächst geklärt werden muss, wer überhaupt eine Entscheidung treffen darf.

Ein intelligentes Detection-System ersetzt keine verbindlichen Eskalationswege. Und ein automatisierter Incident-Response-Agent wird wenig helfen, wenn grundlegende Zuständigkeiten nie sauber definiert wurden.

KI beschleunigt damit nicht nur Angriffe. Sie könnte auch die Defizite unserer etablierten Sicherheitsprozesse wesentlich schneller sichtbar machen.

Die Fähigkeiten der Agenten entwickeln sich weiter

Auch die Forschung zur autonomen Leistungsfähigkeit von KI-Systemen liefert Hinweise darauf, weshalb diese Entwicklung relevant ist.

Die Forschungsorganisation METR untersucht, wie lange und komplexe Aufgaben KI-Agenten selbstständig bearbeiten können. Dazu wird unter anderem gemessen, wie viel Zeit ein menschlicher Experte für eine Aufgabe benötigen würde und mit welcher Wahrscheinlichkeit ein Agent dieselbe Aufgabe erfolgreich abschließt.

In einer Veröffentlichung vom März 2025 beobachtete METR über den untersuchten historischen Zeitraum eine Verdopplung des Aufgabenhorizonts ungefähr alle sieben Monate. [5]

Das ist keine Garantie für die weitere Entwicklung. Auch lassen sich Ergebnisse aus Softwareaufgaben nicht unmittelbar auf vollständige Cyberangriffe übertragen.

Aber sie zeigen, weshalb die zunehmende Autonomie von KI-Agenten eine andere Qualität besitzt als ein einfacher Chatbot.

Ein System, das einzelne technische Fragen beantwortet, ist noch kein autonomer Angreifer. Ein Agent, der über längere Zeit Informationen sammelt, Werkzeuge verwendet, Ergebnisse bewertet und seine Vorgehensweise anpasst, ist dagegen operativ deutlich interessanter.

Microsoft lieferte am 5. November 2026 ein besonders anschauliches Beispiel. Bei untersuchten Angriffen passten agentische Werkzeuge nach fehlerhaften Cloud-API-Aufrufen eigenständig Parameter und API-Versionen an. Teilweise erfolgten diese Änderungen innerhalb von weniger als einer Minute, bis die jeweiligen Aufrufe erfolgreich waren. [6]

Das ist noch keine autonome Kompromittierung beliebiger Systeme. Aber es demonstriert, wie technische Routinearbeit, Fehlersuche und Anpassungen zunehmend ohne unmittelbaren menschlichen Eingriff stattfinden können.

Je zuverlässiger solche Abläufe funktionieren, desto größer wird das Potenzial, komplexere Angriffsketten zu automatisieren. Und damit könnte sich auch deren wirtschaftlicher Preis verändern.

4. Der Angreifer mit dem Rucksack und unsere Legacy-Systeme

In meinem früheren Blogartikel „Der Angreifer mit dem Rucksack vor der Haustür“ habe ich mich bereits mit der Frage beschäftigt, wie künstliche Intelligenz die technischen Fähigkeiten einzelner Angreifer verändern könnte.

Der Gedanke dahinter war, dass ein Angreifer künftig nicht mehr für jede Technologie, die er untersuchen möchte, selbst ein ausgewiesener Spezialist sein muss. KI könnte ihm helfen, auch unbekannte, proprietäre oder historisch gewachsene Systeme zu analysieren, die bisher aufgrund ihrer Komplexität oder ihres geringen Verbreitungsgrades als wirtschaftlich uninteressant galten.

Mit der neuen Perspektive auf Tokenverbrauch und Angriffskosten bekommt diese Überlegung eine zusätzliche Dimension. Was früher zu aufwendig war, könnte durch KI plötzlich wirtschaftlich attraktiv werden.

Früher waren bestimmte technische Umgebungen für viele Angreifer schlicht zu aufwendig. Nicht unbedingt, weil sie sicher waren, sondern weil ihre Untersuchung besonderes Wissen erforderte.

Wer eine proprietäre Steuerungssoftware, eine ältere industrielle Anwendung oder eine ungewöhnliche Managementschnittstelle untersuchen wollte, musste zunächst verstehen, wie diese Technologie überhaupt funktioniert.

Man musste Dokumentationen finden, Kommunikationsprotokolle analysieren und technische Besonderheiten nachvollziehen. Das konnte erheblichen Aufwand verursachen. Und Aufwand kostet Geld.

Ein Angreifer, der seine Ressourcen wirtschaftlich einsetzen möchte, wird sich deshalb nicht zwangsläufig mit jeder ungewöhnlichen Anwendung beschäftigen. Er konzentriert sich möglicherweise auf Technologien, für die bereits geeignete Werkzeuge, bekannte Schwachstellen und ausreichend Informationen existieren.

KI könnte diese Kalkulation verändern.

Ein entsprechend ausgestatteter Agent kann einen Angreifer bei der Untersuchung unbekannter Technologien unterstützen. Er kann technische Dokumentationen analysieren, bekannte Komponenten identifizieren und mögliche Zusammenhänge zwischen verschiedenen Systemen erkennen.

Er kann bei der Erstellung angepasster Prüfwerkzeuge helfen und Hinweise auf bekannte Schwachstellen verwandter Technologien zusammenführen. Der Angreifer muss dadurch nicht sämtliche Vorarbeiten selbst durchführen.

Das bedeutet ausdrücklich nicht, dass KI plötzlich jede proprietäre Anwendung kompromittieren kann. Ein Sprachmodell beseitigt keine physische Netzwerkisolation und überwindet nicht automatisch technische Schutzmechanismen.

Aber die Kosten für das notwendige technische Verständnis könnten sinken.

Und genau das ist der entscheidende Punkt.

Legacy-Systeme waren nicht erst gestern Legacy-Systeme

Über Legacy-Systeme sprechen wir in der Informationssicherheit schon sehr lange.

Wenn wir genauer hinschauen, stellen wir häufig fest, dass die betroffenen Systeme seit Jahren auf Modernisierungslisten stehen. Manche sollten bereits vor fünf Jahren ersetzt werden. Andere besitzen seit Jahren keinen regulären Herstellersupport mehr.

Wieder andere wurden ursprünglich für eine vollkommen andere IT-Architektur entwickelt und später immer weiter angepasst.

Oft gibt es nachvollziehbare Gründe, weshalb sie noch betrieben werden. Eine Migration ist teuer, der Hersteller bietet keinen einfachen Ersatz, die Anwendung ist geschäftskritisch oder der Austausch wäre mit erheblichen betrieblichen Risiken verbunden.

Das ist verständlich. Aber es verändert nichts daran, dass sich die Bedrohungslage weiterentwickelt.

Ein System, dessen Risiko vor zehn Jahren unter bestimmten Bedingungen akzeptiert wurde, kann heute eine vollkommen andere wirtschaftliche Attraktivität für Angreifer besitzen.

Nicht unbedingt, weil das System verändert wurde, sondern weil sich die Fähigkeiten und Kosten der Angreifer verändert haben.

Damit bekommt die jahrelang verschobene Modernisierung plötzlich eine zusätzliche Dimension.

Eine Sicherheitslücke wird nicht dadurch ungefährlicher, dass wir ihre Behebung lange genug aufschieben.

Wenn die Kosten ihrer Ausnutzung sinken, kann sich das Verhältnis zwischen akzeptiertem Risiko und tatsächlicher Bedrohung erheblich verschieben.

Das bislang uninteressante Gerät wird Teil der Angriffskette

Stellen wir uns ein Unternehmen vor, das seit vielen Jahren eine spezielle Anwendung zur Steuerung technischer Anlagen betreibt.

Die Software läuft auf einem älteren Betriebssystem. Der Hersteller liefert nur noch eingeschränkt Updates. Es gibt eine proprietäre Kommunikationsschnittstelle und einige technische Spezialisten, die das System betreuen.

Bisher war diese Anwendung für viele Angreifer möglicherweise kein besonders interessantes Ziel. Die Technologie war wenig bekannt, die Analyse aufwendig und die verfügbaren Angriffswerkzeuge begrenzt.

Ein KI-Agent könnte künftig zumindest Teile dieser Vorarbeit übernehmen. Er könnte öffentlich verfügbare Dokumentationen auswerten, technische Komponenten identifizieren und mögliche Angriffspfade untersuchen.

Vielleicht stellt sich heraus, dass überhaupt keine praktisch ausnutzbare Schwachstelle vorhanden ist.

Vielleicht findet der Agent aber eine alte Fernwartungsschnittstelle, erkennt eine bekannte Softwarekomponente mit einer seit Jahren dokumentierten Sicherheitslücke oder entdeckt einen technischen Service Account mit deutlich zu umfangreichen Berechtigungen.

In diesen Fällen muss die KI keine völlig neue Angriffstechnik entwickeln. Sie muss lediglich dabei helfen, vorhandene Informationen miteinander zu verbinden.

Dadurch könnte aus einer bisher wenig beachteten Spezialanwendung ein wirtschaftlich interessanter Bestandteil einer Angriffskette werden.

OT, IoT und medizinische Geräte

Besonders relevant wird diese Entwicklung überall dort, wo klassische IT mit physischen Prozessen verbunden ist.

In industriellen Umgebungen betrifft das beispielsweise Steuerungssysteme, Produktionsanlagen, Gebäudeautomation und industrielle Netzwerke. Im Gesundheitswesen kommen medizinische Geräte, Laborinfrastruktur, vernetzte Diagnosegeräte und zahlreiche weitere Komponenten der Betriebs- und Medizintechnik hinzu.

Diese Systeme besitzen häufig deutlich längere Lebenszyklen als klassische Arbeitsplatzrechner.

Ein medizinisches Gerät wird nicht automatisch ersetzt, nur weil sein Betriebssystem veraltet ist. Eine industrielle Steuerung kann über viele Jahre unverändert betrieben werden, weil ein Austausch erhebliche Auswirkungen auf den Produktionsprozess hätte.

Das NIST beschreibt diese besonderen Anforderungen in seiner Special Publication 800-82 Revision 3 zur Sicherheit von Operational Technology. Dabei berücksichtigt der Leitfaden ausdrücklich Verfügbarkeit, Zuverlässigkeit und die Sicherheit physischer Prozesse. [7]

Hier müssen wir differenzieren. Nicht jedes alte System ist automatisch unsicher. Und nicht jedes Gerät ohne reguläre Sicherheitsupdates muss unmittelbar abgeschaltet werden.

Aber solche Systeme benötigen eine bewusste Risikobewertung und geeignete kompensierende Maßnahmen. Eine konsequente Netzwerksegmentierung, kontrollierte Fernwartungszugänge, eingeschränkte Berechtigungen und angemessene technische Überwachung können entscheidend sein.

Gerade im Gesundheitswesen müssen wir dabei über klassische IT-Risiken hinausdenken. Ein kompromittiertes medizinisches oder betriebstechnisches System kann unter Umständen Auswirkungen auf die Verfügbarkeit und Sicherheit der Patientenversorgung haben.

Nicht jede Schwachstelle führt unmittelbar zu einer solchen Gefährdung. Aber ihre möglichen Auswirkungen müssen Bestandteil der Bewertung sein.

Das Gerät selbst muss gar nicht das eigentliche Ziel sein

Ein häufiger Denkfehler besteht darin, ein Gerät ausschließlich anhand seiner eigenen Funktion zu bewerten.

Ein vernetzter Kühlschrank erscheint zunächst wenig interessant. Ein altes Gebäudeautomationssystem enthält möglicherweise keine sensiblen personenbezogenen Daten. Und eine spezielle Steuerung besitzt für sich genommen vielleicht keinen besonderen wirtschaftlichen Wert.

Für einen Angreifer kann das trotzdem relevant sein.

Entscheidend ist, welche Verbindungen und Berechtigungen das jeweilige System besitzt. Kann es mit anderen Netzwerksegmenten kommunizieren? Besitzt es gespeicherte Zugangsdaten? Wird es über eine zentrale Managementplattform administriert? Oder kann es als Ausgangspunkt für weitere Untersuchungen dienen?

Ein Gerät muss nicht das endgültige Ziel eines Angriffs sein, um in einer Angriffskette eine Rolle zu spielen.

Der Angreifer mit dem Rucksack könnte künftig über einen Werkzeugkasten verfügen, der ihm erlaubt, auch ungewöhnliche Geräte und Spezialanwendungen systematischer zu untersuchen. Nicht, weil jedes Gerät plötzlich einfach kompromittiert werden kann, sondern weil die wirtschaftliche Hürde seiner Untersuchung sinkt.

5. Wenn Unternehmen die nächsten Angriffe gleich mitfinanzieren

Bis hierhin haben wir darüber gesprochen, wie KI die Kosten eines Angriffs verändern könnte. Aber es gibt noch eine zweite Entwicklung, die ich mindestens genauso interessant finde.

Was passiert eigentlich, wenn der Angreifer die benötigten Ressourcen gar nicht selbst bezahlen muss?

Die Idee ist nicht neu. Seit vielen Jahren werden kompromittierte Systeme für Spam, Botnetze, DDoS-Angriffe und das Schürfen von Kryptowährungen missbraucht.

Mit der zunehmenden Verbreitung künstlicher Intelligenz entsteht allerdings eine weitere Ressource, die sich unmittelbar wirtschaftlich verwerten lässt.

Die KI-Infrastruktur selbst.

Unternehmen investieren inzwischen erhebliche Mittel in Cloud-basierte KI-Dienste, kommerzielle Sprachmodelle, GPU-Infrastruktur und automatisierte Agentensysteme.

Dafür werden technische Identitäten eingerichtet, API-Schlüssel gespeichert und Zugriffsrechte vergeben. Ein Angreifer, der diese Zugänge kompromittiert, erhält möglicherweise nicht nur Zugriff auf Unternehmensdaten.

Er kann unter Umständen auch bezahlte KI-Rechenleistung verwenden und diese für eigene Zwecke nutzen oder an andere weiterverkaufen.

LLMJacking ist bereits ein reales Geschäftsmodell

Am 2. November 2026 veröffentlichten Google Threat Intelligence Group und Mandiant eine Untersuchung über sogenannte LLMJacking-Angriffe.

Dabei analysierten die Forscher mehrere reale Vorfälle aus dem Jahr 2026, bei denen Angreifer Zugriff auf KI-Dienste von Unternehmen erlangten.

In einzelnen Fällen verursachte die missbräuchliche Nutzung Kosten von mehr als 100.000 US-Dollar innerhalb eines Tages. Bei einigen betroffenen Organisationen summierten sich die Kosten vor dem Entzug der Zugriffe auf bis zu eine Million US-Dollar. [8]

Besonders interessant ist, wie professionell sich dieses Geschäftsmodell bereits entwickelt.

Google und Mandiant beobachteten eine zunehmende Arbeitsteilung zwischen denjenigen, die zunächst Zugangsdaten kompromittieren, und Betreibern sogenannter LLM Mixers.

Diese Dienste bündeln unerlaubt erlangte Modellzugänge und verkaufen sie über eigene Schnittstellen weiter.

Das Geschäftsmodell ist ausgesprochen simpel.

Man verkauft Rechenleistung, die man selbst nicht bezahlt.

In einem dokumentierten Fall wurden innerhalb von weniger als acht Stunden mehr als 500.000 Modell-API-Aufrufe ausgeführt. Ein beobachteter Token-Routing-Dienst leitete dabei nahezu eine Million US-Dollar an Tokenkosten an die betroffene Organisation weiter. [8]

Damit wird aus einem kompromittierten API-Schlüssel eine unmittelbar wirtschaftlich verwertbare Ressource, die selbstverständlich auch für weitere Cyberoperationen eingesetzt werden kann.

Für wen ist der Angriff eigentlich teuer?

Hier wird die Unterscheidung zwischen Ressourcenverbrauch und Angreiferkosten besonders wichtig.

Stellen wir uns vor, ein Angreifer verwendet gestohlene KI-Zugänge und verursacht damit 50.000 US-Dollar an Modellkosten.

Aus technischer Sicht wurden Ressourcen im entsprechenden Wert verbraucht. Aus Sicht des betroffenen Unternehmens entsteht möglicherweise ein erheblicher finanzieller Schaden. Aber der Angreifer selbst hat diese 50.000 Dollar nicht bezahlt.

Seine unmittelbaren Ausgaben können deutlich geringer sein. Vielleicht musste er lediglich die ursprünglichen Zugangsdaten beschaffen, geeignete Infrastruktur bereitstellen und den Missbrauch automatisieren.

Das ist für die wirtschaftliche Bewertung eines Angriffs ein erheblicher Unterschied.

Denn wenn wir künftig den Aufwand einer erfolgreichen Kompromittierung messen wollen, müssen wir zwei Fragen getrennt beantworten.

Wie viele Ressourcen waren tatsächlich notwendig? Und wie viel davon musste der Angreifer selbst finanzieren?

Solange ein Angreifer sämtliche Infrastruktur selbst bezahlt, können diese Größen relativ eng zusammenhängen. Sobald gestohlene Rechenleistung ins Spiel kommt, können sie weit auseinanderliegen.

Damit entsteht sogar ein zusätzlicher wirtschaftlicher Anreiz, zunächst Unternehmen mit wertvollen KI-Ressourcen zu kompromittieren. Nicht unbedingt wegen ihrer Daten, sondern weil ihre Infrastruktur weitere Angriffe finanzieren könnte.

Wenn ein gestohlener Schlüssel weitere Ressourcen erschließt

Microsoft veröffentlichte am 5. November 2026 eine weitere Untersuchung zum Einsatz agentischer KI-Werkzeuge bei der Suche nach veröffentlichten Zugangsdaten.

Angreifer verwendeten entsprechende Systeme, um öffentliche GitHub-Repositories nach Secrets, Cloud-Zugangsdaten und API-Schlüsseln zu durchsuchen.

In einem dokumentierten Fall vergingen lediglich fünf Minuten zwischen der Suche nach Zugangsdaten und der Exfiltration von Informationen aus einem Azure Key Vault. [6]

Das ist eine bemerkenswerte Beschleunigung einer grundsätzlich bekannten Angriffstechnik.

Das versehentliche Veröffentlichen sensibler Zugangsdaten war bereits vor Jahren ein Sicherheitsproblem. Neu ist die Geschwindigkeit, mit der solche Informationen gefunden, bewertet und anschließend verwendet werden können.

Ein Angreifer muss nicht mehr zwangsläufig zahlreiche Repositories manuell durchsuchen und gefundene Zugangsdaten einzeln untersuchen. Agentische Systeme können Teile dieser Arbeit übernehmen.

Die Sicherheitsprobleme sind alt. Die wirtschaftlichen und zeitlichen Rahmenbedingungen ihrer Ausnutzung verändern sich.

Ein möglicher neuer Kreislauf

Stellen wir uns folgendes hypothetisches Szenario vor.

Ein Angreifer kompromittiert zunächst ein mittelständisches Unternehmen. Dort findet er gültige API-Schlüssel für mehrere KI-Dienste und erhält Zugriff auf bestimmte Cloud-Ressourcen.

Diese Ressourcen verwendet er anschließend, um weitere automatisierte Untersuchungen durchzuführen. Bei einem neuen Ziel entdeckt er zusätzliche Zugangsdaten und möglicherweise weitere KI-Ressourcen.

Damit kann er seine verfügbaren Kapazitäten erweitern.

Es entsteht ein mögliches Angriffsszenario, bei dem jede zusätzliche erfolgreiche Kompromittierung nicht nur weitere Informationen liefert, sondern auch zusätzliche technische Ressourcen bereitstellt.

Ob solche Angriffsketten wirtschaftlich und technisch dauerhaft selbstverstärkend funktionieren können, ist noch nicht hinreichend empirisch belegt. Aber die einzelnen Voraussetzungen sind bereits dokumentiert. KI-Zugänge werden gestohlen, Cloud-Ressourcen missbraucht und KI-Agenten können offensive Arbeitsschritte automatisieren.

Die mögliche Verbindung dieser Entwicklungen sollten wir deshalb ernst nehmen.

Vor allem verändert sie die Frage, weshalb ein Unternehmen für Angreifer interessant ist.

Ein Unternehmen muss nicht zwangsläufig besonders wertvolle Daten besitzen. Vielleicht ist seine Rechenleistung interessant, vielleicht seine technischen Berechtigungen oder vielleicht die bestehenden Verbindungen zu anderen Unternehmen.

6. Der Angriff kommt vom Geschäftspartner und bringt dessen Infrastruktur gleich mit

Vor ungefähr zwanzig Jahren habe ich in einem größeren Think Tank bereits über eine mögliche Entwicklung diskutiert.

Warum sollten Angreifer langfristig immer versuchen, ihre eigentlichen Ziele direkt zu kompromittieren? Warum nicht zunächst andere Unternehmen angreifen, die bereits technische Beziehungen zum eigentlichen Ziel besitzen?

Diese Überlegung war natürlich schon damals nicht vollständig neu. Angriffe über externe Dienstleister, kompromittierte Partner und bestehende Vertrauensbeziehungen waren bekannt.

Aber ich fand einen weiterführenden Gedanken besonders interessant.

Was wäre, wenn Unternehmen nicht nur als Zugang zu anderen Unternehmen dienen würden, sondern gleichzeitig die technische Infrastruktur für weitere Angriffe bereitstellen?

Damals ging es um Server, Netzwerkverbindungen, Rechenkapazitäten und vorhandene Berechtigungen. Heute kommt die KI-Infrastruktur hinzu.

Und damit könnte eine bekannte Angriffstechnik eine zusätzliche wirtschaftliche Dimension bekommen.

Ein Geschäftspartner besitzt häufig mehr als nur einen Netzwerkzugang

Unternehmen arbeiten auf unterschiedlichsten Ebenen miteinander zusammen.

Ein externer IT-Dienstleister benötigt administrative Zugriffe, ein Softwareanbieter betreibt Schnittstellen zur Unternehmensinfrastruktur, ein Logistikpartner tauscht automatisiert Informationen aus und ein Hersteller medizinischer Geräte verfügt unter Umständen über Fernwartungszugänge.

In vielen Fällen ist das notwendig und sinnvoll. Aber jede dieser Beziehungen schafft potenzielle Abhängigkeiten.

Das MITRE-ATT&CK-Framework beschreibt den Missbrauch solcher bestehenden Vertrauensbeziehungen unter T1199 als Trusted Relationship. [9]

Davon zu unterscheiden sind klassische Supply-Chain-Angriffe, etwa die Manipulation von Softwarekomponenten oder Verteilmechanismen. Diese werden bei MITRE unter T1195 beschrieben. [10]

Für das betroffene Unternehmen können beide Vorgehensweisen erhebliche Auswirkungen haben. Der Angreifer gelangt über eine externe Beziehung in die eigene Infrastruktur, auch wenn die technischen Ursachen unterschiedlich sind.

Eine KI-gestützte Partner-Angriffskette

Stellen wir uns vor, ein Angreifer kompromittiert zunächst einen IT-Dienstleister.

Dort erhält er Zugriff auf bestimmte technische Identitäten, interne Dokumentationen und Cloud-Ressourcen. Er stellt fest, dass der Dienstleister zahlreiche Unternehmen betreut und über bestehende Anwendungen auf deren Umgebungen zugreifen kann.

Anschließend verwendet er die kompromittierte Infrastruktur, um diese Beziehungen genauer zu untersuchen.

Ein KI-Agent könnte vorhandene Informationen über Kunden, Schnittstellen und Berechtigungen zusammenführen. Vielleicht findet er bereits gültige technische Zugänge, identifiziert Konfigurationen, die zusätzliche Rechte ermöglichen, oder entdeckt eine Anwendung des Dienstleisters, die in zahlreichen Kundenumgebungen mit umfangreichen Berechtigungen installiert ist.

Die notwendige KI-Rechenleistung könnte der Angreifer unter Umständen ebenfalls aus der kompromittierten Umgebung beziehen.

Damit entsteht eine interessante Kombination. Der erste Angriff liefert nicht nur einen Zugang, sondern möglicherweise auch Informationen, Ressourcen und Verbindungen für weitere Angriffe.

Bestandteil Möglicher Nutzen für den Angreifer
Kompromittierte Unternehmensidentitäten Zugriff auf zusätzliche Systeme und Cloud-Dienste
Bestehende Partnerbeziehungen Bereits eingerichtete technische Zugriffswege
Interne Dokumentationen Weniger Aufwand für Reconnaissance
KI-API-Schlüssel Zusätzliche Modellkapazitäten auf fremde Rechnung
Cloud-Ressourcen Infrastruktur für weitere Operationen
Kunden- und Dienstleisterinformationen Hinweise auf zusätzliche Ziele

Für diese Verbindung würde ich den Begriff AI-enabled Trusted Partner Attack Chain verwenden.

Nicht als neue etablierte Angriffstechnik, sondern als Beschreibung eines möglichen Bedrohungsmodells. Die einzelnen Bestandteile sind bereits bekannt. Ihre Kombination könnte allerdings eine neue wirtschaftliche Qualität erreichen.

Der kleine Dienstleister kann wertvoller sein als sein großer Kunde

Das erste Angriffsziel muss dabei nicht unbedingt das wirtschaftlich wertvollste Unternehmen sein.

Ein Angreifer könnte zunächst eine kleinere Organisation kompromittieren, weil sie einfacher erreichbar ist. Diese Organisation kann anschließend als Ausgangspunkt für Angriffe auf wesentlich größere Unternehmen dienen.

Ein kleiner IT-Dienstleister, der zahlreiche Kunden betreut, könnte dadurch ein besonders attraktives Ziel darstellen. Nicht unbedingt wegen seiner eigenen Daten, sondern wegen der technischen Zugänge und Informationen, die er über seine Kunden besitzt.

Damit verändert sich die wirtschaftliche Attraktivität eines Unternehmens. Sie hängt möglicherweise nicht mehr ausschließlich von seinen eigenen Ressourcen ab, sondern auch von seiner Position innerhalb eines Netzwerks technischer und organisatorischer Beziehungen.

Der von Microsoft dokumentierte ConnectWise-Fall zeigt bereits, wie relevant kompromittierte Anwendungsidentitäten und bestehende Dienstleisterbeziehungen werden können. [4]

Auch der Verizon Data Breach Investigations Report 2026 unterstreicht die Bedeutung externer Abhängigkeiten. Dritte waren bei 48 Prozent der untersuchten Datenpannen beteiligt. Gegenüber dem vorherigen Bericht entspricht dies einer relativen Zunahme um 60 Prozent. [11]

Diese Zahlen belegen keine ursächliche Wirkung von KI. Sie zeigen vielmehr, wie bedeutend externe Abhängigkeiten schon unabhängig davon sind.

Die zusätzliche Möglichkeit, KI-Ressourcen aus kompromittierten Umgebungen einzusetzen, erweitert dieses Szenario um einen weiteren wirtschaftlichen Faktor.

7. Wenn der Angreifer unsere eigene KI gegen uns verwendet

Bislang haben wir KI als Werkzeug des Angreifers, als gestohlene Ressource und als Bestandteil technischer Angriffsketten betrachtet.

Aber es gibt noch eine weitere Entwicklung, die ich mindestens genauso interessant finde.

Was passiert eigentlich, wenn ein Angreifer gar keine eigene KI-Infrastruktur benötigt, sondern versucht, die KI-Systeme zu verwenden, die wir längst in unseren Unternehmen einsetzen?

Viele Unternehmen betreiben schließlich keine eigenen großen Sprachmodelle. Sie verwenden kommerzielle Dienste großer Anbieter, integrieren diese über APIs und erweitern sie um interne Datenquellen, Schnittstellen und Werkzeuge.

Das ist wirtschaftlich nachvollziehbar. Warum sollte jedes Unternehmen eigene Modelle entwickeln und betreiben, wenn leistungsfähige Systeme bereits als Dienstleistung verfügbar sind?

Problematisch wird es allerdings dann, wenn diese Modelle nicht mehr ausschließlich Fragen beantworten oder Dokumente zusammenfassen, sondern zunehmend eigenständig Aufgaben erledigen sollen.

Ein Unternehmensagent kann möglicherweise E-Mails lesen, interne Dokumentationen durchsuchen, Datenbanken abfragen, Tickets bearbeiten oder Aktionen in Cloud-Diensten ausführen.

Damit erhält er nicht nur Informationen, sondern technische Handlungsmöglichkeiten. Und diese Fähigkeiten könnten für Angreifer ausgesprochen interessant werden.

Die kommerziellen Modelle werden selbst zum Angriffsziel

Große KI-Anbieter investieren erheblich in die Sicherheit ihrer Modelle.

Sie versuchen zu verhindern, dass Nutzer bestimmte schädliche Inhalte erzeugen oder die Modelle für missbräuchliche Zwecke verwenden. Dazu kommen Sicherheitstraining, zusätzliche Klassifikatoren, Moderationssysteme und Richtlinien für die Verwendung der Dienste zum Einsatz.

Diese Maßnahmen sind notwendig. Aber sie sind keine unüberwindbare technische Grenze.

Im Februar 2026 veröffentlichte das britische AI Security Institute eine Untersuchung zu einer Methode namens Boundary Point Jailbreaking.

Die Forscher demonstrierten, dass sich bestimmte Schutzmechanismen kommerzieller KI-Systeme automatisiert angreifen lassen.

Besonders interessant ist dabei, dass kein Zugriff auf die internen Modellgewichte erforderlich war. Die Methode funktionierte im Black-Box-Szenario. Der Angreifer benötigte lediglich Rückmeldungen darüber, ob eine Anfrage vom Sicherheitssystem blockiert wurde.

Damit gelang es den Forschern unter kontrollierten Bedingungen, unter anderem Anthropic Constitutional Classifiers sowie den Eingabeklassifikator von GPT-5 anzugreifen. [12]

Das bedeutet nicht, dass sämtliche Sicherheitsmechanismen eines kommerziellen Modells vollständig deaktiviert werden können. Und es bedeutet auch nicht, dass ein Angreifer die dahinterliegenden Modelle dauerhaft verändern kann.

Aber es zeigt, dass ein kommerzieller KI-Dienst bereits über seine regulären Schnittstellen zum Gegenstand systematischer Angriffe auf seine Schutzmechanismen werden kann.

Aus Jailbreaking könnte ein spezialisiertes Werkzeuggeschäft werden

Wenn wir diese Entwicklung wirtschaftlich betrachten, entsteht eine interessante Parallele zur klassischen Cyberkriminalität.

Ein Angreifer könnte versuchen, wiederverwendbare Verfahren zur Umgehung bestimmter Modellbeschränkungen zu entwickeln. Er könnte diese Verfahren automatisieren, gegen verschiedene Modellversionen testen und an bestimmte Anwendungen anpassen.

Damit wären solche Verfahren nicht mehr ausschließlich das Ergebnis einzelner, aufwendig entwickelter Prompts. Sie könnten Bestandteil spezialisierter Werkzeugketten werden.

Eine im Februar 2026 veröffentlichte Studie in Nature Communications liefert dafür einen wichtigen Forschungsbeleg.

Die Forscher Thilo Hagendorff, Erik Derner und Nuria Oliver untersuchten, wie leistungsfähige Reasoning-Modelle selbstständig Jailbreak-Angriffe gegen andere Sprachmodelle entwickeln können. Dazu ließen sie vier angreifende Modelle gegen neun unterschiedliche Zielmodelle antreten.

Die Ergebnisse zeigten, dass automatisierte Verfahren unter den gewählten Testbedingungen die Sicherheitsmechanismen verschiedener verbreiteter Modelle umgehen konnten. [13]

Damit wird eine interessante Entwicklung sichtbar.

KI kann nicht nur Ziel eines Angriffs sein. Sie kann auch als Werkzeug zur Entwicklung von Angriffen auf andere KI-Systeme verwendet werden.

Allerdings müssen wir die Ergebnisse sauber einordnen. Die beobachteten Erfolge hängen von den verwendeten Modellen, Angriffsszenarien und Testbedingungen ab.

Nicht jedes erfolgreiche Verfahren lässt sich auf andere Modellfamilien übertragen.

Eine Forschungsarbeit von David Hofer, Edoardo Debenedetti und Florian Tramèr aus dem Juni 2026 zeigt ausdrücklich, dass automatisierte Prompt-Injection-Angriffe modellabhängig sind und die Übertragung von kleineren Open-Source-Modellen auf besonders leistungsfähige kommerzielle Modelle erhebliche Grenzen besitzen kann. [14]

Die Vorstellung eines universellen Werkzeugs, mit dem sich jedes kommerzielle Sprachmodell zuverlässig entsperren lässt, wäre deshalb nicht durch die Forschung gedeckt.

Plausibler erscheint mir ein Markt spezialisierter Angriffsmethoden, die kontinuierlich an neue Modelle, Sicherheitsmechanismen und Agentenumgebungen angepasst werden.

Und wie bei anderen Angriffswerkzeugen könnten sich die Entwicklungskosten auf viele spätere Anwendungen verteilen.

Der gefährlichere Angriff braucht möglicherweise gar keinen Jailbreak

Hier müssen wir einen wichtigen technischen Unterschied machen.

Jailbreaking und Prompt Injection werden häufig miteinander vermischt. Dabei verfolgen sie unterschiedliche Ziele.

Beim Jailbreaking versucht ein Angreifer, die Verhaltensbeschränkungen eines Modells zu umgehen.

Bei einer Prompt Injection versucht er dagegen, das Verhalten einer KI-Anwendung über Inhalte zu beeinflussen, die der Agent eigentlich nur lesen oder auswerten sollte.

Das kann eine E-Mail sein, ein Dokument, eine Webseite, ein Eintrag in einer Wissensdatenbank oder die Antwort eines angebundenen Werkzeugs.

Der Agent verarbeitet diese Informationen im Rahmen seiner eigentlichen Aufgabe. Wenn es einem Angreifer gelingt, darin enthaltene Anweisungen als handlungsrelevant erscheinen zu lassen, kann das Verhalten des Agenten beeinflusst werden.

Und genau hier entsteht ein zusätzliches Risiko.

Denn der Agent besitzt möglicherweise bereits Zugriff auf interne Daten, technische Systeme und Schnittstellen. Der Angreifer muss diese Berechtigungen nicht selbst erhalten.

Er muss unter Umständen lediglich erreichen, dass der Agent sie in einer Weise verwendet, die vom eigentlichen Nutzer nicht vorgesehen war.

Die Sicherheitsmechanismen des kommerziellen Basismodells müssen dafür nicht dauerhaft ausgeschaltet werden. Manchmal genügt es, die Anwendung an einer anderen Stelle zu manipulieren.

EchoLeak: Wenn eine E-Mail zum Angriff auf Copilot wird

Wie realistisch das ist, zeigte bereits 2025 die Schwachstelle EchoLeak.

Unter CVE-2025-32711 wurde eine kritische Prompt-Injection-Schwachstelle in Microsoft 365 Copilot dokumentiert.

Die Sicherheitsforscher demonstrierten, dass unter bestimmten Bedingungen eine manipulierte E-Mail ausreichen konnte, um einen unbeabsichtigten Informationsabfluss über Copilot auszulösen.

Besonders bemerkenswert war, dass dafür keine direkte Interaktion des Benutzers mit der präparierten E-Mail erforderlich war.

Entscheidend war die spätere Verarbeitung durch den Assistenten.

Die Angriffskette nutzte mehrere Besonderheiten im Umgang mit fremden Inhalten, Verweisen und erlaubten Kommunikationswegen aus.

Microsoft behob die Schwachstelle. Ein Nachweis einer breiten kriminellen Ausnutzung wurde nicht veröffentlicht. [15]

Für mich ist EchoLeak ein ausgesprochen gutes Beispiel.

Der Angreifer musste Copilot nicht als gesamten Dienst kompromittieren. Er benötigte keinen Zugriff auf die internen Modellgewichte und musste die Sicherheitsmechanismen des kommerziellen Sprachmodells nicht dauerhaft deaktivieren.

Er nutzte stattdessen den Umstand aus, dass ein KI-Assistent fremde Inhalte verarbeitet und gleichzeitig auf Unternehmensinformationen zugreifen kann.

Damit wurde aus einer gewöhnlichen E-Mail eine potenzielle Angriffsfläche.

Wir müssen künftig also nicht nur kontrollieren, wer auf unsere Systeme zugreifen darf, sondern auch verhindern, dass berechtigte KI-Agenten durch fremde Inhalte dazu gebracht werden, unerwünschte Aktionen auszuführen.

Die eigentliche Gefahr liegt in den Berechtigungen hinter dem Modell

Ein Sprachmodell kann unerwünschte Antworten erzeugen. Aber daraus entsteht nicht automatisch eine erfolgreiche Kompromittierung einer Unternehmensinfrastruktur.

Relevant wird es vor allem dann, wenn der Agent seine Antworten mit tatsächlichen technischen Aktionen verbinden kann.

Wenn er Datenbanken abfragen, E-Mails versenden, Dateien verändern, APIs aufrufen oder administrative Berechtigungen auf geschäftskritischen Systemen verwenden darf.

Dann kann die Manipulation seines Verhaltens erheblich größere Auswirkungen haben.

OWASP beschreibt diesen Risikobereich unter dem Begriff Excessive Agency. Gemeint sind KI-Systeme, deren Funktionen, Berechtigungen oder autonomen Handlungsmöglichkeiten über das für ihre Aufgaben notwendige Maß hinausgehen. [16]

Das Problem ist im Grunde erstaunlich klassisch.

Ein überprivilegierter Service Account war bereits vor zwanzig Jahren ein Sicherheitsrisiko. Ein KI-Agent mit überprivilegierten technischen Identitäten ist ebenfalls ein Sicherheitsrisiko.

Nur kann der Agent zusätzlich auf Inhalte reagieren, die ein Angreifer gezielt manipuliert hat.

Damit erhält eine bekannte Schwachstelle im Berechtigungsmodell eine zusätzliche Angriffsmöglichkeit.

Ein System Prompt ist keine Firewall

Die größte Gefahr sehe ich deshalb nicht ausschließlich darin, dass ein Angreifer die Sicherheitsmechanismen eines kommerziellen Modells umgehen könnte.

Gefährlicher wird es möglicherweise dann, wenn Unternehmen ihren Agenten umfangreiche Berechtigungen geben und anschließend darauf vertrauen, dass das Modell schon die richtigen Entscheidungen treffen wird.

Genau dieses Vertrauen sollten wir vermeiden.

Ein System Prompt ist keine zuverlässige Zugriffskontrolle. Eine textuelle Anweisung, bestimmte Aktionen nicht auszuführen, ersetzt kein technisch erzwungenes Berechtigungsmodell.

Und ein kommerzieller Anbieter kann nicht garantieren, dass seine eingebauten Schutzmechanismen jede denkbare Manipulation erkennen.

OWASP weist deshalb darauf hin, dass Sicherheitsentscheidungen nicht allein über die Anweisungen eines Sprachmodells durchgesetzt werden sollten. [17]

Solche Kontrollen müssen möglichst unabhängig vom Modell funktionieren.

Wenn ein Agent technisch überhaupt nicht berechtigt ist, bestimmte Informationen abzurufen oder eine kritische Aktion auszuführen, kann auch eine erfolgreiche Manipulation seiner Antworten diese Berechtigung nicht automatisch erzeugen.

Der Agent könnte eine unerwünschte Aktion vorschlagen. Aber die technische Ausführung wird durch eine unabhängige Kontrolle verhindert.

Genau so sollte eine belastbare Sicherheitsarchitektur funktionieren.

Auch die Manipulierbarkeit eines Agenten könnte messbar werden

Damit bekommt unsere ursprüngliche Frage nach den Kosten eines Cyberangriffs noch eine zusätzliche Dimension.

Wenn wir den Aufwand eines automatisierten Angriffs messen können, sollten wir auch versuchen, die Erfolgswahrscheinlichkeit von Angriffen auf unsere eigenen Agenten zu bestimmen.

Beispielsweise anhand kontrollierter Red-Team-Tests mit definierten Aufgaben, Datenquellen und Berechtigungen.

Wie häufig gelingt es einem Angreifer, den Agenten durch fremde Inhalte zu einer unerlaubten Handlung zu bewegen? Wie viele Versuche sind notwendig? Wie hoch ist der Tokenverbrauch? Und welche zusätzlichen Schutzmaßnahmen reduzieren die Erfolgswahrscheinlichkeit?

Eine solche Bewertung müsste allerdings sehr sorgfältig durchgeführt werden.

Denn ein Agent, der überhaupt keine sinnvollen Aufgaben mehr erledigen kann, ist zwar möglicherweise gegen bestimmte Manipulationen widerstandsfähig, aber für das Unternehmen auch nicht besonders nützlich.

Wir müssten daher zwei Größen gleichzeitig messen.

Wie zuverlässig erfüllt der Agent seine legitimen Aufgaben? Und wie zuverlässig verhindert er unerlaubte Aktionen?

Beide Eigenschaften gehören zusammen.

Die Forschung zu automatisierten Prompt-Injection-Angriffen zeigt zudem, dass die Ergebnisse stark vom konkreten Modell, den verfügbaren Werkzeugen und den Testbedingungen abhängen. [14]

Auch eine solche Messung wäre deshalb keine allgemeingültige Aussage über die Sicherheit eines kommerziellen Sprachmodells. Sie wäre eine Bewertung eines konkreten Agentensystems innerhalb einer bestimmten Unternehmensumgebung.

Aber genau das könnte für die Praxis interessant sein.

Wir würden nicht ausschließlich fragen, ob ein Agent grundsätzlich sicher ist. Wir würden untersuchen, welche unerlaubten Handlungen unter definierten Bedingungen tatsächlich möglich sind und wie sich diese Möglichkeiten durch technische Kontrollen reduzieren lassen.

Und wieder geht es um die Basics

Die Konsequenz ist aus meiner Sicht relativ eindeutig.

Wir müssen KI-Agenten als eigenständige technische Identitäten mit konkreten Berechtigungen und nachvollziehbaren Handlungsmöglichkeiten behandeln.

Ein Agent sollte nicht allein deshalb umfangreiche Zugriffsrechte erhalten, weil er andernfalls bestimmte Aufgaben weniger komfortabel erledigen kann.

Gerade kritische Aktionen benötigen unabhängige technische Kontrollen.

Der im September 2026 veröffentlichte OWASP Agent Control Standard verfolgt genau diese Richtung. Er beschreibt Anforderungen an Transparenz, Nachvollziehbarkeit und die Durchsetzung von Kontrollmechanismen zur Laufzeit. [18]

Allerdings sollten wir daraus nicht die falsche Schlussfolgerung ziehen, dass sich das Problem mit einem weiteren KI-Sicherheitsprodukt vollständig lösen lässt.

Die Grundlage bleibt eine sauber konzipierte Sicherheitsarchitektur.

Denn wenn wir einem Agenten zu viele Berechtigungen geben, entstehen Risiken, die auch ein sehr gut trainiertes Sprachmodell nicht vollständig kompensieren kann.

Und wenn wir sensible Informationen unkontrolliert über verschiedene Systeme verfügbar machen, können wir uns nicht darauf verlassen, dass die Sicherheitsmechanismen des Modellanbieters sämtliche Formen der Manipulation verhindern.

Die KI macht unsere bekannten Sicherheitsprinzipien nicht überflüssig. Sie vergrößert vielmehr die Konsequenzen, wenn wir sie nicht konsequent umsetzen.

Vielleicht besteht die nächste große Herausforderung deshalb nicht allein darin, dass Angreifer immer leistungsfähigere KI-Systeme besitzen.

Vielleicht müssen wir vor allem verhindern, dass sie unsere eigenen, bereits bezahlten und mit umfangreichen Berechtigungen ausgestatteten KI-Systeme gegen uns verwenden.

8. Die Basics sind kein Projekt, sondern eine Daueraufgabe

Damit schließt sich der Kreis, der sich durch die gesamte Entwicklung zieht.

Ob klassische Schwachstellen, gestohlene API-Schlüssel, kompromittierte Dienstleister oder manipulierte KI-Agenten – die Angriffe unterscheiden sich technisch erheblich. Aber viele ihrer entscheidenden Voraussetzungen kennen wir schon lange.

Zu weitreichende Berechtigungen, unzureichend kontrollierte Schnittstellen, fehlende Segmentierung, veraltete Systeme und Prozesse, die nicht konsequent umgesetzt werden.

Genau deshalb sind die Basics nicht der langweilige Teil dieser Geschichte. Sie sind ihr eigentlicher Dreh- und Angelpunkt.

Wir haben häufig kein Erkenntnisproblem, sondern ein Umsetzungsproblem

Wir diskutieren gerade intensiv darüber, wie wir uns mit künstlicher Intelligenz gegen KI-gestützte Angriffe verteidigen können.

Wir sprechen über autonome Security Agents, KI-gestütztes Threat Hunting, automatisierte Incident Response und neue Werkzeuge zur Schwachstellenanalyse.

Das sind interessante Entwicklungen. Aber wir sollten eine ziemlich einfache Frage nicht vergessen.

Was bringt uns die nächste Generation intelligenter Sicherheitswerkzeuge, wenn wir die bekannten Sicherheitsprobleme unserer Infrastruktur weiterhin nicht lösen?

Ein KI-gestützter Schwachstellenagent kann eine kritische Sicherheitslücke innerhalb weniger Sekunden identifizieren. Wenn anschließend niemand für ihre Behebung verantwortlich ist, bleibt sie trotzdem bestehen.

Ein modernes SIEM kann verdächtige Aktivitäten erkennen und mögliche Angriffsketten rekonstruieren. Wenn wichtige Systeme keine verwertbaren Logs liefern, kann auch das beste Modell diese Informationen nicht herbeizaubern.

Ein intelligenter Incident-Response-Agent kann mögliche Gegenmaßnahmen vorschlagen. Wenn anschließend unklar ist, wer die notwendigen Entscheidungen treffen darf, bleibt die Reaktion trotzdem langsam.

Und ein Security Copilot kann eine beeindruckende Liste mit Handlungsempfehlungen erstellen. Wenn sich niemand um deren Umsetzung kümmert, entsteht daraus noch keine wirksame Sicherheitsarchitektur.

Das Problem liegt deshalb häufig nicht in fehlender Technologie. Es liegt in der Umsetzung.

Patchmanagement ist keine Innovation, sondern Instandhaltung

Das NIST bezeichnet Patchmanagement in seiner Special Publication 800-40 Revision 4 ausdrücklich als Bestandteil der präventiven Instandhaltung von IT-Systemen. [19]

Diese Formulierung gefällt mir besonders gut.

Niemand würde ernsthaft behaupten, dass die regelmäßige Wartung einer Produktionsanlage eine revolutionäre Innovation sei. Sie gehört schlicht zum ordnungsgemäßen Betrieb.

Warum behandeln wir unsere IT-Systeme manchmal anders?

Betriebssysteme benötigen Updates, Anwendungen müssen aktualisiert werden und nicht mehr unterstützte Produkte müssen ersetzt oder durch geeignete Maßnahmen abgesichert werden.

Technische Berechtigungen müssen regelmäßig überprüft und Sicherheitsprozesse nicht nur dokumentiert, sondern auch tatsächlich umgesetzt werden.

Eigentlich alles Selbstverständlichkeiten.

Trotzdem beschäftigen wir uns seit Jahren mit denselben Problemen.

Ein Server wird nicht ersetzt, weil gerade andere Projekte wichtiger sind. Eine Anwendung bleibt im Betrieb, obwohl der Herstellersupport längst ausgelaufen ist. Ein technischer Zugang erhält immer weitere Berechtigungen, ohne dass die ursprünglichen Anforderungen noch einmal geprüft werden.

Und ein Prozess funktioniert auf dem Papier hervorragend, während im Ernstfall niemand genau weiß, wie er angewendet werden soll.

Das sind keine Probleme, die durch KI entstanden sind. Aber sie können durch KI eine neue wirtschaftliche Bedeutung bekommen.

Die alten Angriffspfade verschwinden nicht von selbst

Der Verizon Data Breach Investigations Report 2026 liefert dafür einen interessanten Hinweis.

Laut Verizon war die Ausnutzung von Softwareschwachstellen bei 31 Prozent der untersuchten Datenpannen der initiale Zugriffsweg. Auch die Beteiligung Dritter nahm im untersuchten Datensatz deutlich zu. [11]

Das sind keine Statistiken über autonome KI-Angriffe und auch kein Beweis dafür, dass KI diese Entwicklungen verursacht hat.

Sie zeigen aber, wie relevant bekannte technische Schwachstellen und externe Abhängigkeiten bereits heute sind.

Wir diskutieren über eine mögliche Zukunft autonomer Angriffssysteme, während die Ausnutzung vorhandener Softwarefehler weiterhin eine zentrale Rolle bei realen Sicherheitsvorfällen spielt.

Wenn KI nun zusätzlich den Aufwand zur Identifikation und Ausnutzung bestimmter Schwachstellen reduziert, entsteht eine unangenehme Kombination.

Die Angriffsoberfläche ist vorhanden. Und die Kosten ihrer Untersuchung könnten sinken.

Unsere technischen Schulden werden nicht von allein kleiner

Es gibt gute Gründe, weshalb bestimmte ältere Systeme nicht kurzfristig ersetzt werden können.

Eine medizinische Anwendung hängt an einer bestimmten Betriebssystemversion, eine industrielle Steuerung besitzt einen Lebenszyklus von zwanzig Jahren und ein geschäftskritisches System kann nur mit erheblichem Aufwand migriert werden.

Das alles ist nachvollziehbar.

Aber es darf nicht bedeuten, dass ein einmal akzeptiertes Sicherheitsrisiko anschließend auf unbestimmte Zeit unverändert bestehen bleibt.

Wenn ein System nicht aktualisiert werden kann, benötigen wir geeignete kompensierende Maßnahmen. Wenn eine Anwendung technisch nicht mehr sicher betrieben werden kann, muss eine nachvollziehbare Entscheidung über ihre Zukunft getroffen werden.

Und wenn eine Modernisierung verschoben wird, sollte das daraus entstehende Risiko transparent und regelmäßig überprüft werden.

Denn die technische Schuld verschwindet dadurch nicht. Sie bleibt Bestandteil unserer Angriffsoberfläche und könnte mit zunehmender Automatisierung wirtschaftlich attraktiver werden.

Was funktionierende Sicherheitsgrundlagen wirtschaftlich bewirken könnten

Wenn wir den Aufwand eines Angreifers künftig stärker quantifizieren können, sollten wir auch untersuchen, wie unsere Sicherheitsmaßnahmen diesen Aufwand verändern.

Ein konsequentes Patchmanagement beseitigt bekannte Angriffswege. Eine wirksame Netzwerksegmentierung erschwert die seitliche Bewegung. Phishingresistente Multifaktor-Authentifizierung reduziert bestimmte Risiken durch gestohlene Zugangsdaten.

Kontrollierte technische Identitäten begrenzen die Auswirkungen einer erfolgreichen Kompromittierung, und eine funktionierende Incident Response kann einen Angriff unterbrechen, bevor sein eigentliches Ziel erreicht wird.

All diese Maßnahmen können die Erfolgsaussichten eines Angreifers verändern.

Sicherheitsmaßnahme Technische Wirkung Möglicher wirtschaftlicher Effekt
Patchmanagement Beseitigung bekannter Schwachstellen Alternative Angriffspfade müssen gefunden werden
Netzwerksegmentierung Begrenzung erreichbarer Systeme Erschwerte seitliche Bewegung
Phishingresistente MFA Schutz vor bestimmten Angriffen mit gestohlenen Zugangsdaten Höherer Aufwand für alternative Zugriffe
Least Privilege Begrenzung technischer Berechtigungen Weniger Möglichkeiten zur Rechteausweitung
Secrets Management Kontrolle und Erneuerung sensibler Zugangsdaten Verringerter Nutzen gestohlener Schlüssel
Monitoring und Detection Frühzeitige Erkennung auffälliger Aktivitäten Höhere Wahrscheinlichkeit einer Unterbrechung
Incident Response Schnelle und koordinierte Gegenmaßnahmen Geringere Erfolgswahrscheinlichkeit
Legacy-Modernisierung Beseitigung historischer Schwachstellen Wegfall günstiger Angriffsmöglichkeiten
Kontrolle externer Zugänge Begrenzung technischer Vertrauensbeziehungen Weniger Möglichkeiten für Partner-Angriffsketten
Agentenberechtigungen Technisch begrenzte Werkzeuge und Aktionen Weniger Möglichkeiten für Agent-Missbrauch

Diese wirtschaftlichen Effekte sind plausible Wirkmechanismen und keine bereits empirisch gemessenen Kostensteigerungen.

Besonders wichtig ist, dass wir die Maßnahmen nicht isoliert betrachten. Ein gutes Patchmanagement hilft nur eingeschränkt, wenn ein Angreifer mit einem kompromittierten Administrationskonto ungehindert auf sämtliche Systeme zugreifen kann.

Eine Netzwerksegmentierung bringt wenig, wenn technische Identitäten über alle Sicherheitszonen hinweg umfangreiche Berechtigungen besitzen.

Und ein modernes Detection-System entfaltet nur begrenzte Wirkung, wenn keine verbindlichen Gegenmaßnahmen folgen.

Cybersecurity entsteht durch das Zusammenspiel technischer und organisatorischer Kontrollen. Genau deshalb sind die Basics keine einmalige Maßnahme, sondern eine Daueraufgabe.

Sicherheit wird nicht durch die Einführung eines Produkts erreicht

Wir sprechen bei Cybersecurity gerne über Projekte.

Ein neues SIEM wird eingeführt, eine Netzwerksegmentierung umgesetzt, ein Vulnerability-Management-Prozess etabliert oder ein Security Framework verabschiedet.

Anschließend gilt das Projekt als abgeschlossen.

Aber die eigentliche Arbeit beginnt häufig erst danach.

Systeme verändern sich, neue Anwendungen werden eingeführt, Berechtigungen werden erweitert, Dienstleister wechseln und technische Schnittstellen entstehen, die ursprünglich niemand vorgesehen hatte.

Eine Sicherheitsarchitektur ist deshalb kein statischer Zustand. Sie muss kontinuierlich überprüft und weiterentwickelt werden.

Das gilt insbesondere für Legacy-Systeme. Ein älteres System kann heute durch eine konsequente Segmentierung ausreichend kontrolliert betrieben werden. Wenn morgen eine neue Verbindung eingerichtet wird, kann sich seine Risikobewertung grundlegend verändern.

Dasselbe gilt für KI-Agenten.

Ein Agent kann bei seiner Einführung nur wenige unkritische Aufgaben besitzen. Wenn später weitere Datenquellen, Werkzeuge und Berechtigungen hinzukommen, kann sich seine Angriffsoberfläche erheblich verändern.

Deshalb reicht es nicht, Risiken einmalig zu erfassen. Wir müssen sicherstellen, dass Veränderungen in der Infrastruktur diese Risiken nicht unbemerkt vergrößern.

Gerade hier können KI-gestützte Systeme künftig einen sinnvollen Beitrag leisten. Sie können helfen, technische Abhängigkeiten zu erkennen, Angriffspfade zu bewerten und Veränderungen kontinuierlich zu analysieren.

Aber die Verantwortung für die Umsetzung bleibt bei der Organisation.

Und damit sind wir wieder bei Jason D. Clintons Appell. Nicht zuerst in die nächste Technologie investieren, weil sie gerade besonders interessant erscheint, sondern sicherstellen, dass die grundlegenden Maßnahmen funktionieren, die wir seit Jahren kennen.

Die eigentliche Chance liegt in einer anderen wirtschaftlichen Betrachtung

Vielleicht eröffnet uns KI sogar eine neue Möglichkeit, den Wert grundlegender Sicherheitsmaßnahmen verständlicher zu machen.

Wir haben in der Informationssicherheit über viele Jahre versucht, dem Management den Nutzen bestimmter Investitionen zu erklären. Häufig geschieht das über Reifegrade, Risikomatrizen und abstrakte Bewertungen.

Das ist fachlich notwendig, aber wirtschaftlich nicht immer besonders anschaulich.

Die Aussage, dass eine Maßnahme den Sicherheitsreifegrad verbessert, ist für viele Entscheider weniger greifbar als eine nachvollziehbare Untersuchung, wie stark sie den Aufwand eines Angreifers verändert.

Natürlich müsste eine solche Aussage auf belastbaren Daten beruhen. Aber vielleicht ermöglicht uns die zunehmende Automatisierung von Angriffssimulationen künftig genau diese zusätzliche Perspektive.

Wir könnten nicht nur bewerten, welche Sicherheitsmaßnahmen vorhanden sind, sondern untersuchen, welchen konkreten Unterschied sie unter definierten Bedingungen für einen Angreifer machen.

Gerade bei Legacy-Systemen wäre das interessant.

Die Modernisierung einer alten Anwendung besitzt möglicherweise keinen unmittelbar sichtbaren zusätzlichen geschäftlichen Nutzen. Wenn sich aber nachweisen ließe, dass dadurch ein besonders günstiger Angriffspfad entfällt, verändert sich auch die wirtschaftliche Betrachtung.

Das ist keine fertige Methodik. Aber meiner Meinung nach eine Überlegung, die sich lohnt.

Wenn der Angreifer seine Token bei uns verschwenden muss

Eine weitere interessante Möglichkeit ergibt sich aus dem gezielten Einsatz defensiver Täuschungsmechanismen.

Honeypots sind keine neue Erfindung. Seit vielen Jahren werden bewusst präparierte Systeme eingesetzt, um Angreifer anzulocken, ihre Aktivitäten zu beobachten und Informationen über ihre Vorgehensweise zu gewinnen.

Bei autonomen KI-Agenten könnte diese Technik eine zusätzliche wirtschaftliche Wirkung entfalten.

Ein Agent, der einen attraktiven, aber künstlichen Angriffspfad verfolgt, verbraucht möglicherweise Token, Werkzeugaufrufe und Rechenzeit, ohne seinem eigentlichen Ziel näherzukommen.

Microsoft beschreibt in seiner Analyse vom 5. November 2026 den Einsatz von Honeypots, Decoys, Tarpits und künstlichen Erfolgssignalen ausdrücklich als defensive Möglichkeiten gegen autonome Angriffswerkzeuge.

In den von Microsoft beschriebenen Tests konnten solche Mechanismen Angriffsverkehr von echten Systemen ablenken und gleichzeitig gut verwertbare Erkennungssignale erzeugen. [6]

Das ist ein interessantes Gegenstück zur ursprünglichen Token-Ökonomie.

Wir könnten nicht nur versuchen, die Erfolgswahrscheinlichkeit eines Angreifers zu reduzieren.

Wir könnten unter geeigneten Bedingungen auch seinen Ressourcenverbrauch erhöhen, ohne ihm einen entsprechenden Fortschritt zu ermöglichen.

Natürlich sollte daraus niemand ableiten, dass sich reale Angriffe allein durch künstliche Ziele verhindern lassen. Ein erfahrener Angreifer kann Täuschungsmechanismen erkennen oder umgehen. Auch autonome Agenten können lernen, bestimmte Muster zu vermeiden.

Aber das zugrunde liegende Prinzip ist interessant.

Die Verteidigung muss nicht zwangsläufig jede weitere Untersuchung vollständig verhindern. Es kann bereits hilfreich sein, den Angreifer zu beschäftigen, seine Ressourcen zu binden und seine tatsächlichen Handlungsmöglichkeiten einzuschränken.

Damit bekommt die ursprüngliche Frage nach den Kosten eines Angriffs noch einmal eine andere Bedeutung.

Mein Fazit – machen wir uns zu einem teureren Ziel

Ich möchte mit diesem Artikel keine neue Sicherheitskennzahl etablieren.

Und ich möchte auch nicht behaupten, dass wir künftig jedes Unternehmen exakt nach seinem Tokenpreis bewerten können. Dafür fehlen derzeit noch zu viele methodische Grundlagen.

Mir geht es vielmehr darum, eine Idee zur Diskussion zu stellen.

Wir erleben gerade eine Entwicklung, bei der sich bestimmte offensive Fähigkeiten zunehmend als skalierbare Rechenprozesse beschreiben lassen. Damit entstehen zusätzliche Möglichkeiten, die Kosten einzelner Angriffshandlungen zu messen.

Gleichzeitig könnten sich diese Kosten durch leistungsfähigere Modelle, bessere Automatisierung und bereits vorhandene Informationen weiter verändern.

Das hat Auswirkungen auf die wirtschaftliche Attraktivität von Angriffszielen. Es könnte aber auch unser Verständnis von Cybersecurity erweitern.

Denn gute Sicherheitsmaßnahmen reduzieren nicht nur technische Risiken. Sie können bestimmte Angriffspfade vollständig unterbrechen und den Aufwand für alternative Vorgehensweisen erhöhen.

Vielleicht können wir diese Wirkung künftig besser quantifizieren.

Besonders relevant wird das für Unternehmen, die über Jahre hinweg technische Schulden aufgebaut haben.

Legacy-Systeme, veraltete Anwendungen, unzureichende Identitätskonzepte und fehlende Netzwerksegmentierung sind schließlich keine neuen Probleme. Wir beschäftigen uns damit seit Jahrzehnten.

Manches wurde aus nachvollziehbaren Gründen nicht umgesetzt. Vieles wurde aber auch schlicht immer wieder verschoben.

Vielleicht entsteht durch KI jetzt eine Situation, in der diese Versäumnisse deutlich schneller und günstiger ausgenutzt werden können.

Gleichzeitig entstehen zusätzliche Angriffsszenarien.

Kompromittierte KI-Infrastrukturen können weitere Operationen finanzieren. Gestohlene API-Schlüssel besitzen einen unmittelbaren wirtschaftlichen Wert. Über bestehende Partnerbeziehungen können Angriffe auf Organisationen ausgeweitet werden, die zunächst gar nicht das eigentliche Ziel waren.

Und Unternehmensagenten können unter bestimmten Bedingungen selbst zum Werkzeug eines Angreifers werden.

Ein Unternehmen kann damit gleichzeitig Opfer, Ressourcenlieferant, Ausgangspunkt einer weiteren Angriffskampagne und Betreiber der dafür missbrauchten KI-Systeme sein.

Diese Kombination halte ich für eine der interessantesten und gleichzeitig unangenehmsten Entwicklungen der kommenden Jahre.

Was daraus für jedes einzelne Unternehmen folgt, muss individuell bewertet werden. Eine pauschale Antwort wird es nicht geben.

Aber die Fragen sollten wir uns stellen.

Wie viel Aufwand muss ein Angreifer heute betreiben, um unsere Infrastruktur erfolgreich zu kompromittieren? Wie könnte sich dieser Aufwand durch KI verändern? Welche Ressourcen und Vertrauensbeziehungen würden wir ihm durch eine erfolgreiche Kompromittierung zusätzlich zur Verfügung stellen?

Und was können wir selbst tun, um die wirtschaftliche Attraktivität eines Angriffs zu reduzieren?

Vielleicht müssen wir dafür nicht sofort die nächste Generation KI-gestützter Sicherheitsprodukte einkaufen.

Vielleicht sollten wir zunächst die Sicherheitsprobleme lösen, die wir bereits seit Jahren kennen.

Jason D. Clintons Appell, jetzt in die Grundlagen zu investieren, trifft deshalb für mich den Kern der Diskussion.

Denn die wirksamste Verteidigung gegen einen KI-gestützten Angriff muss nicht zwangsläufig selbst auf KI basieren.

Manchmal genügt es, eine bekannte Schwachstelle zu schließen, einen unnötigen Netzwerkzugang zu entfernen, eine technische Identität korrekt abzusichern, einem Agenten nur die tatsächlich benötigten Berechtigungen zu geben oder endlich das System zu modernisieren, dessen Austausch seit Jahren auf der Prioritätenliste steht.

Das klingt weniger spektakulär als der nächste autonome Cyber Defense Agent. Aber es könnte wesentlich wirksamer sein.

Vielleicht brauchen Angreifer in Zukunft gar keine besonders intelligente KI.

Vielleicht reicht es, wenn sie mit KI schneller und günstiger die Fehler finden, die wir seit Jahren nicht beseitigen.

Wenn wir tatsächlich irgendwann messen können, wie viele Token, wie viel Rechenleistung und wie viel Geld ein Angreifer für einen erfolgreichen Angriff benötigt, sollten wir zumindest dafür sorgen, dass unser Unternehmen nicht zu den günstigsten Zielen gehört.

Das bedeutet nicht, dass wir unangreifbar werden. Aber vielleicht machen wir den Aufwand so groß, dass sich ein Angriff für bestimmte Akteure wirtschaftlich nicht mehr lohnt.

Und das wäre doch schon einmal ein ziemlich interessantes Ergebnis.

Wir müssen dafür nicht unbedingt selbst möglichst viele Token verbrennen.

Wir sollten vielmehr dafür sorgen, dass Angreifer möglichst viele davon verschwenden müssen.

Quellen und Referenzen

  1. Anthropic (2025). *AI agents find smart contract exploits.* Forschungsarbeit zur automatisierten Erkennung und Ausnutzung von Schwachstellen in Smart Contracts. Die Untersuchung dokumentiert 2.849 analysierte Verträge, zwei neu identifizierte Schwachstellen, API-Kosten von 3.476 US-Dollar und die Veränderung der Token-Effizienz über mehrere Modellgenerationen. Die Exploits wurden in simulierten Blockchain-Umgebungen ausgeführt. https://www.anthropic.com/research/smart-contracts
  2. Jason D. Clinton (22. Oktober 2026). Originalbeitrag auf X. Einschätzung des Deputy CISO von Anthropic zur Entwicklung der Cybersicherheitslage und zur Priorisierung grundlegender Sicherheitsmaßnahmen. Der Originalbeitrag ist verlinkt; die inhaltliche Wiedergabe stützt sich zusätzlich auf journalistische Berichterstattung. Eine vollständige unabhängige Transkription des X-Beitrags liegt für diesen Artikel nicht vor. https://x.com/JasonDClinton/status/2113325263157395456
  3. Brown, Matt; Staicu, Cris; Stiefel, Andrew (11. Juni 2026). The Token Economics of AI AppSec Agents. Endor Labs. Kontrollierter Vergleich KI-gestützter Anwendungssicherheitsanalysen mit und ohne vorbereitete technische Evidenz. Die Untersuchung dokumentiert unter anderem eine Reduktion des Tokenverbrauchs um 91,7 Prozent und der Werkzeugaufrufe um 77,6 Prozent. https://www.endorlabs.com/learn/the-token-economics-of-ai-appsec-agents
  4. Microsoft Security Research und Microsoft Threat Intelligence (21. Oktober 2026). *AI-driven, large-scale nation-state campaign using ARTEX enables supply chain compromise.* Technische Analyse der Aktivitäten von Storm-0940, des Einsatzes von ARTEX und der Kompromittierung technischer Vertrauensbeziehungen im Umfeld von ConnectWise. https://www.microsoft.com/en-us/security/blog/2026/10/21/storm-0940-uses-artex-agentic-ai-connectwise-supply-chain-compromise/
  5. Kwa, Thomas; West, Ben; Becker, Joel et al. (19. März 2025). Measuring AI Ability to Complete Long Software Tasks. METR. Untersuchung der autonomen Leistungsfähigkeit von KI-Agenten anhand der Dauer und Komplexität erfolgreich bearbeiteter Aufgaben. Die historische Entwicklung darf nicht als gesicherte Prognose zukünftiger Angriffsfähigkeiten interpretiert werden. https://metr.org/blog/2025-03-19-measuring-ai-ability-to-complete-long-tasks/
  6. Microsoft Threat Intelligence und Microsoft Security Research (5. November 2026). *Threat actors use agentic AI tooling to find and abuse exposed secrets.* Technische Untersuchung zum KI-gestützten Auffinden und Missbrauch offengelegter Zugangsdaten. Behandelt unter anderem automatisierte Cloud-Angriffsschritte, die schnelle Anpassung von API-Aufrufen sowie defensive Täuschungsmechanismen gegen autonome Angreifer. https://www.microsoft.com/en-us/security/blog/2026/11/05/threat-actors-use-agentic-ai-tooling-to-find-and-abuse-exposed-secrets/
  7. Stouffer, Keith; Pease, Michael; Tang, CheeYee et al. (September 2023). Guide to Operational Technology (OT) Security. NIST Special Publication 800-82, Revision 3. Leitfaden zur Absicherung von OT-Systemen unter Berücksichtigung langer Lebenszyklen, eingeschränkter Updatefähigkeit und besonderer Anforderungen an Verfügbarkeit und physische Sicherheit. https://doi.org/10.6028/NIST.SP.800-82r3
  8. Romano, Christopher; Starks, Codi; Mahoney, Garrett et al. (2. November 2026). The Rise of LLMJacking: How Threat Actors Monetize Compromised Cloud and Model Resources. Google Threat Intelligence Group und Mandiant. Untersuchung realer Angriffe auf KI-Infrastrukturen und der wirtschaftlichen Verwertung kompromittierter Modellzugänge. https://cloud.google.com/blog/topics/threat-intelligence/llmjacking-monetizing-compromised-cloud-models/
  9. MITRE ATT&CK. *Trusted Relationship, Technique T1199.* Beschreibung des Missbrauchs vorhandener technischer Vertrauensbeziehungen zwischen Organisationen und externen Dienstleistern. https://attack.mitre.org/techniques/T1199/
  10. MITRE ATT&CK. *Supply Chain Compromise, Technique T1195.* Beschreibung von Angriffen auf Softwarelieferketten, Entwicklungsumgebungen und Verteilmechanismen. https://attack.mitre.org/techniques/T1195/
  11. Verizon Business (19. Mai 2026). *2026 Data Breach Investigations Report.* Branchenübergreifende Untersuchung realer Datenschutzverletzungen und Sicherheitsvorfälle. Dokumentiert unter anderem die Bedeutung der Ausnutzung von Softwareschwachstellen und die Beteiligung Dritter an untersuchten Datenpannen. Die Prozentwerte beziehen sich auf den jeweiligen untersuchten Datensatz. https://www.verizon.com/business/resources/reports/dbir/
  12. Davies, Xander; Giglemiani, Giorgi; Lau, Edmund; Winsor, Eric; Irving, Geoffrey; Gal, Yarin (2026). Boundary Point Jailbreaking of Black-Box LLMs. UK AI Security Institute. Forschungsarbeit zu automatisierten Black-Box-Angriffen auf Sicherheitsklassifikatoren kommerzieller KI-Systeme. https://www.aisi.gov.uk/research/boundary-point-jailbreaking-of-black-box-llms
  13. Hagendorff, Thilo; Derner, Erik; Oliver, Nuria (5. Februar 2026). Large reasoning models are autonomous jailbreak agents. Nature Communications, Band 17, Artikel 1435. Peer-reviewte Untersuchung zur automatisierten Entwicklung von Jailbreak-Angriffen durch Reasoning-Modelle. https://doi.org/10.1038/s41467-026-69010-1
  14. Hofer, David; Debenedetti, Edoardo; Tramèr, Florian (9. Juni 2026). Assessing Automated Prompt Injection Attacks in Agentic Environments. arXiv. Forschungsarbeit zur Automatisierung indirekter Prompt-Injection-Angriffe und zur Übertragbarkeit zwischen unterschiedlichen Modellen. Die Arbeit liegt als Preprint vor. https://arxiv.org/abs/2606.10525
  15. Reddy, P.; Gujral, A. S. (2025). EchoLeak: The First Real-World Zero-Click Prompt Injection Exploit in a Production LLM System. Proceedings of the AAAI Symposium Series. Wissenschaftliche Fallstudie zur Schwachstelle CVE-2025-32711 in Microsoft 365 Copilot. https://doi.org/10.1609/aaaiss.v7i1.36899
  16. OWASP GenAI Security Project (2025). *LLM06: Excessive Agency.* Beschreibung von Risiken durch übermäßige Funktionen, Berechtigungen und autonome Handlungsmöglichkeiten KI-gestützter Anwendungen. https://genai.owasp.org/llmrisk/llm062025-excessive-agency/
  17. OWASP GenAI Security Project (2025). *LLM07: System Prompt Leakage.* Erläuterung der Risiken, wenn sicherheitskritische Informationen oder Zugriffskontrollen allein in System Prompts abgebildet werden. https://genai.owasp.org/llmrisk/llm072025-system-prompt-leakage/
  18. OWASP GenAI Security Project (1. September 2026). *Agent Control Standard (ACS).* Technischer Standard zur Transparenz, Nachvollziehbarkeit und Kontrolle von KI-Agenten während ihrer Laufzeit. https://genai.owasp.org/resource/agent-control-standard-acs/
  19. Souppaya, Murugiah; Scarfone, Karen (6. April 2022). Guide to Enterprise Patch Management Planning: Preventive Maintenance for Technology. NIST Special Publication 800-40, Revision 4. Leitfaden zum Patchmanagement als dauerhaftem Bestandteil der betrieblichen Instandhaltung. https://doi.org/10.6028/NIST.SP.800-40r4