Das Zeitalter der Agentic AI hebt die Anforderungen an die Cybersicherheit an: Warum Unternehmen ein skalierbares Verteidigungssystem benötigen

Das Agentic-AI-Zeitalter hebt die Hürden der Cybersicherheit an: Warum Unternehmen ein skalierbares Verteidigungssystem benötigen

Früher konzentrierten sich Unternehmen bei Diskussionen über KI-Sicherheit meist auf Risiken durch generative Inhalte, Datenlecks und Modellmissbrauch. Doch eine jüngste Diskussion von SecurityWeek rund um das „agentic era“ zeigt, dass sich die Rolle von KI weiter verändert: Sie erzeugt nicht nur Texte oder unterstützt Analysen, sondern beginnt auch über Werkzeugaufrufe, Aufgaben-Ausführung und ein gewisses Maß an autonomer Entscheidungsfähigkeit zu verfügen. Für Sicherheitsteams in Unternehmen bedeutet das, dass die Angriffsfläche nicht mehr nur von Menschen ausgeht, sondern auch von agentischen Systemen, die sich mit Maschinen­geschwindigkeit ausweiten, ausprobieren und ihre Strategien anpassen können.

Dabei handelt es sich nicht um ein einzelnes Ereignis, sondern um einen strukturellen Wandel. Da KI in Entwicklungs-, Betriebs-, Kundenservice-, Büro- und Sicherheitsplattformen integriert wird, werden die Vermögenswerte, Identitäten, Berechtigungen, Entscheidungskontexte und Automatisierungsprozesse eines Unternehmens neu miteinander verknüpft. Die von SecurityWeek hervorgehobene Kernfrage lautet nicht, ob KI die Sicherheit verändern wird, sondern ob Sicherheitsteams bereits in eine Phase eingetreten sind, in der sie mit KI im gleichen Tempo konkurrieren müssen. Für CISO, SOC-Teams und Sicherheitsarchitekten hat diese Frage direkte Auswirkungen auf Budget, Governance und Betrieb.

Technische und Risikobewertung

Angriffsmethoden: vom klassischen Eindringen zu agentischen Angriffen

In traditionellen Angriffsketten setzen Angreifer typischerweise auf bewährte Methoden wie Phishing, das Stehlen von Zugangsdaten, das Ausnutzen von Schwachstellen, laterale Bewegung und Datenabfluss. In einem agentischen Szenario können Angreifer jedoch KI nutzen, um die folgenden Fähigkeiten zu verbessern:

• Schnellere Erstellung und Anpassung von Angriffslast: darunter Phishing-E-Mails, bösartige Skripte, Varianten von Exploits und Social-Engineering-Formulierungen.
• Häufigeres Austesten: automatisierte Identifikation von Abwehrmaßnahmen, iterative Umgehungsstrategien und Tests verschiedener Einstiegspunkte.
• Stärkere Fähigkeit zur Prozessorchestrierung: Aufklärung, Rechteausweitung, Persistenz und Exfiltration zu einer kontinuierlicheren Angriffskette zu verbinden.
• Geringere Personalkosten: Angriffstätigkeiten, die ursprünglich Fachwissen erforderten, lassen sich leichter skalieren.

Das Risiko dieser Entwicklung liegt nicht in einem neuen Typ bösartigen Codes, sondern darin, dass Angreifer bestehende Taktiken in kürzere Zeitfenster pressen und ausführen können. Für die Verteidiger bedeutet das, dass der traditionelle Reaktionspfad „Erkennen – Bestätigen – Beheben“ leichter verkürzt und umgangen werden kann.

Betroffene Vermögenswerte: Identitäten, Entscheidungskontext und AI-Kontrollfläche

• Die von SecurityWeek betonte Sichtweise unterstreicht, dass die neue „Grenze“ im KI-Zeitalter nicht nur das Netzwerk ist, sondern die gemeinsame Kontrollfläche aus Vermögenswerten, Identitäten und Entscheidungskontext. Zu den hauptsächlich betroffenen Unternehmensressourcen gehören:- Identitätssysteme: Wenn KI-Agenten die Berechtigung haben, APIs aufzurufen, Ticketsysteme zu nutzen, Konfigurationsänderungen vorzunehmen oder Geschäftsdaten auszulesen, ist der Missbrauch von Identitäten deutlich destruktiver als die bloße Kompromittierung eines einzelnen Zugangsdokuments.
• Cloud-Umgebungen und SaaS-Tools: KI wird häufig in Cloud-Plattformen, Wissensdatenbanken, Code-Repositorys und Kollaborationssysteme eingebunden; wenn Rechte zu weit gefasst sind, kann der Datenzugriff den ursprünglich erwarteten Rahmen überschreiten.
• Endgeräte und Entwicklungsumgebungen: KI-gestützte Programmierung, automatisierte Skripte und lokale Agententools können kettenartige Risiken für den Code-Lieferprozess mit sich bringen.
• Sicherheitsbetriebsplattformen: Wenn Erkennung, Triage und Behebung zunehmend von Automatisierung abhängen, beeinträchtigen falsche Kontextangaben oder manipulierte Modellausgaben die Genauigkeit der Maßnahmen.

Das bedeutet, Unternehmen sollten nicht nur fragen: „Ist KI sicher?“, sondern auch: „Auf welche Systeme darf KI zugreifen, mit welchen Berechtigungen und innerhalb welcher Grenzen handeln?“

Auswirkungen auf Unternehmen: Betriebs-, Finanz-, Compliance- und Markenrisiken steigen gleichzeitig

Für das Management sind die Auswirkungen agentischer Risiken keineswegs abstrakt.

Betriebsrisiken: Wenn KI-Agenten missbraucht werden oder falsch konfiguriert sind, kann dies zu großflächigen Fehlbedienungen, Serviceausfällen oder Berechtigungseskalation führen. Automatisierung bringt nicht nur mehr Effizienz, sondern kann auch die Geschwindigkeit der Fehlerverbreitung erhöhen.

Finanzrisiken: Nutzt ein Angreifer KI, um Phishing-Erfolgsraten zu steigern, die Eindringzeit zu verkürzen und das Ausmaß von Erpressung und Betrug zu vergrößern, steigen die Ausgaben für Incident Response, Wiederherstellung, Rechtsberatung und Versicherungen.

Compliance-Risiken: In regulierten Branchen werden Zugriffskontrollen, Protokollaufbewahrung, Änderungsprüfungen und das Management von Risiken durch Drittanbieter bei KI-Systemen in den Fokus der Prüfung rücken. Kann ein Unternehmen nicht erklären, warum ein KI-Agent eine bestimmte Aktion ausgeführt hat, nimmt der Compliance-Druck deutlich zu.

Markenrisiken: Führt ein KI-bezogener Fehler zu einer Offenlegung von Kundendaten, zu Servicefehlern oder außer Kontrolle geratenen Inhalten, schreiben Öffentlichkeit und Kunden dies meist der Governance-Fähigkeit des Unternehmens zu und nicht nur einem technischen Defekt.

Datenrisiken: Eine der größten Gefahren von generativer KI und Agentensystemen ist, dass sie oft einen deutlich breiteren Datenkontext benötigen. Wird das Prinzip der Datenminimierung nicht konsequent umgesetzt, verbreiten sich sensible Informationen unbeabsichtigt in unnötige Workflows.

Branchentrend-Beobachtung: Das ist kein Einzelfall, sondern ein Wandel des Verteidigungsparadigmas

Das Wichtigste an der SecurityWeek-Diskussion für Unternehmen ist nicht nur die KI selbst, sondern dass sich das Verteidigungsmodell von „Erkennung zuerst“ hin zu „Prävention und Automatisierung im Gleichgewicht“ verschiebt. Der Artikel weist darauf hin, dass viele Organisationen Probleme erst während oder nach einem Angriff entdecken, was angesichts KI-getriebener Angriffsgeschwindigkeiten zunehmend zu einer defensiven Haltung führt.

Das spiegelt mehrere langfristige Trends wider:

1. Die Geschwindigkeitslücke zwischen Angriff und Verteidigung vergrößert sich Angreifer können KI nutzen, um Taktiken schneller zu generieren, zu testen und anzupassen, während von Menschen gesteuerte Reaktionsprozesse weiterhin oft auf Warteschlangen, Triage und Freigaben angewiesen sind.2. Sicherheitstools werden ebenfalls KI-gestützt, aber die Prozesse ziehen nicht unbedingt nach Viele Sicherheitsprodukte haben bereits dialogorientierte KI oder empfehlungsbasierte Funktionen integriert, doch wenn die endgültige Behebung weiterhin bei Menschen liegt, bleibt die gesamte Reaktionsgeschwindigkeit begrenzt.

3. Die Bedeutung des Exposure-Managements nimmt zu Allein auf Alarme zu setzen, ändert das Ergebnis nicht. Unternehmen müssen Exposure-Management, Priorisierung und automatisierte Behebung kombinieren, um die ausnutzbaren „tief hängenden Früchte“ zu reduzieren.

4. Zero Trust wandelt sich vom Architekturprinzip zur betrieblichen Anforderung Wenn KI-Agenten systemübergreifend Ressourcen aufrufen können, sind Least Privilege, kontinuierliche Verifizierung und Segmentierung nicht mehr nur Designprinzipien, sondern notwendige Voraussetzungen, um laterale Ausbreitung zu verhindern.

Mit anderen Worten: Agentic AI ist kein isoliertes Technologiethema, sondern ein Zeichen dafür, dass der Security-Betrieb von Unternehmen in das Zeitalter der „Maschinengeschwindigkeit“ eintritt.

Empfehlungen für Abwehr und Reaktion

Auf Unternehmensebene: Erst steuern, dann ausweiten

• KI-Nutzungsgrenzen definieren: Festlegen, welche Geschäftsprozesse Agentensysteme nutzen dürfen und welche Daten, Systeme und Aktionen verboten sind.
• Ein KI-Asset-Inventar aufbauen: KI-Tools, Modelle, Agenten, Plug-ins und APIs als Unternehmenswerte in die Verwaltung aufnehmen.
• Drittrisiken prüfen: Die Berechtigungen, Protokolle, Datenaufbewahrung und Ausfallmodi der KI-Funktionen von Anbietern bewerten.

Identitäts- und Zugriffskontrolle: Rechte so weit wie möglich einschränken

• Für KI-Agenten das Prinzip der geringsten Privilegien anwenden.
• Für risikoreiche Aktionen MFA, Freigaben und bedingten Zugriff erzwingen.
• Für systemübergreifende Aktionen rollen- und aufgabenbasiertes Segregieren einführen, damit Agenten keine zu weitreichenden Dauerrechte erhalten.
• Für kritische Aktionen nicht abstreitbare Protokolle und Audit-Trails vorhalten.

Technische Ebene: Erkennung und Reaktion stärker automatisieren

• SIEM / XDR / EDR nutzen, um Endpunkte, Identitäten, Cloud- und Anwendungsverhalten einheitlich zu beobachten.
• Threat Intelligence mit Kontext kombinieren, um Fehlalarme und Meldungen mit geringem Nutzen zu reduzieren.
• Kontinuierliches Exposure-Management und Mechanismen zur Schwachstellenpriorisierung einsetzen, um zuerst die am leichtesten zu weaponisierenden Schwachstellen zu beheben.
• KI-bezogenen Workflows Anomalieerkennung hinzufügen, etwa bei ungewöhnlicher Aufruffrequenz, unbefugtem Zugriff oder unerwarteten Datenzugriffen.

Auf Managementebene: KI-Sicherheit in den Governance-Rahmen integrieren

• KI-Risiken in die Incident Response-Pläne aufnehmen.
• Automatisierte Behebung und manuelle Freigaben klar trennen, um eine „unkontrollierte Automatisierung“ zu vermeiden.
• Sicherheitskennzahlen zu KI-bezogenen Themen auf Ebene des Vorstands oder des Risk Committees verfolgen, statt sie nur intern im Technikteam zu diskutieren.
• Regelmäßig prüfen, ob Mitarbeitende nicht genehmigte „Shadow-AI“-Tools verwenden.## SecurityPost Insight

Die eigentliche Bedeutung von agentic AI besteht nicht darin, dass Unternehmen „ein weiteres intelligentes Werkzeug“ bekommen, sondern darin, dass sich Angriffe und Verteidigung in eine Phase mit höherer Frequenz, stärkerer Automatisierung und größerer Abhängigkeit von kontextbezogenen Entscheidungen begeben. Für Unternehmen liegt das Risiko nicht nur im Modell selbst, sondern darin, ob ein Modell, sobald es mit Handlungsfähigkeit ausgestattet ist, bestehende Schwachstellen jenseits von Berechtigungen, Prozessen und Daten-Grenzen verstärken wird.

SecurityPost.org ist der Ansicht, dass in den nächsten 12 bis 24 Monaten nicht ein einzelnes KI-Angriffsbeispiel im Mittelpunkt stehen sollte, sondern die Frage, wie Unternehmen KI in ihren Sicherheits-Governance-Rahmen einbinden: einschließlich Identitätsgrenzen, Least Privilege, prüfbarer Automatisierung, kontinuierlichem Exposure-Management und teamübergreifender Reaktionskoordination. Organisationen, die KI-Sicherheit weiterhin als „Frage der Tool-Auswahl“ betrachten, könnten bei Geschwindigkeit, Skalierung und Kontrollfähigkeit gegenüber Angreifern ins Hintertreffen geraten. Unternehmen hingegen, die KI als neue Kontrolloberfläche zu managen verstehen, werden eher in der Lage sein, im Zeitalter der Maschinengeschwindigkeit widerstandsfähig zu bleiben.