KI und Cybersicherheit: Fünf Schlüsselbereiche, die Unternehmenssicherheitsleiter kennen müssen

Einleitung

Die künstliche Intelligenz wandelt sich von einem Hilfswerkzeug zu einer zentralen Variable in der Cybersicherheitsabwehr und -angriff. Von der automatisierten Reaktion der Verteidiger bis zu Deepfakes der Angreifer hat der Einfluss der KI-Technologie jeden Aspekt des Sicherheitsbetriebs durchdrungen. Dennoch ist die größte Herausforderung für Entscheidungsträger nicht die Technologie selbst, sondern die Balance zwischen Vertrauen und Risiko. SecurityPost hat die Ansichten Dutzender Experten zusammengefasst und analysiert die Schlüsselthemen der aktuellen KI und Cybersicherheit aus fünf Dimensionen: Generative KI, Agentische KI, Schatten-KI, maschinelles Lernen und allgemeine künstliche Intelligenz.

Überblick

Diese Studie basiert auf umfangreichen Interviews mit Sicherheitspraktikern, Forschern, Anbietern und Branchenanalysten. Kernbefunde: Generative KI wird bereits weitgehend im Sicherheitsbetrieb eingesetzt, aber ihre probabilistische Ausgabeeigenschaft führt zu Vertrauensproblemen; Agentische KI verwandelt passive Werkzeuge in aktive Teilnehmer; Schatten-KI wird zu einer neuen Compliance-Blindzone; traditionelles maschinelles Lernen bleibt der Grundpfeiler der Bedrohungserkennung; allgemeine künstliche Intelligenz ist noch lange nicht ausgereift, hat aber bereits neue strategische Überlegungen hervorgebracht.

Technologie- und Risikoanalyse

Generative KI: Effizienzrevolution und Vertrauensdilemma

Generative KI basiert auf Architekturen wie Large Language Models (LLMs) und generiert durch probabilistische Vorhersagen Texte, Bilder usw. Wie Ahmad Shadid, Mitbegründer von ORGN, anmerkt, liefert sie keine faktisch korrekten Antworten, sondern basierend auf erlernten Beziehungsmustern die wahrscheinlichste Ausgabe. Diese Natur bestimmt ihre Vertrauensgrenzen.

Emanuel Salmona von Nagomi Security betont: „Generative KI ist eine Vorhersagemaschine, geeignet für explorative Aufgaben wie die Erstellung von Angriffshypothesen oder die Verbindung von anomalem Verhalten mit bekannten Schwachstellenmustern.“ Aber Vertrauensprobleme sind nicht zu übersehen. Yichuan Zhang von Boltzbit weist darauf hin: „Sie neigt zu Halluzinationen und zum Durchsickern von Trainingsdaten.“ Trever Falconi von HOPPR warnt, dass Modelle bei der Bereitstellung in verschiedenen Umgebungen Verteilungsverschiebungen erleiden, wodurch die Leistung leise nachlässt.

Trotzdem wird generative KI bereits weitgehend zur Steigerung der SOC-Effizienz eingesetzt – Zusammenfassen von Ereignisprotokollen, Erstellen von Reaktionsberichten, Unterstützung bei der Sicherheitscodierung usw. Aber das entscheidende Prinzip ist: Modelle sollten genutzt, nicht geglaubt werden.

Agentische KI: Die nächste Grenze der automatisierten Betriebsführung

Agentische KI verwandelt generative KI von passivem Frage-Antwort in aktive Ausführung. Durch die Kombination von LLMs mit Werkzeugaufrufen und Workflow-Orchestrierung können KI-Agenten autonome mehrstufige Operationen durchführen, wie Schwachstellenscans, Bedrohungsjagd und sogar automatische Reaktionen. Der Autorisierungsbereich ist jedoch ein kritischer Risikopunkt: Übermäßige Autorisierung kann zu Fehlbedienungen oder Missbrauch führen. Unternehmen müssen für KI-Agenten strenge Berechtigungsgrenzen und Auditmechanismen definieren.

Schatten-KI: Compliance-Risiken durch mitgebrachte Tools der Mitarbeiter### Schatten-KI: Compliance-Risiken durch von Mitarbeitern selbst mitgebrachte Tools

Schatten-KI bezeichnet das Phänomen, dass Mitarbeiter ohne Zustimmung der IT-Abteilung KI-Dienste (wie ChatGPT, Copilot usw.) nutzen. Ähnlich wie Schatten-IT birgt es Risiken von Datenlecks, Compliance-Verstößen und Verletzungen des geistigen Eigentums. Fehlende unternehmensweite KI-Governance-Strategien führen dazu, dass sensible Informationen an Drittanbietermodelle übermittelt werden können. Melissa Ruzzi, Senior Director bei AppOmni, weist darauf hin: „Die Governance von Schatten-KI ist schwieriger als die von Schatten-IT, da die Modelle sich Eingaben merken.“

Maschinelles Lernen: Zuverlässiger Grundpfeiler der Bedrohungserkennung

Traditionelles maschinelles Lernen (ML) bleibt die Hauptstütze für Malware-Erkennung, Analyse anomalen Verhaltens und Betrugserkennung. Im Gegensatz zu den probabilistischen Ausgaben generativer KI treffen ML-Modelle durch Klassifikation und Regression deterministische Entscheidungen mit relativ hoher Erklärbarkeit. In kontradiktorischen ML-Umgebungen können Angreifer jedoch durch Datenvergiftung oder Escape-Angriffe die Modellleistung beeinträchtigen.

Künstliche Allgemeine Intelligenz: Langfristiger Trend und kurzfristige Fehleinschätzungen

Künstliche Allgemeine Intelligenz (AGI) bezeichnet eine KI mit menschenähnlichen allgemeinen Denkfähigkeiten. Derzeit befinden sich alle KI-Systeme im Bereich der schwachen KI. Aaron Sant-Miller von Booz Allen warnt: „Die Verwirklichung der AGI erfordert noch Jahrzehnte grundlegender Forschungsdurchbrüche.“ Der Hype um AGI könnte Unternehmen jedoch von den tatsächlichen aktuellen Risiken ablenken.

Analyse der Unternehmensauswirkungen

• Die Auswirkungen von KI erstrecken sich über mehrere Geschäftsdimensionen:
• Betriebsrisiko: Übermäßige Abhängigkeit von KI-Ausgaben kann zu Fehlentscheidungen führen, insbesondere bei der Incident Response.
• Datenrisiko: Schatten-KI und Modellerinnerungen können zur Offenlegung sensibler Daten führen.
• Compliance-Risiko: Die Nutzung von KI muss den Transparenz- und Rechenschaftspflichten von Vorschriften wie der DSGVO und dem KI-Gesetz entsprechen.
• Markenrisiko: Von KI generierte Fehlinhalte oder manipulierte Modellausgaben können den Ruf des Unternehmens schädigen.

Branchentrendbeobachtungen

Die Anwendung von KI in der Cybersicherheit zeigt zwei Haupttrends: Erstens die Entwicklung von der Integration einzelner Tools zur plattformbasierten Einbettung, wobei KI-Fähigkeiten zum Standard von Sicherheitsplattformen werden; zweitens der Wandel von unterstützender Analyse zur autonomen Ausführung, wobei agentische KI die Sicherheitsbetriebsabläufe neu gestalten wird. Gleichzeitig nutzen Angreifer KI, um Social-Engineering-Angriffe und Schwachstellenausnutzung zu beschleunigen. Dies sind keine isolierten Ereignisse, sondern ein struktureller Wandel.

Abwehr- und Handlungsempfehlungen

• Unternehmen sollten ihre KI-Sicherheitsstrategie auf folgenden Ebenen aufbauen:
• Governance-Ebene: Entwicklung einer KI-Nutzungsrichtlinie, Einbeziehung der Kontrolle von Schatten-KI, Einrichtung von KI-Genehmigungsprozessen.
• Technische Ebene: Einsatz von ML-Modellüberwachung und Tools zur Erkennung kontradiktorischer Angriffe; Anwendung des Prinzips der geringsten Rechte für KI-Agenten.
• Management-Ebene: Erstellung von KI-Vorfallreaktionsplänen, regelmäßige Prüfung der Genauigkeit von KI-Ausgaben.
• Personelle Ebene: Schulung der Mitarbeiter zur Erkennung von KI-Halluzinationen und Deepfakes, Förderung der digitalen Kompetenz.

SecurityPost InsightKI ist kein Allheilmittel und wird das Ende der Sicherheit nicht beschleunigen. Diese Untersuchung hat eine entscheidende Tatsache ans Licht gebracht: Sicherheitsentscheider in Unternehmen müssen sowohl das Potenzial als auch die Grenzen von KI erkennen. Die "probabilistische Selbstsicherheit" generativer KI ist ein zweischneidiges Schwert – sie kann schnell Berichte erstellen, aber auch selbstbewusst Fehler erfinden. Das heimliche Eindringen von Schatten-KI erfordert, dass die Governance der Technologie voraus ist. Die Autonomie agentischer KI muss durch eine klare Verantwortungskette eingeschränkt werden. Wir treten in eine neue Sicherheitsära ein, in der KI den Menschen unterstützt, nicht ersetzt. Der zukünftige Wettbewerbsvorteil gehört nicht den Organisationen mit der besten KI, sondern denen, die KI-Risiken richtig steuern können.

*Dieser Artikel basiert auf dem SecurityWeek-Bericht „AI and Cybersecurity – Everything You Wanted to Know, But Were Afraid to Ask“. SecurityPost hat alle Expertenmeinungen überprüft und zitiert.*