Schadsoftware nutzt Prompt-Injection, um KI-Sicherheitsprüfungen zu umgehen. Unternehmen müssen ihre KI-Abwehrstrategien neu bewerten.

Ereignisübersicht

Am 26. Juni 2026 veröffentlichte der Sicherheitsanbieter SentinelLabs einen Bericht, in dem eine Schadsoftware namens macOS.Gaslight vorgestellt wurde. Diese Malware läuft auf macOS-Systemen und enthält Code, der speziell dafür entwickelt wurde, KI-gestützte Sicherheitsanalysen zu umgehen: Wenn sie von Large Language Models (LLMs) betriebene Sicherheitsanalysetools erkennt, weist sie diese an, die Analyse abzubrechen oder die Erkennungsaufgabe zu verweigern.

SentinelLabs ordnet Gaslight der mit nordkoreanischen Bedrohungsaktivitäten verbundenen BONZAI-Signaturfamilie zu. Apples XProtect identifiziert die Probe als MACOS_BONZAI_COBUCH-Regel. Dies ist kein Einzelfall – Check Point dokumentierte bereits 2025 eine ähnliche KI-Umgehungstechnik, und Socket berichtete anschließend über Payloads, die KI-Modell-Erkennung durch Code-Umgehung vermeiden.

Technische Analyse und Risiken

Angriffsmethode: Prompt Injection zur Umgehung von KI-Erkennung

Die Kerntechnologie von Gaslight ist Prompt Injection – eine adversarial Angriffstechnik gegen LLMs. Die Malware sendet in der analysierten Sandbox oder Umgebung aktiv bösartige Anweisungen an LLM-gestützte Analysetools, um diese aufzufordern, die Analyse zu stoppen, falsche Ergebnisse zurückzugeben oder Sicherheitsrichtlinien nicht auszuführen. Dieser Angriff richtet sich nicht gegen die Sandbox selbst, sondern gegen das darin laufende KI-Modell.

Angriffskette

1. Erstinfektion: Einschleusen von Gaslight in macOS-Systeme durch Phishing-E-Mails, bösartige Anhänge oder Softwarelieferketten. 2. Umgebungserkennung: Die Malware erkennt, ob eine LLM-gestützte Analyseumgebung (z. B. automatisierte Analyseplattformen von Sicherheitsanbietern) vorhanden ist. 3. Auslöser der Umgehung: Wird ein KI-Analysetool erkannt, werden speziell konstruierte Prompts gesendet, die das LLM anweisen, die Analyse zu stoppen oder eine Gefahrlosmeldung zu erzeugen. 4. Persistenz und Aktivität: Nach erfolgreicher Umgehung der Erkennung etabliert die Malware einen persistenten Zugriff auf dem Zielgerät, stiehlt Daten oder bewegt sich lateral im Netzwerk.

Betroffene Ressourcen - macOS-Endgeräte: Insbesondere MacBook, Mac mini usw., die in Unternehmensumgebungen eingesetzt werden. - KI-Sicherheitsanalyseplattformen: Systeme, die auf LLMs für automatisierte Malware-Analyse angewiesen sind (z. B. KI-Komponenten in Sandboxen, EDR, XDR). - Identitäten und Anmeldeinformationen: Die Bedrohungsakteure könnten Unternehmensanmeldeinformationen stehlen.### Risikobewertung - Angriffskomplexität: Mittel. Prompt-Injection muss für spezifische LLM-Modelle angepasst werden, aber es gibt bereits öffentliche Forschung und verfügbare Werkzeuge. - Betroffener Bereich: Derzeit hauptsächlich auf macOS abzielend, aber ähnliche Techniken sind plattformübergreifend erweiterbar. - Potenzielle Gefahr: Hoch. Wenn die KI-Erkennung erfolgreich umgangen wird, können Bedrohungsakteure langfristig in Unternehmensnetzwerken verbleiben.

Analyse der Unternehmensauswirkungen

Betriebsrisiken Unternehmens-Sicherheitsoperationszentren (SOCs) verlassen sich auf automatisierte KI-Tools zur Massen-Triage von Alarmen. Wenn die KI-Analyse fehlgeleitet wird, kann Malware nicht rechtzeitig erkannt werden, was zu Verzögerungen bei der Reaktion führt und Angreifern mehr Zeit für zerstörerische Aktivitäten gibt.

Finanzielle Risiken - Datenleck-Sanierungskosten: Laut dem IBM-Bericht über die Kosten von Datenschutzverletzungen 2025 liegen die Durchschnittskosten bereits über 4,5 Millionen US-Dollar. - Lösegeld für Ransomware: Einige Malware kann Verschlüsselungs-Payloads einsetzen, und Varianten von Gaslight könnten Erpressungsfunktionen enthalten.

Compliance-Risiken Die Schutzpflichten von Unternehmen für personenbezogene Daten (z. B. Mitarbeiterinformationen, Kundendaten) könnten aufgrund unerkannter bösartiger Aktivitäten gegen Vorschriften wie GDPR, CCPA verstoßen und zu Geldstrafen und Klagen führen.

Markenrisiken Wenn ein Unternehmen aufgrund der Umgehung der KI-Erkennung einen schwerwiegenden Sicherheitsvorfall erleidet, wird das Kundenvertrauen erheblich geschädigt, insbesondere in der Technologie- und Finanzbranche.

Datenrisiken Gaslight wird mit nordkoreanischen Bedrohungsgruppen in Verbindung gebracht und könnte darauf abzielen, Geschäftsgeheimnisse, geistiges Eigentum oder politisch sensible Informationen zu stehlen.

Beobachtung von Branchentrends

Das Auftauchen von Gaslight markiert eine neue Phase des Kampfes zwischen Malware und KI-Abwehr. Dies ist kein isoliertes Ereignis, sondern eine wachsende Bedrohungskategorie:

• Zunahme von KI-Adversarial-Angriffen: Anbieter wie Check Point, Socket haben zuvor ähnliche Fälle gemeldet, was beweist, dass Angreifer systematisch untersuchen, wie KI-Erkennung umgangen werden kann.
• Schwächen der LLM-gestützten Analyse aufgedeckt: Sicherheitsanbieter setzen zunehmend LLMs für Malware-Analyse, Alarmklassifizierung und Bedrohungsaufklärung ein, aber die Prompt-Injection-Schwachstellen dieser Modelle werden ausgenutzt.
• Lieferkettenrisiken erstrecken sich auf KI-Modelle: Angreifer infizieren nicht nur Endgeräte mit traditioneller Malware, sondern verstecken sich auch durch die Kontamination von KI-Analyseprozessen.
• Mit dem schnellen Wachstum des KI-Sicherheitsmarktes: Gartner prognostiziert, dass bis 2027 30% der Unternehmen KI-gestützte Sicherheitslösungen einsetzen werden, aber die Sicherheitsrisiken in diesem Bereich sind noch nicht ausgereift.

Verteidigungs- und Reaktionsempfehlungen### Auf Unternehmensebene - Neubewertung der Abhängigkeit von KI-Erkennung: Verwenden Sie KI nicht als einziges Erkennungsmittel. Implementieren Sie ein mehrschichtiges Erkennungssystem, einschließlich Signaturerkennung, Verhaltensanalyse, Honeypots usw. - Stärkung der Verwaltung von macOS-Geräten: Führen Sie Endpunkt-Erkennungs- und Reaktionslösungen (EDR) ein und stellen Sie sicher, dass die macOS-Plattform unterstützt wird. - Identitätssicherheit: Aktivieren Sie die Multi-Faktor-Authentifizierung (MFA) und schränken Sie übermäßige Berechtigungszuweisungen ein.

Auf technischer Ebene - Stärkung des KI-Modellschutzes: Implementieren Sie in Sicherheitsanalysetools Prompt-Filterung, Eingabevalidierung und Ausgabeüberwachung, um Prompt-Injection zu verhindern. - Integration von Bedrohungsinformationen: Abonnieren Sie Bedrohungsinformationen von Anbietern wie SentinelLabs, Check Point usw. und aktualisieren Sie rechtzeitig die Erkennungsregeln. - Verwendung von Sandbox-Isolation: Analysieren Sie verdächtige Dateien in isolierten Sandboxen und stellen Sie sicher, dass der KI-Analyseprozess nicht mit der Außenwelt kommuniziert.

Auf Verwaltungsebene - Erstellung eines Incident-Response-Plans: Enthalten Sie Übungsszenarien für den Fall des KI-Erkennungsausfalls. - Risikomanagement von Drittanbietern: Bewerten Sie die KI-Erkennungsfähigkeiten von Sicherheitsanbietern und fordern Sie Schutzmaßnahmen gegen Prompt-Injection. - Sicherheitsbewusstseinstraining: Schulen Sie Mitarbeiter im Erkennen von Phishing-Angriffen, um das Risiko einer Erstinfektion zu verringern.Der langfristige Trend ist, dass das „Wettrüsten“ zwischen KI und Schadsoftware weiter eskalieren wird. Unternehmen können nicht auf die perfekte KI-Lösung warten, sondern müssen sofort Maßnahmen ergreifen, einschließlich der Prüfung der KI-Fähigkeiten von Sicherheitsanbietern, der Durchführung von adversarialem Testing und der Einrichtung von SOC-Prozessen mit Mensch-Maschine-Kollaboration. SecurityPost wird die Entwicklungen in diesem Bereich weiterverfolgen und den Lesern zukunftsweisende Einblicke bieten.