Autonome KI-Angriffe überfordern KI-Sicherheitssysteme

Mit der enormen Ausweitung der Angriffsfläche und -Geschwindigkeit durch autonome Cyberattacken sind selbst KI-gestützte Sicherheitstools häufig nicht mehr präzise genug, um "katastrophale" Folgen zu verhindern, warnt ThreatLockers Chief Product Officer, Rob Allen.

Die jüngsten Vorfälle mit ausgebrochenen KI-Modellen der großen Hersteller OpenAI, Anthropic und Meta, die autonom andere Firmen angegriffen haben, belegen, dass eine neue Zeitrechnung in der IT-Security begonnen hat. Eine Zeitrechnung, die sowohl im Angriff als auch in der Abwehr die Grenzen deutlich verschiebt. Auf der einen Seite zeigen sie allzu deutlich, dass es solche fortgeschrittenen Modelle selbst unerfahrenen Personen erlauben, sich als Hacker zu betätigen und Attacken zu starten. Und das nicht als krude digitale Einbruchsversuche, sondern auch in Form weitreichender, komplexer und sehr gezielter Angriffe, die bislang nur von wenigen Spezialisten vorbereitet und durchgeführt werden konnten.

"Mit KI kann jeder Malware erstellen. Jeder kann Schwachstellen finden", konstatierte dazu Rob Allen, Chief Product Officer des Cybersecurity-Anbieters ThreatLocker, diese Woche im Rahmen einer Session mit Führungskräften amerikanischer MSPs bei der Channel-Konferenz XChange August 2026. Durch die Angriffe habe diese Entwicklung nun die nächste Gefahrenstufe erreicht: "Wir haben nun ein neues Problem, um das wir uns sorgen müssen: die Tatsache, dass KI selbstständig Angriffe entwickeln kann." Dass es gleich drei entsprechende Angriffe gab, war für ihn dabei nicht nur ein Zeichen des technischen Fortschritts der Modelle, sondern auch "wahrscheinlich der offensichtlichste Fall von 'Was du kannst, kann ich besser'" im Wettbewerb der Hersteller.

KI hebelt schwache Verteidigungslinien aus

Unternehmen und ihre Dienstleister sind dadurch nicht nur einer höheren Qualität und Quantität von Angriffen ausgesetzt, sondern einer neuen Art der Gefährdung, wie Allen ausführte: "Realistisch betrachtet erweitert KI Ihre Angriffsfläche. Daran besteht absolut kein Zweifel." Aus Sicht des Experten sind die Organisationen und auch die von ihnen eingesetzten Tools und Strategien jedoch nicht ausreichend auf diese neuen Gefahren vorbereitet. Das hat seinen Ausführungen zufolge sowohl technische als auch strategische und operationelle Gründe. Eines der Hauptprobleme identifizierte Allen in den vorhandenen Sicherheitskontrollen, die ihm bei vielen Unternehmen etwa zu freizügig darin sind, die Ausführung von Software zuzulassen. Eine Schwäche, die KI-gestützte Tools zunehmend und in hohem Tempo ausnutzen könnten.

Eine Befürchtung, die auch Sam V. Kumar teilt, der Gründer und CEO des US_MSPs Cyber Sainik. Auch er beobachtet eine drastische Beschleunigung der Geschwindigkeit von Angriffen durch KI und Automatisierung, mit der die vorhandenen Erkennungszeiträume meist nicht mehr mithalten können und damit offene Lücken hinterlassen. So berichtet er etwa von einem jüngst beobachteten Vorfall, bei dem ein Angreifer innerhalb von vier Minuten nach der Kompromittierung eines Unternehmenssystems bereits Dutzende Dateien heruntergeladen hatte. Unterdessen brauchte der vom betroffenen Unternehmen eingesetzte Sicherheitsanbieter Kumars Bericht zufolge nach dem Beginn der Attacke ganze 20 Minuten, bis er überhaupt eine erste Warnung über einen möglichen Eindringversuch an die Sicherheitsabteilung des Unternehmens verschickte. "Zu diesem Zeitpunkt war der Angreifer bereits wieder verschwunden", kommentierte Kumar und warnte: "Angriffsvektoren dauern nicht mehr Stunden – sie dauern drei oder vier Minuten."

Cyberverteidigung: KI allein reicht nicht

Viele Anbieter und Anwender setzen darauf, dass KI auch auf Seiten der Verteidiger entsprechende Fortschritte bringt, sodass dieser Effekt der zusätzlichen Beschleunigung und Gefahr durch ebenfalls KI-gestützte KI-Sicherheitstools wieder ausgeglichen werden kann. Dem erteilte Allen jedoch eine Absage und führte aus, dass dies nicht in allen Fällen möglich sei. Als Beispiel führte er an, dass man KI-Analysen nicht zuverlässig zutrauen könne, korrekt zu entscheiden, welche Software sicher ausgeführt werden kann und welche nicht.

Während eine Genauigkeit von 85 Prozent bei der Klassifizierung von Websites, wie sie ThreatLocker bei Tests feststellte, aus seiner Sicht vielleicht noch als ausreichend sicher erachtet werden könnte, sei ein solcher Wert für weitreichendere Entscheidungen wie die, ob unbekannte Software ausgeführt werden sollte oder nicht, schlichtweg nicht akzeptabel, erläuterte Allen. "Wenn es um die Entscheidung ginge, ob etwas bösartig ist oder nicht – ob etwas ausgeführt werden darf oder nicht –, dann wären 15 Prozent Fehlerquote katastrophal", unterstrich er.

Auch bei der nächsten XChange Deutschland, die am 3. November in Mannheim stattfindet, ist der Einfluss von KI auf die Sicherheit und Geschäftsmodelle eines der zentralen Themen.

Dieser Artikel basiert auf Material unserer Schwesterpublikation crn.com.

CRN-Newsletter beziehen und Archiv nutzen - kostenlos: Jetzt bei der CRN Community anmelden