Von Alchemisten und dem Hype um KI in Cyber-Security

Auf Knopfdruck einer KI IT-Sicherheit wiederherstellen? Der Hype suggeriert genau das. Doch so einfach ist das nicht. Wo die Grenzen liegen und wie weit es noch zur KI-Revolution ist, erläutert Nicko van Someren, CTO bei Absolute Software.

Kein hochrangiger Manager oder Politiker, der nicht irgendwas zu KI von sich gibt, enorme Hoffnungen schürt und Sorgen um Arbeitsplatzabbau dank intelligenter Maschinen dämpft. Wer zum Beispiel ChatGPT den Auftrag gibt, Antworten von Karl Marx auf fünf Fragen zur Funktionsweise des Kapitalismus zu geben, erhält ein druckreifes Interview. Doch hatte es der Philosoph und scharfer Beobachter seiner Zeit auch wirklich so gesagt?

"AI-Systeme zeichnen sich dadurch aus, dass sie plausibel klingende Antworten produzieren, aber sie haben oft Schwierigkeiten, präzise und vertrauenswürdige Lösungen zu liefern", sagt Nicko van Someren, CTO bei Absolute Software. Er würde ich so wenig auf ungefilterte KI-Ergebnisse verlassen, wie ein sorgfältig arbeitender Journalist.

Träume von Alchemisten und Security-Experten

Man staunt über den rasant schnellen, vermeintlich plausiblen Output von ChatGPT, der eine medialen Hype auslöst wie seinerzeit das iPhone von Apple. Doch würde man diesem Bot auch folgen, würde er eine lebensbedrohliche Krankheit diagnostizieren und einen Therapieplan vorschlagen? Es könne "gefährlich sein, wenn man bedenkt, wie viele Fehlinformationen im Internet zu finden sind, die das Trainingsmaterial für solche AI-Systeme bilden", so van Someren.

Eine ebensolche Welle der Begeisterung über KI stellt der Manager in seiner Branche fest, der IT-Security. Als hätte man eine Technologie entdeckt, Sicherheitskrisen wie Ransomware-Angriffe quasi automatisch auszuschließen. Blei werde zu Gold, versprachen einst Alchemisten.

Genau das sind für van Someren die aktuellen KI-Lösungen in der IT-Security gerade nicht. Kein Stein der Weisen, keine Revolution, aber eine Evolution, eine vielversprechende dazu. Der CTO hat die aktuellen Beschränkungen der KI bei der Bewältigung von Problemen der Cyber-Security genauer untersucht. Geschaut, wo die Rolle der Technologie bei der Stärkung der Widerstandsfähigkeit und der datengestützten Sicherheitspraktiken stärker hervorgehoben werden sollte.

Evolution der KI-Systeme statt Revolution

"Sich von einem Cyber-Angriff zu erholen, umfasst oft eine komplexe Reihe von Maßnahmen über mehrere Systeme hinweg, da die IT-Teams verschiedene Aufgaben zur Wiederherstellung der Sicherheit und zur Begrenzung des entstandenen Schadens übernehmen. Würde man den Wiederherstellungsprozess allein einem AI-System anvertrauen, müsste man schon großes Vertrauen in dessen Zuverlässigkeit besitzen", skizziert van Someren.

Der derzeitige Stand der AI-Technologie sei jedoch noch nicht robust genug, "um die Vielzahl von Maßnahmen zu bewältigen, die für eine wirksame Wiederherstellung nach einem Cyber-Angriff erforderlich sind." Da brauche es noch viel grundlegende Entwicklungs- und Testarbeiten.

Hinzu komme, dass man unterscheiden müsse zwischen allgemeinen Erkenntnissen und allgemeiner Intelligenz, wenn man die Fähigkeiten von AI-Systemen betrachtet. "AI-Systeme wie zum Beispiel ChatGPT sind zwar besonders in der Lage, allgemeine Erkenntnisse zu vermitteln und Texte zu erzeugen, aber es fehlt ihnen an allgemeinen intelligenten Fähigkeiten." Für den Manager steht fest, dass sich generativen AI-Systeme Stand heute nur begrenzt eigneten, um anspruchsvolle IT- und Sicherheitsprobleme zu lösen und zu automatisieren. Es finde keine Revolution statt. KI für die IT-Sicherheitsbranche würde sich vielmehr evolutionär entwickeln. "Sie spielt eine Rolle bei der Verbesserung von Sicherheitspraktiken, sollte aber die Beteiligung und Entscheidungsfindung von Menschen nicht vollständig ersetzen", so der CTO von Absolute Software.

Auch Daten gehackter Clients sammeln. Wie das geht? Seite 2 ...

Von Alchemisten und dem Hype um KI in Cyber-Security

Auf Knopfdruck einer KI IT-Sicherheit wiederherstellen? Der Hype suggeriert genau das. Doch so einfach ist das nicht. Wo die Grenzen liegen und wie weit es noch zur KI-Revolution ist, erläutert Nicko van Someren, CTO bei Absolute Software.

"Dunkle Seiten der AI"

Zu den "dunklen Seiten der KI" gehöre laut Nicko van Someren auch, dass sich Unternehmen gegen KI-gesteuerte Cyberangriffe wehren müssten. Um solche Maschinen-Angriffe abzuwehren brauche es Daten sowohl von kompromittierten als auch von nicht kompromittierten Endpunkten. "Diese Daten sind für Sicherheitsteams unbedingt erforderlich, um Erkenntnisse zu gewinnen, Anomalien aufzudecken und proaktive Strategien zu entwickeln - wobei es keine Rolle spielt, ob sie bereits AI einsetzen oder noch nicht."

Woher diese Daten kommen sollen? Der Manager empfiehlt, den Aufbau einer "universellen Reichweite zu Edge-Geräten, wie zum Beispiel den Geräten der Mitarbeiter, auf denen Sicherheitsvorfälle auftreten." Stabile Verbindungen vorausgesetzt, würde IT-Teams die notwendigen Daten erhalten (selbst während eines Angriffs), um zu lernen und ihre Sicherheitslage zu verbessern.

Die Zukunft von AI

Obwohl KI einen vielversprechenden Ansatz biete, um die Art und Weise zu verändern, wie Sicherheits- und IT-Teams mit Cyber-Krisen, Sicherheitsverletzungen und Ransomware-Angriffen umgehen könnten, verhindere ihre derzeitigen Einschränkungen noch eine sofortige breite Einführung, sagt van Someren.

Für Unternehmen sei es wichtig zu verstehen, dass KI keine einfache Komplettlösung darstellt, sondern vielmehr ein wertvolles Werkzeug wäre, das die Sicherheitsverfahren verbessern kann, wenn es in Verbindung mit Engagement und Entscheidungsfindung von Menschen eingesetzt werde. "Zweifellos wird die AI-Technologie im Zuge der Weiterentwicklung der Landschaft bei der Cyber-Security Fortschritte aufzeigen und ihre derzeitigen Begrenzungen überwinden. Bis dahin sollten Unternehmen jedoch vorsichtig mit AI umgehen und sicherstellen, dass sie sich auf geprüfte und genaue Informationen verlassen, während sie ihre Sicherheitsstrategien durch die Fähigkeiten von AI schrittweise ausbauen", rät van Someren.

Probleme mit der Genauigkeit, der Komplexität von Maßnahmen zur Wiederherstellung und der Unterscheidung zwischen allgemeinem Wissen und allgemeiner Intelligenz behinderten seiner Meinung nach die sofortige breite Einführung von KI. "Aber ungeachtet dessen können Unternehmen AI bereits verwenden, wenn sie sich auf belastbare Verbindungen und datengesteuerte Sicherheitspraktiken konzentrieren."