Unternehmen unterschätzen Insider-Gefahren durch KI

71 Prozent der deutschen Unternehmen sehen KI derzeit als größte Gefahr für ihre Datensicherheit. Extern nutzen Cyberkriminelle sie für immer raffiniertere gezielte Attacken, während gleichzeitig intern in vielerlei Hinsicht zu hemdsärmelig damit umgegangen wird. Hier ist Aufklärungsarbeit von Systemhäusern und MSPs gefragt, die das Thema als guten Einstiegspunkt nutzen können.

Der Siegeszug der KI-Technologien verändert nicht nur die IT-Landschaften selbst in rasendem Tempo, sondern auch ihre Absicherung. Und das gleich in mehreren Dimensionen: Während KI-Tools und -Agenten intern oft überhastet Zugriff auf teils hochsensible Daten bekommen und Mitarbeiter unkontrollierte Schatten-KI einsetzen, nutzen Angreifer die Möglichkeiten vor allem, um ihre Cyberattacken noch zielgerichteter und effizienter zu gestalten. Aufgrund dieser Kombination aus bösartiger KI und potenziell riskantem Insiderwissen sehen laut dem Thales 2026 Data Threat Report bereits 70 Prozent der Unternehmen in Deutschland und 71 Prozent weltweit KI als das größte Risiko für ihre Datensicherheit an.

Auf Seiten der Angreifer erhöhen KI-generierte und teils hochindividuell angepasste Deepfakes und Falschinformationen die Erfolgschancen identitätsbasierter Angriffe deutlich. Besonders gefährlich ist das etwa im Umfeld von Cloud-Architekturen, bei denen der Diebstahl von Anmeldedaten inzwischen mit 58 Prozent in Deutschland (67 Prozent weltweit) die häufigste Angriffstechnik ist. Auch gezielte Deepfakes sind längst keine Einzelfälle mehr, 51 Prozent der deutschen Unternehmen (weltweit 60 Prozent) haben nach eigenen Angaben bereits entsprechende Angriffsversuche registriert. Zudem musste fast die Hälfte (47 Prozent) der für die Studie von S&P Global befragten Organisationen auch schon Reputationsschäden durch KI-generierte Falschinformationen oder Identitätsdiebstahlkampagnen erleiden.

Der Mensch ist dabei nicht nur indirekt als Opfer ausgefeilter Attacken involviert. Auch Verhaltensmuster wie der Einsatz nicht genehmigter und abgesicherter KI-Tools oder die nicht ordnungsgemäße Nutzung und Absicherung offiziell eingeführter KI-Helfer erhöhen das Risiko zusätzlich. Zumal sich selbst vermeintliche kleine Fehler über eine Kette aus Automatisierungen und deren Zugriffsrechte auf Insider-Informationen schnell ausweiten und weiterverbreiten können. Der Studie zufolge ist menschliches Versagen dadurch inzwischen für 32 Prozent aller IT-Sicherheitsverletzungen verantwortlich, weltweit sind es 28 Prozent.

Mehr Budget und neues Denken gefragt

Aufgrund diesen mit der schneller KI-Einführung einhergehenden Entwicklungen fällt es der IT-Sicherheit und der Governance in Bezug auf Datentransparenz, Identität und Sicherheitskontrollen zunehmend schwer, mit der Entwicklung und den Gefahren Schritt zu halten. Einige Unternehmen haben das erkannt und beginnen, ihre Budgets für entsprechende Maßnahmen hochzufahren. Sowohl in Deutschland als auch weltweit stellen der Studie zufolge schon 30 Prozent der Unternehmen spezielle Budgets für diese Aufgaben bereit. Im Vorjahr hatte diese Quote noch bei 20 Prozent gelegen. Gleichzeitig verlassen sich jedoch 48 Prozent (weltweit 53 Prozent) der Organisationen ungeachtet der Verschiebungen in der Gefahrenlage durch KI weiterhin ausschließlich auf ihre bestehenden Sicherheits-Tools, die nicht für maschinengesteuerte oder autonome Risikomodelle ausgelegt sind.

"KI wird zunehmend in Unternehmensabläufe integriert. Deshalb ist das Management der Datensicherheit nicht mehr nur ein Randthema, sondern eine strategische Notwendigkeit", mahnt Eric Hanselman, Chefanalyst bei S&P Global Market Intelligence 451 Research. "Unternehmen müssen Datensicherheit als Grundlage für Innovation betrachten und nicht als davon getrenntes Thema."

Um das zu erreichen, müssen Dienstleister den Verantwortlichen verdeutlichen, dass KI weder einfach nur eine weitere Bedrohung nach altbekanntem Schema ist, noch ein separat zu betrachtender Aspekt der Sicherheit. Auch wenn KI zwar in einigen Bereichen eine eigene Betrachtung und einen neuen Ansatz erfordert, wirkt sie durch ihre zentrale Position als vertrauenswürdiger Insider mit Zugriff auf verschiedenste Ressourcen in vielerlei Hinsicht vor allem als Verstärker bestehender Risiken, deren Geschwindigkeit, Umfang und Reichweite sie erheblich vergrößert.

Dies berücksichtigend, müssen Unternehmen die Themen Identität, Verschlüsselung und Datentransparenz als Teil ihrer Kerninfrastruktur grundlegend überdenken und Governance und Sicherheit von Anfang an fest in ihre KI-Strategien integrieren. Ein wichtiger Grundgedanke dabei ist es, die KI mit ihrem Insider-Status mit ähnlichen Kontroll- und Überwachungsmöglichkeiten zu versehen, wie menschliche Insider-Akteure. Durch den umfassenden automatisierten Zugriff auf die Unternehmensdaten liegt die Hürde hier meist auf der Stufe der höchsten Mitarbeiter oder sogar darüber.

"Insider-Risiken betreffen nicht mehr nur Menschen. Sie betreffen auch automatisierte Systeme, denen zu schnell Vertrauen geschenkt wurde", fasst Sebastien Cano, Senior Vice President für Cybersicherheitsprodukte bei Thales, zusammen. "Selbst wenn KI innerhalb von Sicherheitskontrollen arbeitet, beschleunigt KI bei schwachen Zugriffsrichtlinien, Identitätsverwaltung oder Datenschutz diese Schwächen in Umgebungen weitaus schneller, als menschliche Benutzer dies jemals könnten."

CRN-Newsletter beziehen und Archiv nutzen - kostenlos: Jetzt bei der CRN Community anmelden