Menschliche und künstliche Intelligenz gefährden die Datensicherheit

Einer aktuellen Befragung zufolge haben deutsche Unternehmen im Durchschnitt mit 12 Datenverlust-Fällen pro Jahr zu kämpfen, oft sind unachtsame Mitarbeiter die Auslöser. Nicht zuletzt deshalb befürchten 50 Prozent der Sicherheitsverantwortlichen durch KI-Tools und -Agenten einen weiteren Anstieg der Vorfälle.

Trotz der strikten gesetzlichen Vorgaben und allen Bemühungen und Initiativen der Unternehmen, diese auch zu erfüllen, bleibt die Häufigkeit von Datenverlusten auf einem alarmierend hohen Niveau. Laut der jetzt von Proofpoint vorgelegten Studie "2025 Data Security Landscape", für die eine Befragung von über 1.000 Sicherheitsexperten aus 10 Ländern und mehr als 15 Branchen durch die CyberEdge Group mit zahlreichen Telemetriedaten des Security-Anbieters kombiniert wurde, hat jedes Unternehmen in Deutschland im Durchschnitt mit 12 Datenverlusten pro Jahr zu kämpfen. Während es sich bei einigen nur um Einzelfälle handelte, gestanden andere ein, jeden Monat mehrere Datenverluste oder Verletzungen des Datenschutzes zu verzeichnen. Damit gehören sie bei einigen Firmen offensichtlich mehr oder minder zum Alltag und bringen neben den rechtlichen auch wirtschaftliche Risiken sowie erheblichen Aufwand für die Aufräumarbeiten mit sich, der die sowieso überlasteten Sicherheitsteams zusätzlich bindet.

Mensch und Maschine als Schwachstellen

Die Ursachen für die Datenverluste sind meist in menschlichem Versagen zu suchen, intern wie extern. 71 Prozent der Befragten führen ihre schwerstwiegenden Datenverluste auf unachtsame Mitarbeiter oder auch Fehler externer Dienstleister zurück. Darüber hinaus hat die Hälfte der Unternehmen bereits Daten durch kompromittierte Benutzer und Konten verloren, 44 Prozent berichten zudem von absichtlich herbeigeführten Fällen durch böswillige Insider, die Frust abbauen, Spionage betreiben und dem Unternehmen bewusst Schaden zufügen wollen. Eine interessante Ergänzung dazu liefern die Telemetriedaten von Proofpoint, denen zufolge nur ein Prozent der Benutzer für 76 Prozent der Datenverluste verantwortlich ist.

Gerade diese menschlichen Risiken werden durch den zunehmenden Einsatz von KI-Tools und -Agenten nun weiter verschärft. Etwa dann, wenn unvorsichtige Mitarbeiter allzu unbedacht eigenmächtig KI-Dienste nutzen und dort sensible Daten preisgeben. Zusätzlich kann auch die künstliche Intelligenz selbst bei falscher Integration, Konfiguration und Nutzung Datenabflüsse verursachen. Dass diese Probleme den Sicherheitsverantwortlichen meist schmerzlich bewusst sind, zeigt sich daran, dass 50 Prozent Datenverluste durch öffentliche oder unternehmensinterne GenAI-Tools als eines ihrer größten Probleme bezeichnen. Gut ein Drittel (34 Prozent) sorgt sich zudem, dass sensible Daten für das KI-Training verwendet werden könnten.

Ausgerechnet die KI-Agenten, die derzeit allenthalben als ultimative Waffe zur Steigerung der Effizienz und Produktivität angepriesen werden, bereiten den Security-Experten besonders großes Kopfzerbrechen. Da sie meist als Superuser mit hohen Berechtigungen agieren und Zugriff auf sensible Informationen haben, sehen 39 Prozent der Befragten eine potenziell kritische Bedrohung im unbeaufsichtigten Datenzugriff durch Agenten. Gleichzeitig fehlt es an Knowhow und Möglichkeiten, diese Gefahren zuverlässig zu erkennen und einzudämmen.

Fehlende Transparenz und Kontrolle über Daten und ihre Nutzung

Sind schon die Fachleute für den KI-Aufbau rar, steht es nochmals deutlich schlechter um Experten für ihre Absicherung. Demensprechend geben 46 Prozent der Befragten an, ihr Unternehmen verfüge nicht über ausreichende Transparenz und Kontrollen für GenAI-Tools. Ausgerechnet der Bereich in dem menschliche und künstliche Intelligenz – und damit auch Dummheit – aufeinandertreffen, bietet Angreifern also eine offene Flanke.

Oft sind es fragmentierte Sicherheitsarchitekturen, die hier die Transparenz eintrüben, sodass Verhinderung, Erkennung und Reaktion ausgebremst werden. 72 Prozent der Unternehmen erklären, dass sie derzeit auf sechs oder mehr Datensicherheitsanbieter angewiesen sind. Durch diese Fragmentierung entsteht eine Komplexität, die Sicherheitsteams vor eine gewaltige Herausforderung stellt. Dadurch dauert es in 15 Prozent der deutschen Unternehmen bereits zwischen einer und vier Wochen, einen Datenverlust zu beheben.

Wie das Problem KI zur Lösung werden kann

Immerhin kann die KI in Form von intelligenten Sicherheitslösungen auch dabei helfen, einen Teil dieser von ihr verursachten Probleme zu lösen. So geben etwa 68 Prozent der deutschen Unternehmensverantwortlichen an, KI-gestützte Datensicherheitsfunktionen zur Klassifizierung von Daten implementiert zu haben. Wichtig ist ihnen dabei vor allem, dass die Lösungen Datensicherheit, KI und Insider-Gefahren ganzheitlich abdecken. 40 Prozent glauben, mit einer solchen einheitlichen Datensicherheitslösung das Risiko von Datenverlusten spürbar verringern zu können, 38 Prozent erhoffen sich dadurch sicheren und produktiven Einsatz von KI.

"Eine Reihe nicht Miteinander integrierter Tools und eingeschränkte Transparenz machen Unternehmen angreifbar", fasst Ryan Kalember, Chief Strategy Officer bei Proofpoint, zusammen und folgert: "Die Zukunft der Datensicherheit hängt von einheitlichen, KI-gestützten Lösungen ab, die Inhalte und Kontexte verstehen, sich in Echtzeit anpassen und Informationen sowohl bei menschlichen als auch bei automatisierten Aktivitäten schützen."

Zumal zwei Faktoren dafür sorgen, dass sich diese Probleme nicht auf die lange Bank schieben lassen: Erstens ist dies die bereits genannte wachsende Verbreitung von KI-Lösungen, und zweitens das ungebremste Datenwachstum. Mehr als ein Drittel (36 Prozent) der Befragten von Firmen in Deutschland berichten von einem jährlichen Datenzuwachs von 30 Prozent oder mehr. 41 Prozent der globalen Unternehmen mit mehr als 10.000 Mitarbeitern müssen deshalb schon heute mehr als ein Petabyte an Daten sicher halten und verwalten.

Eine gewaltige Herausforderung, insbesondere wenn die Daten in Cloud- und SaaS-Umgebungen liegen, wie 39 Prozent der Unternehmen bestätigen. Ebenso viele befürchten auch erhebliche Risiken durch nicht aussortierte redundante oder veraltete Daten. Diese vergrößern die Angriffsfläche und bergen zugleich die Gefahr, dass sie wieder in den produktiven Kreislauf gelangen und damit Probleme verursachen können. Zugleich verursachen diese Altbestände auch erhebliche unnötige Kosten. Proofpoint geht auf Basis von Auswertungen der eigenen Plattform davon aus, dass 27 Prozent der Cloud-Daten ungenutzt sind.

CRN-Newsletter beziehen und Archiv nutzen - kostenlos: Jetzt bei der CRN Community anmelden