CyberQP-CEO: "KI-Leitplanken sind keine Zugriffskontrollen!"

Die in LLM s integrierten Leitplanken sollen lediglich dafür sorgen, dass LLMs "verstehen, was sie erzeugen" – sind jedoch nicht dafür gedacht, sicherzustellen, dass nur die richtigen Personen und Agenten über die passenden Zugriffsrechte verfügen, warnt CyberQP-CEO Mateo Barraza. Als Lösung schlägt er eine neue Zwischenschicht vor, die KI-Aktionen kontrolliert.

Die in weit verbreiteten KI-Modellen integrierten Sicherheits- und Schutzmechanismen umfassen keine Zugriffskontrollen, wie sie Unternehmen benötigen, um ihre IT-Systeme und Daten zu schützen. Dennoch sei diese gefährliche Fehleinschätzung derzeit immer wieder zu beobachten, berichtete Mateo Barraza, Mitgründer und CEO des Zero-Trust-Zugriffsmanagement-Anbieters CyberQP, den Teilnehmern der jüngsten US-Ausgabe der von der CRN-Mutter The Channel Company veranstalteten Channel-Konferenz XChange, die am 3. November auch wieder in Deutschland stattfinden wird. "Leitplanken sind keine Zugriffskontrollen!", warnte der Security-Experte die anwesenden MSP-Vertreter eindrücklich.

"Leitplanken dienen dazu, dass große Sprachmodelle besser verstehen, was sie erzeugen – etwa, ob sie etwas generieren, das bösartig ist oder der Gesellschaft beziehungsweise Menschen schaden könnte", führte er während seiner Konferenz-Session aus. Zugriffskontrollen dienen hingegen dazu, "den Datenfluss zu steuern und sicherzustellen, dass die richtigen Personen den richtigen Datenzugriff haben", erläuterte Barraza. Trotz dieses grundlegenden Unterschieds würden die beiden Mechanismen jedoch immer wieder miteinander vermischt und verwechselt und angenommen, die LLM-Anbieter würden gemeinsam mit ihren Leitplanken auch entsprechende Zugriffskontrollen in ihre Modelle integrieren, merkte er an.

KI-Security-Gateways als Ausweg

Eine Fehleinschätzung, die auch Michael Tanenhaus, President und CEO von Mavenspire, immer wieder beobachtet. Aus seiner Sicht sprach Barraza deshalb einen wichtigen Punkt an, indem er klar hervorhob, wofür KI-Leitplanken im Hinblick auf die Sicherheit tatsächlich gedacht sind – und wofür eben nicht. "Wenn KI-Unternehmen darüber sprechen, was eine Leitplanke ist, geht es nicht darum, zu bewerten, ob jemand privilegierten Zugriff haben sollte", unterstrich deshalb auch Tanenhaus gegenüber CRN. Aus seiner Sicht schlage CyberQP deshalb mit seiner Forderung, dass "wir ein anderes Modell dafür brauchen, wie das umgesetzt wird", den richtigen Weg ein.

CyberQP verfolgt diesen Ansatz mit einer speziell entwickelten KI-Architektur für Privileged Access Management und Identity Governance, erklärten CyberQP-Manager während der Session am Dienstag. "Die KI berührt niemals Ihre privilegierten Zugangsdaten. Was wir also getan haben, ist: Wir haben ein individuelles KI-Harness geschaffen, das jede Aktion vermittelt", führte Jim Jessup, Mitgründer und COO von CyberQP, während der Session aus. "Das Modell erhält niemals ungefilterte Geheimnisse. Wir schaffen also eine klare Trennung."

Solch eine separate Sicherheitsebene ist auch aus Tanenhaus Sicht unverzichtbar, wenn Unternehmen KI-Agenten zunehmend die Möglichkeit geben, in ihren IT-Umgebungen Aktionen auszuführen. "Wenn man an all die Unternehmen denkt, die API-Security-Gateways auf den Markt gebracht haben – CyberQP sagt im Grunde, dass wir genau das auch in der KI brauchen. Wir müssen einen Weg finden, festzulegen: Die KI kann etwas ausführen, muss dafür aber mit einem Gateway kommunizieren", erläuterte er. "Sie sind definitiv ganz vorne dabei mit dem, was sie hier tun."

Dieser Artikel erschien zuerst bei unserer Schwesterpublikation crn.com.

CRN-Newsletter beziehen und Archiv nutzen - kostenlos: Jetzt bei der CRN Community anmelden