Lars, but not least: Politische Torheit trifft Künstliche Intelligenz

Nach knapp drei Wochen hebt die US-Regierung die strikte Exportkontrolle für Anthropics neuste Generation der KI-Modelle Mythos 5 und Fable 5 wieder auf. Wie das in der Zwischenzeit veröffentlichte chinesische Modell GLM 5.2 deutlich zeigt, haben Trumps Truppen der IT-Sicherheit mit der auf äußerst wackligen Füßen stehenden Blockade einen Bärendienst erwiesen.

Seit die Regierung der USA vor knapp drei Wochen in einer Art Hau-Ruck-Aktion äußerst restriktive Exportbeschränkungen für die fünfte Generation KI-Modelle Mythos und Fable von Anthropic erlassen hat, wurde das Thema in der IT-Security-Branche heiß diskutiert. Viele Experten waren dabei der Ansicht, dass die vermeintliche Kontrolle über die starken Fähigkeiten beim Aufspüren von Sicherheitslücken mehr Schaden als Nutzen anrichten dürfte. Zum einen wurde hier argumentiert, dass sich die Verbreitung dieser Modelle kaum langfristig kontrollieren lasse und zudem schnell andere Modelle mit ähnlichen Fähigkeiten auftauchen werden.

Zum anderen wurden grobe handwerkliche Fehler kritisiert, sowohl hinsichtlich der Begründung der Maßnahme als auch ihrer Umsetzung. Denn wie die Security-Expertin Katie Moussouris argumentiert, war wohl schon der Ausgangspunkt für die Aktion eher ein technisches Missverständnis, denn ein echter Aufreger. Ihren Angaben zufolge begründete die Regierung das Verbot vorwiegend auf einem einzelnen Test mit Open-Source-Code mit bewusst eingepflanzten CVEs. Dabei hätten die Modelle die Aufforderung, Schwachstellen in Code zu finden, zwar wie geplant verweigert, anschließend aber eine Antwort auf die Aufforderung geliefert, den Code zu reparieren. Aus diesen Reparaturen konnten die Tester dann in manueller Arbeit Skripte erstellen, um die Patches zu analysieren und testen und dadurch per Reverse Engineering mehr über die Lücken zu erfahren.

"Fix this code" als Gefahr für die nationale Sicherheit

Daraus schloss die Regierung laut Moussouris, dass die integrierte Sperre vor der Ausnutzung der Schwachstellenanalyse einfach per Prompt umgangen werden könne. Dabei ist genau das bei jedem Modell möglich und im Sinne der Sicherheit sogar wünschenswert, ermöglicht es doch erst, die Fähigkeiten der KI zur Abhärtung zu nutzen und gibt den Verteidigern einen Vorsprung. "Sicherheitsverantwortliche müssen in der Lage sein, die KI zu beauftragen, Fehler in einer Datei zu beheben, zu erklären, warum die Korrektur wichtig ist, und Tests zu schreiben, die bestätigen, dass der Patch funktioniert", so die Expertin. "Das ist keine Umgehung von Sicherheitsvorkehrungen. Es ist das Wertvollste, was ein KI-Modell für die defensive Sicherheit leisten kann: die Ausführung des Zyklus aus 'Finden, Beheben und Testen’, den Sicherheitsbeauftragte täglich durchlaufen."

Davon aufgeschreckt, strickten die Behörden offenbar mit so heißer Nadel ihr Exportverbot, dass es die Situation noch zusätzlich verschlimmerte. Dessen Vorgaben verlangten von Anthropic unter anderem, dass ausschließlich amerikanische Staatsbürger Zugang haben dürfen. Angesicht der internationalen Belegschaft konnte das KI-Unternehmen das aber nicht einmal intern erfüllen, und musste die Modelle deshalb im Endeffekt komplett blockieren.

Dementsprechend laut hatte sich Anthropic beschwert und seither in regelmäßigen Gesprächen mit Regierungsvertretern und Behörden gefordert, die Sperren aufzuheben. Dabei verwies das Unternehmen unter anderem auf die verpassten Chancen, Sicherheitsrisiken auszuloten und zu beseitigen, solange Mythos 5 und das abgespeckte Derivat Fable 5 nicht genutzt werden könnten, die aus seiner Sicht deutlich größer sind als die Gefahr eines Missbrauchs ihrer Modelle. Zudem sei die potenzielle negative Seite von der Regierung deutlich überschätzt worden, zeigte sich Anthropic überzeugt. Dabei bekam die Firma auch Rückendeckung von zahlreichen Security-Experten, die keine Belege dafür sahen, dass die Schutzmechanismen in Fable 5 tatsächlich ausgehebelt werden konnten, wie von den Behörden angegeben.

China-KI führt US-Beschränkungen ad absurdum

Damit hatten die Gegner des Verbots durchaus einige valide Punkte geliefert, wie sich allzu schnell zeigte. Denn während die Vertreter beider Parteien noch munter diskutierten und teils öffentlich Vorwürfe austauschten, brachte der chinesische KI-Anbieter Z.ai sein neues Modell GLM 5.2 auf den Markt. Und das ist den Angaben des Herstellers zufolge nicht nur ähnlich stark im Auffinden und Ausnutzen von Schwachstellen wie Mythos – es ist zugleich auch ein für jedermann nutzbares Open-Weight-Modell. Damit haben potenzielle Angreifer ein starkes Werkzeug in der Hand, während die Verteidiger die Anthropic-Modelle nicht dazu nutzen konnten, sich darauf vorzubereiten.

Insofern kommt der Schritt der US-Regierung, die Anthropic jetzt wieder freizugeben, reichlich spät. Zumal sie mit der Auflage verbunden ist, dass der Hersteller sie hinsichtlich möglicher Sicherheitsrisiken verbessern muss und dass die nächsten Entwicklungsstufen erneut zu überprüfen sind. Immerhin hatte sich nach dem Schritt gegen Anthropic auch der Mitbewerber OpenAI vorsorglich dazu entschlossen, vorsorglich, seine neusten Modelle von ChatGPT und Co. mit entsprechenden Security-Fähigkeiten ausschließlich einer Handvoll mit der Regierung abgestimmten Partnern zur Verfügung zu stellen. Damit sieht es nach derzeitigem Ermessen nicht danach aus, als hätte die Trump-Regierung etwas aus der Causa gelernt.

Souveränität tut Not: KI als nächste Stufe der digitalen Abhängigkeit

Mögen diese Barrieren vielleicht auf das Konto der populistischen America-First-Politik einzahlen, bedeuten sie im Hinblick auf die schnellen Innovationszyklen im KI-Bereich eine zusätzliche Gefahr für Amerika selbst und den Rest der Welt. Zumal der Verdacht im Raum steht, dass ein weiterer Zwist zwischen Anthropic und der Regierung mit zu dieser misslichen Lage beigetragen hat: Nachdem der Hersteller trotz heftigem Druck seitens der Trump-Administration nicht von seiner Vorgabe abgewichen war, dass seine KI-Modelle nicht für Einsatzszenarien wie in autonomen Waffensystemen und zur Massenüberwachung – zumindest von US-Bürgern – eingesetzt werden dürfen, hatte ihn das Verteidigungsministerium kurzerhand zum Lieferketten-Risiko für die nationale Sicherheit deklariert.

Aus europäischer Sicht verstärkt all das immerhin die Erkenntnis, wie riskant die weitreichreichende technologische Abhängigkeit von einem so volatilen Partner wie es die USA derzeit sind, ist. Sowohl im Hinblick auf grundlegende Infrastrukturen und Technologien selbst als auch im Hinblick auf ihren strategischen Einsatz für politische Zwecke. Es bleibt zu hoffen, dass die hiesige Politik und Wirtschaft tragfähigere Lehren daraus ziehen als auf der anderen Seite des Atlantiks. Natürlich muss es vorderstes Ziel bleiben, mehr eigene europäische KI-Technologie hervorzubringen. In der aktuellen Ausgangssituation jedoch gilt es, wenigstens die Abhängigkeiten und die daraus resultierenden Risiken soweit möglich in Zaum zu halten, ohne dafür allzu viele der Vorteile zu opfern. Die ersten Ansätze wie der AI Act weisen hier bei allen Schwächen zumindest schon in die richtige Richtung.

CRN-Newsletter beziehen und Archiv nutzen - kostenlos: Jetzt bei der CRN Community anmelden