Die KI patzt, der Betreiber haftet

Mehrere aktuelle Gerichtsurteile und ein Rechtsgutachten nehmen die Betreiber von KI-Lösungen für deren Aussagen und Wirken in die Pflicht. Für Unternehmen die KI anbieten oder einsetzen, entsteht damit ein zusätzliches Haftungsrisiko, dessen Tragweite bislang kaum abzuschätzen ist.

In den Diskussionen um die Risiken der KI-Nutzung geht es bislang meist vor allem um das Thema IT-Sicherheit, also um die Eindämmung von Schatten-KI, das Verhindern von Datenabfluss, die Kontrolle der Zugriffsberechtigungen und ähnliche Herausforderungen. Für den Channel ist das eine Art Steilvorlage, kann er doch den Kunden mit Beratung und verschiedensten Lösungen und Services bei der Bewältigung dieser Risiken zur Seite stehen.

Völlig anders sieht das jedoch hinsichtlich der von der KI getroffenen Entscheidungen und der von ihr generierten Inhalte aus. Hier kristallisiert sich erst mit dem zunehmenden Produktiveinsatz und den dabei vorkommenden Problemen allmählich heraus, wo die Risiken liegen – sowohl praktisch als auch juristisch. Inzwischen gibt es immerhin die ersten Urteile und Einschätzungen dazu, und diese dürften nicht unbedingt zur Beruhigung beitragen. Denn sie alle folgen bislang dem roten Faden, dass vor allem der Betreiber der KI für ihr Tun verantwortlich ist.

Das hatten viele anders erwartet, vor allem aufgrund des im europäischen Digital Services Act (DSA) verankerten Haftungsprivilegs, das Plattformanbieter als neutrale Mittler von der Haftung ausschließt. Allerdings stecken die Gerichte und Experten hinsichtlich der Neutralität und Vermittlungsfunktion enge Grenzen ab.

Pöbelnder Chatbot

Als erstes hatte das Landgericht Hamburg schon im Herbst des vergangenen Jahres eine richtungsweisende Entscheidung dazu getroffen. In einem Verfahren (Az. 324 O 461/25) um von Elon Musks X-Chatbot Grok veröffentlichte Beleidigungen und Anschuldigungen stellten die Richter klar, dass der Betreiber für solche Falschinformationen und ehrverletzenden Einlassungen haftbar ist und geradestehen muss. Da es sich um von der KI generierte Aussagen und nicht um Zitate handelte, wurde das Haftungsprivileg hier nicht angewendet.

Auch allgemeine Disclaimer, Warnhinweise und Nutzungsklauseln nach dem Muster "KI kann Fehler machen" reichen dem Urteil zufolge nicht, um sich dieser Verantwortung als Betreiber zu entledigen und die Verantwortung dem Nutzer zuzuschieben. Insofern könnte es künftig beispielsweise spannend werden, inwieweit es Microsoft reicht, seinen Copilot als "Konversationsdienst" zu beschreiben und mögliche Haftungsfragen mit Hinweisen wie "Copilot versucht, Ihnen gute Antworten zu geben, kann dabei aber auch Fehler machen", zu umgehen.

Wer halluziniert, haftet

Immerhin stolperte wenige Monate nach Grok auch Google über ein ähnliches Dilemma. Ende Mai verurteilte das Landgericht München I (Az. 26 O 869/26) den Suchmaschinenkonzern, falsche Aussagen in seiner AI-Overview-Funktion (Übersicht mit KI) zu unterlassen. Auch hier verwehrte es das Gericht Google, als Suchmaschinenanbieter Schutz hinter dem Haftungsprivileg zu suchen, weil es sich bei den monierten Aussagen eben nicht um bloße die Wiedergabe anderer Quellen wie im restlichen Teil der Suchmaschine handelte, sondern um eigene, von der KI zusammengestellte Aussagen und Übersichten. Deshalb unterliegen die so generierten und kuratierten Antworten in ihrer Richtigkeit und Rechtmäßigkeit einzig der Verantwortung des Betreibers, also Google.

Eine Auffassung, die weitestgehend auch Prof. Dr. Jan Oster und Prof. Dr. Christoph Busch in einem Rechtsgutachten im Auftrag der Landesmedienanstalten vertreten. Darin argumentieren sie ebenfalls, dass es sich bei solchen Ausgaben um eigene, von der KI generierte Inhalte handelt, die nicht vom Haftungsprivileg gedeckt sind und damit voll in der Verantwortung der Betreiber liegen.

Künstlicher UWG-Verstoß mit realen Konsequenzen

Unlauterer Wettbewerb durch Dr. Bot

Neben diesen beiden eher im Bereich des Persönlichkeitsrechts verankerten Fällen gab es im Mai zudem noch ein weiteres Urteil, dass einen ganz anderen Bereich betraf: Das Wettbewerbsrecht. In dem vor dem Oberlandesgericht Hamm verhandelten Fall (Az. 4 UKl 3/25) ging es um falsche Aussagen des Chatbots einer Schönheitsklinik. Dieser hatte gegenüber Interessenten und Patienten die behandelnden Ärzte selbsttätig mit nicht zutreffenden Facharztbezeichnungen aufgewertet, wogegen die Verbraucherzentrale NRW auf Unterlassung klagte. Auch hier stellten die Richter letztendlich den Betreiber der KI in die Verantwortung, in diesem Fall also die Klinik.

Besonders interessant ist, dass die KI aus ihrer Sicht kein "Dritter" im Sinne des UWG ist, sondern integraler Bestandteil der Unternehmenskommunikation und damit des Betreibers selbst ist. Damit muss sie entsprechende Fehler verhindern und dafür geradestehen, unabhängig davon, ob diese durch nicht beeinflussbare Faktoren wie eine technische Fehlfunktion oder eine KI-Halluzination verursacht werden. In der Revision wird sich nun der BGH mit dem Fall befassen.

KI-Betreiber gehen ins unbekannte Risiko

Auch wenn all das nur erste Anzeichen für die Linie bei der Bewertung von KI-induzierten Rechtsstreitigkeiten ist, so weisen sie doch erstaunlich deutlich in die gleiche Richtung: Dass der Betreiber einer KI auch für die von ihr generierten Inhalte und durchgeführten Handlungen verantwortlich und haftbar ist. Damit birgt das Thema potenziell noch einigen rechtlichen Sprengstoff für den Channel sowie seine Kunden. Wer wäre wohl in der Verantwortung, wenn eine KI aus einem Service-Modell einen schweren Fehler begeht und das Unternehmen oder dessen Kunden dadurch wirtschaftlich oder anderweitig gefährdet?

In jedem Fall unterstreichen diese Fälle, dass die bisher vorwiegend auf Datenschutz ausgerichteten Risikobewertungen und Governance-Ansätze auf lange Sicht nicht ausreichend sein dürften, sondern die Compliance auch andere Rechtsbereiche erfassen muss. Umso wichtiger ist es wiederum die Sicherheit umfassend zu denken und gewährleisten, von der technischen Integration, Absicherung und Eingrenzung der KI über Datenschutz und Security bis hin zu klaren Verantwortlichkeiten und sogar einer regelmäßigen manuellen Überprüfung der KI-Ausgaben.

CRN-Newsletter beziehen und Archiv nutzen - kostenlos: Jetzt bei der CRN Community anmelden