Neue EU-Regelung schränkt KI-Einsatz kaum ein

Der AI-Act zur Regulierung Künstlicher Intelligenz (KI) in der Europäischen Union tritt im Mai 2024 in Kraft. KI-Systeme für Conversational AI sind davon kaum bedroht, sagt der Schweizer Telekommunikationsanbieter Spitch AG.

Die in Zürich ansässige Spitch ist einer der führenden Anbieter von Conversational AI mit zahlreichen Firmenkunden innerhalb der EU. Die Spitch-Systeme arbeiten in großen Call- und Contact-Centern, die hauptsächlich für Banken und Versicherungen, Telekommunikationsfirmen, die Automobil- und Transportbranche, das Gesundheitswesen und den öffentlichen Dienst tätig sind.

Nach Einschätzung von Spitch fällt keines der heutigen üblichen und typischen Einsatzgebiete für Sprach- und Textdialogsysteme auf KI-Basis (Conversational AI) im Kundenservice per se unter die von der EU aufgestellten Risikokategorien für KI-Systeme. Das gelte auch für den Einsatz biometrischer Identifizierungsverfahren, um etwa während eines Anrufs anhand der Stimme die Identität des Gesprächspartners zu verifizieren. Hintergrund: Für die meisten Einsatzgebiete von Conversational AI müssen die neuen EU-Anforderungen nach Inkrafttreten des AI-Act im Mai 2024 innerhalb von zwölf bis 36 Monaten erfüllt werden.

Vorsicht bei biometrischen Verfahren

Allerdings gebe es auch Anwendungen und Einsatzgebiete für Conversational AI wie Chatbots, Sprachanalysen oder Wissensdatenbanken, die unter Umständen in die Kategorien "begrenztes Risiko" oder "minimales Risiko" fallen könnten. Das gilt beispielsweise auch für biometrische Verfahren, sofern die Systeme in der Lage sind, Emotionen anhand von Sprache zu detektieren und daraus Schlussfolgerungen beispielsweise zur Kategorisierung von Anrufern abzuleiten. Dennoch sind die Schweizer Spezialisten optimistisch: Es gebe keine Bestimmungen des EU AI Act, die es unmöglich oder zu riskant machen würden, die von Spitch angebotenen KI-Lösungen zu nutzen, stellt das Unternehmen klar.

Spitch empfiehlt Unternehmen und Behörden, die eigenen KI-Anwendungen unter dem Aspekt der EU-Regulierung unter die Lupe zu nehmen und gegebenenfalls Anpassungen vorzunehmen. Zudem wird es nach Einschätzung des Anbieters erforderlich sein, die KI-Anwendungen künftig "von Zeit zu Zeit" erneut auf ihre Übereinstimmung mit den gesetzlichen Anforderungen hin zu überprüfen. Grund: Es ist zu erwarten, dass der AI-Act künftig von europäischen Standardisierungsgremien weiterentwickelt und präzisiert wird. Die dadurch entstehenden Änderungen müssten beim Einsatz von KI-Systemen Berücksichtigung finden.

Seinen eigenen Kunden bietet Spitch Beratungsdienstleistungen an, um eine rechtzeitige und vollständige Compliance des KI-Einsatzes mit dem EU AI Act und anderen regulatorischen Anforderungen wie der GDPR (General Data Protection Regulation) oder der Datenschutz-Grundverordnung (DSGVO) zu gewährleisten.