Werden Sie kostenfrei Mitglied bei CRN, um den Newsletter zu abonnieren und vollen Zugriff auf alle Inhalte zu bekommen, einschließlich dem gesamten Archiv.

Deutsches Startup QuanPi erhält Förderung: KI schätzt Risiko von KI ein

QuanPI entwickelt eine automatisierte Risikomanagement-Plattform, die generative KI-Tools mit skalierbaren Tests auf Vertrauenswürdigkeit und Security hin untersucht. Dafür gibt es von der EU eine kleine Förderung.

clock • Lesezeit 2 Min.
Das Führungsteam von QuantPi aus Saarbrücken.
Image:

Das Führungsteam von QuantPi aus Saarbrücken.

Geld aus EU-Fördertöpfen für zeitgemäße, nützliche Technologie zu bekommen ist bekanntermaßen nicht ganz einfach. Von den 648 Bewerbern, die in letzter Zeit Anträge beim Europäischen Innovationsrat (EIC) gestellt hatten, waren nur 7 Prozent erfolgreich. QuantPi, ein Start-up aus Saarbrücken im Bereich KI-Vertrauensmanagement,  kann sich also glücklich schätzen, vom Europäischen Innvationsrat  (EIC ) nun eine Förderung in Höhe von 2,5 Mio. Euro erhalten zu haben. Das Geld soll in den weiteren Aufbau einer Plattform zur automatisierten Überprüfung von Tools und Systemen für generative KI fließen. QuantiPi arbeitet an der ersten automatisierten Risikomanagement-Plattform, um die Sicherheit, Fairness und Erklärbarkeit generativer KI-Systeme zu gewährleisten. KI validiert KI, sozusagen.

Hochgesteckte  Ziele

Da es Anbietern und Nutzern an Ressourcen und Technologien fehlt, um die Risiken generativer KI-Systeme zu erkennen und beherrschen, baut QuantPi die notwendigen Schutzmaßnahmen auf. MIt der Plattform sollen Unternehmen, die GenAI-Tools kaufen möchten, den Risikobewertungsprozess während der Beschaffung automatisieren können, um ihren Kundenstamm zu schützen und sicherzustellen, dass sie nur in hochwertige KI investieren.  Die Gewissheit, dass hier strenge Tests zur Einhaltung der EU-Standards erfolgen, werde das Vertrauen Nutzer in generative KI-Systeme erheblich steigern, erklärte QuanPi.

Es ist keine hohe Fördersumme, dennoch herrscht beim Startup aus dem Saarland helle Begeisterung über die EU-Förderung, auch wenn der öffentliche Kommentar steinseriös ausfällt:  "Da ist ein Beweis für die harte Arbeit und das Engagement des gesamten QuantPi-Teams", so Philipp Adamidis, CEO von QuantPi. "Wir freuen uns, dass wir diese Mittel nutzen können, um den sicheren und verantwortungsvollen Einsatz von KI zu gewährleisten, ohne dabei den Fortschritt zu bremsen. Die Förderung beschleunigt nicht nur unsere Forschungs- und Entwicklungsbemühungen, sondern unterstützt auch unser Engagement, einen positiven Beitrag für die Gesellschaft zu leisten."  Zu den Zielen von QuantPi gehört auch, die Umsetzung der KI-Richtlinien in Deutschland und auf  EU-Ebene zu unterstützen.

Michael Backes, ist der CEO und Gründungsdirektor des CISPA Helmholtz-Zentrums für Informationssicherheit, eine der weltweit führenden Forschungsstätten für Cybersicherheit, freut sich mit: "Es ist großer Meilenstein für ein Start-up, das wir von Anfang an unterstützt haben, und der nächste logische Schritt auf QuantPis technologischem Weg von der Grundlagenforschung zur industriellen Anwendung."

Laut Backes "ist die Sicherstellung der Vertrauenswürdigkeit von KI-Systemen durch transparente und skalierbare Tests eine Grundvoraussetzung für unser aller Leben - insbesondere in der neuen Ära der generativen KI."

 

Könnte Sie auch interessieren
ConnectWise nutzt KI für Hyperautomatisierung

Hersteller

Geht es nach Jake Varghese, dem Chef von ConnectWise, wird es bei KI nur Gewinner und Verlierer geben, aber kein Dazwischen. Dafür werde 2024 ein entscheidendes Jahr sein.

clock 04. März 2024 • Lesezeit 2 Min.
Microsoft Copilot für 5.000 Bechtle-Mitarbeitende

Dienstleistungen und Outsourcing

Intern selbst nutzen, dann verkaufen. Bechtle will seine Mitarbeiter mit Copilot produktiver und kompetenter in Sachen KI machen. Ein Vorzeige-Kunde für Microsoft-Manager Oliver Gürtler. Was Copilot zur Zukunftsvision von Bechtle und CEO Thomas Olemotz verrät.

clock 04. März 2024 • Lesezeit 3 Min.
"Zögerliche Haltung bei KI sehe ich nicht"

Dienstleistungen und Outsourcing

KI kann Texte aus einem 2.000 Jahre alten Klumpen Kohlenstoff rekonstruieren. Da wäre es doch gelacht, würden Unternehmen nichts mit künstlicher Intelligenz anfangen können. Ideen für den produktiven Einsatz braucht es schon. Andre Kiehne liefert sie – und setzt auf Partner.

clock 26. Februar 2024 • Lesezeit 4 Min.
Meist gelesen
02

Homeoffice: Auch Bechtle pocht auf Rückkehr ins Büro

29. Februar 2024 • Lesezeit 2 Min.
03

Weitere Entlassungen bei Ingram Micro

29. Februar 2024 • Lesezeit 2 Min.
04

Dell: Umsätze überall rückläufig

01. März 2024 • Lesezeit 5 Min.
05

Microsoft Copilot für 5.000 Bechtle-Mitarbeitende

04. März 2024 • Lesezeit 3 Min.

Registriere dich für unseren Newsletter

Die besten Nachrichten, Geschichten, Features und Fotos des Tages in einer perfekt gestalteten E-Mail.

Mehr von Software

Broadcom: Aus für VMwares ECXi

Broadcom: Aus für VMwares ECXi

Ein Ersatzprodukt für den vSphere Hypervisor, den VMware bisher kostenlos angeboten hatte, wird es nicht geben. Das geht aus einer diskreten Abkündigung seitens Broadcom hervor.

clock 15. Februar 2024 • Lesezeit 1 Min.
Databricks kauft Einblick

Databricks kauft Einblick

Mit seiner jüngsten Übernahme baut der Data Lake-Plattformanbieter Databricks seine KI-Fähigkeiten aus. Einblick bringt eine Technologie mit für Übersetzung von Fragen in Code, Diagramme und Modelle.

Gina Narcisi
clock 05. Februar 2024 • Lesezeit 2 Min.
Postskandal in UK: Software zerstört Existenzen von Hunderten Postangestellten

Postskandal in UK: Software zerstört Existenzen von Hunderten Postangestellten

Rund 700 Postangestellte in Großbritannien wurden wegen angeblichem Diebstahl von Geld verurteilt. Nun hat eine TV-Serie den größten Justizskandal Großbritanniens aufgerollt und sorgt für riesige Empörung. Abgeschlossen ist Fall fehlerhafter Abrechnungssoftware noch lange nicht.

Martin Fryba
clock 18. Januar 2024 • Lesezeit 2 Min.

Höhepunkte

ConnectWise nutzt KI für Hyperautomatisierung

ConnectWise nutzt KI für Hyperautomatisierung

Geht es nach Jake Varghese, dem Chef von ConnectWise, wird es bei KI nur Gewinner und Verlierer geben, aber kein Dazwischen. Dafür werde 2024 ein entscheidendes Jahr sein.

clock 04. März 2024 • Lesezeit 2 Min.
Herweck bündelt IT und UC in der neuen BU IT-COM

Herweck bündelt IT und UC in der neuen BU IT-COM

60 Mitarbeiter hat Sandra Schu in der neuen Business Unit IT-COM bei Herweck unter sich. Mit dem Zusammenschluss will der TK-Distributor das Systemhaus- und Lösungsgeschäft stärken. Für 2023 spricht Herweck von einem soliden Wachstum.

Martin Fryba
clock 04. März 2024 • Lesezeit 1 Min.
Software von Ashampoo jetzt bei Also

Software von Ashampoo jetzt bei Also

Mit einem "Shampoo" für PC-System-Reinigung fing es an, dann folgten weitere Tools für Produktivität und Multimedia-Bearbeitung. Dafür ist die deutsche Softwareschmiede Ashampoo seit mehr als 20 Jahren bekannt. Die Norddeutschen gehen jetzt in die Fläche – mit Also.

Martin Fryba
clock 04. März 2024 • Lesezeit 1 Min.