"Europa" KI-Chips: Axelera AI fordert Nvidia heraus

Alexis Crowell, CMO und General Manager Americas bei Axelera AI, erklärt im Interview mit CRN, in welchen Bereichen die neuen "Europa" KI-Chips der Niederländer den Marktführer Nvidia schlagen sollen und warum sich das Unternehmen bewusst dafür entschieden hat, dafür noch auf PCIe Gen 4 zu setzen.

Axelera AI hat seinen neuen Europa KI-Chip "Europa" vorgestellt. Laut dem Hersteller soll er konkurrierende Nvidia-Produkte bei der Verwendung für Hochleistungs-Edge-Computing-Anwendungen, darunter große Sprachmodelle und Computer Vision übertreffen und zugleich mit geringerem Energieverbrauch und niedrigeren Kosten punkten.

Der Europa-Chip markiert eine neue Stufe der Edge-AI-Leistung, die deutlich über der Metis-Produktreihe des niederländischen Chip-Startups liegt. Er bietet 629 Billionen Operationen pro Sekunde (TOPS) bei einer Leistungsaufnahme von 45 Watt und ist damit ein großer Fortschritt gegenüber seinem Vorgänger, der je nach Formfaktor maximal 214 TOPS bei einer Leistungsaufnahme von vier bis acht Watt erreichen kann.

Europa soll im ersten Quartal des nächsten Jahres auf den Markt kommen. Er wurde wenige Monate nach dem Start eines globalen Partnerprogramms durch Axelera AI und der Beförderung von CMO Alexis Crowell angekündigt, mit denen das Unternehmen sein Geschäft in Nord- und Südamerika mit Schwerpunkt auf den USA ausbauen will.

In einem Interview mit CRN am vergangenen Freitag sagte Crowell, dass Axelera AI parallel weiterhin seine Metis-Produkte verkaufen und unterstützen werde, da das Unternehmen plant, Europa für einen "ganz anderes" Segment des Edge-Computing-Marktes anzubieten, in dem eine deutlich höhere Leistung gefordert ist. Zu den Zielanwendungsfällen von Europa gehören laut Crowell Robotik, wie beispielsweise Humanoide und fahrerlose Transportfahrzeuge, sowie Computer Vision für Überwachungs- und Analysezwecke, wo Kameras in großem Umfang eingesetzt werden, wie etwa in Stadien.

Der Geschäftsführer sagte, dass Axelera AI auch einen Einsatzbereich für Europa in "KI-Fabriken" sieht, womit er Rechenzentren meint, die für die Entwicklung fortschrittlicher KI genutzt werden. Laut Crowell hat das Unternehmen bereits Anfragen für KI-Fabriken erhalten, "die speziell auf unsere Technologie zugeschnitten sind". Mit diesen Anwendungsfällen im Hinterkopf vermarktet das Unternehmen Europa für Workstations, Edge-Server, Unternehmensserver und Rack-Mount-Server. Im Gegensatz dazu positioniert Axelera AI Metis für Mini-PCs, PCs in Standardgröße, Workstations und kleine Edge-Server.

Bei der Markteinführung wird Europa in PCIe-Formfaktoren erhältlich sein, die mit PCIe-Gen-4-Konnektivität der letzten Generation von einer bis zu vier Karten in einem System skaliert werden können. Das Unternehmen plant, Europa in Zukunft auf andere Formfaktoren auszuweiten. Crowell erklärte dazu, Axelera AI habe sich für PCIe Gen 4 und nicht für die neueste PCIe Gen 5-Konnektivität entschieden, die die doppelte Übertragungsgeschwindigkeit der vorherigen Generation bietet, weil das Unternehmen "in so viele Systeme wie möglich eingebunden werden möchte", und verwies dabei auf die große Verbreitung von PCIe Gen 4-Geräten weltweit.

"Wir versuchen bewusst sicherzustellen, dass es sich nicht nur um komplett neue Designs handelt. Man hat bereits Hardware, man hat alle Investitionsausgaben getätigt, aber man hat noch etwas Geld, das man für Upgrades verwenden kann. Jeder hat einen PCIe-Steckplatz, und wenn ich das Gerät dort anschließen kann, dann ist der Verkauf, offen gesagt, einfacher", sagte sie.

Dies entspricht dem Plug-and-Play-Ansatz, den Axelera AI bereits in früheren Interviews propagiert hat. So hatte etwa der CEO und Gründer, Fabrizio Del Maffeo (im Bild), Anfang dieses Jahres gegenüber CRN erklärt: "Wir möchten Karten verkaufen, die Integratoren in ihren Computer einstecken, die Software installieren und dann einfach ihren Algorithmus ausführen oder entwickeln können."

So konkurriert Europa mit Nvidia-Produkten

In von Axelera AI bereitgestellten Grafiken behauptete das Unternehmen, dass Europa im Vergleich zu zwei nicht genannten Konkurrenzprodukten eine um das drei- bis sechsfache höhere Leistung pro Dollar für Llama 3-Modelle bietet. Den größten Vorteil sah das Unternehmen bei einem Llama 3-Modell mit 70 Milliarden Parametern, insbesondere bei einem Vier-Chip-System, und geringeren, aber dennoch beeindruckenden Vorsprüngen gegenüber den Konkurrenzprodukten mit den Vision-Modellen 8B Llama 3 und 11B Llama 3.2.

Das Unternehmen behauptete außerdem, dass Europa bei denselben Llama 3-Modellen eine etwa zwei- bis dreimal höhere Leistung pro Watt bietet, wobei die 70B-Version Axelera AI erneut den größten Vorteil verschafft, diesmal mit dem Ein-Chip-System an der Spitze. Im Vergleich zu einem dritten, nicht genannten Konkurrenzprodukt sagte Axelera AI, dass Europa unterschiedliche Leistungsvorteile bei den Bildern pro Sekunde für verschiedene Versionen von Computer-Vision-Modellen bieten kann, darunter ResNet-50 und verschiedene Yolo-Modelle.

Axelera hat die Konkurrenzprodukte in den Grafiken zwar nicht namentlich genannt, aber Crowell erklärte gegenüber CRN, dass es sich dabei um aktuelle Nvidia-Produkte für Edge-Computing-Anwendungen handelt, darunter die L40-GPU und nicht näher bezeichnete Jetson-System-on-Chip-Produkte. "Wir schneiden im Vergleich zu den L40-Produkten wirklich gut ab", führte sie aus.

Europa wird auf dem gleichen Voyager-Softwareentwicklungskit basieren, das auch für die Metis-Chips des Unternehmens verwendet wird. Crowell betonte die Bedeutung von Software für Axelera und erklärte, dass die Hälfte der mehr als 200 Mitarbeiter des Unternehmens in diesem Bereich tätig ist. "Wenn Unternehmen also sowohl Metis als auch Europa einsetzen möchten, weil sie gemischte Anwendungsfälle und gemischte Lösungen haben, können sie das ohne Weiteres tun. Es handelt sich um ein einziges Tool, und das ist für mich wirklich wichtig, denn nur durch einfache Bedienbarkeit werden diese Partner die Chips von Axelera tatsächlich einsetzen", sagte sie.

Europa übertrifft Metis deutlich

Mit Europa hat Axelera AI die Anzahl der KI-Verarbeitungseinheiten gegenüber Metis auf acht verdoppelt und die maximale Speicherkapazität auf 64 GB pro Chip vervierfacht. Der Chip verfügt außerdem über eine DRAM-Bandbreite von 200 GBps und 128 MB L2-SRAM. Ein weiterer großer Unterschied zu Europa ist die Fähigkeit des Chips, dank der Integration von 16 RISC-V-Vektorprozessorkernen die Vor- und Nachbearbeitung vollständig zu übernehmen. Im Gegensatz dazu müssen Systeme, die Metis-Chips verwenden, die Vor- und Nachbearbeitung an die CPU des Systems auslagern. "Wir können nun einen Großteil davon direkt selbst übernehmen, was für die Kunden zu deutlich besseren Gesamtbetriebskosten führt", folgert Crowell.

Europa verfügt außerdem über einen integrierten Videodecoder, der zur Optimierung der Leistung von auf dem Chip laufenden Computer-Vision-Modellen beitragen kann. "Wir versuchen, es noch einfacher zu machen, da Kunden immer mehr ihrer Pipelines in die KI integrieren, damit diese dann einfach effektiver, kostengünstiger und mit höherer Leistung laufen kann", so Crowell.

Dieser Artikel erschien zuerst bei unserer Schwesterpublikation crn.com

CRN-Newsletter beziehen und Archiv nutzen - kostenlos: Jetzt bei der CRN Community anmelden