GPU-Alternative: AMD arbeitet an diskreten NPUs

AMD-Manager Rahul Tikoo bestätigt gegenüber CRN, dass der Hersteller an neuronalen Chips forscht, die bei KI-Anwendungsfällen die diskreten GPUs ersetzen sollen. "Wir können ziemlich schnell dorthin gelangen", ist sich Tikoo sicher.

Jahrelang galt im PC-Bereich das Paradigma, dass für besonders hohe und komplexe Arbeitslasten Grafikprozessoren (GPU) mit maximaler Leistung eingesetzt werden müssen. Mit dem zunehmenden Voranschreiten von KI-Modellen beginnt diese Gewissheit nun allerdings zusehends zu bröckeln. Denn oft erreichen spezielle neuronale Prozessoren (NPU) bei solchen KI-Anwendungen und Machine-Learning-Prozessen mit deutlich weniger Leistungsaufnahme eine ähnliche Rechenleistung wie entsprechende GPUs. Inzwischen gibt es deshalb von allen großen Herstellern erste Chips, die neben der CPU und GPU auch eine NPU auf dem SoC integrieren. Bei Intel ist dies aktuell etwa die Core Ultra 200-Serie, bei AMD sind es die Ryzen AI 300-Prozessoren, und auch Qualcomms aktuelle ARM-CPUs der Snapdragon X-Serie für PCs und Notebooks vereint das komplette Dreigestirn in sich.

Auch wenn diese Misch-Lösungen für den klassischen Arbeits- und Office-PC mit ihren sehr heterogenen Nutzungsprofilen durchaus sinnvoll sind, stoßen sie doch bei spezielleren Lasten recht schnell an ihre Grenzen. Dann sind zusätzlich diskrete Karten gefragt, bisher meist wieder in Form besonders leistungsstarker GPU-Pakete. Doch auch hier beginnen sich die Grenzen zu verschieben. Ein gutes Beispiel dafür ist der erst kürzliche vorgestellte Dell Pro Max Plus Laptop, den der Hersteller als "die weltweit erste Workstation mit einer diskreten NPU in Unternehmensqualität" bewirbt. Der KI-Laptop kommt mit einer eigenen Qualcomm AI 100 PC-Inferenzkarte, die mit ihren zwei Cloud AI 100-Rechenzentrumsprozessoren und 64 GB LPDDR4x-Speicher eine 8-Bit-Integer-Leistung von 450 Billionen Operationen pro Sekunde (TOPS) bei einem Wärmehaushalt von bis zu 75 Watt liefert. Schon zwei Jahre zuvor hatte Microsoft einen Surface Laptop mit einer diskreten Intel Movidius Visual Processing Unit vorgestellt.

AMD mit Vorteil durch Xilinx-Kauf

Das wirft die Frage auf, wie sich die Chiphersteller hinsichtlich diskreter NPUs für die Zukunft aufstellen. Gerade AMD werden hier in letzter Zeit immer wieder große Ambitionen nachgesagt. In diesem Sinne bestätigte auch Christopher Cyr, CTO des amerikanischen AMD-Systemintegrationspartners Sterling Computers, der CRN, die Nutzung der mit Xilinx übernommenen KI-Engine-Technologie als Basis für die NPU-Integration in die aktuellen CPUs mit viel Interesse zu verfolgen. Aus seiner Sicht steht AMD damit "ein breiter Weg" offen, um daraus besonders leistungsstarke diskrete NPU-Lösungen zu entwickeln.

"Wenn diese spezielle NPU 50 TOPS schafft, kann man mit zwei davon 100 TOPS erreichen", rechnet Cyr vor. Neben der reinen Rechenpower sei jedoch immer ausschlaggebend, dass die NPU dafür deutlich weniger Energie verbraucht als eine eigenständige GPU. Schon jetzt zeigt sich Cyr beeindruckt von AMDs Fortschritten bei der Integration von KI-Software auf Prozessoren und NPUs. Als Beispiel nennt er das Open-Source-Projekt Gaia, mit dem große lokale Sprachmodelle performant auf Ryzen-basierten Windows-PCs ausgeführt werden können. Insgesamt attestiert Cyr AMD "wirklich gute Fortschritte bei der Nutzung ihres gesamten Ökosystems" für künftige KI-Anwendungsfälle und Produkte.

Diskrete AMD-NPU in den Startlöchern

Tatsächlich bestätigt auch ein Manager von AMD auf Nachfrage von CRN vorsichtig entsprechende Pläne zur Entwicklung diskreter NPUs als Alternative zu GPUs. Rahul Tikoo, Leiter des Client-CPU-Geschäfts, erklärt dazu, dass AMD bereits aktiv mit Kunden über "Anwendungsfälle" und "potenzielle Möglichkeiten" für solche dedizierten Beschleunigerchips spreche. Damit soll ausgelotet werden, wo es entsprechenden Bedarf gibt und was die Anforderungen an die entsprechenden NPUs sind.

Anschließend präzisiert der AMD-Manager noch: "Es geht hier um eine ganze Reihe komplett neuer Anwendungsfälle, daher beobachten wir diesen Bereich sehr sorgfältig, sodass wir, wenn die Kunden in diesen Bereich einsteigen wollen, dazu in der Lage sind und die passenden Lösungen haben." Noch konkreter will er allerdings nicht werden. Der Frage, wann erste Produkte in Form diskreter NPUs von AMD zu erwarten sind, weicht er mit der Begründung aus, er könne "nicht über zukünftige Entwicklungen und deren Zeitpläne sprechen", da solche Informationen "einer Geheimhaltungspflicht unterliegen".

Dann gibt er allerdings doch noch einen entscheidenden Hinweis: "Aber wenn man sich den Umfang unserer Technologien und Lösungen anschaut, ist es nicht schwer, sich vorzustellen, dass diesen Punkt ziemlich schnell erreichen können", sagte er. Tiko hatte seine Karriere bei AMD begonnen und war dann für zwölf Jahre zu Dell gewechselt, bevor er im vergangenen Jahr als Senior Vice President und General Manager der Client Business Unit zu AMD zurückkehrte.

Mit Material meines geschätzten Kollegen Dylan Martin

CRN-Newsletter beziehen und Archiv nutzen - kostenlos: Jetzt bei der CRN Community anmelden