ZLUDA v3: CUDA auf AMD GPUs nutzbar

Das ZLUDA-Projekt von Andrzej Janik ermöglichte es, CUDA-Software ohne Modifikationen auf Radeon-GPUs laufen zu lassen. Die Performance war in einem Phoronix-Benchmark oft besser als AMDs eigene HIP/ROCm-API. AMD hat das Projekt in den vergangenen 2 Jahren „heimlich“ unterstützt, in dem das Unternehmen den Entwickler angestellt und bezahlt hat. Vor ein paar Tagen ist das Projekt auf GitHub in der Version 3 veröffentlicht worden.

Dabei wurde Intel-Support entfernt und AMD hinzugefügt. AMD hat aber die weitere Unterstützung für das Projekt eingestellt. Einen Grund hat die Firma nicht genannt, aber wahrscheinlich ist die Stärkung der Konkurrenz ein Problem für AMD.

CUDA ist eine von Nvidia entwickelte parallele Rechen- und Programmierplattform, die es ermöglicht, Berechnungen auf der GPU statt auf der CPU durchzuführen. Der große Vorteil liegt in der Parallelisierung von Rechenaufgaben. Ein moderner Intel Core i7 13700K beherrscht etwa 24 Threads, eine GeForce RTX 4080 läuft aber mit über 10.000 CUDA-Cores. Die Leistung ist natürlich nicht 1:1 gleich, aber gerade für KI ist die hohe Anzahl an parallelen Aufgaben ein massiver Vorteil.

Der ZLUDA-Code ist auf GitHub verfügbar und es besteht die Hoffnung, dass die Community das Projekt weiterführt. Der hohe VRAM der AMD GPUs wäre eigentlich ideal für einen LLM-Workload, aber leider ist CUDA der De-facto-Standard und auch einfach besser als ROCm. Hoffentlich arbeitet AMD daran noch. Nvidia nutzt seine Marktposition bereits heute aus, oder warum haben Nvidia-GPUs im Vergleich so wenig VRAM?

Transparenz: In diesem Artikel sind Partnerlinks enthalten. Durch einen Klick darauf ge­lan­gt ihr direkt zum Anbieter. Solltet ihr euch dort für einen Kauf entscheiden, erhalten wir ei­ne kleine Provision. Für euch ändert sich am Preis nichts. Partnerlinks haben keinerlei Einfluss auf unsere Berichterstattung.