AMD sieht die Zukunft in der Inferenz von Mobilgeräten und Laptops und will mit NVIDIAs KI-Führung konkurrieren.

AMD prognostiziert eine Abkehr von der traditionellen Rechenzentrumsinferenz hin zu einer Zukunft, in der Verbrauchergeräte wie Smartphones und Laptops die primären Plattformen für diese Vorgänge werden.

Chief Technology Officer von AMD skizziert die nächste Welle der KI: Inferenzmigration auf Edge-Geräte

Der Beginn des „KI-Hype“ konzentrierte sich zunächst auf das Modelltraining, wobei verschiedene Unternehmen erhebliche Rechenressourcen für das Training großer Sprachmodelle (LLMs) anhäuften. Es zeichnet sich jedoch ein bemerkenswerter Trend ab, der auf Inferenzfähigkeiten hindeutet. In einem aktuellen Interview mit Business Insider gab Mark Papermaster, Chief Technology Officer von AMD, Einblicke in diesen Wandel und betonte, dass Inferenz zunehmend auf Edge-Geräte übertragen wird. AMD ist bereit, NVIDIA in diesem aufstrebenden Marktsegment herauszufordern.

Frage: Okay, sagen wir, wir schreiben das Jahr 2030 – wie viele Inferenzen werden am Rand durchgeführt?

AMDs CTO: Mit der Zeit wird es die Mehrheit sein. Ich kann nicht sagen, wann die Umstellung erfolgt, da sie von den Anwendungen getrieben wird – der Entwicklung von Killer-Apps, die auf Edge-Geräten laufen können. Wir sehen gerade erst die Spitze des Eisbergs, aber ich denke, die Entwicklung geht schnell voran.

Papermaster vermutet, dass die steigenden Kosten für KI-Verarbeitung in Rechenzentren Technologiegiganten wie Microsoft, Meta und Google dazu zwingen werden, ihre Strategien zu überdenken, was zu einer breiteren Akzeptanz von Edge-KI-Lösungen führen wird. Er betont, dass AMD das Potenzial von „KI-PCs“ ernster nimmt als Konkurrenten wie Intel und Qualcomm. Diese Perspektive spiegelt sich in AMDs neuesten APU-Produktlinien wider, darunter Strix Point und Strix Halo, die darauf ausgelegt sind, KI-Funktionen in kompakte Systeme zu integrieren und gleichzeitig kostengünstig zu bleiben.

AMD Krackan Point 8-Core-CPU- und GPU-APUs sind für Ryzen AI 7-APUs reserviert, Strix 8-Core-CPUs nur in „PRO“-Varianten mit 12 GPU-Kernen

Im Rahmen der Diskussion über die Entwicklung von Rechenressourcen betonte Papermaster die Bedeutung der Verbesserung der Genauigkeit und Effizienz von KI-Modellen. Mit der Einführung von DeepSeek setzen führende Technologieunternehmen zunehmend auf optimierte Alternativen für ihre KI-Prozesse. Langfristiges Ziel ist es, dass Geräte komplexe KI-Modelle lokal ausführen und so das Benutzererlebnis bei der Nutzung von KI maximieren.

Die Äußerungen des AMD-CTO spiegeln die früheren Aussagen von Pat Gelsinger, dem ehemaligen CEO von Intel, wider, der die Notwendigkeit der Fokussierung auf Inferenz für zukünftige Entwicklungen betonte. Dies deutet darauf hin, dass es für NVIDIA-Konkurrenten schwierig ist, in den Bereich „KI-Training“ einzudringen, in dem NVIDIA einen beachtlichen Vorsprung hat. AMD scheint jedoch bereit zu sein, mit speziell für diese neuen Anwendungen entwickelten Prozessoren im Edge-KI-Markt bedeutende Fortschritte zu erzielen.

Quelle & Bilder