Les GPU Arc A-Series sont désormais pris en charge dans l’extension Intel pour PyTorch (IPEX), offrant des capacités d’IA plus rapides en matière d’apprentissage en profondeur et de LLM.
L’extension Intel pour PyTorch tire désormais pleinement parti du matériel XMX AI intégré aux GPU Arc A-Series
Les GPU Intel Arc A-Series basés sur l’architecture Alchemist ont un énorme potentiel matériel qui se réalise jour après jour. La division logicielle a fait un excellent travail en optimisant les performances de jeu de ces GPU et se concentre désormais sur le marché émergent de l’IA, où les unités XMX intégrées à ces puces seront pleinement utilisées.
Dans une mise à jour, Intel a confirmé qu’IPEX (Intel Extension for PyTorch) offre désormais la prise en charge des GPU Arc A-Series sur les plates-formes Windows, Linux et WSL2. Avec cette nouvelle prise en charge, les GPU Intel de la série A stimuleraient non seulement l’accélération des modèles d’apprentissage profond tels que les LLM, mais apporteraient également de nouvelles optimisations pour le matériel Intel, permettant des performances plus rapides et donnant aux utilisateurs la possibilité d’exécuter des modèles PyTorch sur la gamme de GPU Alchemist. .
Pour ceux d’entre vous qui possèdent un GPU Intel Arc A-Series et souhaitent profiter de leur moteur XMX AI dans PyTorch, la société a publié ici un blog complet sur la façon d’exécuter l’interface Llama 2 sur Windows et WSL2 . Selon l’équipe des logiciels d’IA d’Intel :
- Les GPU sont bien adaptés aux charges de travail LLM (Large Language Model), car ils excellent dans le parallélisme massif des données et la bande passante mémoire élevée. Les graphiques Arc A-Series, y compris les graphiques Arc A770, sont des graphiques hautes performances, avec jusqu’à 512 moteurs Xe Matrix Extensions (XMX), offrant une capacité d’exécution accélérée de modèles d’apprentissage en profondeur, y compris les LLM.
- IPEX étend PyTorch avec les dernières optimisations de performances pour le matériel Intel, tirant parti des moteurs XMX sur les GPU discrets Intel.
- L’extension IPEX pour PyTorch active le périphérique PyTorch XPU, ce qui lui permet de déplacer facilement le modèle PyTorch et les données d’entrée vers le périphérique pour les exécuter sur un GPU discret Intel avec accélération GPU.
- La dernière version d’IPEX (v2.1.10+xpu) prend officiellement en charge les graphiques Arc A-Series sur WSL2, Windows natif et Linux natif.
- Démonstration de l’exécution de l’inférence Llama 2 7B et Llama 2-Chat 7B sur Arc A770 Graphics sous Windows et WSL2 via Ipex.
- Pour exécuter Llama 2, ou tout autre modèle PyTorch, sur les GPU Arc A-Series, ajoutez simplement quelques lignes de code supplémentaires pour importer intel_extension_for_pytorch et. to(« xpu ») pour déplacer le modèle et les données vers l’appareil afin de les exécuter sur le GPU Arc A-Series.
Nous avons récemment publié un article citant l’ancien patron des GPU d’Intel, Raja Koduri, qui a mentionné comment les GPU des PC clients et de jeu jouaient un rôle crucial dans le succès de l’IA . Intel étendant la prise en charge de ses GPU Arc A-Series est une excellente chose pour le segment de marché où NVIDIA et AMD ont mené la charge en offrant une prise en charge rapide de l’IA sur le matériel centré sur le consommateur.
Articles connexes:
Le développeur de MSI Afterburner teste des échantillons de futurs GPU RTX 50 « OC » avec contrôle de tension déverrouillé, surveillance de la température VRM et fonctionnalités supplémentaires
9:13
La carte mère GIGABYTE X870E AORUS ELITE WIFI7 ICE offre des fonctionnalités impressionnantes à un prix exceptionnel de 309,99 $.
13:07
Intel confirme son engagement envers des projets de substrats de verre « très prometteurs » au milieu de rumeurs d’annulation
12:26
Laisser un commentaire