Un GPU est un processeur spécialisé initialement conçu pour le graphisme mais devenu essentiel pour l'IA car il peut effectuer des milliers d'opérations mathématiques en parallèle, exactement ce que nécessitent l'entraînement et l'inférence des réseaux de neurones. Entraîner un grand modèle uniquement sur des CPU pourrait prendre des mois ; le même modèle sur GPU termine en jours ou heures. NVIDIA domine le marché des GPU pour l'IA avec son écosystème CUDA, et des fournisseurs cloud comme AWS et Google Cloud louent des capacités GPU à l'heure.