L'IA sur appareil désigne l'exécution de modèles d'IA directement sur les appareils utilisateurs — smartphones, tablettes, montres connectées — plutôt que dans le cloud. Cela élimine la latence réseau, fonctionne hors ligne et conserve les données sensibles sur l'appareil. Les modèles d'Apple, Gemini Nano de Google et Galaxy AI de Samsung illustrent cette tendance. La quantization et la compression rendent l'inférence sur appareil réalisable.