خدمة النموذج هي عملية نشر نموذج ذكاء اصطناعي مُدرّب خلف نقطة نهاية واجهة برمجية لتتمكن التطبيقات من إرسال طلبات واستقبال تنبؤات في الوقت الحقيقي. تتضمن تجميع الطلبات وكفاءة وحدة الرسومات وإدارة الإصدارات والتوسع ومراقبة زمن الاستجابة.