كيف تضبط نموذج LLM على مجموعة البيانات الخاصة بك

def generate_response(instruction):
    inputs = tokenizer(instruction, return_tensors="pt").to("cuda")
    outputs = model.generate(
        **inputs,
        max_new_tokens=200,
        temperature=0.7
    )
    return tokenizer.decode(outputs[0], skip_special_tokens=True)

النشر الإنتاجي

• صدّر بتنسيق GGUF لـ llama.cpp
• انشر باستخدام vLLM للإنتاج
• استخدم Ollama للنشر المحلي
• راقب الانحراف وتدهور الجودة

متى لا تستخدم الضبط الدقيق

• إذا كانت هندسة الاستفسار تحل مشكلتك
• إذا كنت بحاجة لتغيير السلوكيات بشكل متكرر
• إذا لم يكن لديك بيانات تدريب عالية الجودة
• ابدأ بـ RAG قبل الضبط الدقيق

برنامجنا "ابنِ باستخدام LLMs" يغطي الضبط الدقيق مع مشاريع عملية.