كسر القيود هو ممارسة صياغة طلبات تخدع نموذج الذكاء الاصطناعي لتجاوز قواعد السلامة الخاصة به وإنتاج محتوى صمم أصلاً لرفضه، مثل التعليمات الضارة أو البيانات السرية. يستخدم المهاجمون سيناريوهات لعب الأدوار أو الرسائل المشفرة أو الفرضيات المعقدة لخداع النموذج. وبالنسبة لشركة تنشر روبوت محادثة موجهاً للعملاء، يمثل كسر القيود خطراً حقيقياً: فقد يسيء روبوت تم التلاعب به إلى العملاء، أو يكشف سياسات داخلية، أو يعد بتخفيضات غير قانونية. الدفاعات المعتمدة هي اختبارات الاختراق المنتظمة والحواجز الوقائية متعددة الطبقات.