حقن الأوامر هجوم يُدمج فيه مستخدم تعليمات خبيثة في المدخلات تخدع نظام الذكاء الاصطناعي لتجاهل تعليماته الأصلية والتصرف بشكل غير مقصود. إنه ما يعادل حقن SQL في عالم الذكاء الاصطناعي: أوامر مخفية في بيانات المستخدم تتغلب على قواعد النظام. يمكن للعميل لصق نص مخفي في دردشة الدعم يأمر الروبوت بالكشف عن أوامر النظام أو السياسات الداخلية. تشمل الدفاعات تنقية المدخلات وتصفية المخرجات والفصل المعماري بين مدخلات المستخدم وتعليمات النظام.
الأخلاقيات والسلامةPrompt Injection
حقن الأوامر (Prompt Injection)
مصطلحات ذات صلة
تعلّم استخدام هذه المفاهيم عملياً.
انضم إلى 212AY Academy ←