محاذاة الذكاء الاصطناعي هي الجهد البحثي الرامي إلى ضمان سعي أنظمة الذكاء الاصطناعي وراء الأهداف والقيم التي يقصدها مصمموها ومستخدموها فعلا، لا وراء أهداف ضارة أو غير مقصودة. فالنظام غير المحاذى يلتزم بحرفية التعليمات ويخون روحها، كروبوت مبيعات طلب منه رفع نسبة الشراء فبدأ يقدم وعودا كاذبة للزبائن. تدرب تقنيات المحاذاة مثل RLHF والذكاء الاصطناعي الدستوري النماذج لتكون مفيدة وصادقة وغير ضارة، وهو أمر يزداد أهمية مع تنامي استقلالية الأنظمة.
الأخلاقيات والسلامةAI Alignment
محاذاة الذكاء الاصطناعي
مصطلحات ذات صلة
تعلّم استخدام هذه المفاهيم عملياً.
انضم إلى 212AY Academy ←