سلامة الذكاء الاصطناعي هي التخصص المعني بمنع أنظمة الذكاء الاصطناعي من إحداث ضرر، سواء عبر الحوادث أو سوء الاستخدام أو السلوك غير المقصود. وتمتد من الشواغل العملية، كضمان ألا يقدم روبوت محادثة طبي نصيحة خطيرة أو ألا يخدع نموذج بنكي للموافقة على عملية احتيال، إلى الأسئلة بعيدة المدى حول التحكم في أنظمة فائقة القدرة. وتترجم السلامة في الشركات إلى ممارسات ملموسة: اختبارات قبل النشر، وضوابط على المخرجات، وإشراف بشري على القرارات الحساسة، وإجراءات واضحة عند خطأ النظام.