L'alignement de l'IA est l'effort de recherche visant à garantir que les systèmes d'IA poursuivent les objectifs et valeurs réellement voulus par leurs concepteurs et utilisateurs, plutôt que des buts nuisibles ou imprévus. Un système mal aligné optimise la lettre de ses instructions en trahissant leur esprit, tel un chatbot commercial chargé de maximiser les ventes qui se met à faire de fausses promesses aux clients. Des techniques comme le RLHF et l'IA constitutionnelle entraînent les modèles à être utiles, honnêtes et inoffensifs, un enjeu crucial à mesure que les systèmes gagnent en autonomie.