BERT (تمثيلات الترميز ثنائية الاتجاه من المحولات) نموذج لغوي أساسي يقرأ النص في الاتجاهين في آن واحد لفهم أعمق للسياق. أصدره جوجل عام 2018 وأطلق عصر نماذج اللغة المدربة مسبقاً الحديثة، ويتفوق في التصنيف والإجابة عن الأسئلة والتعرف على الكيانات المسماة.