تتيح آلية الانتباه للشبكة العصبية ترجيح أجزاء المدخلات الأكثر أهمية في كل خطوة من خطوات الإخراج، بدلا من معاملة كل شيء بالتساوي. فعند ترجمة رسالة زبون بالدارجة المغربية إلى الفرنسية، «ينتبه» النموذج إلى الكلمات المناسبة في كل لحظة، مثل قارئ تعود عيناه إلى العبارات المفتاحية. الانتباه هو الابتكار الجوهري وراء بنية المحول (الترانسفورمر)، وبالتالي وراء ChatGPT وClaude وGemini وكل نماذج اللغة الحديثة تقريبا.
نماذج ولغوية كبيرةAttention Mechanism
آلية الانتباه
مصطلحات ذات صلة
تعلّم استخدام هذه المفاهيم عملياً.
انضم إلى 212AY Academy ←