الانتقال إلى المحتوى الرئيسي

ابحث في النماذج والأدوات والخدمات والشركات والمزودين وواجهات API والخطط والمقالات والأخبار.

البنية والنماذج

المحوّل (Transformer)

Transformer

المحوّل (Transformer)

معمارية عصبية تعالج النص كله بالتوازي عبر آلية «الانتباه» — وهي أساس كل نموذج لغوي كبير منذ 2017.

المحوّل هي المعمارية العصبية التي قدّمتها ورقة Google عام 2017 «الانتباه وحده كافٍ» وغيّرت كل شيء: بدل المعالجة التسلسلية البطيئة، تعالج آلية الانتباه كل رموز النص دفعة واحدة وفي علاقتها ببعضها.

الحصيلة: تدريب متوازٍ على العتاد، وإدراك للاعتمادات البعيدة («إلى أي اسم تشير هذه الضميرة؟») وقابلية توسع مروّعة. كل نموذج لغوي كبير اليوم — GPT وClaude وGemini وLlama — حفيد مباشر لها.

التركيبة بلمحة: تضمينات داخلة، طبقات انتباه وتغذية أمامية متراكمة، وترميز موضعي يحفظ الترتيب. بدائل 2026 (MoE وFlashAttention والنوافذ الهجينة) تُحسّن هذا الهيكل ولا تستبدله.

العودة إلى المسرد