الانتقال إلى المحتوى الرئيسي

ابحث في النماذج والأدوات والخدمات والشركات والمزودين وواجهات API والخطط والمقالات والأخبار.

التدريب والضبط

التقطير (Distillation)

Distillation

التقطير (Distillation)

نقل المعرفة من نموذج كبير إلى نموذج صغير: يتعلم الصغير من مخرجات الكبير ليصل إلى سلوك مشترك بتكلفة أقل بكثير.

التقطير نقل معرفة من نموذج معلّم إلى تلميذ أصغر: يقلد التلميذ مخرجات المعلم — ليس الأجوبة النهائية بل التوزيعات الاحتمالية والاستدلال. الناتج نموذج أصغر يحاكي المعلم بجزء يسير من التكلفة.

السلسلة المعيارية في 2026: معلم كبير غالي يبني، وطالب رخيص سريع يُسلَّم. نسخ Gemma وPhi وQwen السريعة كلها أبناء تقطير لنماذج أكبر.

مقابل الضبط الدقيق: التقطير يضغط قوة نموذج قائم؛ والضبط الدقيق يستهدف مجالًا جديدًا. وغالبًا يُجمعان — قطّر أولًا ثم اضبط.

العودة إلى المسرد