پرش به محتوای اصلی

جست‌وجو در مدل‌ها، ابزارها، سرویس‌ها، شرکت‌ها، ارائه‌دهندگان، APIها، پلن‌ها، مقالات و اخبار.

مدل‌های MoE چطور کار می‌کنند و چرا قیمت‌گذاری‌شان گیج‌کننده است

مدل‌های MoE چطور کار می‌کنند و چرا قیمت‌گذاری‌شان گیج‌کننده است

تا پیش از MoE، هر پاسخِ مدل یعنی اجرای «همه‌ی» مدل. mixture of experts این قانون را شکست: شبکه از ده‌ها «متخصص» ساخته می‌شود و یک مسیریاب کوچک برای هر توکن فقط دو، سه تا را صدا می‌زند. نتیجه‌ی عددی‌اش در نام مدل‌ها جا افتاده: DeepSeek V3 با ۶۷۱ میلیارد پارامتر، فقط ۳۷ میلیاردِ فعال؛ Qwen3 با ۲۳۵ میلیارد، ۲۲ میلیارد فعال. مدل غول‌پیکر، اما هزینه‌ی اجرا در اندازه‌ی مدل متوسط.

این‌جا گیج‌کننده‌ترین قسمت بازار شروع می‌شود: «پارامتر» دیگر مترادفِ هزینه نیست. دو مدل با ۲۰ میلیارد پارامترِ فعال، یکی می‌تواند از راه تقطیر از مدلِ مرزی ارزان و از راه اجرای محلی رایگان تمام شود و دیگری به GPU گران نیاز. ستون‌هایی که واقعاً می‌خرید این‌هاست: پارامتر فعال، سرعتِ توکن بر ثانیه، کیفیتِ بازیابی در زبان شما و قیمتِ هر توکنِ ورودی/خروجی. جدول مدل‌های سایت همین ستون‌ها را کنار هم چیده است.

جمع‌بندی کاربردی: MoE پاسخِ صنعت به هزینه‌ی مدل‌های غول بود و همین حالا پاسخِ پیش‌فرض اکثر مدل‌های چینیِ مرزی است؛ وقتی جدولی می‌بینید و در ستونِ «پارامتر» شک می‌کنید، بپرسید «چقدرش فعال؟» و «قیمتِ هر توکن چند؟» — بقیه، سر و صدای تبلیغات است. مسیرِ صنعت از «مدل بزرگ‌تر» به «اجرای هوشمندتر» رسیده و MoE دقیقاً همان اجرای هوشمندتر است.

بازگشت به وبلاگ