小模型正在移动边界:30 亿参数达到 700 亿级质量

模型力量图谱在两年内被彻底重绘。Phi、Gemma 与小型 Qwen 等 30–80 亿参数模型,在文本基准上已超过上一代 500–700 亿参数的先行者。秘诀并非魔法:蒸馏(以大模型输出为训练数据)加上精炼的小规模数据。结果是——用零头的显存与能耗换来边界级质量。
对开发者而言,三个决策被重新打开。其一,分类工单、摘要、RAG 重排序、模板回复这类常规工作从不需要前沿模型——同一块 GPU 上的小模型更便宜、快几十倍。其二,端侧运行(笔记本、手机、边缘盒)从梦想变为现实:量化后的 30 亿参数模型可容纳于 8GB 内存。其三,大模型仍守着自己的领地:深度推理、数学与多文档分析。
2026 年的赢家范式是路由:默认小模型,难任务才上前沿模型。账单从此不再随规模膨胀。网站模型表正是为此而生——并排参数、价格与质量,让团队以「能跑通的最小模型是谁?」开场,而非「最好的模型是谁?」